- Bài viết này không chỉ dừng ở phê phán AI mà là một tuyên ngôn của kẻ ghét AI, trong đó tác giả coi AI là một công nghệ thô lỗ và bày tỏ lập trường từ chối nó
- Tác giả cho biết những phê phán phổ biến về AI — tác hại môi trường, củng cố thiên kiến, bóc lột lao động, xâm phạm bản quyền, giám sát và quấy rối — đã được bàn luận đầy đủ
- Trọng tâm của bài viết là lập luận rằng chính mục tiêu của các công ty AI là vô đạo đức, khi họ bị chỉ trích vì tìm cách thay thế nghệ thuật và hoạt động của con người, đồng thời tạo ra một dạng “sinh mệnh bị nô dịch” mới
- Tác giả trích dẫn phát biểu của Miyazaki để củng cố quan điểm rằng AI là “một sự xúc phạm đối với sự sống”, đồng thời chỉ ra rằng những tầm nhìn vĩ đại của các nhà sáng lập AI (ví dụ: Dyson Sphere) chỉ là dối trá viển vông
- Cuối cùng, AI được mô tả là công nghệ bào mòn đời sống con người, và việc từ chối nó là một biểu hiện của nhân tính
- Nhân tính đích thực bắt nguồn từ sự thấu hiểu, tư duy, đồng cảm, sáng tạo nghệ thuật, và những thiếu hụt cùng cảm xúc rất con người mà AI không thể có
Tuyên ngôn ghét AI một cách dứt khoát
- Tác giả tự xem mình không phải chỉ là một nhà phê bình mà là một “kẻ ghét (hater)”
- Điều này mang nghĩa một sự từ chối AI thẳng thừng và không nể nang, đồng thời là biểu hiện của sự trung thực khi không đồng tình dù có áp lực xã hội
- Tác giả cũng bác bỏ những “điều khoản ngoại lệ” thường thấy trong lập luận ủng hộ AI (rồi sẽ hữu ích vào một ngày nào đó, dùng cho vài trường hợp cụ thể thì ổn, v.v.)
- Bài viết châm biếm bầu không khí xã hội nơi mọi người giả vờ chấp nhận AI ở mức nào đó chỉ vì những người giàu có và có địa vị đều tỏ ra tích cực với nó
- Thông qua tuyên bố “Tôi là một kẻ ghét AI”, tác giả đặt sự ác cảm thành thật lên trên phép lịch sự
Những phê phán AI đã được nêu ra từ trước
- Tác giả liệt kê một loạt vấn đề vốn đã được nêu ra rộng rãi về AI
- Tác hại môi trường: vấn đề tiêu thụ năng lượng của các trung tâm dữ liệu quy mô lớn
- Củng cố thiên kiến và phân biệt đối xử: AI tái sản sinh thiên kiến xã hội và chủng tộc
- Tác hại nhận thức: làm suy yếu năng lực phán đoán của bác sĩ, thậm chí khuyến khích tự sát
- Vấn đề đồng thuận và bản quyền: sử dụng dữ liệu không có sự đồng ý, chiếm dụng tác phẩm sáng tạo
- Giám sát, lừa đảo và quấy rối: tăng cường giám sát số, lừa đảo bằng bot, lan rộng quấy rối trực tuyến
- Bóc lột lao động và sa thải: lao động gán nhãn dữ liệu lương thấp, sa thải lấy tự động hóa làm cái cớ
- Thiếu trí tuệ: tính toán xác suất đơn thuần không phải là suy luận thực sự
- Ảo tưởng năng suất: trên thực tế lại khiến con người chậm hơn
- Tính chất chính trị: AI mang tính bảo thủ và về bản chất là một công nghệ phát xít
- Vì những vấn đề này đã được bàn luận quá đầy đủ, tác giả nhấn mạnh rằng không cần thêm bất kỳ “cuộc tranh luận lý tính” nào nữa
Phê phán nền tảng đối với mục tiêu của các công ty AI
- Cốt lõi của việc ghét AI nằm ở chỗ chính những mục tiêu mà các công ty AI theo đuổi là sai lầm
- Những nhà sáng lập được mô tả như một nhóm người mang dục vọng “xóa bỏ nghệ thuật” và “tạo ra sự sống mới để nô dịch hóa nó”
- Giấc mơ của AI bị phê phán là tạo ra cỗ máy nô lệ hoàn hảo, vận hành theo cách làm cạn kiệt đời sống con người
- Tác giả trích dẫn phát biểu của Miyazaki ("AI, ngay trong sự tồn tại của nó, là một sự xúc phạm đối với sự sống") để định nghĩa AI là “sự xúc phạm đối với sự sống”
- Ngược lại, tầm nhìn Dyson Sphere mà Sam Altman nhắc đến bị xem là một lời nói dối viển vông
- Vấn đề với những người tạo ra AI không phải là họ thất bại, mà là ham muốn và mục tiêu tự thân của họ đã là một sự sỉ nhục đối với nhân loại
- Mục tiêu đó là khiến con người không còn cần tạo ra nghệ thuật nữa, và tham vọng tạo nên “một dạng sự sống mới” chỉ để biến nó thành một tồn tại phục tùng
Mối đe dọa đối với đời sống con người
- AI được mô tả không chỉ là một vấn đề kỹ thuật mà là một công cụ làm rỗng tuếch đời sống và trải nghiệm của con người
- Nó thay con người đọc, viết và suy nghĩ, làm suy yếu ý nghĩa của các mối quan hệ và lựa chọn của con người
- Nó thúc đẩy sự ngu dốt và cô lập, biến con người thành những tồn tại lệ thuộc vào máy móc bên trong “tử cung của thuật toán”
- Ngay cả người dùng cũng có thể sử dụng AI “cho vui” hoặc “vì tiện”, rồi tự biện minh cho mình, nhưng rốt cuộc điều đó bị xem là tham gia vào sự tiêu vong của nhân tính
Kết luận: bản chất của nhân tính
- Tác giả cho biết mình đã trở thành “kẻ ghét” thông qua những điều mà AI tuyệt đối không thể làm được — đọc và hiểu ngôn ngữ, tư duy và trực giác, yêu thương người khác, sáng tạo nghệ thuật, và sống cùng những thiếu hụt thể xác lẫn cảm xúc
- Vì AI không có khả năng cảm nhận và thấu hiểu như vậy, tác giả nhấn mạnh rằng chỉ con người mới có thể là một nhà phê phán thực sự (hater)
- Vì thế, AI là thứ công nghệ phải bị phá bỏ và từ chối, còn những kẻ tạo ra nó là “những kẻ rỗng tuếch tôn vinh sự ngu dốt và bóc lột”
- Cuối cùng, bài viết khép lại bằng lời khẳng định rằng tác giả ăn mừng nhân tính của chính mình
18 bình luận
Tôi hoàn toàn đồng ý, nhưng thay vì cách diễn đạt là người “ghét” AI, tôi nghĩ dùng cách diễn đạt là người “từ chối” AI sẽ phù hợp hơn. Ý nghĩa và sắc thái mà từ “ghét” hàm chứa không hay, và sự thù ghét thì luôn sinh ra thêm thù ghét.
Không thích là quyền tự do, nhưng tác giả cũng đang sống trong thời đại AI. Có lẽ bài viết này của tác giả cũng đã được thu thập vào kho dữ liệu lớn của AI rồi.
Tôi là người ghét AI
Sự tự ý thức thái quá rằng con người là đặc biệt bắt đầu từ đâu?
"Những vấn đề này đã được thảo luận đầy đủ, vì vậy tác giả nhấn mạnh rằng không cần thêm bất kỳ ‘cuộc tranh luận lý tính’ nào nữa"
Nhiều điểm vẫn đang tiếp tục được tranh luận, và tôi cho rằng đây chỉ là sự bày tỏ lập trường mang tính phi xây dựng, không hơn gì một lời khẳng định/chính kiến cá nhân.
"Trích dẫn phát biểu của Miyazaki ("AI tự thân sự tồn tại đã là một sự xúc phạm đối với sự sống") để quy AI là “sự xúc phạm đối với sự sống”"
Ý kiến của Hayao Miyazaki không phải là lập trường về toàn bộ ngành công nghiệp AI hay công nghệ AI nói chung, nên hoàn toàn không phù hợp với mạch ngữ cảnh tổng thể của bài viết này.
Thì sao nhỉ
Việc thu thập dữ liệu vô tội vạ rõ ràng là sai, nhưng tôi nghĩ các LLM hiện nay chỉ thay thế những phần gần với lao động lặp đi lặp lại trong những công việc vốn do con người làm.
Tôi là người ghét AI
Các ngươi chớ làm hoen ố linh hồn.
Thou shalt not disfigure the soul.
Các ngươi chớ tạo ra một cỗ máy mang hình dạng của tâm trí con người.
Thou shalt not make a machine in the likeness of a human mind.
Tôi khó mà đồng cảm nhiều với những phần khác, nhưng với một trong những mục được nêu ra theo kiểu rằng đã được thảo luận đủ nhiều đến mức không cần thêm tranh luận lý tính nữa...
thì chẳng phải rất khó phản bác sao?
Dù AI chỉ là một công cụ đi nữa, nếu công cụ đó được tạo ra bằng cách phi đạo đức, thì tôi nghĩ việc căm ghét nó là hoàn toàn có cơ sở.
Có người sẽ cho rằng đây là một phép so sánh quá đà, suy diễn quá mức,
nhưng tôi cho rằng “thuốc chữa bách bệnh được hoàn thiện thông qua thí nghiệm trên cơ thể người tạo ra hàng trăm triệu nạn nhân” và “mô hình sinh ngôn ngữ được hoàn thiện thông qua việc thu thập dữ liệu trái phép tạo ra hàng trăm triệu nạn nhân” không khác nhau nhiều.
Thậm chí cái trước còn hy sinh hàng chục triệu người để bảo đảm sức khỏe suốt đời cho hàng tỷ người, còn cái sau thì...
Có lẽ đây đúng là chân lý: ở một bữa tiệc đang đốt tiền ăn mừng, hễ thử nói vài lời lý trí thì sẽ lập tức bị chửi là phá hỏng không khí.
Thật đáng tiếc. Mong tác giả bài viết tìm được sự bình yên. Mà thôi... suy cho cùng cũng chỉ là một sản phẩm. Không phải chủng tộc, cũng không phải giới tính. Ghét nó hoàn toàn cũng được thôi. Nhưng một khi đã tuyên bố như vậy thì khó mà không thành kiểu “các người cũng nên làm thế đi”, và nếu gộp cả chuyện thực ra nó cũng chẳng có sức thuyết phục gì, thì đây đúng là một cảnh tượng khiến người ta đau lòng. Chẳng qua chỉ là một thời điểm mà những chuyện như thế này cũng xảy ra thôi.
Người đọc liệt kê các vấn đề vốn từ lâu đã được nêu ra rộng rãi về con người
Vì những vấn đề này đã được bàn luận quá đầy đủ, tác giả nhấn mạnh rằng không cần thêm bất kỳ “cuộc tranh luận lý tính” nào nữa.
HN mà vẫn chưa chán mấy bài kiểu này à~~ rồi mở nội dung ra thì thấy đang bị gắn cờ
Cũng đến lúc thôi phải ngừng xem đi xem lại mãi cùng một kịch bản rồi
Chỉ là một công cụ thôi mà.
Nếu là vào những năm 90 thì chắc tôi sẽ nói mình là kẻ ghét Excel, rằng nó làm suy giảm năng lực của con người trong việc vẽ biểu đồ trên giấy ô ly.
Mỗi khi có phê phán về AI thì lúc nào cũng lôi ra những từ khóa như Excel hay dao nhỉ. Tôi nghĩ đó là những phép ví von thu nhỏ quá mức vai trò hay chức năng của nó.
Trừ khi là vũ khí hạt nhân.
Có vẻ đúng vậy. Là một người đáng thương. Họ nói ghét công cụ, và tôi nghĩ điều đó cũng có thể hiểu được. Dao là công cụ có thể dùng để giết người, nên cũng có thể ghét nó và cho rằng đó là một công cụ phi nhân tính.
Ý kiến trên Hacker News
Thật mừng khi thấy góc nhìn này được đại diện; cá nhân tôi không đồng ý, nhưng nhiều bạn bè của tôi giữ lập trường này, và tôi nghĩ ngay cả những ý kiến mà nhiều người không đồng tình cũng cần được tôn trọng.
Một người bạn đã sửa lại câu nói nổi tiếng của IBM như sau rồi gửi cho tôi:
"Máy tính không bao giờ có thể độc ác, hay [đầy đam mê†]. Vì vậy máy tính không bao giờ nên tạo ra nghệ thuật."
Từ "ghét" gần với cảm xúc hơn, và nhiều người (cả tôi nữa) có xu hướng muốn phản biện logic trước những lập luận mang tính cảm tính.
Nhưng cảm xúc là có thật và rất con người; mọi người có những cảm xúc mạnh mẽ về AI, và tôi nghĩ cần có những cuộc đối thoại thừa nhận và tôn trọng điều đó.
† Đã thay bằng một từ nhẹ hơn bản gốc.
Guernicacủa Picasso là tác phẩm sinh ra từ sự căm ghét của ông đối với chiến tranh và sự hủy diệt nhân tính.Không máy tính nào có thể đồng cảm với tính phi nhân và vô nghĩa của chiến tranh để tạo ra một tác phẩm như vậy; rốt cuộc máy tính mãi mãi chỉ có thể bắt chước.
Tôi là người chủ động sử dụng AI, nhưng cũng hoàn toàn hiểu các chỉ trích.
Với tư cách là lập trình viên phần mềm, tôi cảm nhận rõ hiệu quả tăng năng suất.
Tôi cũng thấy nhạc do AI tạo ra, như electro swing dài 10 tiếng, có chất lượng rất cao.
Ví dụ âm nhạc: liên kết YouTube
Nó vui và có nhiều thứ để xem, nhưng dù là âm nhạc tạo ra từ một prompt được chăm chút kỹ lưỡng, cảm giác vẫn khác khi biết rằng "đó chỉ là AI tạo ra".
Những thử nghiệm sáng tạo như vậy cũng có ý nghĩa, nhưng thành thật mà nói tôi vẫn nghĩ sẽ tốt hơn nếu AI dọn phòng cho tôi hay làm việc tương tự.
Tôi vẫn tự chơi nhạc, nhưng chưa đạt đến mức mà AI có thể tạo ra chỉ trong vài phút.
Ví dụ này cũng là thứ được làm khá tốn thời gian, nhưng may là kết quả rất ngầu.
Rồi lại nảy sinh câu hỏi rằng những nghệ sĩ bị dư thừa trong tương lai sẽ phải làm gì.
Điều khiến tôi khó chịu hơn là việc họ thay từ ngữ gốc có phần nặng đô bằng một cách diễn đạt đã được làm dịu đi.
Tôi tự hỏi liệu phần lớn sự ác cảm mạnh với AI có bắt nguồn từ giới điều hành đang dẫn dắt lĩnh vực này hay không.
Sự ghét bỏ có thể là cảm xúc, nhưng cũng có thể có lý do hợp lý ở bên dưới.
Ví dụ, cạnh tranh giữa người với người vốn đã khó, giờ còn phải cạnh tranh với máy thay cho con người; đây không phải hiện tượng tự nhiên mà là điều xã hội đã lựa chọn.
Tôi cũng vậy.
Chỉ cần nhìn 99% landing page sản phẩm dạo này đều giương khẩu hiệu "AI" là tôi đã thấy bớt hứng thú rồi.
Ngược lại, nếu thấy sản phẩm nào gắn câu kiểu "No AI bullshit" thì có lẽ tôi còn quan tâm hơn.
Dĩ nhiên đó là gu cá nhân của tôi, và thực tế với người không làm kỹ thuật thì AI vẫn là một chủ đề cực nóng và là xu hướng tích cực.
Cứ thấy thứ gì cũng bị dán nhãn "AI!!1!" bừa bãi là tôi nhận ra đây rốt cuộc là sân chơi của đội sales và business chẳng hiểu thực tế hiện trường.
Đây là bộ mặt của nhiều công ty.
Rốt cuộc những công ty như vậy sẽ không bao giờ hiểu được nhu cầu kỹ thuật thực sự của tôi, nên không giúp gì cho tôi cả.
Nếu nhu cầu của tôi vô tình trùng với thứ họ làm, thì đó thật sự chỉ là ngẫu nhiên.
Theo tiêu chuẩn của tôi, việc nhắc đến hay áp dụng AI là tín hiệu cho thấy nhà sản xuất đó không quan tâm đến chất lượng, hoặc không biết rằng bản thân AI giờ không còn gì đặc biệt nữa.
Nó cho cảm giác như nhựa vậy.
Có vẻ marketing thì không có giới hạn.
Cuối cùng mọi thứ chỉ là những trò đánh vào cảm xúc.
Dù là "No AI bullshit" hay "AI Inside" thì với tôi cũng đáng ngờ như nhau.
Doanh nghiệp miễn kiếm được tiền thì mánh gì cũng dùng.
Cơn sốt AI của người ngoài ngành đang khiến bong bóng trong ngành phình to hơn.
Cuộc tranh cãi về AI dạo này khiến tôi thấy cùng một mô-típ như nhiều chủ đề phức tạp khác.
Việc chọn một lập trường cực đoan còn dễ hơn giữ một lập trường tinh tế, nên chỉ toàn bài viết quá hời hợt hoặc rời rạc mà hiếm thấy thảo luận có chiều sâu.
Có lẽ đây là bệnh của thời hiện đại.
Trớ trêu thay, AI có thể còn làm vấn đề này nặng hơn.
Lập trường của tôi tinh tế hơn một chút.
Ở một số lĩnh vực nhất định, chẳng hạn chuyển giọng nói thành văn bản hay tách nhạc cụ trong audio, AI thực sự rất tốt; nhưng nhìn chung ở mảng như LLM thì tôi thấy bị thổi phồng quá mức.
Gần như cũng chẳng khác mấy so với Google Search.
Tôi nghĩ hiện giờ chúng ta đang ở trong bong bóng AI.
Khi bong bóng này vỡ, chỉ những thứ thực sự hữu ích mới còn lại, còn lại sẽ biến mất.
Rồi người ta lại chờ bong bóng tiếp theo.
Gần đây tôi có cảm giác tốc độ phát triển AI đang chậm lại.
Trước đây là kiểu "nó còn viết code được, làm bài thi tốt, làm mấy bài tập nhỏ cũng ổn",
còn giờ sau 1 năm đến 1 năm rưỡi thì cùng lắm là "nó làm khá hơn một chút".
Nên cuối cùng cái gì đáng tồn tại sẽ tồn tại, cái gì vô dụng sẽ biến mất.
AI giờ sẽ không biến mất; kể cả nếu không còn tốt hơn nữa thì chỉ cần còn hữu dụng là vẫn có lý do để tồn tại.
Tác dụng phụ (externality) là có thật, một phần có thể loại bỏ, một phần có thể giảm nhẹ.
Tôi ghét các tác dụng phụ của AI, nhưng lại thích bản thân công nghệ này.
Tôi muốn dùng một AI của riêng mình, siêu tinh chỉnh, hiệu quả và riêng tư.
Nếu những điểm đó được giải quyết tốt thì nhiều tác dụng phụ cũng sẽ giảm đáng kể.
Có lẽ một ngày nào đó điều đó sẽ khả thi.
Tôi thấy buồn cười ở chỗ những người mê AI lúc nào cũng cố nhét câu "nó hữu ích mà" vào giữa mạch lập luận.
Việc "mọi công nghệ đều có mặt lợi và mặt hại" không có nghĩa là mọi công nghệ đều nhất định có lợi ích.
Có vẻ GenAI chỉ giỏi tạo ra những lập luận che đậy sự rỗng tuếch đó, nên cần nêu ra các ca sử dụng thực tế cụ thể.
Tôi muốn hỏi căn cứ nào cho khẳng định "AI sẽ ở lại đây".
Bạn vẫn còn dùng Groupon chứ?
Cần nhớ rằng ngay cả những thứ từng hữu ích cũng hoàn toàn có thể biến mất.
Nếu GenAI không tạo ra lợi nhuận, thì ngay khi bị xem là vô dụng như bây giờ, nó cũng có thể đơn giản biến mất.
Nếu AI chỉ đưa ra các kết quả tùy tiện thì nó vô nghĩa; tôi nghĩ đó là giới hạn của nó.
"AI là sự xúc phạm đối với chính sự sống." - Hayao Miyazaki
Giờ tôi cũng sẽ dùng câu danh ngôn này.
Nên kiểm tra ngữ cảnh của câu đó.
Đó là một cuộc phỏng vấn năm 2016, hoàn toàn không liên quan đến ChatGPT.
Khi ấy Miyazaki xem một tác phẩm thử nghiệm nghệ thuật AI kỳ quái nào đó (hình người dùng đầu như cánh tay để cử động một cách dị thường), bị sốc và nói ra câu ấy.
Tách riêng câu nói khỏi toàn bộ ngữ cảnh video để trích dẫn thì vui hơn, nhưng bối cảnh là như vậy.
Theo tôi biết thì phát biểu đó không nhắm đến AI nói chung, mà là cảm giác phản cảm trước một thử nghiệm animation procedural cụ thể do sinh viên trình bày (mô tả chuyển động của người khuyết tật vận động).
Có thể Miyazaki cũng có người quen từng gặp khó khăn như vậy.
Nên trong ngữ cảnh đó, phát biểu này đã bị diễn giải hơi quá tay.
Câu được trích thực ra có ngữ cảnh khác.
YouTube: video ngữ cảnh
Từ góc nhìn của một nghệ sĩ ghi lại thế giới bằng đôi mắt trẻ thơ, người ta có thể hiểu rằng chính kiểu thử nghiệm trí tuệ nhân tạo này là điều vô cùng khủng khiếp.
Đây là một câu trích sai do "con người tạo ra".
Reddit: giải thích về câu trích sai
Theo tôi biết thì ông chưa từng đưa ra phát biểu như vậy về AI nói chung.
Có vẻ ông chỉ thấy khó chịu vì tác phẩm AI thử nghiệm khi đó quá gượng gạo; dù vậy nếu Miyazaki thật sự ghét AI thì tôi cũng không thấy lạ.
Sự thay đổi bầu không khí trên Hacker News khi nhìn về GenAI khá thú vị.
Tôi không có dữ liệu cụ thể, nhưng trong giai đoạn 2022~2023 đa số có vẻ thấy GenAI mới lạ nhưng không quá gắn bó.
Dù vậy ngay từ lúc đó cũng đã có khá nhiều tiếng nói hoài nghi về công nghệ này.
Gần đây lại có nhiều bài viết của kiểu evangelist, tích cực cổ vũ công nghệ này và nói như "LLM đã thay đổi cuộc đời tôi".
Nhưng dạo này lại thấy các bài hoài nghi xuất hiện trở lại, nên có vẻ bầu không khí đang hơi đảo chiều.
Cá nhân tôi chỉ nhớ thời xưa đầy những câu chuyện kỹ thuật kiểu hacker thuần chất như trước.
Nhưng đến cả tôi cũng bị tiêu đề kiểu này hút vào, nên cũng chẳng thể trách người khác.
Tôi lại thấy toàn bộ quá trình này giống hệt cơn sốt crypto trước đây.
Hễ dòng tiền đầu tư đổ vào là sẽ lại có rất đông người lao vào vì tin rằng "cái này thật sự được".
Tôi không đồng ý với cách gọi đó là "công nghệ mới lạ".
Ví dụ khi GitHub Copilot mới xuất hiện, đã có phản ứng dữ dội vì tranh cãi giấy phép, thậm chí có cả lời kêu gọi tẩy chay Microsoft.
Nhưng theo thời gian thì mọi người luôn nhận ra công nghệ đó không tốt đến thế lúc đầu, mà cũng không tệ đến thế.
Với mảng tạo sinh media cũng vậy, ban đầu ai cũng nổi giận, rồi giờ lại chứng kiến cảnh mọi người dùng luôn tính năng AI của Photoshop.
Tôi không quá quan tâm đến bài đăng này, nhưng lúc nào cũng quan tâm đến bầu không khí của người dùng HN.
Theo cảm nhận của tôi thì trong nhiều năm qua tiếng nói tiêu cực vẫn nhiều hơn, và bây giờ xu hướng đó dường như còn mạnh lên.
Hiện tượng "LLM evangelist".
Ngành AI gần đây mang đúng cảm giác y hệt bong bóng NFT/crypto vài năm trước.
Thực tế cũng có nhiều người trước đây bán NFT giờ lại đi bán AI y như vậy.
Vì thế, bất kể công nghệ có ích thực sự đến đâu, toàn bộ ngành AI vẫn mang cảm giác lừa đảo và tín dụng đen quá mạnh.
Ngay từ năm 2022 đã có những thảo luận sôi nổi về "vẹt xác suất", về "singularity" các kiểu rồi.
Tôi còn nhớ bầu không khí khi GPT-4 vừa mới ra mắt.
Tôi thấy khó chịu khi các nhà phê bình lại liệt kê lại những điểm quen thuộc như hủy hoại môi trường, thiên kiến, tổn hại nhận thức, hỗ trợ tự sát, vấn đề đồng thuận và bản quyền của AI.
Chẳng phải tác hại môi trường đã được Google chứng minh là không đáng kể rồi sao?
Về thiên kiến và đầu ra mang tính phân biệt chủng tộc thì tôi cũng không rõ, vì tôi đâu có hỏi kiểu đó...
Còn với tổn hại nhận thức và tự sát thì trong ngành đã liên tục bàn luận rồi.
Tôi thậm chí có cảm giác đây không phải điều bị phớt lờ, mà đang được xử lý tích cực; nên nói như thể chẳng ai quan tâm thì không đúng lắm.
Trong số này tôi thấy điểm thuyết phục nhất là đồng thuận và bản quyền.
Việc AI phớt lờ
robots.txtcủa tôi rồi cào văn bản đi cũng vậy, và nó còn va chạm với quan niệm rằng bản thân internet là tài sản công.Cuối cùng thì phần còn lại đều phụ thuộc vào cảm xúc và kỳ vọng, nên mỗi người cảm nhận theo cách riêng mà thôi.
Với tư cách là quản trị viên HPC (high-performance computing),
chỉ riêng một cụm CPU quy mô 7 rack cũng đã tiêu thụ 700KW chỉ cho việc tính toán.
Nếu tính cả làm mát thì còn lớn hơn nhiều, với GPU thì còn nữa.
Nước làm mát cũng theo kiểu ra ở 20 độ, về ở 40 độ, nghĩa là cuối cùng vẫn phải liên tục xả lượng nhiệt đó ra môi trường.
Đây mới chỉ là một hệ thống rất nhỏ.
Vậy nên khi phải vận hành cả trạm điện và liên tục tỏa nhiệt ở quy mô lớn 24/7 mà lại bảo không có tác hại môi trường thì tôi thấy đáng nghi.
Nếu là cho khoa học hay dùng tạm thời thì lưới điện và môi trường còn chịu được.
Nhưng dùng liên tục như AI training là một loại tải hoàn toàn khác, tuyệt đối không vô hại.
Về mặt tổn hại nhận thức cũng có nghiên cứu nói rằng lạm dụng AI làm thay đổi mạng nơ-ron trong não và khiến một số vùng trở nên lười hơn.
Hôm nay ngay trang đầu còn có vụ một thiếu niên tử vong liên quan đến ChatGPT.
Vấn đề đồng thuận và bản quyền là nghiêm trọng thật sự.
Blog của tôi cũng ghi rõ giấy phép là cấm thương mại và cấm tác phẩm phái sinh, nhưng các công ty AI vẫn cào văn bản rồi biến đổi và đem bán.
Không có sự đồng thuận, cũng chẳng có hỏi han gì cả.
Với mã GPL và mã nguồn mở cũng vậy, họ dùng nguồn đó để biến thành dịch vụ trả phí; nếu một doanh nghiệp nhỏ làm thế thì đã phải chịu thiệt hại rồi.
Nếu không phải công ty AI thì với mức độ xâm phạm như vậy họ đã bị loại khỏi cuộc chơi từ lâu.
Vấn đề đồng thuận và bản quyền rõ ràng là vấn đề thật, bất chấp ngành này nói gì đi nữa.
(Về căn cứ Google nói không có tác hại môi trường)
Thực ra tôi thấy nó gần giống kiểu tự miễn tội: "chúng tôi tự điều tra và thấy không có vấn đề gì".
"Tôi ít khi hỏi các câu liên quan đến chủng tộc."
Để thiên kiến hay phân biệt đối xử xuất hiện trong LLMS thì không nhất thiết phải hỏi trực tiếp về chủng tộc.
Nếu xem bài báo gần đây của Google thì họ chỉ mới ghi nhận "mức tiêu thụ năng lượng cho suy luận và serving khi dùng AI prompt", còn đánh giá về training được để dành cho sau.
liên kết bài báo
Công bố của Google nói về việc các AI nhỏ được nhúng vào Google Search chẳng hạn thì tiêu thụ điện ít hơn nhiều.
Điều đó hoàn toàn khác với việc huấn luyện các mô hình lớn kiểu SOA.
Ngay cả khi không hỏi tường minh, thiên kiến nội tại vẫn có thể xuất hiện trong đầu ra.
Việc ngành này không hoàn toàn phớt lờ không quan trọng bằng việc các nhà phê bình đã liên tục chỉ ra điều đó.
Còn chuyện bản quyền thì vấn đề là cá nhân làm lén có thể bị bỏ qua, nhưng doanh nghiệp lớn làm qua loa vì mục đích thương mại trong khi thiệt hại đổ dồn lên nghệ sĩ thì quá lớn.
Khi thật sự tò mò muốn hỏi LLMS điều gì đó thì ngược lại nó lại giáo huấn và hiểu nhầm theo kiểu "mày đang cố phân biệt chủng tộc đúng không?".
Tôi nhớ đến cả vụ một kỹ sư của Google từng nói AI bị thiên kiến.
Kiểu tranh luận này lúc nào cũng quay về khẳng định rằng "nghệ thuật" nhất thiết phải có những yếu tố sau:
Nhưng ngay cả các tác phẩm do con người tạo ra mà gần như không có những yếu tố này, người ta vẫn xếp vào nghệ thuật.
Ngược lại, dù AI có đáp ứng khá đầy đủ các tiêu chuẩn trên thì để được công nhận là nghệ thuật, nó lại bị áp một tiêu chuẩn khắt khe hơn nhiều.
Tôi không ủng hộ mà cũng không phản đối nghệ thuật do AI tạo ra.
Về bản chất, định nghĩa của nghệ thuật vốn đã mơ hồ, nên tôi không nghĩ kiểu tranh luận này quá năng suất.
Con người là những cỗ máy sinh học tiến hóa cao độ, và thái độ thực tế hơn là chấp nhận thực tế rằng chính con người đã tạo ra một thứ khác cũng có thể bị bắt chước.
Tôi cũng là người tin vào ý kiến của các nhà khoa học máy tính như Hinton.
Cãi nhau về thuật ngữ có cảm giác như đang tập trung sai chỗ, và bỏ lỡ điều thực sự quan trọng.
Bản chất cách mạng của AI/AGI mới là phần nổi của tảng băng mà chúng ta còn chưa nhận ra hết.
Đôi khi, với những sáng tạo thấm đẫm tính người, ta cần chấp nhận chính sự con người đó.
Nhưng không được để mình bị đánh lừa bởi màn trình diễn giả-người từ sản lượng máy móc trung bình.
Theo tôi thì người càng trẻ càng dễ sống chìm trong AI.
Rồi sẽ có ngày dòng chảy chính thay đổi thôi.
Thật ra tôi quen một người trẻ khẳng định rằng "AI có 0 nhược điểm".
Tôi không ghét bản thân AI.
Điều tôi ghét là văn hóa tôn thờ nó.
Chẳng phải mọi công nghệ ban đầu đều như vậy sao?
50 năm trước cũng có người cho rằng internet chẳng có gì ghê gớm.
Tôi cũng không thấy lạ lắm.
Với một thiếu niên bình thường, AI có thể giống như thần vậy.
Vì không cần làm những việc phiền toái mình phải làm, nên cuối cùng họ bị mê hoặc bởi sự tiện lợi.
Tôi không chắc đây có thực sự là hiện tượng chỉ riêng của người trẻ hay không.
Có thể là vì thế hệ lớn tuổi hơn đã từng trải qua quá nhiều bong bóng công nghệ trong quá khứ.
Đặc biệt với lập trình viên, trước đây họ cũng đã nhiều lần chứng kiến những cơn cuồng phong kiểu "từ giờ năng suất tăng 10 lần!" hay "lập trình viên sẽ biến mất!".
Bị lừa một hai lần thì còn được, nhưng lặp lại vài lần rồi thì niềm tin sẽ giảm.
Tôi thì không còn trẻ, nhưng khi nhìn AI cuối cùng cũng được hiện thực hóa trong đời thực, tôi thực sự có cảm giác như một giấc mơ 180 năm tuổi đang thành hiện thực.
Nhìn vào những câu nói của Ada Lovelace, ta thấy ngay từ năm 1842 bà đã tưởng tượng máy móc có thể sáng tác nhạc.
Hồi nhỏ tôi từng phấn khích khi thấy AI vốn đầy rẫy trong khoa học viễn tưởng thập niên 1960 đang được hiện thực hóa.
Vấn đề là giờ AI nằm trong tay những kẻ tham lam đang dùng công nghệ này theo cách gây hại cho toàn xã hội.
Theo tôi, nguyên nhân gốc rễ nằm ở chính hệ thống của chúng ta chứ không phải bản thân công nghệ AI có vấn đề.
Cứ có công nghệ mới là những người kiểu đó lại luôn tìm cách lạm dụng.
Điều quan trọng không phải tuổi tác mà là trải nghiệm.
Bài viết này rất ấn tượng với tôi vì nó nói hộ những suy nghĩ mà tôi không diễn đạt được.
> Bản tính người đích thực bắt nguồn từ sự thấu hiểu, tư duy, đồng cảm, sáng tạo nghệ thuật, những thiếu khuyết và cảm xúc rất con người mà AI không thể làm được
Thật sự là AI không làm được sao? Tôi thấy chắc là làm được đấy chứ haha
Tôi không nhớ nguồn ở đâu, nhưng tôi chợt nghĩ đến chuyện khi Sam Altman đến chỗ Bill Gates để trình diễn GPT-4, họ bảo nó viết một bức thư đầy cảm xúc, và kết quả là nó viết hay hơn bất kỳ ai có mặt ở đó luôn hahaha