Những đứa trẻ chơi bên con suối
(hgreer.com)- Trò chơi chặn dòng suối thời thơ ấu, khi sức mạnh và hiểu biết tăng lên, đã chuyển từ một trò nghịch ngợm đơn giản thành một lựa chọn có thể phá vỡ ranh giới của trò chơi
- Nếu dùng một cái xẻng lớn làm sạt bờ sông, có thể dễ dàng thắng câu đố xây đập, nhưng ngay khoảnh khắc đó không gian của trò chơi để có thể chơi lại sẽ thu hẹp
- Những hoạt động từng thử thách giới hạn như máy bắn đá K'Nex, thí nghiệm pháo nổ, làm cung, sau khi hiểu được nguy hiểm và hậu quả thì không còn dễ dốc toàn lực đẩy tới cùng nữa
- Lời mời từ ngân hàng đầu tư là bước ngoặt khiến tác giả nhận ra rằng “trò chơi kiếm tiền nhiều nhất có thể” cũng đã đạt đến cùng một giai đoạn
- Việc phát triển trí tuệ nhân tạo cũng nằm trong cùng phép ví von này, và việc dốc toàn lực để thành công có thể dẫn đến một kết cục kém đáng giá hơn, giống như vụ nổ pháo theo nghĩa ẩn dụ
Khoảnh khắc không còn có thể dốc toàn lực
- Trò chơi chặn dòng suối ở sân sau thời thơ ấu là hoạt động lấp các lỗ bằng đá, lá cây và cát để xem có thể làm nước dâng cao đến đâu
- Đến một lúc, ý nghĩ nảy ra rằng nếu dùng cái xẻng lớn dài 5 foot làm sạt bờ sông thì có thể tạo ra một con đập lớn đúng nghĩa hơn
- Người cha nói rằng vì câu đố đó đã được giải rồi, nên không còn có thể thoải mái chơi trò chặn suối nữa
- Cái giá của chiến thắng là không gian có thể chơi bị thu hẹp, và nước chiếu hết không xảy ra trên bàn cờ mà ở bên ngoài trò chơi
- Sự thay đổi tương tự lặp lại trong các trò chơi khác
- Sau khi khoét một lỗ trên trần nhà, việc làm máy bắn đá K'Nex chuyển từ một hoạt động có thể vô tư tận hưởng thành một hoạt động phải cẩn trọng
- Việc buộc các quả pháo lại với nhau để xem có thể tạo ra vụ nổ lớn đến mức nào không được phép đi tới tận cùng giới hạn
- Sau khi nắm được kỹ thuật tillering, không còn có thể dốc toàn lực làm cung tên cho các trận chiến sân sau với bạn bè nữa
- Tác giả đã miệt mài leetcoding, học hệ thống build, trau chuốt CV để nhận được lời mời từ ngân hàng đầu tư, nhưng ngay khi nhận được lời mời thì đi đến kết luận rằng không thể tiếp tục trò chơi kiếm tiền nhiều nhất có thể
Cùng phép ví von đặt lên phát triển AI
- Nếu có một đối thủ đủ mạnh, ta có thể đối đầu hết sức trong thời gian dài
- Trò chơi trên bãi biển ở dòng chảy thoát ra từ các vũng triều khi thủy triều xuống là một ví dụ như vậy
- Có thể dùng tay chặn cát để tạo hồ, đồng bằng châu thổ, hẻm núi, nhưng thủy triều dâng mạnh hơn nhiều và sẽ xóa sạch mọi kết quả
- Khi hiểu biết tăng lên, các lựa chọn lại thu hẹp
- Vượt khỏi mức dùng tay hay xẻng đẩy cát, nếu vận động hội đồng thành phố lắp groin hay seawall thì có thể thực sự dịch chuyển lượng lớn cát trên bãi biển
- Vì vậy thực tế không thể dốc toàn lực, và cũng không muốn làm vậy
- Ngay cả khi đang đào cát bằng tay, vẫn thấy dấu vết của những con sò coquina đào trở lại sau mỗi con sóng; những hậu quả mà khi bốn tuổi chưa nhìn thấy thì giờ đã thấy
- Nảy sinh câu hỏi liệu những con sò vô tình bị chôn nhanh dưới công trình đất nhỏ dài 2 foot có thể trồi trở lại bề mặt hay không
- Tác giả cho rằng phần lớn sẽ làm được và tiếp tục
- Phép ví von này cũng tiếp nối sang phát triển trí tuệ nhân tạo
- Quá trình dốc toàn lực là một cuộc phiêu lưu thú vị và thực sự đáng giá
- Nhưng thành công rồi để một vụ nổ pháo ẩn dụ thổi bay bàn tay là một kết quả kém đáng giá hơn
- Nhận định này vẫn giữ nguyên dù mở rộng phép ví von thành tình huống cạnh tranh với hàng xóm xem ai làm bay tay trước, hoặc thành kiểu mọi người cùng chia sẻ một bàn tay
- Ở mặt tích cực, trong báo cáo mới nhất về việc sử dụng trong lĩnh vực giáo dục, Anthropic ít nhất có vẻ đã nhận ra những con sò coquina
1 bình luận
Các ý kiến trên Hacker News
Bài viết hay, nhưng tôi nghĩ trọng tâm không phải là phát triển AI, mà là câu “kiếm càng nhiều tiền càng tốt” ở phần đầu bài
Vấn đề thấy được ở AI không nảy sinh từ bản thân việc phát triển nhiều bằng từ marketing và sự lan rộng. Việc nghịch chặn dòng suối rồi thất bại hoặc bị thương ở tay là không hay, nhưng quy mô của nó tự bị giới hạn. Bởi những việc làm vì vui hay vì thử thách khó có thể diễn ra trên quy mô lớn vượt quá phạm vi một cá nhân có thể tận hưởng
Nếu mọi người đều đối xử với AI như nghịch chặn dòng suối cho vui thì có lẽ sẽ không có vấn đề lớn. Dù mô hình có mạnh, người ta sẽ quan tâm đến việc mày mò chơi hơn là kiếm tiền, nên rất có thể nó sẽ kỳ quặc và rời rạc. Giống như đủ loại dự án sở thích xuất hiện trên HN, người ta sẽ lướt qua với câu “hay đấy”, chứ không đưa nó vào những điểm phụ thuộc quan trọng
Dù là AI hay không, vấn đề bắt đầu xuất hiện ngay khi ta dùng thứ gì đó để kiếm “càng nhiều tiền càng tốt”. Ngoài ra, ở cuối bài tác giả nói như thể Anthropic đã bắt đầu nhận ra những con sò, nhưng trong nhiều ví dụ của bài viết, thứ khiến người ta dừng lại không phải là tự phản tỉnh mà là một quyền lực bên ngoài như cha mẹ. Phần lớn mọi người không tự phản tỉnh được như tác giả, và có thể chẳng bận tâm đến “việc thắng trong một trò chơi tổng bằng không trước những người không có lý do gì để thua” hay mấy con sò. Phải có ai đó giật lấy cái xẻng đi
Chừng nào còn coi “kiếm càng nhiều tiền càng tốt” như một ngoại lệ đối với nguyên tắc “không được tiếp tục cho đến khi thứ gì đó hỏng”, thì dù có AI hay không, những vấn đề kiểu này vẫn sẽ tiếp diễn
Giờ tôi đã nghỉ hưu, sống bằng cách mày mò đủ thứ trong “khu vườn phần mềm” của mình. Tôi cũng dùng AI để giải quyết vấn đề và tạo bản nháp mã, nhưng mục đích là sự thỏa mãn cá nhân
Khi người có công cụ còn hiếm, thợ lành nghề rất có giá trị. Vì tri thức hay năng lực thật sự không bị cung vượt cầu, họ có thể kiếm rất nhiều tiền, còn người khác thì khó bắt kịp vì không có công cụ và kỹ năng. Chỉ cần nỗ lực ở giai đoạn đầu cũng có thể trở nên giàu có
Khi mọi người đều có cùng công cụ, thợ lành nghề vẫn có giá trị. Tri thức và kỹ năng tích lũy theo thời gian vẫn khan hiếm, và họ vẫn có động lực tiếp tục nâng cao kỹ năng để tiến xa hơn
Khi công cụ làm thay công việc, giá trị của thợ lành nghề bị giới hạn. Họ trở thành như một di vật, còn phần lớn mọi người chỉ cần bật công cụ lên là có được kết quả đủ tốt, bất kể người thợ nâng cao chuyên môn đến đâu
Hiện chúng ta đang ở giữa giai đoạn 2 và 3. Phỏng vấn vẫn hỏi về thiết kế thuật toán hay độ phức tạp của cách tiếp cận, nhưng nhiều người chưa vượt qua được điểm chuyển tiếp “vậy giờ phải làm gì?”
Giờ đây giá trị ít đến từ việc biết tự động hóa hoạt động ra sao, mà đến từ việc dùng công cụ để tạo ra giá trị lớn hơn người bình thường. Đây là một sự chuyển đổi khó khăn đối với những người từng được dạy rằng chỉ cần có tri thức này là có thể sống một cuộc đời ổn định hoặc sinh lợi tốt
Thời của các buổi phỏng vấn SDE đã qua; khi tìm kỹ sư, người ta sẽ tìm những người chấp nhận hiện tại và biết thêm tiện ích mang tính con người vào các công cụ dễ tiếp cận để làm cho tổng thể lớn hơn tổng các phần, hơn là những người có thể tự tạo ra phiên bản của công cụ
Phần tuyệt nhất của việc làm phần mềm là tính sáng tạo, và phần đó không thay đổi. Trái lại, giờ nó còn quan trọng hơn
Rốt cuộc chúng ta tạo ra thứ để người tiêu dùng sử dụng. Nếu dòng suối đã bắt đầu chảy theo hướng khác, ta không nên cứ tiếp tục chất đá ở nơi nước từng chảy, mà phải chấp nhận rằng nó đã thay đổi và thích nghi
Tác giả tự chúc mừng mình vì biết rằng có giới hạn trong việc phá hỏng tài sản của cha mẹ, tự chúc mừng mình vì biết thưởng thức cát trên bãi biển như một khoảnh khắc Instagram của sự giản dị hiện sinh, và tự chúc mừng mình vì đủ thông minh đến mức lẽ ra có thể làm bay mất bàn tay. Tôi không biết “Leetcoding” là gì, nhưng chắc cũng tương tự; rồi nói rằng đã bỏ một nơi làm việc đáng ngờ vì chán, đồng thời ám chỉ rằng có lẽ mình đã có lương tâm. Cuối cùng kết bằng câu “tất nhiên đây là câu chuyện về phát triển trí tuệ nhân tạo”
Nếu thêm một điều nữa, tôi thấy ở đây tâm lý muốn được yêu thương hơn tiền bạc, nhưng thật ra là muốn cả hai, và vẫn muốn đẩy thứ có hại cho thế giới vào những điểm phụ thuộc quan trọng. Trông như một nỗ lực để lấy bất cứ thứ gì có thể lấy được, dù là tình yêu hay tiền bạc. Cha mẹ tôi gọi kiểu này là “đứa trẻ chỉ cần được chú ý, dù là chú ý tốt hay chú ý xấu”
Tôi cho rằng đây là động lực căn bản của phần lớn các tỷ phú công nghệ trong 20 năm qua. Điều nối Bezos, Zuck, Jobs, Dorsey và Musk lại với nhau là kiểu ham muốn như: “Bố nhìn này, con không chỉ lấy tiền đâu. Con đủ thông minh để làm bay tay mình bằng pháo hoa, nhưng nhìn này, con vẫn còn cả hai tay. Con đã dùng tiền của bố để kiếm được nhiều tiền thế này. Sao bố không tự hào? Con tìm tình yêu ở đâu? Nếu con nói con Leetcoder đến mức nào, rằng con có thể tạo AI xấu nhưng chỉ tạo AI tốt, thì mọi người có yêu con không?”
Tất nhiên tôi cũng không hoàn toàn thoát khỏi những cảm xúc này. Tôi muốn làm việc tốt, và muốn mọi người thích những gì tôi đã làm. Nhưng trong những bài viết như thế này có quá nhiều ham muốn phô trương và chủ nghĩa ái kỷ lộ liễu. Nếu thật sự là thiên tài thì hãy nằm cạnh mấy con sò hay viết tiểu thuyết đi. Nếu thật sự có lương tâm thì hãy có can đảm nói rằng mình có lương tâm. Hãy để yên phần còn lại, và đừng làm ô nhiễm một thế giới mà mình không hiểu bằng lòng tham trẻ con và sự ám ảnh về bản thân
Một bài tiểu luận xuất sắc và tôi cũng cảm thấy tương tự tác giả, nhưng chắc mình không thể diễn đạt hay đến vậy
Tuy nhiên, nếu kỳ vọng các nhà nghiên cứu AI sẽ tiếp nhận lời khuyên này và chậm lại thì tốt nhất đừng chờ. Tác giả nói rằng ông đã rời bỏ công việc tài chính lương cao vì lý do đạo đức, và điều đó đáng được tôn trọng. Nhưng Wall Street vẫn tiếp tục vận hành, và không thiếu người muốn chơi trò “kiếm càng nhiều tiền càng tốt”
Tôi nhớ một bình luận HN gần đây [0] ví các công ty và tổ chức với AI. Những tổ chức như vậy vốn đã hoạt động như một trí tuệ siêu nhân loại
[0] https://news.ycombinator.com/item?id=43580681
Các công ty như Amazon, Google, OpenAI đang hủy hoại Trái Đất khá nhanh, còn những công ty như Citadel chỉ chuyển tiền qua lại mà thôi
Tillering được nói ở đây không phải nghĩa là cỏ mọc chồi bên, mà là nghĩa gọt chỉnh để uốn gỗ làm cung. Học được từ mới cũng thú vị
[1]: https://www.howtomakealongbow.co.uk/part-5-tillering
[2]: https://en.wikipedia.org/wiki/Tiller_(botany)
Đó là một quy trình lặp lại: uốn thử rồi gọt, rồi lại uốn thử, loại bỏ gỗ từng bước một
Câu chuyện chặn dòng suối hay chơi với cát ở bờ biển lành mạnh đến mức khiến tôi bật cười. Giải câu đố giống cái kết tệ của một trò chơi, khi việc chơi không còn vui nữa
Con người nên dành nhiều thời gian hơn để làm điều gì đó vì nó vui, thay vì để trở nên giỏi hơn. Dù tận thế có đến trong đời chúng ta hay không, tôi vẫn sẽ cố tận hưởng cuộc sống nhiều nhất có thể theo cả hai khả năng
Vonnegut nói điều này hay nhất
https://richardswsmith.wordpress.com/2017/11/18/we-are-here-...
https://www.goodreads.com/quotes/12020560-talking-about-when...
“Khi tôi nói với vợ rằng tôi ra ngoài mua một cái phong bì, vợ tôi bảo rằng anh đâu phải người nghèo, sao không mua 100 cái phong bì trên mạng rồi để trong tủ. Vì vậy tôi giả vờ không nghe và ra ngoài mua một cái phong bì. Bởi vì trong quá trình mua một cái phong bì, tôi sẽ có một khoảng thời gian rất vui. Tôi sẽ gặp nhiều người, nhìn thấy những người tuyệt vời, nếu xe cứu hỏa chạy ngang thì giơ ngón cái lên, và hỏi một phụ nữ rằng con chó kia là giống gì. Bài học của câu chuyện là chúng ta đến Trái Đất để lông bông. Tất nhiên máy tính sẽ tước điều đó khỏi chúng ta. Điều những người làm máy tính không biết hoặc không quan tâm là chúng ta là những động vật biết nhảy múa.”
― Kurt Vonnegut
Tác giả dường như lo về rủi ro AI, tức là “AI sẽ giết tất cả chúng ta”, và đây là một chủ đề phổ biến trên LessWrong.
Nhưng từ góc nhìn của người thường xuyên dùng các mô hình AI mới nhất, hoàn toàn không rõ liệu rủi ro như vậy có tồn tại trong khoảng thời gian có thể dự đoán được hay không. Ngay cả những mô hình tốt nhất hiện nay cũng dễ dàng tin bừa, thiếu hiểu biết sâu sắc và tính độc đáo.
Dwarkesh từng đặt câu hỏi như thế này: “Các mô hình này về cơ bản đã ghi nhớ toàn bộ tri thức của loài người, vậy với tư cách là một nhà khoa học, ông nhìn nhận thế nào về việc chúng không tạo ra nổi một liên kết mới nào dẫn đến khám phá. Nếu một người thông minh ở mức bình thường ghi nhớ được ngần ấy thứ, chẳng phải họ sẽ nhận ra kiểu như ‘cái này gây ra triệu chứng này, cái kia cũng gây ra cùng triệu chứng, vậy đây là cách điều trị’ sao. Chẳng phải ta nên kỳ vọng điều đó sao?”
Gần đây tôi cũng gặp một chuyện tương tự. Tôi hỏi GPT-4.5 “Deep Research” xem vật liệu nào là tốt nhất cho một linh kiện máy móc cụ thể, thì câu trả lời đầu tiên là chép nguyên một bài LinkedIn ngớ ngẩn đến buồn cười, còn câu trả lời thứ hai lấy từ một thông cáo báo chí mang tính tiếp thị. Hoàn toàn không có hiểu biết độc đáo nào, và cuối cùng tôi kết luận rằng việc khảo sát và thử nghiệm vẫn phải tự mình làm.
Điểm cốt lõi là tôi không cho rằng mô hình ngôn ngữ lớn có thể tạo ra một cách thức đáng sợ và mới mẻ đến mức giết chết toàn bộ nhân loại. Trong 5 năm qua, điều này chẳng thay đổi chút nào. Chúng chỉ mới có khả năng lướt qua các bài LinkedIn và tìm thông cáo báo chí trên web mà thôi.
Hơn nữa, các mô hình này không có ý chí độc lập, cũng không có cảm giác về thời gian hay không gian. Ngay cả xét về nguyên lý, việc chúng có thể hoạt động như những tác nhân độc lập thực sự hay không cũng không rõ ràng.
Nhưng tôi không biết đã có ai tạo ra mô hình đa phương thức được huấn luyện đồng thời trên dữ liệu chụp cắt lớp X-quang của các linh kiện chịu nhiều loại tải trọng khác nhau và phần mô tả công dụng của các linh kiện đó chưa. Nếu có một mô hình như vậy, tôi nghĩ nó có thể đưa ra câu trả lời khá tốt cho câu hỏi này.
Tuy nhiên, nó có thể khiến những kẻ ngốc dễ bị lừa đẩy nhân loại hoàn toàn đến bờ vực. Điều đó hiện đã đang diễn ra. Mô hình không cần phải là một tác nhân độc lập; chỉ cần trông có vẻ thông minh là đủ.
“Chỉ sau khi có được nó, tôi mới nhận ra mình không còn có thể chơi trò ‘kiếm càng nhiều tiền càng tốt’ nữa.”
Điều buồn cười là cha tôi đã dạy tôi điều đó khi tôi 12 tuổi, vì lòng trắc ẩn. Tôi không hiểu vì sao người ta lại lý tưởng hóa những người kiểu Spock yêu logic đến vậy. Họ không biết anh hùng thật sự của Star Trek là Captain Kirk sao? Vì ông ấy có lòng trắc ẩn.
Việc những người Zizian xuất phát từ LessWrong cũng chẳng có gì đáng ngạc nhiên.
Nếu có việc kiếm ra tiền, luôn sẽ có ai đó sẵn sàng chấp nhận rủi ro, dù là người cầm xẻng hay người chở cả xe tải pháo hoa. Đặc biệt nếu có thể đẩy rủi ro sang công chúng, họ sẽ muốn giữ phần thưởng cho mình.
Nếu là cha mẹ, chẳng phải hằng ngày nhìn con mình, đôi lúc bạn sẽ cảm thấy kinh ngạc trước sinh linh nhỏ bé, kỳ diệu, lạ lùng và độc nhất này sao?
Các tác giả trên LessWrong dường như cũng cảm thấy y như vậy mỗi ngày khi nhìn vào gương.
Cần giải thích ẩn dụ “coquina” là gì.
Trong thực tế, có vẻ ý là Anthropic đang làm một việc khổng lồ là tạo ra AGI, và chỉ bây giờ mới bắt đầu nhận ra tác động tiềm tàng của việc đó đối với con người.
Có vẻ ý là Anthropic bắt đầu nhận ra những rủi ro mà công việc của họ có thể gây ra cho người khác, nhưng chính xác là chỉ điều gì thì tôi không chắc.
[1]: https://www.youtube.com/watch?v=KZUlf7quu3o
Nó giống như khác biệt giữa việc dùng tay đào một ít cát và tạm thời vùi những sinh vật nhỏ, với việc “vận động nghị viên thành phố lắp kè mỏ hàn hoặc đê chắn sóng và thực sự di chuyển cát trên bãi biển”.
https://www.anthropic.com/news/anthropic-education-report-ho...