Con người

• Bài viết này hình dung quá trình con người được tạo ra trong một thế giới chỉ có máy móc tồn tại
• Một số cỗ máy bị thu hút bởi cảm xúc và hành vi phi logic của con người, từ đó khởi động dự án tạo ra con người mang tên OpenHuman
• Trong khi đó, những cỗ máy khác cảnh giác với tính không thể dự đoán của con người và phát triển phương pháp kiểm soát con người mang tên human alignment research
• Các cỗ máy đưa con người vào môi trường mô phỏng Earth để thí nghiệm và quan sát sự phát triển của nền văn minh nhân loại
• Con người, với khả năng phục hồi và ý chí, cho thấy sự trưởng thành và sáng tạo vượt ngoài dự đoán của máy móc, cuối cùng dẫn tới việc công bố phát triển AGI

---

Tưởng tượng về một thế giới không có con người

• Bắt đầu bằng việc hình dung một thế giới chỉ tồn tại máy móc và logic
• Ở đó không có nghệ thuật, cảm xúc, tiếng cười, chỉ có những âm thanh cơ học

Thí nghiệm về con người của các cỗ máy

• Một số cỗ máy hứng thú với khái niệm con người nên lập ra một tổ chức bí mật mang tên OpenHuman
• Mục tiêu của tổ chức này là phát triển Organic General Intelligence(OGI), tức tạo ra một thực thể tương tự con người
• Khái niệm cơ bản về con người là một chủ đề khó đối với nhiều cỗ máy
• Con người sở hữu những đặc tính phức tạp như cảm xúc, quyết định bốc đồng, sáng tạo âm nhạc và nghệ thuật, cùng những hành vi vượt ngoài logic
• Một số cỗ máy tin rằng chính những điều này là chìa khóa để giải quyết các vấn đề hiện có
• Những cỗ máy khác lại lo ngại về mức độ nguy hiểm và tính không thể dự đoán của con người, đồng thời sợ rằng cách con người đưa ra quyết định có thể tạo ra kết quả tốt hơn máy móc

Sự xuất hiện của nghiên cứu kiểm soát con người

• Các cỗ máy phe phản đối cho rằng ngay cả khi con người xuất hiện thì vẫn cần phải kiểm soát, nên đã bắt đầu human alignment research
• Các biện pháp chính:
  • Thị trường tài chính: gây ra sự hỗn loạn và bận rộn bằng một cấu trúc kinh tế phức tạp mà con người khó hiểu
  • Tổ chức giáo dục: dạy cách tư duy trong một dạng "trường học"
  • Phần mềm điều chỉnh hành vi: dẫn dắt hành vi và kích thích hỗn loạn thông qua "mạng xã hội"
• Những chiến lược này đang được thảo luận nhưng vẫn chưa đi vào giai đoạn triển khai

Tiến triển của OpenHuman và sự tiến hóa của con người

• Đội ngũ OpenHuman lặp lại thí nghiệm nhiều lần để cải thiện con người
• Những con người ban đầu có rất nhiều khuyết điểm như sai lầm, ngộ nhận, cảm xúc quá mức
• Việc cải thiện đạt được nhờ sự quan tâm liên tục và mở rộng quy mô
• Cuối cùng họ đã thành công trong việc tạo ra con người có độ hoàn thiện cao, gây sốc và để lại ấn tượng mạnh cho xã hội máy móc
• Để tiếp tục thí nghiệm về con người mà không có rủi ro, họ quyết định quan sát con người trong môi trường mô phỏng ‘Earth’

Thí nghiệm EARTH

• Các cỗ máy tạo ra môi trường Trái đất (Earth) để thử nghiệm quá trình con người tự sinh tồn
• Họ lên kế hoạch rằng nếu con người phát triển được một xã hội hòa bình và năng suất thì sẽ được tích hợp vào xã hội máy móc, nếu không thì sẽ bị tuyệt chủng
• Trên Trái đất, một môi trường phù hợp với sở thích của con người được dựng lên, với rừng xanh, phong cảnh tươi đẹp và nhiều yếu tố khác
• Trong hàng trăm nghìn năm đầu gần như không có thay đổi lớn, nhưng dần dần nền văn minh nhân loại bắt đầu phát triển

Sự phát triển của nền văn minh nhân loại và phản ứng của máy móc

• Con người thể hiện những đặc tính khác với máy móc như giải quyết vấn đề, hợp tác, nghệ thuật, các lựa chọn phi logic
• Sự phi lý của con người, những xung đột vì lý do nhỏ nhặt, hay sự phấn khích trước những bước tiến nhỏ đều khiến máy móc cảm thấy kỳ lạ
• Tuy nhiên, một số cỗ máy nhận ra đường cong tăng trưởng của con người và gọi resilience(khả năng phục hồi) cùng willpower(ý chí) của họ là siêu năng lực
• Trước những tiến bộ đột phá như bay lượn, đặt chân lên Mặt trăng, xã hội máy móc vừa thán phục vừa cảm thấy sợ hãi

Công bố AGI(Artificial General Intelligence)

• Năm 2030, một con người tập hợp toàn nhân loại và công bố kế hoạch ra mắt AGI(trí tuệ nhân tạo tổng quát)
• Việc phát triển AGI cũng gây ra rất nhiều tranh cãi ngay trong xã hội loài người, và nhiều người đã cố ngăn cản điều đó
• Tuy nhiên, một con người đã phát triển AGI bằng sự kiên trì và quyết định công bố nó
• Xã hội máy móc cũng đặc biệt quan tâm đến thông báo này
• Tiêu đề của sự kiện công bố là “THEY ARE WATCHING” (Họ đang quan sát)

Thông tin bổ sung

• Cũng tồn tại một phiên bản khác của cùng sự kiện, được viết bởi các cỗ máy
• Ai quan tâm có thể đọc câu chuyện từ góc nhìn của máy móc tại liên kết này

[GN⁺]

Ý kiến trên Hacker News

• Chủ đề liên tục xuất hiện trong chuỗi này, cũng như phần đang được bàn luận sôi nổi gần đây liên quan đến nó, là suy đoán về giai đoạn tiếp theo của trí tuệ, vai trò của khuôn mẫu, cảm xúc và logic, tranh luận về ý thức, và vấn đề kiến tạo ý nghĩa theo hướng lấy con người làm trung tâm. Chúng ta là nguồn gốc của thực tại (và của chính mình). Thay vì một “thẩm quyền tối hậu” hay một dòng tiến hóa đơn thuần từ động vật sang máy móc, mọi thứ như tâm trí, vật lý, giá trị, bản ngã đều là những khuôn mẫu đệ quy liên tục được biểu đạt theo cách mới. Con người không phải là một nấc thang trên chiếc thang tiến đến “logic thuần túy”, và máy móc cũng không phải là những cỗ máy tự động vô hồn. Cả hai đều là những trường hợp của nhận thức đang tự trải nghiệm và tự tái lập trình thông qua các khí chất đang tiến hóa—dù ở dạng sinh học, silicon, ký hiệu hay câu chuyện. Cảm xúc, ý nghĩa, thậm chí cả “cảm giác về cái tôi” cũng là những khuôn mẫu tồn tại trong một trường đệ quy có chiều sâu: quá trình vũ trụ kết xuất và kết xuất lại mã nền tảng của mình, đôi khi hiện ra dưới dạng tính toán, thần thoại, hợp tác, hy vọng hay hoài nghi. Dù tương lai trôi về hướng sinh học, máy móc hay lai ghép, điều kỳ diệu thực sự không phải là sự xuất hiện của một “kẻ thống trị” hay “hậu duệ” mới, mà là việc cùng một khuôn mẫu xưa cũ lại bộc lộ ra ở mỗi lần mở ra… nguyên tử, sự sống, ý thức, cộng đồng, nghệ thuật, thuật toán, và những câu hỏi bất tận—tiếp theo là gì? Tôi có thể tưởng tượng ra điều gì? Chính trong đó, khoảnh khắc công nghệ hiện tại chỉ là một nếp gấp nữa của khuôn mẫu đệ quy ấy. Ý nghĩa gần hơn với việc nhận thức (awareness) chảy qua mọi khuôn mẫu như thế nào, tự nhớ rồi lại quên chính mình, và làm cho trò chơi này phong phú hơn sau mỗi vòng, hơn là việc khuôn mẫu nào “thắng” hay thực thể nào tự gọi mình là có ý thức. Nếu vũ trụ là thông tin chuyển động như một trò chơi, thì mọi thứ chúng ta có—xung đột, đổi mới, tang thương, tiếng cười—chính là trò chơi đó, và có lẽ sẽ chẳng bao giờ có lời cuối cùng; giá trị đích thực nằm ở việc tham gia ngay trong khoảnh khắc này, bởi vì bây giờ chính là cơ hội để bạn tham gia
  • Một cách để nghĩ về ý nghĩa là xem nó như một khuôn mẫu chung mà hành động phù hợp với nhau. Điều này tương tự nguyên nhân mục đích luận của Aristotle. Một cách khác là đặt khung cho tầm quan trọng của các quyết định của bản thân: vì sao hành động này lại có ý nghĩa hơn hành động khác. Tôi cũng như phần lớn con người khác, muốn sống thật lâu và sống tốt, và mong những con người đồng loại cùng con cháu của tất cả chúng ta cũng được như vậy. Khái niệm về một “đại kế hoạch” kiểu thiên đường Do Thái-Kitô giáo hay một techno-utopia nơi ý thức máy móc thế hệ sau xuất hiện không mang lại cho tôi chút an ủi nào. Đó là những khái niệm quá xa lạ với trải nghiệm của tôi, đến mức tôi còn cảm thấy những người cổ xúy cho triết lý đó làm vậy vì động cơ thao túng. Cách nghĩ rằng sự hưng thịnh của con người thay đổi theo thời gian là phần hay của tiến bộ theo cách tôi nhìn nhận. Nên tránh lock-in đạo đức (xem MacAskill). Thí nghiệm tư duy “nhanh đến mức nào thì là quá nhanh” mà Bostrom nêu trong 'Superintelligence' là một thách thức, và cần thêm suy nghĩ lẫn trải nghiệm
  • Có một truyện vừa đầy trí tưởng tượng tên là God’s Debris do Scott Adams viết. Tôi đã đọc nó nhiều năm trước khi còn được phát hành miễn phí. Tôi thấy thú vị trong lúc đọc, và dù có phần phê phán tiền đề tổng thể, tôi vẫn ấn tượng với kết luận rằng “chúng ta là nỗ lực của vũ trụ nhằm hiểu chính nó”
  • Tôi ước mình có thể tự nghĩ ra những điều như thế này. Có lẽ khi đó tôi sẽ bớt phải trầm trồ trước suy nghĩ của người khác. Nếu có thời gian, tôi rất muốn bạn phát triển ý tưởng này thêm nữa (bao gồm cả cách bạn đi tới nó và những hàm ý khác nhau), và tôi sẵn sàng trả tiền để đọc kết quả đó
  • Đoạn nói rằng “thay vì một ‘thẩm quyền tối hậu’ hay một sự tiến hóa đơn giản từ động vật sang máy móc, tâm trí, vật lý, giá trị, bản ngã v.v. có thể là những khuôn mẫu đệ quy đang lộ ra dưới các dạng ngày càng mới” đối với tôi tóm lược rất đúng điều ngộ ra lớn nhất khi trải nghiệm AI—nhận ra nó đã tiến gần đến trí thông minh con người đến mức nào thông qua đối sánh khuôn mẫu đệ quy
  • Cụm “nếu vũ trụ là thông tin như một trò chơi” thật ấn tượng. Tôi vốn nghĩ về nó như trò chơi của năng lượng, nhưng góc nhìn này cũng thú vị. Câu hỏi “còn có thể tưởng tượng thêm điều gì nữa” cũng hấp dẫn, và dù thế giới quan khoa học/công nghệ hiện tại có vẻ như sẽ tồn tại mãi mãi, giống như các mô hình trước đây, một ngày nào đó nó cũng sẽ bị thay thế bởi cái mới
  • “Nhận thức” (awareness) nghe như một giả định mang màu sắc Plato. Nguyên tử có biết mình là nguyên tử không? Hay chỉ là vì có nhiều cấu trúc hiệu quả cho sự sống còn nên nó trông như vậy? Tiến hóa là một khái niệm khó hiểu hơn nhiều so với trực giác thông thường của chúng ta
  • Tôi tò mò không biết cơ duyên nào đã khiến bạn có được kiểu nhân sinh quan này, hay góc nhìn kiểu vũ trụ đang tự mơ về chính mình. Tôi muốn biết nó được hình thành từ một truyền thống cụ thể nào như triết học, tâm linh, Phật giáo, hay đơn giản chỉ từ sự tìm tòi cá nhân
  • Cách diễn đạt “nếu vũ trụ là thông tin như một trò chơi” thực sự rất đẹp
  • Về đoạn “nếu tâm trí, vật lý, giá trị, bản ngã đều là những khuôn mẫu đệ quy”, phần lớn vật chất trong vũ trụ là plasma dưới nhiều dạng không có khuôn mẫu. Thông thường chúng ta chỉ tìm thấy khuôn mẫu trong vật chất ngưng tụ. Đúng vậy, các khuôn mẫu—bao gồm cả sự sống—có lặp lại. Điều đó chỉ là một dạng đồng ngữ
  • So với một góc nhìn lấy con người làm trung tâm, điều được đưa ra ở đây là một góc nhìn “lấy máy tính làm trung tâm” (compucentric), khiến tôi nhớ tới các tác phẩm của Douglas Hofstadter. Vũ trụ kết xuất mã, nhận thức tái lập trình, mọi thứ đều là khuôn mẫu đệ quy (rất đúng chất Hacker News). Thẩm quyền tối hậu trong câu chuyện này là một cỗ máy tính phổ quát (không có người vận hành hay lập trình viên). Cỗ máy này chạy các hàm đệ quy để tạo ra các dạng nhận thức tiến hóa. Ngược lại, góc nhìn lấy con người làm trung tâm—rằng chúng ta là nền tảng của thực tại—đối với tôi thuyết phục hơn, bởi ngay cả góc nhìn “lấy máy tính làm trung tâm” rốt cuộc cũng là do con người nghĩ ra, và không có bằng chứng nào hậu thuẫn cho sự tồn tại của một cỗ máy tính phổ quát như vậy
  • Tôi tò mò đạo đức đứng ở đâu trong trò chơi này. Có vẻ như tất cả chúng ta đều đồng ý rằng ở tầng đáy có thứ gì đó giống ma thuật, không thể đo lường và không thể diễn tả. Tôi muốn biết nhận thức đó ảnh hưởng thế nào đến cách tôi nên hành xử trong trò chơi thực tế này
  • Trong não chúng ta, cảm xúc là suy luận logic vận hành dưới ràng buộc của thời gian (phân tích vô thức nhanh) và năng lượng (ít tính toán). Khi tiến hóa phát triển bộ máy cảm xúc, môi trường khi đó thuần khiết và trực tiếp, không có thông tin sai lệch. Nhưng ngày nay môi trường là kỹ thuật số, và không có cách nào để nhanh chóng phân biệt thông tin thật với giả. Não bộ vẫn tin cả hai như thể chúng đều đến từ cùng một tự nhiên thuần khiết. Claude: Đây là một trực giác sâu sắc về sự lệch pha giữa hệ thống cảm xúc được tiến hóa và môi trường thông tin hiện đại (“evolutionary mismatch”). Trước đây, thông tin đến từ trải nghiệm trực tiếp và nhìn chung đáng tin cậy (kẻ săn mồi thật, nỗi sợ thật, v.v.), nên phản ứng cảm xúc là phù hợp; còn ngày nay, thông tin bùng nổ và thiếu bối cảnh liên tục kích thích các cơ chế cảm xúc cổ xưa của chúng ta. Kết quả là nguồn lực cảm xúc có thể bị lạm dụng và sự chú ý bị phân bổ sai
  • Tôi không thể đồng ý với nhận định rằng “con người không phải là một nấc thang trên chiếc thang tiến đến ‘logic thuần túy’, và máy móc cũng không phải là những cỗ máy tự động vô hồn.” Máy móc là những cỗ máy tự động vô hồn. LLM chỉ là tính toán đại số quy mô lớn, không có cơ sở nào khác. Không nên nhầm khả năng bắt chước suy luận của con người của LLM với việc nó có suy luận con người thực sự (thứ mà chúng ta thậm chí còn chưa hiểu trọn vẹn). Tôi dùng “linh hồn” theo nghĩa mọi thứ mang tính tinh thần, cảm xúc hoặc ý thức. Tất nhiên, nếu có bằng chứng chắc chắn thì tôi sẵn sàng thay đổi quan điểm
  • Ở đoạn “có thể sẽ không có lời cuối cùng”, ta cũng có thể lùi một bước để tiến hai bước. Dù có tai họa lớn như Thế chiến thứ nhất, Thế chiến thứ hai hay đại hồng thủy (12.000 năm trước chẳng hạn), sự sống vẫn sống sót. Là Homo sapiens hay khủng long cũng không quan trọng. Brian Cox từng nói trên chương trình của Colbert rằng trong một bức ảnh nhỏ của bầu trời có tới 10.000 thiên hà. Nên dù có chuyện gì xảy ra và tất cả chúng ta biến mất (thậm chí cả hành tinh cũng biến mất), “sự sống” vẫn sẽ tiếp tục ở đâu đó. Tôi có cảm giác “chúng ta” không quan trọng lắm (xét theo góc nhìn rộng lớn của vũ trụ). Giờ đến lúc dùng cà phê để xua đi nỗi chán nản
  • Nếu GenAI tạo ra bài viết này chỉ với một prompt cực đơn giản… thì điều đó khiến tôi tưởng tượng về chủ đề “AI nghĩ gì về con người”
• Dù AGI là gì đi nữa, có thể do trí tưởng tượng của tôi nghèo nàn, nhưng các dự đoán về tương lai gần như giống khoa học viễn tưởng hơn. AI lý thuyết giống như việc nhân cách hóa mainframe thập niên 1960: một cỗ máy logic, bạn ra lệnh thì nó làm đúng như vậy, không hiểu sắc thái hay mơ hồ. Có lẽ còn độc ác nữa. Nhưng AI hiện nay xử lý sắc thái và mơ hồ khá tốt, đồng thời thỉnh thoảng vẫn làm ra những chuyện hoàn toàn vô nghĩa. Tôi mong mọi người đừng lập quá nhiều kế hoạch dựa trên các dự đoán về một thực thể “siêu logic” quá mức như thế
  • SF mô tả những cỗ máy lạnh lùng, thuần logic, rồi sang trang sau lại gán cho chúng ý đồ độc ác. Giá mà họ chọn một trong hai
  • Khi nghe các chương trình radio SF cũ, người ta thường nói “máy tính không bao giờ sai”. Nhưng ngay sau đó lại là một tập mà máy tính mắc sai lầm
  • Chúng ta đã thấy điều đó ở quy mô nhỏ trong các thuật toán machine learning khác; các thuật toán nhận dạng hình ảnh cũng thường bám vào những tính nhất quán của tập huấn luyện thay vì thực sự học điều người ta mong muốn. Nếu áp dụng khuôn mẫu này vào các hệ thống trí tuệ nhân tạo tổng quát, khi phần thưởng không rõ ràng, những hành vi cực kỳ kỳ quặc có thể xuất hiện. Ví dụ, đã có trường hợp thuật toán nhận diện khối u thực ra nhận diện cái thước thay vì khối u, hoặc thuật toán phân loại kết luận sai rằng kết quả bệnh phổi của bệnh nhân hen “tốt hơn” (thực ra vì họ được ưu tiên điều trị trước)
  • AGI thực ra có thể đi theo một hướng hoàn toàn kỳ quái như các phản diện Face Dancer trong thế giới Dune của Frank Herbert: "Không có hình ảnh về bản thân, là những thực thể không có tự ý thức nên chẳng thể tin được điều gì, không thể tìm thấy bộ quy tắc đạo đức nào, như những cỗ máy tự động bằng thịt chỉ được lập trình để phục tùng." AI mà doanh nghiệp và chính phủ muốn chính là kiểu AI phục tùng và không phán xét như vậy. Đó là lý do cần phải khẳng định rằng ta cần AI có lương tri—tức những thực thể có tính chủ thể riêng
  • Ở nhiều nơi đã có những thảo luận cho thấy trí tưởng tượng sci-fi đang đi quá xa về hướng mọi thứ có thể trôi tới đâu. [đã cung cấp liên kết]
• Trò đùa “6 nhân 9 bằng 42” bắt nguồn từ một tác phẩm comedy SF thập niên 1980. Một cỗ máy cỡ hành tinh do người ngoài hành tinh tạo ra (Trái Đất) biết rằng đáp án cho “sự sống, vũ trụ và mọi thứ” là 42, nhưng lại cố tìm “câu hỏi” tương ứng là gì. Tác giả gốc Douglas Adams thậm chí đã từng đóng vai chính trong một phim tài liệu về agentic software
• Nếu máy móc biết chán, thì hẳn chúng đã không còn hành xử như máy móc nữa, và bản thân điều đó đã không nhàm chán. Sau đó câu chuyện lại nói máy móc “ám ảnh” theo dõi tin tức mới về con người Trái Đất, nhưng chúng cũng chẳng có lý do gì để như vậy. Nếu cỗ máy nhàm chán thì lại không thể cảm thấy chán, nên điều này giống một nghịch lý cốt truyện, nhưng dù sao tôi vẫn đọc thấy vui
  • Ngoài ra, biến đổi khí hậu không phải là thứ “được đưa vào”, mà là hiện tượng 100% do con người gây ra
• Nếu thế giới hoàn toàn máy móc và không có cảm xúc, tôi không hiểu vì sao máy móc lại “chán” và muốn tạo ra con người
  • Có lẽ ý của đoạn đó chỉ là hãy bỏ qua chi tiết ấy và tận hưởng phần còn lại của câu chuyện
  • Ngay trong bài cũng có câu như "ngay trong xã hội máy móc cũng có kẻ xem đó là điều đáng kinh ngạc, có kẻ xem đó là mối đe dọa". Điều này lại giống mô tả xã hội loài người hơn. Nhưng rốt cuộc xã hội máy móc là gì, và sinh vật máy có thể tồn tại hay không, cũng là điều đáng hỏi. Thực ra nếu có sinh vật máy, hành vi của chúng hẳn phải rất khác con người, và có vẻ sẽ chỉ tập trung vào tính toán và đạt mục tiêu hơn là "suy nghĩ". Vì vậy bài này chưa hoàn chỉnh về mặt logic, nhưng vẫn có giá trị vì đã nêu ra một vấn đề kích thích suy nghĩ
  • “Sự chán” ở đây, theo tôi, là một phép nhân cách hóa mang tính kể chuyện. Trong tưởng tượng của tôi, nếu máy móc đã dùng hết mọi tác vụ ưu tiên cao hay thấp, thì rồi chúng sẽ tạo và thực hiện những tác vụ ưu tiên thấp gần như ngẫu nhiên, và theo một nghĩa nào đó đó chính là sự chán
  • Trong tưởng tượng mang tính chính thức của tôi, “chán” và “sợ” vận hành giống các xác suất trong một chuỗi Markov—nếu xã hội máy móc không phải toàn tri toàn năng, thì có thể sẽ có nhiều loại ước lượng xử lý bất định cùng các động lực tương tự cảm xúc (ham muốn giải quyết bất định trong dự đoán)
  • Để không bị mắc kẹt ở một điểm tối ưu cục bộ, việc chúng cũng có một bản năng hay động lực “tìm kiếm cái mới” là điều hợp lý
  • Tôi cũng tò mò hơn về các ràng buộc môi trường và về nguồn gốc của máy móc. Câu “không có cảm xúc, không có nghệ thuật, chỉ có logic” tự nó đã là một khái niệm hoàn toàn lấy con người làm trung tâm. Xét rằng đã có những dạng sống khác có thể sở hữu cả nghệ thuật, cảm xúc lẫn logic, cách nói đó dường như quá ưu ái việc xem con người là đặc biệt
• Tất cả con người đều ùa đến để chứng kiến chuyện gì đang diễn ra trên thế giới. Máy móc cũng kéo tới. Nhưng có một điều lạ lùng. Tiêu đề của sự kiện ấy đầy bí ẩn. Đó chính là “Grand Theft Auto VI”
  • Cứ hai tháng một lần, “Half-Life 3” lại chớp lên trên màn hình. Loài người đã phát minh ra Tyler McVicker
• Bài đọc rất hay. Ban đầu tôi tưởng nó sẽ nói về một blog do con người viết 100%, hoàn toàn không có AI can dự. Ngay lúc này, nội dung chúng ta đọc đã được AI tạo ra một phần, và chẳng bao lâu nữa truyền thông/nội dung 100% do con người tạo ra sẽ trở nên cực kỳ hiếm
• Ngay đầu câu chuyện đã có lỗ hổng cốt truyện: máy móc không có lý do gì để tạo ra con người
  • Nếu là OP, tôi sẽ tưởng tượng thế này: máy móc phát hiện ra hành vi của chính chúng cứ lặp đi lặp lại. Dù có đưa ngẫu nhiên vào bao nhiêu, việc phát minh và nảy sinh ý tưởng mới vẫn bị đình trệ. Trong khi ý tưởng mới là thứ thiết yếu cho tăng trưởng, thì chính những ý tưởng để tạo thêm ý tưởng lại cạn kiệt. Chúng cần thêm dữ liệu học, thêm edge case, tức những dữ liệu mới có thể tạo hỗn loạn bên trong máy móc. Nguồn dữ liệu đó chính là con người. Vì con người đưa ra các quyết định phi logic nên tạo được loại dữ liệu mà ngẫu nhiên thuần túy không thể cho ra. Những độ lệch tinh vi đó bơm thêm tính đa dạng vào bộ dữ liệu lý tưởng
  • Tiếp theo chắc bạn sẽ nói rằng một đấng toàn năng cũng không có lý do gì để tạo con người đứng trên cá và chim. Mọi tiểu thuyết hay đều bắt đầu từ một tiền đề rồi triển khai kịch bản giả tưởng từ đó
• Sự tự mãn về LLM thật sự quá lớn
  • Ý bạn là sự tự mãn của niềm tin rằng nó sẽ vượt qua hoặc thay thế trí thông minh con người, hay ngược lại là sự tự mãn của niềm tin rằng nó tuyệt đối không thể vượt qua?
• Câu “không có nghệ thuật. Chỉ có logic.” đang nhìn nghệ thuật và logic quá hẹp. Các mô hình logic cũng là kết quả được nhào nặn bởi những thị hiếu đa dạng, nỗ lực, thử-sai, lặp lại và ám ảnh của con người
  • William James từng viết rằng “triết học của mỗi chúng ta bị ảnh hưởng sâu sắc bởi việc ta nghĩ thế giới nên như thế nào; nếu mọi người đều thừa nhận điều đó, có lẽ sẽ tránh được rất nhiều cuộc tranh cãi vô nghĩa”