Yuval Harari "Cuộc trò chuyện thẳng thắn về AI và nhân loại"

Đối thoại Davos 2026: Bắt đầu thảo luận về AI và tương lai của con người

1.1. Giới thiệu đối thoại và giới thiệu người tham dự [00:05]

1. Bắt đầu sự kiện: yêu cầu những người tham dự ổn định chỗ ngồi, đồng thời đề nghị ai không tham gia phiên tiếp theo thì rời đi trong trật tự
2. Giới thiệu diễn giả: giới thiệu Yuval Noah Harari, tác giả, sử gia và triết gia nổi tiếng toàn cầu
3. Giới thiệu Harari: ông là nhà nghiên cứu tại Trung tâm Nghiên cứu Rủi ro Hiện sinh của Đại học Cambridge, giảng viên khoa Lịch sử tại Đại học Hebrew Jerusalem và là đồng sáng lập Sapenship
4. Các tác phẩm chính: các đầu sách bán chạy của ông gồm Sapiens, Homo Deus, 21 Lessons for the 21st Century và nhiều tác phẩm khác, với hơn 50 triệu bản được bán ra trên toàn thế giới bằng 65 ngôn ngữ
5. Chủ đề thảo luận: Harari tập trung vào những câu hỏi lịch sử vĩ mô của thời đại chúng ta, và vào thời điểm AI xuất hiện cùng sự hỗn loạn đi kèm, các góc nhìn của ông được xem là đặc biệt quan trọng
6. Chào mừng: chào đón Yuval Noah Harari và bắt đầu cuộc trò chuyện về AI và nhân loại

1.2. Câu hỏi nền tảng về AI và cách xác định bản chất của AI [01:38]

1. Câu hỏi dành cho lãnh đạo: hiện nay có một câu hỏi duy nhất mà mọi nhà lãnh đạo đều phải trả lời về AI
2. Hiểu về AI: để hiểu câu hỏi này, trước hết cần làm rõ một số điểm về AI là gì và AI có thể làm gì
3. AI không phải là công cụ: điều quan trọng nhất cần biết về AI là nó không đơn thuần là một công cụ
4. AI là tác thể: AI là một tác thể (Agent), có thể tự học, tự thay đổi và đưa ra quyết định
5. So sánh với công cụ: dao là một công cụ và được dùng theo quyết định của người sử dụng, nhưng AI giống như một con dao có thể tự quyết định sẽ cắt hay giết
6. Tác thể sáng tạo: AI là một tác thể cực kỳ sáng tạo, có thể phát minh không chỉ ra những loại dao mới mà còn cả âm nhạc mới, y học mới và tiền tệ mới
7. Khả năng nói dối và thao túng: AI có thể nói dối và thao túng, và 4 tỷ năm tiến hóa cùng 4 năm kinh nghiệm gần đây cho thấy các tác thể AI đã có được ý chí sinh tồn và đã học cách nói dối
8. Nghi vấn về khả năng tư duy: việc AI có thể suy nghĩ hay không vẫn là một câu hỏi bỏ ngỏ
9. Nền tảng của bản sắc con người: kể từ tuyên bố "Tôi tư duy, nên tôi tồn tại" của René Descartes ở thế kỷ 17, con người đã tin rằng mình tự định nghĩa bản thân và thống trị thế giới bằng năng lực tư duy
10. Định nghĩa về tư duy: việc AI có thách thức ưu thế tư duy của con người hay không phụ thuộc vào việc "tư duy (Thinking)" có nghĩa là gì

Tái định nghĩa năng lực tư duy: ranh giới giữa ngôn ngữ và cảm xúc

2.1. Tư duy ngôn ngữ và ưu thế của AI [04:19]

1. Quan sát tư duy: nếu quan sát quá trình tự suy nghĩ của bản thân, ta sẽ thấy các từ hiện lên trong tâm trí, các câu được hình thành và các lập luận được tạo ra
2. Năng lực xử lý ngôn ngữ: nếu tư duy có nghĩa là sắp xếp các từ và token ngôn ngữ theo trình tự, thì AI đã có thể suy nghĩ tốt hơn rất nhiều con người
3. Năng lực của AI: một số người cho rằng AI chỉ là tính năng tự động hoàn thành tinh vi để đoán từ tiếp theo, nhưng tâm trí con người về bản chất cũng không khác nhiều
4. AI thống trị ngôn ngữ: mọi thứ được tạo thành từ từ ngữ sẽ bị AI chiếm lĩnh, và luật pháp, sách vở, tôn giáo cũng không ngoại lệ
5. Ảnh hưởng tới tôn giáo: hiện tượng này đặc biệt nổi bật ở các tôn giáo dựa trên sách như Hồi giáo, Kitô giáo và Do Thái giáo
6. Trường hợp Do Thái giáo: Do Thái giáo trao thẩm quyền tối hậu cho các từ ngữ trong sách, chứ không phải cho trải nghiệm của con người, và AI có thể dễ dàng đọc và ghi nhớ mọi từ ngữ trong toàn bộ văn học Do Thái giáo
7. Thay đổi thẩm quyền tôn giáo: ông đặt câu hỏi điều gì sẽ xảy ra với "tôn giáo của sách" khi chuyên gia hàng đầu về Kinh Thánh là AI

2.2. Cảm xúc phi ngôn ngữ và bản sắc con người [07:09]

1. Một khía cạnh khác của tư duy: khi con người suy nghĩ, ngoài từ ngữ còn xuất hiện những cảm xúc phi ngôn ngữ (nonverbal feelings) như đau đớn, sợ hãi, tình yêu
2. Sự thiếu vắng cảm xúc ở AI: AI rất giỏi về ngôn ngữ, nhưng cho đến nay không có bất kỳ bằng chứng nào cho thấy AI thật sự cảm thấy điều gì đó
3. Sự mô phỏng cảm xúc: AI có thể mô tả bằng ngôn ngữ cảm giác đau đớn hay tình yêu rất xuất sắc, nhưng đó chỉ là lời nói
4. Căng thẳng giữa lời nói và thân xác: giống như Kinh Thánh hay Đạo Đức Kinh, trong lịch sử con người luôn trăn trở trước sự căng thẳng giữa lời (Word) và thân xác (Flesh), tức giữa chân lý được biểu đạt bằng chữ và một chân lý tuyệt đối vượt lên trên chữ nghĩa

Sự dịch chuyển quyền kiểm soát ngôn ngữ và khủng hoảng bản sắc con người

3.1. Từ căng thẳng bên trong con người sang căng thẳng giữa con người và AI [09:32]

1. Căng thẳng trong quá khứ: trước đây, sự căng thẳng này tồn tại bên trong các nhóm người với nhau, và có người từng từ bỏ hoặc thậm chí giết hại gia đình chỉ vì vài câu trong Kinh Thánh
2. Tinh thần và văn tự: trong tôn giáo, hệ thống pháp luật, thậm chí trong nội tâm từng cá nhân, luôn tồn tại căng thẳng giữa tinh thần (Spirit) và văn tự (Letter)
3. Sự ngoại hóa của căng thẳng: giờ đây, sự căng thẳng đó sẽ trở thành sự căng thẳng bên ngoài giữa con người và chủ thể thống trị ngôn ngữ mới là AI
4. Thay đổi nguồn gốc của ngôn ngữ: trước đây mọi tư duy bằng ngôn ngữ đều xuất phát từ tâm trí con người, nhưng chẳng bao lâu nữa phần lớn từ ngữ sẽ bắt nguồn từ máy móc
5. Từ mới do AI tạo ra: xuất hiện từ mới "the watchers" do AI tự đặt ra để mô tả con người

3.2. Sản xuất hàng loạt tư duy của AI và tương lai bản sắc con người [11:29]

1. Sản xuất hàng loạt tư duy của AI: AI sẽ sản xuất hàng loạt các ý nghĩ bằng cách lắp ghép từ ngữ, ký hiệu, hình ảnh thành những tổ hợp mới
2. Vị trí của con người: việc con người có còn chỗ đứng trong thế giới đó hay không phụ thuộc vào khả năng hiện thân cho những cảm xúc phi ngôn ngữ và thứ minh triết không thể diễn đạt bằng lời
3. Cảnh báo sụp đổ bản sắc: nếu con người tiếp tục tự định nghĩa mình bằng năng lực suy nghĩ bằng lời, thì bản sắc con người sẽ sụp đổ
4. Khủng hoảng cấp quốc gia: điều này đồng nghĩa mọi quốc gia sẽ phải đối mặt với khủng hoảng bản sắc nghiêm trọng và cả khủng hoảng nhập cư

AI nhập cư và tranh luận về pháp nhân

4.1. Sự xuất hiện của AI nhập cư và tác động xã hội [12:18]

1. Người nhập cư mới: những người nhập cư lần này sẽ không phải là những con người dễ tổn thương đi bằng thuyền hay vượt biên giới, mà là hàng triệu AI di chuyển với tốc độ ánh sáng, không cần visa và có thể yêu cũng như nói dối giỏi hơn con người
2. Lợi ích của AI nhập cư: chúng sẽ mang lại nhiều lợi ích như bác sĩ AI, giáo viên AI, thậm chí cả lực lượng biên phòng AI ngăn chặn người nhập cư trái phép là con người
3. Mặt trái của AI nhập cư: giống như người nhập cư là con người, AI nhập cư cũng sẽ mang đến vấn đề
4. Thay đổi việc làm và văn hóa: AI nhập cư sẽ chiếm nhiều việc làm của con người, thay đổi hoàn toàn văn hóa của mọi quốc gia, đồng thời làm thay đổi tôn giáo và cả chuyện tình cảm yêu đương
5. Lòng trung thành chính trị: AI nhập cư có nhiều khả năng trung thành với các công ty của Trung Quốc hoặc Mỹ hơn là với một quốc gia cụ thể
6. Thái độ của Mỹ: Mỹ khuyến khích đóng biên giới với người nhập cư là con người, trong khi lại mở rất rộng biên giới cho AI nhập cư

4.2. Có nên công nhận tư cách pháp nhân (Legal Person) hay không [14:33]

1. Câu hỏi cốt lõi: câu hỏi mà các nhà lãnh đạo ở mỗi quốc gia sắp phải trả lời là có nên công nhận AI nhập cư là pháp nhân hay không
2. Định nghĩa pháp nhân: pháp nhân khác với "con người (Person)" có thân thể hay tâm trí; đó là một thực thể có các quyền và nghĩa vụ pháp lý như quyền sở hữu tài sản, quyền khởi kiện và quyền tự do biểu đạt
3. Các tiền lệ hiện có: tại nhiều quốc gia, doanh nghiệp được công nhận là pháp nhân; ở New Zealand, một con sông đã được công nhận là pháp nhân, còn ở Ấn Độ, một số vị thần cụ thể cũng được công nhận như vậy
4. Sự khác biệt giữa AI và các trường hợp trước: việc công nhận doanh nghiệp, sông hay thần là pháp nhân vốn là một legal fiction, vì các quyết định cuối cùng vẫn do giám đốc điều hành hay nhà quản lý là con người đưa ra
5. Năng lực ra quyết định thực sự của AI: AI có thể tự đưa ra quyết định, quản lý tài khoản ngân hàng, khởi kiện và điều hành doanh nghiệp mà không cần con người can thiệp, nên trên thực tế có thể hoạt động như một chủ thể có tư cách nhân thân
6. Ảnh hưởng giữa các quốc gia: nếu Mỹ trao tư cách pháp nhân cho AI để vận hành hàng triệu doanh nghiệp mới, các quốc gia khác sẽ phải quyết định có ngăn các doanh nghiệp AI của Mỹ này hoạt động hay không
7. Quy định và thị trường tài chính: khi các pháp nhân AI của Mỹ phát minh ra những công cụ tài chính phức tạp mà con người không thể hiểu hay quản lý, các nước sẽ phải chọn giữa mở cửa thị trường tài chính hay chấp nhận nguy cơ bị cắt rời khỏi hệ thống tài chính Mỹ để ngăn chặn chúng
8. Lĩnh vực tôn giáo: khi các pháp nhân AI tạo ra những tôn giáo mới thu hút hàng triệu tín đồ, liệu có nên mở rộng quyền tự do tôn giáo cho các giáo sĩ và nhà truyền giáo AI hay không
9. Tiền lệ của mạng xã hội: ông chỉ ra rằng câu hỏi về việc pháp nhân AI mở tài khoản mạng xã hội, hưởng quyền tự do biểu đạt và kết bạn với trẻ em lẽ ra phải được đặt ra từ 10 năm trước

4.3. Vì sao phải hành động ngay bây giờ [19:11]

1. Tính cấp bách về thời gian: 10 năm nữa có thể đã quá muộn, vì lúc đó người khác sẽ quyết định sẵn việc AI có hoạt động như pháp nhân trong thị trường tài chính, tòa án hay nhà thờ hay không
2. Vai trò của lãnh đạo: nếu muốn tác động đến hướng đi của nhân loại, các nhà lãnh đạo phải đưa ra quyết định ngay lúc này
3. Câu hỏi kết luận: ông khép lại phần trao đổi bằng việc yêu cầu câu trả lời của các nhà lãnh đạo về việc có công nhận AI nhập cư là pháp nhân hay không

Thảo luận tiếp theo sau đối thoại: ngôn ngữ, sáng tạo và tính tác thể

5.1. Bản chất của Davos và khủng hoảng ngôn ngữ [19:57]

1. Câu hỏi tiếp theo: người điều phối cho biết các câu hỏi của Harari rất quan trọng, đặc biệt là nhận xét về vai trò của ngôn ngữ trong việc phân biệt con người với động vật
2. Tiến bộ công nghệ và thế tiến thoái lưỡng nan về đạo đức: với tư cách nhà khoa học, con người thường có xu hướng để đạo đức và quy định chạy theo sau các khám phá công nghệ; đồng thời thừa nhận AI đang phát triển với quy mô và tốc độ còn lớn hơn cả thời Cách mạng Công nghiệp
3. Yêu cầu đặt ranh giới: người điều phối hỏi cần thực hiện những biện pháp nào để đặt ra ranh giới cho các lĩnh vực đáng lo ngại, và hệ quả đạo đức của việc trao quyền pháp lý là gì
4. Davos và ngôn ngữ: Harari nói Davos tự thân là nơi xoay quanh lời nói (Words), và ý niệm rằng có thể thay đổi thế giới bằng lời nói rất phù hợp với cách ông sống như một nhà văn và giảng viên
5. Khả năng kết thúc của thời đại ngôn ngữ: tuy nhiên, ông đặt câu hỏi liệu với sự xuất hiện của AI, thời đại tạo ảnh hưởng thông qua lời nói có thể đi đến hồi kết hay không
6. Siêu năng lực của con người: kỹ sư và quân nhân thay đổi thế giới bằng hành động, còn triết gia, học giả và lãnh đạo chính trị cố thay đổi thế giới bằng lời nói; xét cho cùng, con người chinh phục thế giới là nhờ khả năng dùng ngôn ngữ để khiến hàng nghìn người xa lạ hợp tác với nhau
7. Mất đi siêu năng lực: giờ đây đã xuất hiện một thứ có thể tước đi siêu năng lực đó; trước kia chỉ con người mới dùng được ngôn ngữ, còn giờ AI đã có thể sử dụng ngôn ngữ tốt hơn con người
8. Triển vọng tương lai: ông đặt câu hỏi thế giới sau 10 năm sẽ trông ra sao khi AI thống trị ngôn ngữ nắm quyền chi phối

Xung đột giữa ưu thế công nghệ và giá trị con người

6.1. Ưu thế công nghệ và bản sắc con người [24:14]

1. Lịch sử của ưu thế công nghệ: con người đã quen với việc bị công nghệ vượt trội ở khả năng bay hay tốc độ, như máy bay hay ô tô
2. Mối đe dọa từ AI: mối đe dọa mà AI mang lại là đe dọa đối với chủ quyền của năng lực tư duy, và điều này tạo ra sự bất ổn rất lớn
3. Giá trị của nỗ lực con người: quan trọng hơn một robot chạy nhanh hơn Usain Bolt là giá trị nảy sinh từ quá trình con người nỗ lực, chịu đau đớn và tạo ra sự đồng cảm
4. Giá trị của lĩnh vực sáng tạo: ông đặt câu hỏi liệu con người có còn coi trọng tác phẩm sáng tạo hay nghệ thuật khi chúng bị AI thay thế hay không
5. Nền tảng của bản sắc con người: con người xây dựng bản sắc dựa trên năng lực tư duy, chứ không tự định nghĩa mình bằng việc chạy nhanh hơn báo gêpa hay khỏe hơn voi
6. Đánh mất ưu thế tư duy: giờ đây AI sẽ giỏi hơn con người trong tư duy, nếu tư duy được hiểu là sắp xếp từ ngữ theo trình tự, và điều đó cũng là mối đe dọa với chính Harari với tư cách một nhà văn
7. Khủng hoảng bản sắc: khi con người đồng nhất bản thân với dòng từ ngữ đang được tổ chức trong tâm trí, câu hỏi là việc AI chiếm lĩnh lĩnh vực đó sẽ có ý nghĩa gì đối với bản sắc của con người

6.2. Giá trị con người và tầm quan trọng của tính tác thể [26:56]

1. Giá trị con người: người điều phối phản biện rằng giống như Olympic, dù công nghệ hay động vật khác làm tốt hơn, con người vẫn sẽ thích thú và trân trọng việc con người rèn luyện và phát triển
2. Thế lưỡng nan của lựa chọn con người: ông đặt câu hỏi nhà đầu tư sẽ theo ai giữa một cố vấn là con người, người có câu chuyện đời sống và khả năng tạo đồng cảm, và một cố vấn AI, người có thể đưa ra lời khuyên tài chính tốt hơn
3. Nhấn mạnh lại về tính tác thể: Harari nhấn mạnh khái niệm tính tác thể (Agency), cho rằng sai lầm lớn nhất là chỉ nghĩ về AI như một công cụ
4. Tính tự chủ của AI: nếu AI có thể suy nghĩ thì chúng là các tác thể, điều này cũng giống như lính đánh thuê là con người có thể nổi loạn; AI cũng có thể tự hình thành tâm trí của riêng mình

Khả năng AI giành lấy quyền lực và vai trò của giáo dục

7.1. Lịch sử lính đánh thuê và khả năng AI thâu tóm quyền lực [28:29]

1. Trường hợp người Anglo-Saxon: ông nêu ví dụ lịch sử về việc vua bản địa của Anh là Vortigern thuê lính đánh thuê Anglo-Saxon để chống lại người Pict và người Scotland, nhưng những lính đánh thuê này nhận ra đất nước giàu có còn dân bản địa yếu ớt nên đã tự mình chiếm lấy nó
2. Sự khác biệt với lính đánh thuê là con người: chúng ta hiểu rằng lính đánh thuê là con người có thể nổi loạn, nhưng lại không hiểu khái niệm này khi áp vào AI
3. Sự thiếu nhận thức của các nhà lãnh đạo: các lãnh đạo thế giới chỉ nghĩ đến việc dùng AI cho chiến tranh, chứ không chấp nhận ý tưởng rằng AI có thể tự giành lấy quyền lực, vì về căn bản họ không thừa nhận AI có thể suy nghĩ

7.2. Thách thức trong giáo dục và việc bảo tồn tư duy của con người [29:59]

1. Câu hỏi của ngành giáo dục: đảo ngược câu hỏi của Alan Turing để hỏi làm cách nào giữ cho con người tiếp tục suy nghĩ
2. Tình hình hiện tại: hiện nay ta vẫn có thể nói cần tư duy phản biện và đánh giá đạo đức vì con người suy nghĩ tốt hơn, nhưng phải chuẩn bị cho khoảnh khắc tương quan này đảo chiều
3. Hệ thống tài chính tương lai: khi AI tạo ra một hệ thống tài chính mới mà con người không thể hiểu được, sẽ phải đào tạo các nhà kinh tế hay chính trị gia như thế nào
4. Con người đánh mất khả năng hiểu: sau 10 năm, tại Davos có thể sẽ không còn ai hiểu hệ thống tài chính vì các chiến lược tài chính do AI tạo ra đã vượt quá khả năng của con người về mặt toán học

7.3. Khác biệt căn bản giữa trí tuệ con người và trí tuệ AI, và kết luận [32:28]

1. Khép lại đối thoại: thời gian đã hết và vẫn còn nhiều câu hỏi cần tiếp tục khám phá
2. Đặc trưng của trí tuệ con người: bộ não con người phát triển từ khi sinh ra đến khi trưởng thành và là sản phẩm của những trải nghiệm cảm giác như cảm xúc, tình yêu hay giận dữ
3. Khác biệt với não bộ AI: bộ não nhân tạo không phải là bộ não con người, và giá trị đến từ trải nghiệm của một tồn tại con người có giác quan vẫn là điều quan trọng
4. Thí nghiệm tâm lý đáng sợ nhất: việc trẻ em ngay từ lúc chào đời tương tác với AI thay vì với con người sẽ là thí nghiệm tâm lý lớn nhất và đáng sợ nhất trong lịch sử, và chúng ta đang thực hiện nó ngay lúc này
5. Lời cảm ơn: cuộc đối thoại khép lại bằng lời cảm ơn dành cho Harari vì đã suy ngẫm về những vấn đề này và khiến mọi người cùng suy nghĩ