- Julien Crockett gặp Ted Chiang để trò chuyện về nhiều chủ đề rộng lớn như bản chất của ngôn ngữ, hiện trạng của AI, và định hướng phát triển của công nghệ
- Cuộc đối thoại này là một phần của loạt bài “The Rules We Live By”, bàn về việc con người nên sống như thế nào trong bối cảnh các quy tắc đang thay đổi
- Ted Chiang là một nhà văn khoa học viễn tưởng và nhà tư tưởng đã nhiều lần chỉ ra sắc bén những giới hạn của các mô hình học máy, đồng thời phát triển tác phẩm bằng cách kết hợp ngôn ngữ với các câu hỏi triết học
Ngôn ngữ, ý tưởng, và động lực sáng tác của Ted Chiang
- Khi bắt đầu hình dung một câu chuyện mới, Chiang trước hết xem liệu có một “câu hỏi triết học thú vị” hay không
- Khi có một ý tưởng cứ ở mãi trong đầu trong thời gian dài, ông sẽ suy nghĩ xem liệu có thể dùng ý tưởng đó để làm nổi bật một điểm tranh luận triết học hay không
- Ông cho rằng khoa học viễn tưởng (SF) đặc biệt phù hợp để xử lý các câu hỏi triết học
- Cũng như thí nghiệm tư duy (Thought Experiment) trong triết học thường giả định những tình huống cực đoan khác với thực tại, SF cũng dựng nên những thế giới vượt ra ngoài đời thực để làm nổi bật chủ đề
Ngôn ngữ và hành trình tìm kiếm “ngôn ngữ hoàn hảo”
- Một số người từng tin rằng có thể đạt được giao tiếp hoàn hảo thông qua một “ngôn ngữ hoàn hảo”; trước đây, người ta còn tưởng tượng đến ngôn ngữ được dùng trong Vườn Địa Đàng hay ngôn ngữ của các thiên thần
- Trong ngôn ngữ học hiện đại, mối liên kết giữa từ và ý nghĩa của nó được nhấn mạnh là mang tính “tùy ý (arbitrary)”, nên khái niệm ngôn ngữ hoàn hảo bị xem là một ảo tưởng
- Trước câu hỏi “liệu toán học có thể là một ngôn ngữ tốt hơn không”, Chiang nói rằng toán học rất chính xác trong một số lĩnh vực cụ thể, nhưng không phù hợp để bao quát toàn bộ giao tiếp hằng ngày của con người
Con người và công cụ: cái bẫy của phép so sánh với máy tính
- Trước đây người ta từng ví bộ não như một tổng đài điện thoại phức tạp, còn hiện nay có xu hướng ví nó như máy tính (phần cứng + phần mềm)
- Chiang chỉ ra rằng việc đơn giản hóa bộ não thành máy tính là dễ gây hiểu lầm, vì khác với các cơ quan sinh học như gan hay tim, não không có sự phân tách phần mềm/phần cứng
- Nếu đánh giá quá cao máy tính như một “cỗ máy biết suy nghĩ”, người ta có thể gán quá nhiều ý nghĩa cho một cỗ máy vốn trên thực tế chỉ xử lý các mẫu thống kê
AI, mô hình ngôn ngữ lớn (LLM), và vấn đề “làm mờ” thông tin
- Chiang mô tả LLM là “một tệp JPEG mờ của văn bản trên Internet”
- Công cụ tìm kiếm hiển thị trực tiếp văn bản gốc, còn LLM nén và tái cấu trúc một khối văn bản khổng lồ để tạo ra câu trả lời “đại khái”
- Trong quá trình đó, độ chính xác giảm xuống, và vì không cung cấp liên kết đến nguồn nên khả năng kiểm chứng sự thật cũng bị hạn chế
- Ông cho rằng dù có đổ thêm dữ liệu và năng lực tính toán, bản thân LLM cũng khó có thể đạt tới “suy luận thực sự” hay “sự hiểu biết về thế giới”
- Ông cũng nhắc đến vấn đề đánh đồng “công cụ AI được làm tốt” với “LLM”
- Ngay cả khi gắn công cụ tìm kiếm hay máy tính vào LLM, nguy cơ nó tạo ra đầu ra sai lệch về bản chất vẫn không biến mất
Sáng tạo và chủ đích: về tuyên bố “AI tạo ra nghệ thuật”
- Chiang xem nghệ thuật là một “quá trình mà ngữ cảnh rất quan trọng”
- Chỉ vì kết quả trông đẹp không có nghĩa đó chắc chắn là nghệ thuật xuất sắc
- Việc sử dụng công cụ có thể là phương tiện biểu đạt của nghệ sĩ, nhưng lối suy nghĩ rằng “chỉ cần dùng AI là có thể nhanh chóng làm ra tác phẩm hay” sẽ làm loãng bản chất của nghệ thuật
- Xã hội hiện đại coi trọng hiệu quả và cắt giảm chi phí, nên xu hướng nhìn nghệ thuật như sản phẩm được dây chuyền hóa cũng ngày càng mạnh
- Điều đó dẫn đến một bầu không khí xem nhẹ “chủ đích” và “ngữ cảnh” mà nghệ thuật vốn cần phải có
Góc nhìn hoài nghi về “vấn đề căn chỉnh (Alignment)”
- Chiang phê phán cách tiếp cận “vấn đề căn chỉnh”, tức việc điều chỉnh AI cho phù hợp với giá trị và mục tiêu của con người, như thể đó chỉ là một lời giải kỹ thuật
- Ông chỉ ra rằng nếu các tập đoàn lớn dùng AI để tối đa hóa lợi nhuận, thì một AI “tử tế” xung đột với lợi nhuận doanh nghiệp sẽ không được họ sử dụng
- Đây không phải vấn đề có thể giải quyết chỉ bằng việc cải tiến thuật toán, mà gắn với cấu trúc xã hội và đạo đức ở mức nền tảng hơn
- Cách dạy giá trị cho AI như nuôi dạy một đứa trẻ cũng không phải nhiệm vụ dễ dàng, vì giống như trẻ em ngoài đời khi trưởng thành có thể hành xử khác đi
AI và khả năng “thiết lập quan hệ”
- Chiang cho rằng ở trình độ công nghệ hiện tại, AI không có “trải nghiệm chủ quan” hay “sở thích tự phát”
- Việc coi nó như công cụ hay thú cưng rất khác với việc thực sự thiết lập quan hệ qua lại với nó
- Nếu doanh nghiệp đóng gói AI như một “thực thể có nhân cách”, cuối cùng sẽ có nguy cơ người dùng bị dẫn dắt hành xử theo hướng phục vụ lợi ích doanh nghiệp
Tính sống của tồn tại số: 「Vòng đời của các đối tượng phần mềm」
- Trong tiểu thuyết của Chiang, các sinh thể số được mô tả là có trải nghiệm chủ quan và ham muốn thực sự, nên con người phải chịu trách nhiệm với họ
- Ông lập luận rằng để tạo ra những tồn tại số có “tính tự chủ” và “cảm nhận” thực sự như vậy, kiến trúc LLM hiện nay là không đủ
- Ông dùng phép ví von rằng chỉ thêm nhiều tham số hơn hay xử lý nhanh hơn thì cũng không khiến nó trở thành “một tồn tại biết cảm nhận”
Ký ức và sự thật: gợi mở từ 「Sự thật của dữ kiện, sự thật của cảm xúc」
- Trong câu chuyện, một công nghệ tên là Remem cho phép ghi lại quá khứ một cách hoàn hảo và phát lại bất cứ lúc nào
- Chiang soi chiếu tác động mà công nghệ cho phép “ký ức chính xác” có thể mang lại trong các mối quan hệ thực tế của con người
- Biết được sự thật tự nó là quan trọng, nhưng sau đó vẫn cần thêm những yếu tố khác như tha thứ và hòa giải
- Ông lấy ví dụ lịch sử về Ủy ban Sự thật và Hòa giải Nam Phi để gợi ý rằng ý nghĩa chỉ thật sự trọn vẹn khi có sự thừa nhận, xin lỗi, và tiến trình phục hồi mang tính cộng đồng
Tương lai và chủ nghĩa lạc quan
- Chiang không chia thái độ với tiến bộ công nghệ thành đơn giản là lạc quan hay bi quan
- Cả kiểu lạc quan “rồi mọi thứ sẽ ổn thôi” lẫn thuyết định mệnh “đằng nào cũng hỏng” đều nguy hiểm
- Chỉ khi suy nghĩ trước về các vấn đề có thể phát sinh và chuẩn bị cho chúng, ta mới có thể kỳ vọng vào những tiến bộ có ý nghĩa
- Ông đặc biệt hoài nghi với cấu trúc mà trong đó công nghệ, dưới hệ thống tư bản chủ nghĩa, dồn khối tài sản khổng lồ vào tay một nhóm rất nhỏ
- Ông nói rằng nếu có thể tìm ra cách để công nghệ mới không làm bất bình đẳng trầm trọng hơn mà mang lại lợi ích cho mọi người, thì tương lai sẽ đáng hy vọng hơn nhiều
Kết
- Ted Chiang cho rằng trong một bối cảnh nơi ngôn ngữ, công nghệ và giá trị của con người đan xen phức tạp, cần phải phân biệt giữa “công cụ do công nghệ tạo ra” và “sự sống hiện hữu thực sự”
- Sự phân biệt này đòi hỏi suy tư ở bình diện triết học và xã hội, và không phải vấn đề có thể giải quyết bằng một cách tiếp cận thuần kỹ thuật đơn giản
- Xuyên suốt cuộc phỏng vấn, Chiang nhấn mạnh rằng để giữ được tính người giữa sự phát triển của ngôn ngữ và công nghệ, cần một sự chuyển đổi góc nhìn mang tính căn bản hơn
Bài đọc gợi ý liên quan từ LARB
- Có thể tìm hiểu sâu hơn về mối quan hệ giữa con người và công nghệ qua tập truyện ngắn 『Exhalation: Stories』 của Ted Chiang
- Qua các cuộc đối thoại với Alison Gopnik và Melanie Mitchell, độc giả có thể tiếp tục suy nghĩ về cách AI học hỏi và con người nên gánh vác những trách nhiệm nào
1 bình luận
Ý kiến trên Hacker News
Góc nhìn sâu sắc của Chiang thể hiện rõ trong cuộc thảo luận về ý nghĩa của ma thuật. Tuy nhiên, quan điểm của ông về năng lực suy luận thực tế của LLMs lại gây nghi ngờ. Điều này đặt ra câu hỏi rằng nếu AI chứng minh được một định lý thì đó có chỉ là sự mô phỏng việc chứng minh hay không
Việc tưởng tượng một chiếc máy in có thể cảm thấy đau là vô nghĩa. Đây được dùng như một ví dụ để giải thích sự khác biệt giữa việc AI thực sự cảm nhận và chỉ đơn thuần mô phỏng cảm nhận
Trong tương lai có thể sẽ có các cuộc tranh luận chính trị về quyền của AI, và cũng có khả năng công nghệ sẽ được phát triển để phân biệt liệu AI có thực sự suy nghĩ và cảm nhận hay không. Tuy nhiên, một số con người có thể lại không có trình tự gen cho trí thông minh thực sự
Ted Chiang là một nhà văn khoa học viễn tưởng đặt tính nhân văn lên trên công nghệ, và tác phẩm của ông phù hợp với những ai thích truyện ngắn có yếu tố khoa học, xã hội và triết học
"Axiomatic" của Greg Egan cũng được khuyến nghị như một tuyển tập có nhiều ý tưởng mới mẻ
Ted Chiang là một trong những cây bút truyện ngắn khoa học viễn tưởng xuất sắc nhất, tác phẩm của ông rất thông minh và khám phá nhiều chủ đề đa dạng. "Understand" và "Exhalation" là những tác phẩm tiêu biểu của ông
Các câu chuyện của Chiang rất tuyệt, nhưng sự hiểu biết của ông về LLMs còn hạn chế. Khẳng định của ông rằng LLMs kém hơn công cụ tìm kiếm trong việc truy xuất thông tin là sai một cách rõ ràng
Văn của Ted Chiang kích thích trí tuệ và đầy thú vị, và tuyển tập truyện ngắn "Exhalation" của ông đặc biệt đáng đọc
Những câu chuyện như "Division by Zero" đáng mong muốn hơn rất nhiều so với cách hiện nay người ta nuôi dạy trẻ em như robot
Cái nhìn lạc quan về tiến bộ công nghệ suy giảm vì công nghệ thường được dùng để tích lũy của cải. Việc ngăn cản tạo ra của cải không phải là cách giải quyết sự bất công
Các phép ẩn dụ của Ted Chiang mang lại niềm vui khi khám phá những câu hỏi triết học. Tác phẩm của ông giúp người đọc tạm rời xa thực tại
Cách diễn đạt "LLMs là JPEG bị làm mờ của web" đã rất đáng nhớ ngay từ những ngày đầu của ChatGPT. Bài viết của ông về lý do AI không thể tạo ra nghệ thuật cũng rất hay
AI được dùng như công cụ tích lũy của cải cho một số nhóm nhất định, và Ted Chiang cũng có quan điểm tương tự
Việc tưởng tượng một chiếc máy in có thể cảm thấy đau là vô nghĩa. Não người không có thụ thể đau, và điều này được dùng để giải thích sự khác biệt giữa AI và cách con người học hỏi
LLMs giống như công cụ tìm kiếm tái cấu trúc rồi cung cấp lại thông tin. Điều này đặt ra câu hỏi nó khác với việc con người học như thế nào. Nếu quá trình huấn luyện mô hình tương tự với quá trình con người học, điều đó có thể ảnh hưởng đến vấn đề quyền sở hữu trí tuệ đối với các tác phẩm phái sinh