Cách suy nghĩ về AGI

"Về cơ bản, nếu đó là thứ không thể biết rõ và chúng ta cũng không biết mức độ rủi ro, ngay cả các chuyên gia cũng không biết, thì chúng ta nên suy nghĩ về nó như thế nào?"

Cách nhìn nhận AGI từ góc độ lịch sử

• Từ năm 1946, cùng với sự xuất hiện của máy tính, mối quan tâm đến trí tuệ nhân tạo (AI) bắt đầu hình thành
• AI được xem là thuật ngữ chỉ một công nghệ vẫn chưa được hiện thực hóa hoàn toàn
• Mối quan tâm đối với AGI (Artificial General Intelligence), tức trí tuệ dựa trên phần mềm có cấp độ tương đương con người, vẫn tiếp diễn

Khác biệt quan điểm về khả năng hiện thực hóa AGI

• Gần đây, với sự xuất hiện của các mô hình ngôn ngữ lớn (LLM), đã nổi lên quan điểm cho rằng AGI đã ở rất gần
  • Một số chuyên gia dự đoán LLM có thể phát triển thành AGI
  • Ngược lại, cũng có ý kiến cho rằng vẫn cần thêm những đột phá nữa để đạt được AGI
• Cũng có lo ngại rằng AGI có thể trở thành mối đe dọa đối với nhân loại
• Tuy nhiên, ngay cả giữa các chuyên gia cũng không có sự đồng thuận về khả năng hiện thực hóa AGI và thời điểm nó xuất hiện

Sự thiếu vắng mô hình lý thuyết về AGI

• Không có mô hình lý thuyết được đồng thuận về việc chính xác thì trí tuệ tổng quát (General Intelligence) là gì
• Cũng chưa chắc chắn vì sao LLM hoạt động tốt và khả năng phát triển tiếp theo của chúng sẽ ra sao
• Bản thân khái niệm AGI mang tính chất của một thí nghiệm tư duy (Thought Experiment)

Tính bất định và rủi ro của AGI

• Việc định nghĩa AGI là một dạng sinh vật mới có cảm xúc và quyền lợi, rồi giả định rằng nó sẽ không thể kiểm soát, có nguy cơ rơi vào lập luận vòng tròn
• Không thể chắc chắn về đặc tính và tiềm năng của AGI
  • Nó có thể thông minh hơn con người rất nhiều, hoặc cũng có thể chỉ đơn giản là nhanh hơn
  • Nó cũng có thể chỉ dừng lại ở một công cụ hữu ích với trí tuệ tổng quát ở mức của loài chó
• Những lo ngại về rủi ro của AGI là có thật, nhưng không thể biết chính xác mức độ và bản chất của rủi ro đó

Tính tất yếu của việc phát triển AGI và cách ứng phó

• Về dài hạn, sự phát triển của công nghệ AGI có vẻ là điều không thể tránh khỏi
  • Các mô hình mở đang lan rộng, và hiệu năng của chip sẽ tiếp tục được cải thiện
  • Rốt cuộc thì không thể cấm toán học
• Những ma sát và đau đớn do công nghệ tự động hóa gây ra là điều khó tránh khỏi, nhưng cuộc sống vẫn sẽ tiếp diễn
• Có lẽ điều hợp lý là thừa nhận rủi ro của AGI, nhưng ứng phó với nó bằng thái độ tỉnh táo thay vì sợ hãi quá mức

[vwjdalsgkv]

Tôi nghĩ nếu nhìn từ góc độ dựa trên rủi ro thì nó khá giống với việc trẻ con hoặc người nguyên thủy nhìn lửa.
Dù không biết lửa tạo ra ánh sáng và nhiệt thông qua quá trình nào, chúng ta vẫn nhận ra rằng có lúc ánh sáng được dùng hữu ích và có khi nhiệt cũng được dùng hữu ích, rồi dần biết cách tận dụng nó.
Nhưng vì không hiểu rõ hiện tượng đó hoặc sử dụng sai cách mà cũng có thể chịu thiệt hại, nên rốt cuộc ở khía cạnh này chúng ta chính là những người nguyên thủy trước trí tuệ nhân tạo.
Hay là chẳng lẽ ngoài tôi ra thì mọi người đều hiểu rất rõ về trí tuệ nhân tạo rồi sao?

[kandk]

Dù là điều khá hiển nhiên nhưng...
Nhiều người có nỗi sợ về AGI, và có vẻ bài viết này có thể sẽ hữu ích.