Yann LeCun: Kịch bản tận thế thật sự là việc những người sở hữu 1% AI nắm giữ quyền lực mãi mãi

• Yann LeCun, nhà khoa học AI trưởng của Meta, chỉ trích những phát ngôn bi quan của các lãnh đạo AI về rủi ro AI và cho rằng chính họ có thể gây hại nhiều hơn.
• LeCun cáo buộc các nhà sáng lập AI như Sam Altman của OpenAI, Demis Hassabis của Google DeepMind và Dario Amodei của Anthropic đang lợi dụng "kích động nỗi sợ" và "vận động hành lang doanh nghiệp quy mô lớn" vì lợi ích riêng.
• Ông cho rằng nếu những nỗ lực này thành công, chỉ một số ít công ty sẽ kiểm soát AI, và ông xem đó là một "thảm họa".
• Phát biểu của LeCun là phản ứng trước một bài đăng của nhà vật lý Max Tegmark, người gợi ý rằng LeCun chưa xem trọng đầy đủ chủ nghĩa tận thế AI.
• LeCun cho rằng những rủi ro thực tế và cận kề của AI không phải là các rủi ro giả định thường được nhấn mạnh, mà là bóc lột lao động và đánh cắp dữ liệu để mang lại lợi ích cho một số ít chủ thể.
• Ông bác bỏ ý tưởng về một "cất cánh đột ngột", theo đó nhân loại sẽ diệt vong ngay khi các hệ thống siêu trí tuệ được kích hoạt.
• LeCun nhấn mạnh tầm quan trọng của việc tập trung vào cách AI đang được phát triển hiện nay, đồng thời cảnh báo nguy cơ việc phát triển AI bị độc chiếm bởi các doanh nghiệp tư nhân theo đuổi lợi nhuận.
• Ông bảo vệ các nhà phát triển mã nguồn mở, đồng thời chỉ trích sự thiếu minh bạch trong phát triển AI, đặc biệt là từ các công ty công nghệ lớn.
• LeCun bày tỏ lo ngại rằng các cơ quan quản lý có thể dễ bị tác động bởi các cuộc tranh luận giật gân về AI, dẫn đến thiếu giám sát đối với quá trình phát triển thực tế.

[GN⁺]

Ý kiến trên Hacker News

• Thảo luận về bài viết liên quan đến quan điểm của Yann LeCun về việc lạm dụng công nghệ AI
• Bày tỏ lo ngại về nỗ lực của những người nắm quyền nhằm chiếm đoạt quy định bằng cách tận dụng lập luận về "X-Risk" và nguy cơ tuyệt chủng đột ngột của loài người
• Chỉ trích xu hướng cố biến AI thành hệ thống khép kín thông qua cấp phép và các yêu cầu báo cáo
• Bày tỏ sự ủng hộ đối với các biện pháp kiểm soát nghiên cứu AI, đồng thời viện dẫn sự cần thiết phải thận trọng trong lĩnh vực này
• Thảo luận về việc phát triển và triển khai công nghệ mới, với lập luận rằng rủi ro của công nghệ có thể bị che giấu cho đến khi nó được phổ biến rộng rãi
• Chỉ trích việc gắn nhãn các nhà nghiên cứu AI hàng đầu là "AI Godfather", cho rằng điều này gây hiểu lầm và không cần thiết
• Thảo luận về khả năng AI bị lạm dụng, với lập luận rằng nếu cấm các mô hình mã nguồn mở thì chúng ta có thể không biết cách ứng phó với những hành vi lạm dụng đó
• Nêu ý kiến không đồng tình với quan điểm của Yann LeCun, cho rằng ông không nghiêm túc đối phó với các rủi ro của AI
• Thảo luận về khả năng AI được dùng để lựa chọn cổ phiếu và dự đoán, với lập luận rằng các AI như vậy có thể hấp thụ lượng tài sản đủ lớn để trên thực tế sở hữu cả xã hội
• Cho rằng đã quá muộn để độc quyền các mô hình ngôn ngữ lớn, đồng thời chỉ ra rằng công nghệ này đã được biết đến và chi phí đang giảm xuống
• Suy đoán về tương lai kinh doanh trong thời đại sung túc, với nhận định rằng khả năng cao sẽ còn bị độc quyền hóa hơn nữa