Snowden: Tuyệt đối không tin OpenAI và các sản phẩm của họ

 (twitter.com/Snowden)
1 điểm bởi GN⁺ 2024-06-16 | 1 bình luận | Chia sẻ qua WhatsApp
  • Snowden đã công khai cảnh báo rằng tuyệt đối không nên tin @OpenAI và các sản phẩm như ChatGPT
  • Nguyên nhân trực tiếp của cảnh báo là quyết định của @OpenAI bổ nhiệm Director của @NSA/CSS vào hội đồng quản trị
  • Ông khẳng định việc bổ nhiệm này chỉ có “một lý do duy nhất”, nhưng không nêu rõ lý do cụ thể trong bài đăng
  • Ông chỉ trích mạnh mẽ quyết định này là một sự phản bội có chủ ý và được tính toán đối với quyền của mọi người trên toàn thế giới
  • Bài đăng gần giống một lời cảnh báo ngắn, không bao gồm thêm căn cứ, ví dụ hay phương án đối phó nào

Nội dung cảnh báo của Snowden

  • Snowden nói không nên tin @OpenAI và các sản phẩm của họ
    • Bao gồm ví dụ là ChatGPT
  • Quyết định bị ông nêu vấn đề là việc @OpenAI bổ nhiệm Director của @NSA/CSS vào hội đồng quản trị
  • Ông xem việc bổ nhiệm này là quyết định cố ý phản bội quyền của mọi người trên toàn thế giới
  • Bài đăng kết thúc bằng “You have been warned”, theo hình thức cảnh báo trực tiếp người đọc

Bài viết liên quan

1 bình luận

 
GN⁺ 2024-06-16
Các ý kiến trên Hacker News

  • Snowden, giống như Stallman, có thể là người mà bạn không đồng ý hoặc cho rằng lập trường quá cực đoan, nhưng hoàn toàn phớt lờ ông ấy là kiểu người ngu ngốc
    Hiện đang có một cơn sốt vàng nhằm lách quyền sở hữu trí tuệ và sử dụng tác phẩm của hàng tỷ người mà không ghi nguồn hay bồi thường, trong khi xã hội và các nhà lập pháp còn đang ngủ quên

    • Richard Stallman chưa từng làm điều gì phá vỡ niềm tin rằng ông hành động vì các nguyên tắc bắt nguồn từ quyền riêng tư và tự do cá nhân
      Động cơ thật sự của Snowden thì kém chắc chắn hơn nhiều

  • Không cần Snowden nói thì tôi cũng biết không nên tin OpenAI
    Lần đầu biết đến công ty này, chỉ đọc vài từ thôi tôi đã có cảm giác như bước vào một cửa hàng xe cũ do kẻ từng bắt nạt tôi hồi trung học điều hành

    • Nhưng với nhiều người thì vẫn cần có ai đó nói ra
      Bạn nghĩ thà không nói gì còn tốt hơn sao?

  • Tất nhiên có lý do chính đáng để Nakasone vào hội đồng quản trị
    OpenAI rất nhạy cảm với quy định, nên họ có một đội ngũ vận động hành lang lớn để kéo chính phủ Mỹ về phía mình. Ông ấy (a) mang đến các mối quan hệ chính trị và (b) tạo sự tin cậy rằng mọi bước phát triển sẽ không đe dọa an ninh quốc gia Mỹ. Đây là chuyện khá phổ biến trong hội đồng quản trị doanh nghiệp
    Trên thực tế, điều tác động đến thế giới lớn hơn nhiều không phải là AI thực sự làm được gì, mà là người ta nhận thức AI có thể làm được gì

    • Việc này gợi nhớ chuyện những người như Henry Kissinger tham gia hội đồng quản trị Theranos
      Làm sao biết những ghế hội đồng quản trị như vậy có thật sự có ý nghĩa, hay chỉ là vị trí nhận lương miễn phí rồi đóng dấu thông qua mọi thứ?
    • Đúng vậy
      Hơn nữa, ông ấy không chỉ là giám đốc NSA mà còn là chỉ huy U.S. Cyber Command, một kinh nghiệm rất liên quan đến cả tư thế bảo mật/an toàn của OpenAI lẫn việc bán cho khách hàng chính phủ/quốc phòng
    • Nếu muốn bán cho chính phủ thì đây cũng là ý hay
    • Diễn giải theo hướng thiện chí nhất, các mối quan hệ của ông ấy có thể giúp ngăn chính phủ tung ra lệnh cấm bừa bãi đối với AI nói chung mà không dựa trên sự thật
      Nhưng tôi nghĩ trong đầu đa số mọi người, việc này sẽ được tiếp nhận rất tiêu cực
    • Bạn có thể giải thích thêm phần “người ta nhận thức AI có thể làm được gì” có tác động lớn hơn năng lực thực tế không?
      Nhận thức đó đang tạo ra tác động gì, còn AI thực tế đang tạo ra tác động gì?

  • Trong cùng tweet đó có câu “Đây là sự phản bội có chủ ý và được tính toán đối với quyền của mọi người trên Trái Đất”
    Với tôi nghe hơi phóng đại

    • Tôi không biết chi tiết của vụ cụ thể này, nhưng phóng đại là chuyện khá thường thấy ở Snowden
      Tôi không trách ông ấy quá nhiều. Ông ấy đã trải qua những chuyện như địa ngục. Chỉ là tôi không nghĩ các tuyên bố trên Twitter của ông ấy có cách diễn đạt đặc biệt trung lập
    • Đồng ý
      Ngôn từ cảnh báo có thể giúp nêu bật một chính nghĩa, nhưng phải dùng tiết chế nếu không muốn trông giống cậu bé chăn cừu

  • Nhìn tình hình này thì lựa chọn của Apple khi tích hợp với ChatGPT của OpenAI trông còn tệ hơn
    Dù có cam kết về quyền riêng tư rằng sẽ không tiết lộ nhiều thông tin và sẽ hỏi rõ người dùng, những chuyện đang xảy ra tại OpenAI cùng các sự cố khác lẽ ra phải khiến ban lãnh đạo Apple lo ngại nghiêm trọng
    Các lãnh đạo cấp cao nhất của Apple nói ChatGPT là tốt nhất nên họ bắt đầu từ đó. Có lẽ quan hệ đối tác này sẽ không tồn tại đến thời điểm này năm sau

    • Nhớ lại lúc Steve hào hứng tích hợp Facebook và Twitter thành tính năng hạng nhất của iOS
      Tình huống này cảm giác rất giống khoảnh khắc đó
      Rồi lại nhớ Siri tệ đến mức nào. OpenAI đột nhiên khiến Apple bẽ mặt, và Apple tuyệt vọng cần điều này để trông có vẻ cạnh tranh được trong lĩnh vực này. Thật kỳ lạ và đáng buồn
    • Nghe như họ đã thiết kế linh hoạt để có thể cắm các mô hình khác vào
      Nếu có nhiều lựa chọn hơn, họ cũng có thể cho người dùng chọn mô hình
    • Cũng có thể dùng Mixtral, Minstral, XWin, Mythomax, Claude 3 Haiku 196M
      Tất cả đều tuyệt vời và phần lớn hoặc tất cả đều tốt hơn Siri
      Tôi nghĩ điều tốt nhất Apple có thể làm là cho người dùng chọn AI nào để gọi. Có thể gọi là AI store, giống iTunes hay App Store. Khi đó các nhà cung cấp AI có thể cạnh tranh về quyền riêng tư và hiệu năng. Tuy nhiên người dùng sẽ cần nhiều tính năng so sánh để đánh giá cái nào đáng chọn

  • Nguồn: The Verge
    https://www.theverge.com/2024/6/13/24178079/openai-board-pau...
    https://news.ycombinator.com/item?id=40680962 - Cựu lãnh đạo NSA gia nhập hội đồng quản trị OpenAI

  • Tôi đã hỏi chatbot rất nhiều câu hỏi về nhiều chủ đề, và nhiều lần nó đã chứng tỏ là có giá trị
    Dù vậy, tôi chắc chắn vẫn không hoàn toàn tin tưởng mà luôn cảnh giác, và cũng không nghi ngờ nhiều rằng mình đang bị giám sát một cách chi tiết. Chỉ là khó hình dung kịch bản trong đó việc đó được dùng để gây bất lợi cho tôi
    Nếu có quyền riêng tư tốt hơn thì tôi cũng sẵn sàng trả thêm, và cũng quan tâm đến việc tự host. Nhưng trong 99 vấn đề của tôi thì chuyện này nằm khá phía sau
    Trước đây tôi từng gửi mẫu nước bọt cho 23andMe. Một phần dữ liệu đó đã bị đánh cắp, và có lẽ tôi đang nằm trong một danh sách người Do Thái Ashkenazi nào đó được rao bán ở đâu đó. Đó là chuyện khó chịu. Hiện giờ tôi không nghĩ ra tình huống nào trong đó việc chatbot giám sát trở thành vấn đề, nhưng cũng có thể là do tôi thiếu trí tưởng tượng

    • Nếu bạn bè của bạn và cả bạn của bạn bè họ đều nói bầu trời màu tím, liệu bạn có đủ táo bạo để tuyên bố nó màu xanh, dù điều đó trái với quan sát của mình không?
      Chúng ta sẽ bị nhấn chìm trong phản hồi từ AI, và mọi người đều sẽ bị ảnh hưởng bởi những lời khuyên đó. Những “nguồn” kiểu như Google đưa ta đến BuzzFeed nên họ biết ta đọc bài rác về cơ bản sẽ biến mất. Mọi thứ sẽ khoác lên vẻ quyền uy chỉ vì ChatGPT nói vậy. Sản phẩm này chính là niềm tin. Bạn có hỏi một kẻ côn đồ ác ý cùng câu hỏi và tiết lộ các chi tiết riêng tư không? Chắc là không
      Dù bạn có cảm thấy mình tha hồ nghi ngờ, dòng chảy lời khuyên từ AI giống như nước, còn chúng ta giống như cá. Chúng ta đã bị ảnh hưởng rồi, và nếu không biết mình bị ảnh hưởng thế nào thì cần nhìn kỹ hơn
    • Có thể hơi lệch chủ đề, nhưng vấn đề thật sự của các dịch vụ như 23andMe không chỉ là việc họ nắm giữ thông tin DNA và đặc điểm không thể thu hồi
      Giờ đây họ còn có thông tin DNA và đặc điểm của cả một phạm vi khá lớn những người thân trong gia phả, cả phía trên lẫn phía dưới. Dùng các dịch vụ như vậy về bản chất là bán đứng gia đình mình, và họ không có quyền lựa chọn
    • OpenAI rất có khả năng sẽ cung cấp nhiều thứ hơn chatbot trong tương lai
      Ngay hiện tại bạn đã có thể tải tệp lên để nó phân tích
      Tôi không nghĩ việc Microsoft thúc đẩy Windows Recall cho người tiêu dùng, cố duy trì chỉ mục vĩnh viễn của các tệp đã xóa, đẩy OneDrive làm vị trí lưu trữ mặc định cho khách hàng doanh nghiệp O365, và đổ hàng tỷ USD vào OAI là trùng hợp

  • Dành cho những người đã chặn Twitter, phần có vẻ là nội dung còn lại của tweet được trích dẫn ở đây
    https://fortune.com/2024/06/14/edward-snowden-eviscerates-op...

    • Tôi không chặn Twitter, nhưng chẳng xem được gì ở đó
      Khoảng 80% chỉ hiện lỗi chung chung và “thử lại”
    • Lưu ý: trang “bài viết” đó có cảnh báo rằng nó sẽ chuyển sang x.com
      Đã đến lúc thêm một mục vào danh sách bộ lọc
      Tôi bấm vào liên kết để xem lần này họ sẽ cho hiện màn hình lỗi mới nào thay cho tweet. Lạ là liên kết bài viết lại hoạt động. Với tôi thì đã rất lâu rồi mới có chuyện như vậy

  • Có vẻ khá rõ ràng là có một hình thức hợp tác nào đó giữa OpenAI và chính phủ
    Nhưng tại sao điều đó lại có thể là một chuyện tệ hại đến mức kịch tính như vậy?

    • Có lẽ là vì thành tích trước đây của họ không minh bạch cho lắm, hehe

  • Lại thêm một cái nữa biến mất
    Tôi đã thêm vào danh sách, hủy tài khoản trả phí, xóa dữ liệu và xóa cả tài khoản
    Việc lùi lại một bước khỏi một dịch vụ nào đó và tự hỏi nó có thiết yếu không đang ngày càng dễ hơn. Về nguyên tắc thì nó không thiết yếu, và ngay khi trở thành một mối quan hệ lạm dụng thì cứ loại bỏ
    OpenAI không phải là một chú chó ngoan