Thẩm phán bác bỏ lập luận về “chương trình giám sát quy mô lớn” gây hại cho mọi người dùng ChatGPT

• Tranh cãi về quyền riêng tư của người dùng đã trở thành một điểm nóng tại tòa khi OpenAI rơi vào tình huống phải lưu giữ vô thời hạn log ChatGPT của hàng triệu người dùng để bảo toàn chứng cứ trong vụ kiện bản quyền
• Người đệ đơn thứ hai, Aidan Hunt, phản đối rằng lệnh lưu giữ cả các cuộc trò chuyện đã xóa và trò chuyện ẩn danh gần giống một chương trình giám sát quy mô lớn trên toàn quốc, và ngay cả khi chỉ giữ lại đầu ra thì câu hỏi đầu vào hoặc chủ đề vẫn có thể bị lộ
• Thẩm phán Ona Wang xem lệnh này là biện pháp buộc một công ty tư nhân bảo toàn, tách riêng và lưu trữ dữ liệu hiện có theo mục đích tố tụng, và không chấp nhận cách diễn giải đó là giám sát quy mô lớn
• Tòa án cho rằng khả năng xâm phạm quyền riêng tư theo hiến pháp và theo hợp đồng của người dùng ChatGPT là một vấn đề phụ không liên quan trực tiếp đến nội dung chính của vụ xâm phạm bản quyền, nên không cho phép Hunt can thiệp
• OpenAI dự kiến sẽ tranh luận các quan ngại về lệnh lưu giữ trong phiên tranh tụng miệng ngày 26/6, còn Corynne McSherry của EFF nhấn mạnh cần có các cơ chế thông báo, xóa và minh bạch đối với hồ sơ chatbot AI

---

Lệnh lưu giữ log ChatGPT và nỗ lực can thiệp của người dùng

• Tòa án đã ra lệnh cho OpenAI lưu giữ vô thời hạn log ChatGPT của hàng triệu người dùng, trong đó cả các cuộc trò chuyện đã bị xóa cũng thuộc diện phải bảo toàn
• Lệnh này là biện pháp nhằm bảo toàn chứng cứ tiềm năng trong vụ kiện vi phạm bản quyền do các tổ chức báo chí khởi kiện
• Đơn xin can thiệp của người dùng đầu tiên được nộp dưới tên công ty, nhưng thẩm phán Wang đã bác vào tháng 5 với lý do công ty lẽ ra phải nộp hồ sơ thông qua luật sư
• Người đệ đơn thứ hai là Aidan Hunt, thỉnh thoảng sử dụng ChatGPT và cho biết đôi khi đã gửi cho OpenAI “thông tin cá nhân và thương mại rất nhạy cảm” trong quá trình sử dụng dịch vụ

Lập luận của Aidan Hunt về xâm phạm quyền riêng tư

• Hunt phản đối rằng lệnh lưu giữ đã tạo ra một chương trình giám sát quy mô lớn trên toàn quốc ảnh hưởng và có thể gây hại cho mọi người dùng ChatGPT
• Ông cũng xem việc người dùng không được biết trước rằng các cuộc trò chuyện đã xóa và trò chuyện ẩn danh sẽ đột ngột bị lưu giữ là một vấn đề
• Hunt cho rằng rủi ro vẫn còn ngay cả khi phạm vi lưu giữ chỉ giới hạn ở đầu ra của ChatGPT
  • Vì đầu ra về bản chất có thể tiết lộ câu hỏi đầu vào hoặc chủ đề, hoặc thường xuyên diễn giải lại chúng một cách rõ ràng
• Hunt cho biết ông không hề biết OpenAI đang lưu giữ thông tin đó cho đến khi đọc được tin liên quan trên một diễn đàn trực tuyến
• Ông nói các quyền theo Tu chính án thứ tư và quyền được bảo đảm thủ tục tố tụng của mình đã bị xâm phạm, đồng thời đề xuất nộp đơn yêu cầu hủy lệnh của tòa

Yêu cầu loại trừ các cuộc trò chuyện ẩn danh và chủ đề nhạy cảm

• Hunt chỉ ra rằng thẩm phán Wang đã không cân nhắc việc loại Anonymous Chats khỏi diện phải lưu giữ và công bố
• Ông cho rằng các cuộc trò chuyện ẩn danh có khả năng chứa thông tin nhạy cảm nhất và có thể gây hại nhất của người dùng
• Các loại trò chuyện mà ông yêu cầu loại trừ gồm:
  • Các cuộc trò chuyện về chủ đề y tế, tài chính, pháp lý và cá nhân
  • Các cuộc trò chuyện chứa thông tin riêng tư sâu sắc về người dùng nhưng hoàn toàn không liên quan đến lợi ích của các tổ chức báo chí nguyên đơn
• Hunt cho rằng vụ việc này đặt ra câu hỏi hiến pháp mới và quan trọng về quyền riêng tư gắn với việc sử dụng AI
• Ông cũng nêu vấn đề liệu một lệnh khám phá chứng cứ trong vụ việc dân sự có thể tạo ra một chương trình giám sát quy mô lớn trên toàn quốc hay không

Lý do bác đơn của thẩm phán Wang

• Trong lệnh ngày 20/6, thẩm phán Wang không chấp nhận các lập luận của Hunt
• Ở phần chú thích, bà khẳng định rõ rằng lệnh bảo toàn tài liệu không thể bị diễn giải thành giám sát quy mô lớn
  • Lệnh này buộc một công ty tư nhân lưu giữ, tách riêng và cất giữ một số dữ liệu cụ thể mà họ đang nắm giữ, chỉ nhằm phục vụ mục đích tố tụng
  • Bà cũng nêu rõ rằng cơ quan tư pháp không phải là cơ quan chấp pháp
• Tòa cho rằng vấn đề việc OpenAI tạm thời lưu giữ dữ liệu log đầu ra của một số cuộc trò chuyện vốn bình thường sẽ bị xóa trong thời gian tố tụng có thể xâm phạm quyền riêng tư theo hiến pháp và theo hợp đồng của từng người tiêu dùng hay không là một vấn đề phụ
• Theo bà, vấn đề đó “không đóng góp theo bất kỳ cách nào” vào việc xác lập tình tiết của nội dung chính là hành vi vi phạm bản quyền
• Tòa nhận định các câu hỏi “mới” mà Hunt nêu ra không phải là trọng tâm tranh chấp trong vụ kiện bản quyền, và nếu xem xét chúng cũng sẽ làm chậm quá trình giải quyết các vấn đề thực sự một cách không hợp lý

Phiên tranh tụng miệng của OpenAI và vấn đề thông báo cho người dùng

• OpenAI sẽ có cơ hội trình bày trong phiên tranh tụng miệng trước thẩm phán Wang vào ngày 26/6 về các quan ngại liên quan đến lệnh lưu giữ
• Điều Hunt lo ngại nhất là lệnh lưu giữ vẫn được duy trì và dữ liệu trò chuyện cuối cùng có thể bị tiết lộ cho các nguyên đơn là tổ chức báo chí
• Thẩm phán Wang cho rằng hiện tại chưa có rủi ro vì chưa có bất kỳ dữ liệu trò chuyện nào được tiết lộ cho các tổ chức báo chí
• Hunt lo ngại rằng ngay cả khi dữ liệu chưa được chia sẻ, chỉ riêng việc OpenAI lưu giữ dữ liệu cũng có thể gây ra thiệt hại nghiêm trọng và không thể khắc phục
• Một số người dùng đặt câu hỏi liệu OpenAI sẽ đấu tranh mạnh mẽ đến đâu
  • Hunt lo rằng nếu OpenAI coi trọng hơn các mối bận tâm khác như chi phí vụ kiện, giải quyết nhanh hay tránh tổn hại danh tiếng, thì việc bảo vệ quyền riêng tư của người dùng có thể bị đẩy xuống ưu tiên thấp hơn
• OpenAI đã không phản hồi ngay yêu cầu bình luận, nhưng trước đó từng nói sẽ phản đối lệnh này và nêu ra phạm vi người dùng bị ảnh hưởng
• Corynne McSherry của Electronic Frontier Foundation cho rằng lệnh khám phá chứng cứ này tạo ra rủi ro thực sự đối với quyền riêng tư của người dùng và có thể trở thành tiền lệ cho các vụ kiện khác
• McSherry nói rằng trong các ứng dụng chat AI, người dùng phải có khả năng xóa lịch sử và tin chắc rằng dữ liệu thực sự đã bị xóa, đồng thời cũng cần có thông báo kịp thời về các yêu cầu đòi thông tin người dùng và các báo cáo minh bạch định kỳ