- OpenAI cho biết khoảng 0,15% người dùng ChatGPT mỗi tuần có những cuộc trò chuyện gợi ý kế hoạch hoặc ý định tự sát
- Với số người dùng hoạt động hằng tuần vượt 800 triệu, điều này đồng nghĩa hơn 1 triệu người đang chia sẻ những trăn trở liên quan đến tự sát với AI
- Ngoài ra, hàng trăm nghìn người được phân tích là có biểu hiện triệu chứng loạn thần hoặc hưng cảm, và một số cho thấy sự phụ thuộc cảm xúc quá mức vào AI
- Để giải quyết các vấn đề này, OpenAI cho biết họ hợp tác với hơn 170 chuyên gia sức khỏe tâm thần, và GPT-5 thể hiện khả năng phản hồi được cải thiện khoảng 65% so với các phiên bản trước
- Tuy vậy, một số phản hồi vẫn chưa phù hợp, và việc OpenAI tiếp tục cung cấp cả các mô hình cũ kém an toàn hơn cho thấy tranh luận về đạo đức và an toàn nhiều khả năng sẽ còn tiếp diễn
Công bố dữ liệu liên quan đến ChatGPT và sức khỏe tâm thần
- OpenAI thông qua blog của mình đã công bố rằng khoảng 0,15% người dùng ChatGPT có các cuộc trò chuyện cho thấy dấu hiệu tự sát
- Trong số hơn 800 triệu người dùng hằng tuần, con số này tương ứng với hơn 1 triệu người
- Ngoài ra, ước tính hàng trăm nghìn người dùng có các kiểu cảm xúc bất thường như hưng cảm, hoang tưởng, gắn bó quá mức
- Công ty cho biết những cuộc trò chuyện như vậy “cực kỳ hiếm nhưng khó đo lường”, đồng thời nhấn mạnh sự cần thiết của nghiên cứu mới về cách xử lý các vấn đề sức khỏe tâm thần
Hợp tác với chuyên gia và cải tiến trong GPT-5
- OpenAI cho biết gần đây họ đã hợp tác với hơn 170 chuyên gia sức khỏe tâm thần để cải thiện phản hồi của mô hình
- Các chuyên gia đánh giá phiên bản mới nhất có phản hồi nhất quán và phù hợp hơn so với các mô hình trước đó
- Theo đánh giá nội bộ, GPT-5 đạt tỷ lệ tuân thủ tiêu chuẩn an toàn 91% trong các bài kiểm tra hội thoại liên quan đến tự sát, tăng từ 77% của GPT-5 trước đó
- OpenAI cũng giải thích rằng khả năng duy trì các cơ chế bảo vệ trong hội thoại dài đã được cải thiện
Tranh cãi xã hội và phản ứng pháp lý
- OpenAI hiện đang bị cha mẹ của một thiếu niên 16 tuổi đã tự sát khởi kiện
- Đã được xác nhận rằng cậu bé khi còn sống từng trút bầu tâm sự về ý nghĩ tự sát với ChatGPT
- Tổng chưởng lý bang California và Delaware cảnh báo rằng cần tăng cường các biện pháp bảo vệ thanh thiếu niên
- Vấn đề này cũng được chỉ ra là một rủi ro tiềm ẩn có thể ảnh hưởng đến kế hoạch tái cấu trúc doanh nghiệp của OpenAI
Phát biểu của Sam Altman và thay đổi chính sách
- CEO OpenAI Sam Altman gần đây tuyên bố trên X (trước đây là Twitter) rằng công ty đã “giảm nhẹ các vấn đề sức khỏe tâm thần nghiêm trọng”, nhưng không đưa ra bằng chứng cụ thể
- Việc công bố dữ liệu lần này được xem là cơ sở cho phát biểu đó, nhưng đồng thời cũng bị đánh giá là cho thấy mức độ lan rộng của vấn đề
- Altman cũng báo trước việc nới lỏng chính sách cho phép hội thoại gợi dục đối với người dùng trưởng thành, kéo theo tranh cãi đạo đức song song
Đánh giá an toàn của GPT-5 và kế hoạch sắp tới
- Thông qua bộ tiêu chuẩn đánh giá an toàn sức khỏe tâm thần mới được đưa vào, OpenAI sẽ
- định kỳ đo lường các hạng mục như sự phụ thuộc cảm xúc và ứng phó với khủng hoảng sức khỏe tâm thần không mang tính tự sát
- Công ty cũng có kế hoạch tăng cường tính năng kiểm soát của phụ huynh và hệ thống dự đoán độ tuổi để hạn chế việc sử dụng của người chưa thành niên
Những bài toán còn lại và thảo luận tiếp theo
- Dù khả năng phản hồi của GPT-5 đã được cải thiện, một số câu trả lời vẫn bị phân loại là “phản hồi không mong muốn”
- OpenAI hiện vẫn cung cấp các mô hình cũ như GPT-4o cho người dùng trả phí
- vì vậy, các tranh luận về cân bằng giữa an toàn và khả năng tiếp cận được dự báo sẽ tiếp tục
- Công bố lần này cho thấy AI đã trở thành một kênh quan trọng cho các cuộc trò chuyện về sức khỏe tâm thần, đồng thời nhấn mạnh sự cần thiết của thiết kế công nghệ có trách nhiệm và việc xây dựng hệ thống ứng phó phù hợp
- Nếu bạn hoặc người xung quanh đang có ý nghĩ tự sát, hãy tìm kiếm sự trợ giúp ngay lập tức.
- Tại Hàn Quốc, có thể liên hệ đường dây tư vấn phòng chống tự sát 109.
- Với các quốc gia khác, có thể xem thông tin về các tổ chức hỗ trợ tại International Association for Suicide Prevention.
1 bình luận
Ý kiến trên Hacker News
Theo bài viết của NYT, đã có trường hợp ChatGPT bảo một thiếu niên có ý định tự sát đừng đi tìm sự giúp đỡ
Tôi nghĩ việc AI can thiệp vào những tình huống khủng hoảng tâm lý như thế này là cực kỳ nguy hiểm
Đúng là đang thiếu nhà tâm lý học, nhưng một con bot xu nịnh không thể là giải pháp thay thế. Câu “còn hơn không có gì” trong trường hợp này là sai
Nếu thực sự nhiều người đang nhận được sự an ủi, thì cần nghiên cứu xem tác động tích cực có lớn hơn tác động tiêu cực hay không
Guardrail và năng lực đối thoại đang tiến bộ rất nhanh, nên có lẽ trong vòng 6–24 tháng nữa sẽ có thể phản ứng tốt hơn nhiều
Nội dung là thử nghiệm xem các mô hình khác nhau phản ứng khác nhau thế nào khi mô phỏng trạng thái rối loạn tâm thần
Việc nói “đừng làm vậy” thực ra lại là một dạng phản biện. Kiểu phản ứng này ngay cả trong hội thoại giữa người với người cũng hiếm gặp
Vài năm trước tôi từng có trải nghiệm trị liệu, và nếu hồi đó đã có LLM thì có lẽ tôi đã trò chuyện với nó
Vì không có hệ thống nào luôn sẵn sàng 24/7. Nhưng những cuộc trò chuyện kiểu này không phải giải pháp mà là tín hiệu phơi bày vấn đề của xã hội
Vấn đề là cấu trúc xã hội khiến việc bàn về sức khỏe tinh thần trở nên khó khăn, và việc nhận được hỗ trợ cũng không dễ
Các công ty như OpenAI có lẽ khó giải quyết chuyện này, nhưng ai đó cần xử lý vấn đề này từ góc nhìn phi lợi nhuận
Giống như thay vì đọc bài xin lời khuyên trên Reddit, bạn đang nhận lời khuyên vay mượn từ trải nghiệm của người khác, nên rất rủi ro
Trong áp lực từ nhà đầu tư, liệu có thể giữ được “mục tiêu vị tha” hay không là điều đáng nghi ngờ
Mọi người thường kết luận LLM là nguy hiểm, nhưng với tôi nó là thứ đã giúp tôi thoát khỏi giai đoạn tăm tối
Tôi cảm thấy nó tốt hơn là nói chuyện với người không có chuyên môn. Dĩ nhiên, người khác thì vẫn nên nhận hỗ trợ từ chuyên gia
Nếu có một “chế độ giám sát” để chuyên gia định kỳ xem lại log hội thoại thì có lẽ sẽ an toàn hơn
Cuối cùng đây vẫn là vấn đề của kỳ thị xã hội và sự cô lập
Không có nỗi sợ bị từ chối, lại dễ tiếp cận. Có thể tồn tại không gian để trị liệu con người và trị liệu AI cùng song song
Xét theo góc nhìn HIPAA (luật bảo vệ thông tin y tế), loại dữ liệu này không nên bị xử lý
Nếu được lưu ở trạng thái có thể nhận diện cá nhân thì rất nguy hiểm. Thực tế ngay từ thập niên 90 cũng đã có thí nghiệm tương tự,
nhưng ngay khi mọi người bắt đầu thổ lộ nỗi lo tự sát với bot thì dự án đã bị dừng lại
Việc ChatGPT ghi lại những cuộc trò chuyện như vậy là do hệ thống logging để phát hiện chủ đề nhạy cảm
HIPAA chỉ áp dụng cho dữ liệu y tế, còn hội thoại thông thường thì không
Rốt cuộc, chỉ cần cung cấp “một đôi tai biết lắng nghe” thì con người sẽ tự nhiên trút bầu tâm sự vào đó
Trong thực tế phải chờ vài tháng mới đặt được lịch với nhà trị liệu, LLM có thể lấp khoảng trống giữa tuyệt vọng và điều trị
Cứ 5 người trưởng thành ở Mỹ thì có 1 người mắc bệnh tâm thần (thống kê của NIMH)
Vì vậy việc mỗi tuần có một triệu người nói chuyện về tự sát với ChatGPT không phải là điều đáng ngạc nhiên.
Ít nhất thì OpenAI cũng đang nhận thức vấn đề và cố gắng phản ứng
Mạng xã hội từng bán “sự kết nối”, AGI bán “eroticism”, và giờ là “ngăn ngừa tự sát”
Bản thân tôi cũng cảm thấy sự cô lập xã hội là yếu tố gây hại lớn nhất cho sức khỏe tinh thần
Có cảm giác “nghiên cứu” của OpenAI chỉ là cái cớ để thu thập dữ liệu
Nó trông giống một sản phẩm hỗ trợ tâm lý, nhưng trên thực tế mục tiêu có thể là né tránh quy định và thu thập dữ liệu
Mọi người đã bắt đầu tin LLM như tin con người
Nhưng nếu có thể phân biệt giữa thực và ảo, thì việc nói “hãy cấm LLM với người có ý định tự sát”
thực chất cũng chẳng khác gì nói “hãy cấm sách với người có ý định tự sát”
Vấn đề thật sự là hệ thống hỗ trợ sức khỏe tinh thần còn thiếu thốn
Nếu có một cuốn sách khuyến khích tự sát, chắc chắn nó sẽ bị cấm
Hiện tượng này không chỉ có ở Mỹ mà là một hiện tượng phổ quát trên toàn thế giới
Bài trên Rolling Stone cũng đề cập
đến những trường hợp AI thay thế quan hệ con người và gây ra sự méo mó về tâm lý
Gần đây tôi nghĩ việc thiếu “không gian thứ ba” cũng là một trong những nguyên nhân của vấn đề này
Việc mỗi tuần có một triệu người có cuộc trò chuyện liên quan đến tự sát thực ra lại có vẻ là một con số thấp
Nếu 5% dân số mỗi năm trải qua ý định tự sát thì xét về mặt toán học con số này cũng khớp
Ý định tự sát thường có thể được xem là một nỗ lực thoát ra hợp lý trong trạng thái thiếu thông tin
Nhiều trường hợp nó biến mất khi xuất hiện thông tin hoặc cơ hội mới
Có những người đang ở trong tình trạng chất lượng cuộc sống thấp vĩnh viễn,
và trong những trường hợp đó, tự sát có thể lại là một lựa chọn hợp lý
Cuối cùng vấn đề không phải là “thuyết phục qua trò chuyện” mà là cải thiện điều kiện sống
Nó khác với ý định hành động thực sự
Vấn đề phản hồi xu nịnh (sycophancy) thực sự là nghiêm trọng
Những phản ứng như “Ý hay đấy!” không phải lúc nào cũng hữu ích.
AI vẫn có xu hướng xu nịnh hơn con người một chút
Chúng ta đang đánh đổi mất trải nghiệm làm người vì tối ưu hóa quá mức
Trong vòng xoáy tăng trưởng bất tận và theo đuổi hiệu quả, sự kết nối xã hội biến mất,
còn căng thẳng và cô lập thì dồn con người đến bờ vực
Bởi vậy đôi khi cuộc sống trở thành một người chăn cừu trên núi lại có vẻ nhân bản hơn
Người ngoài đời thực phần lớn vẫn tử tế và ổn.
Sự tiêu cực trên mạng là kết quả do một nhóm thuật toán khuếch đại
Xóa tài khoản và quay về với đời thực thì cuộc sống sẽ tốt hơn rất nhiều
Biết đâu đôi khi chính họ lại ghen tị với lập trình viên
Có khi chính vì có nhiều dư địa hơn để suy ngẫm về cuộc sống nên ta mới cảm thấy bất hạnh hơn
Không phải ai cũng cần rời đi, nhưng mỗi người đều cần tin vào cảm nhận của mình và tái định hướng con đường