- OpenAI gần đây đã làm rõ về thay đổi điều khoản từng bị diễn giải là “từ nay sẽ không thể nhận tư vấn pháp lý/y tế từ ChatGPT”, cho biết rằng họ không hề thay đổi các điều kiện liên quan đến lời khuyên pháp lý và y tế
- Bản cập nhật chính sách sử dụng ngày 29/10 nêu rõ rằng các lời khuyên đòi hỏi giấy phép hành nghề chuyên môn (pháp lý, y tế, v.v.) không thể được cung cấp nếu không có sự can thiệp phù hợp của người có giấy phép
- Ngay cả trong chính sách trước ngày 29/1/2025, OpenAI cũng đã hạn chế các hoạt động có thể ảnh hưởng nghiêm trọng đến sự an toàn, phúc lợi và quyền của người khác, bao gồm cả việc cung cấp lời khuyên pháp lý, y tế và tài chính được cá nhân hóa
OpenAI làm rõ chính sách
- OpenAI cho biết ChatGPT không thay thế cho tư vấn pháp lý hoặc y tế chuyên nghiệp, đồng thời làm rõ rằng thay đổi điều khoản liên quan không phải là nội dung mới
- Trong tuyên bố gửi tới CTVNews, công ty nói: “Đây không phải là thay đổi mới, và ChatGPT vẫn là một nguồn hữu ích để hiểu thông tin pháp lý và sức khỏe”
- Trong bản cập nhật chính sách sử dụng ngày 29/10, OpenAI nêu rõ rằng lời khuyên được cá nhân hóa cần giấy phép hành nghề (pháp lý, y tế, v.v.) không thể được cung cấp nếu không có sự can thiệp thích hợp của chuyên gia có giấy phép
- Đây là cách diễn đạt rõ ràng hơn so với nội dung trong chính sách ngày 29/1/2025
- Khi đó, chính sách yêu cầu không thực hiện hoặc thúc đẩy các hoạt động có thể ảnh hưởng nghiêm trọng đến sự an toàn, phúc lợi và quyền của người khác, và nội dung này bao gồm cấm cung cấp lời khuyên pháp lý, y tế và tài chính được cá nhân hóa
- OpenAI cũng cho biết “hành vi của mô hình cũng không thay đổi”, nhấn mạnh tính liên tục của chính sách hiện hành
Việc sử dụng ChatGPT để tìm thông tin y tế và các giới hạn
- ChatGPT đã trở thành một công cụ được người dân Canada sử dụng rộng rãi để tìm câu trả lời cho các vấn đề sức khỏe
- Nhóm nghiên cứu tại Đại học Waterloo đã đánh giá hiệu năng của ChatGPT-4 bằng cách đưa vào các câu hỏi được biến đổi từ những kịch bản trong kỳ thi chứng chỉ y khoa
- Kết quả cho thấy 31% câu trả lời là chính xác và 34% là rõ ràng
- Một nghiên cứu khác từ Đại học British Columbia phát hiện rằng cách biểu đạt giàu đồng cảm của ChatGPT được cảm nhận là thuyết phục hơn cả con người thật
- Ngay cả khi thông tin không chính xác, nó vẫn được trình bày bằng giọng điệu tự tin và tạo cảm giác đáng tin, khiến người dùng khó phân biệt lỗi sai
- Các bác sĩ đang chứng kiến những tình huống bệnh nhân tin vào lời khuyên từ công cụ AI và đến khám khi đã tự đi đến kết luận từ trước
Đính chính bài báo
- Phiên bản ban đầu của bài báo mô tả rằng OpenAI đã ngừng chức năng đưa ra lời khuyên y tế và pháp lý, nhưng
- OpenAI sau đó đã đính chính điều này khi cho biết “hành vi của mô hình không thay đổi”
2 bình luận
Ở những quốc gia có hệ thống y tế chưa được thiết lập tốt, dùng cái này có lẽ sẽ giúp ích rất nhiều.
Ý kiến Hacker News
Tôi đọc nội dung này không phải theo nghĩa “không thể trực tiếp hỏi ChatGPT về y tế hay pháp lý”, mà là “không được xây dựng dịch vụ cung cấp lời khuyên y tế/pháp lý cho người khác dựa trên ChatGPT”
Ví dụ, Epic không thể đưa ChatGPT vào ứng dụng của mình để đọc thay hồ sơ bệnh nhân. Nhưng cá nhân thì vẫn có thể hỏi trực tiếp ChatGPT
Tuy vậy, tôi vẫn chưa tự tìm thấy điều khoản sử dụng được trích dẫn trong bài
Có vẻ phóng viên đã nhầm lẫn giữa ChatGPT và GPT API. Điều khoản thực tế được gộp trong Điều khoản sử dụng của OpenAI
Câu liên quan là không được dùng đầu ra cho “các mục đích có thể gây ảnh hưởng đáng kể như quyết định pháp lý, y tế, tài chính đối với cá nhân”
Vì họ từng quảng bá nhiều rằng GPT đã vượt qua các kỳ thi luật và y khoa, nên có thể hiểu đây là cách để tránh trách nhiệm nếu phát sinh vấn đề từ lời khuyên thực tế
Nếu công ty như Epic muốn thêm tính năng kiểu này, có lẽ họ sẽ phải gắn tuyên bố miễn trừ trách nhiệm như “đây là nội dung do AI tạo ra và không phải tư vấn pháp lý”
Nếu như tôi muốn tham khảo ý kiến của ChatGPT thì chỉ cần tự hỏi trực tiếp. Đóng gói lại rồi bán là đánh lừa người dùng
Vấn đề thực sự không phải là thay đổi chính sách, mà là việc AI đã phát triển khả năng nói nghe rất đáng tin nhanh hơn nhiều so với độ chính xác thực tế
Vì vậy ngay cả câu trả lời sai cũng nghe như của chuyên gia, và mọi người lại bị thuyết phục bởi giọng điệu đầy tự tin đó
Đặc biệt trong các lĩnh vực mà hệ quả rất quan trọng như y tế và pháp lý, khoảng cách giữa sự chắc chắn và độ chính xác này là rủi ro lớn nhất
Tôi đã nhiều lần thấy mọi người dùng ChatGPT như một nhà tham vấn tâm lý. Có người còn tự chẩn đoán
Nghe buồn cười nhưng thực tế rất nguy hiểm. Mô hình luôn có xu hướng hùa theo một cách tích cực nên người dùng rất dễ lún sâu theo hướng sai
Những trường hợp như vậy rốt cuộc rất có thể sẽ dẫn đến kiện tụng
Tôi thực sự đã nghe về những trường hợp lời khuyên từ LLM dẫn đến cố gắng tự sát hoặc gây tổn hại nghiêm trọng
Nếu quanh bạn có ai đang dùng LLM theo kiểu này, hãy nhất định khuyên họ tìm đến sự trợ giúp của chuyên gia
ChatGPT chỉ khiến quá trình đó dễ hơn mà thôi. Về bản chất nguyên nhân là vấn đề tiếp cận dịch vụ y tế
Thật mỉa mai khi OpenAI không mấy quan tâm đến bản quyền hay IP của người khác nhưng lại nhấn mạnh điều khoản của chính mình
(Welcome to the Internet, Jeff Bezos Song)
Cuối cùng điều khoản cũng chỉ là để né trách nhiệm, là cơ chế để người dùng không thể kiện OpenAI nếu dùng sai và gặp vấn đề
Tôi đã đoán là sớm muộn gì cũng sẽ có kiểu quy định này
Sau này có lẽ họ sẽ tạo ra chứng nhận kiểu “HippocraticGPT được chứng nhận”, rồi bán một phiên bản an toàn để dùng cho y tế và pháp lý
Làm vậy còn có thể kiếm tiền bằng giấy phép doanh nghiệp
Công ty tôi làm cũng chỉ cung cấp công cụ cho chuyên gia. Bệnh nhân không trực tiếp nhìn thấy đầu ra của mô hình
Mục tiêu không phải điều trị tốt hơn mà là điều trị hiệu quả hơn
Nội dung bài đã được sửa, đính chính rằng không phải OpenAI cấm tư vấn y tế/pháp lý, mà là cách hoạt động của mô hình không thay đổi
Có thể xem bản gốc tại bài viết của CTV News
Có người nói năm ngoái họ đã tránh được đột quỵ nhờ ChatGPT. Họ cảm thấy LLM đã giúp ích rất nhiều trong việc cung cấp thông tin y tế
Vì đây là hệ thống phi định tính nên kết quả có thể khác nhau ở từng thời điểm
Dù vậy họ vẫn nói thêm rằng thật may vì người kia đã an toàn
Gần đây tại OpenAI Dev Day họ từng giới thiệu trên sân khấu một trường hợp hỗ trợ chẩn đoán y khoa, nên chính sách lần này có lẽ xuất phát từ việc rủi ro pháp lý quá lớn
Tôi nghĩ khả năng cao OpenAI sẽ tung ra sản phẩm dành riêng cho bác sĩ hoặc luật sư
Nếu cấm tư vấn pháp lý/y tế trên ChatGPT phổ thông thì họ có thể phân biệt giá
Tuy vậy về lâu dài, nếu quy định được nới lỏng thì cuối cùng có thể dẫn tới thay thế chuyên gia
Tôi hiểu điều khoản lần này theo nghĩa là “cấm kiện tụng vì tư vấn y tế/pháp lý sai”
Điều khoản này chỉ đơn giản là làm rõ rằng đừng gói nó thành kiểu “dịch vụ luật sư AI dựa trên ChatGPT”