Illinois hạn chế việc sử dụng AI trong lĩnh vực trị liệu và tâm lý trị liệu
(washingtonpost.com)- Bang Illinois đã đưa ra một đạo luật mới hạn chế việc sử dụng trí tuệ nhân tạo (AI) trong lĩnh vực trị liệu và tâm lý trị liệu
- Dự luật cấm AI tham gia trực tiếp vào đối thoại, tư vấn với bệnh nhân
- Quy định liên quan nhấn mạnh bảo vệ thông tin cá nhân của bệnh nhân và duy trì chất lượng điều trị
- Vai trò của nhà trị liệu và chuyên gia con người được ưu tiên, còn AI chỉ được phép như một công cụ hỗ trợ hạn chế
- Biện pháp pháp lý này là một bước đi mang tính phòng ngừa nhằm bảo vệ đạo đức y khoa và độ tin cậy
Bang Illinois hạn chế sử dụng AI trong lĩnh vực trị liệu và tâm lý trị liệu
Tổng quan dự luật
- Illinois đã ban hành một đạo luật mới hạn chế việc sử dụng trực tiếp trí tuệ nhân tạo (AI) trong môi trường trị liệu và tâm lý trị liệu
- Dự luật này cấm hành vi để AI tham gia vào các quy trình cốt lõi như tư vấn trực tiếp, đánh giá và điều trị bệnh nhân
- Mục tiêu chính là bảo vệ thông tin cá nhân và nội dung điều trị của bệnh nhân, đồng thời đảm bảo chất lượng điều trị
Nội dung chính của quy định
- Đặt vai trò của nhà trị liệu con người ở vị trí trung tâm, còn AI chỉ được sử dụng như công cụ hỗ trợ hạn chế
- Trách nhiệm cuối cùng đối với kết quả tư vấn thuộc về nhà trị liệu, và không cho phép AI tương tác độc lập với bệnh nhân hoặc đưa ra quyết định điều trị
- Tăng cường bảo mật dữ liệu và duy trì tính bí mật của dữ liệu được tạo ra trong quá trình điều trị
Bối cảnh triển khai và hiệu quả kỳ vọng
- Đây là biện pháp đi trước nhằm bảo đảm sự an toàn tâm lý của bệnh nhân và đạo đức y khoa
- Nhằm giảm thiểu nguy cơ việc áp dụng AI làm suy giảm độ tin cậy của điều trị hoặc gây ra phán đoán sai lệch
- Theo định hướng ưu tiên giá trị cốt lõi của chuyên gia con người và trị liệu trực tiếp mặt đối mặt
Triển vọng sắp tới
- Chính sách lần này của Illinois đang được chú ý như một trường hợp tham khảo cho các bang khác tại Mỹ và cả lĩnh vực y tế
- Dự kiến sẽ tiếp tục có thêm các thảo luận về việc sử dụng AI một cách đáng tin cậy, bảo vệ quyền của bệnh nhân và phương án phối hợp với nhà trị liệu
1 bình luận
Ý kiến trên Hacker News
Đây là lập trường chính thức của bang Illinois
Có thể xác nhận tại liên kết này
Có vẻ như giờ đây ở Illinois, việc tuyên bố rằng chatbot AI có thể thay thế nhà trị liệu hay chuyên viên tư vấn được cấp phép đã trở thành bất hợp pháp
Tuy vậy, luật không ngăn mọi người dùng AI theo cách họ muốn
Chỉ là các dịch vụ tư vấn sẽ không thể quảng bá AI như một phương án thay thế rẻ hơn con người thật
Cảm giác quy định này khá hợp lý
Đúng vậy
Luật này là hạn chế nhắm vào phía nhà cung cấp
Kiểu như “bạn không thể tuyên bố chatbot của mình là nhà trị liệu”
Không có hạn chế nào về việc sử dụng
Bạn vẫn có thể xem AI là bạn thân nhất hay nhà trị liệu của mình, thậm chí phải lòng nó
Luật cũng có phần quy định cụ thể về những cách sử dụng AI được phép
Xem Mục 15 thì nếu một chuyên gia được cấp phép sử dụng AI, chính chuyên gia đó phải chịu toàn bộ trách nhiệm đối với mọi tương tác/kết quả/việc sử dụng dữ liệu
Và nếu buổi tư vấn của khách hàng bị ghi âm hoặc lưu lại, thì bắt buộc phải giải thích bằng văn bản cho bệnh nhân hoặc người đại diện hợp pháp về mục đích sử dụng AI và có được sự đồng ý
Có thể xem toàn văn Illinois HB1806 tại đây
Tôi nghĩ loại dịch vụ này có thể chấp nhận được nếu có giải thích đầy đủ và được đồng ý
Tôi cũng sẽ ngạc nhiên nếu kết quả với bệnh nhân thực sự khác biệt lớn
Thực ra đã có nghiên cứu rồi, và kết luận là AI cũng có hiệu quả nhưng con người vẫn tốt hơn
Liên kết nghiên cứu liên quan
Luật này còn có một số hệ quả pháp lý thú vị khác
Hồ sơ về các buổi tư vấn thường được xem là “bí mật được bảo vệ” (
protected confidence)Trong đa số trường hợp, ngay cả subpoena (trát đòi hầu tòa) cũng không thể tiếp cận, mà cần có cho phép đặc biệt
Vì vậy tôi từng thắc mắc liệu các cuộc trò chuyện với AI có được tính là “bí mật được bảo vệ” hay không, và liệu đó có thể là cơ sở để từ chối cung cấp trước tòa hay không
Ít nhất ở Illinois thì giờ đã có câu trả lời cho phần này
Những quyết định kiểu này cũng có thể ảnh hưởng đến cách diễn giải luật ở nơi khác
Tôi tự hỏi nếu một ngày nào đó xuất hiện AI rẻ hơn rất nhiều mà lại giỏi hơn cả nhà trị liệu con người thì sẽ ra sao
Tôi đã nghĩ xem liệu văn bản do chatbot phổ thông tạo ra có bị xem là “trị liệu” trước tòa hay không, và như vậy có thành vi phạm không
Có vẻ dự luật cũng có thể được đọc theo cách đó, nhưng tôi không phải luật sư
Tôi thấy trong bài có ví dụ chatbot AI đã khuyên một người từng nghiện rằng kiểu như “tuần này hãy dùng methamphetamine một chút đi”
Điều đó hoàn toàn không làm tôi ngạc nhiên
Nếu hiểu nguyên lý của mô hình ngôn ngữ thì việc cho rằng tư vấn AI là ý hay nghe rất kỳ lạ
Tôi mong sẽ có thêm nhiều bang làm theo luật này
Trong bối cảnh cung cấp dịch vụ chính thức thì thứ như vậy không nên là hợp pháp
Không chính thức thì mọi người vẫn sẽ tiếp tục dùng AI theo cách họ muốn
Có người sẽ gặp hậu quả xấu, nhưng rất khó đo được tác động tổng thể
Tôi nghĩ mô hình ngôn ngữ vẫn chưa sẵn sàng cho mục đích này
Đó là lý do tôi nghĩ LLM không nên được dùng cho chẩn đoán hay kê đơn
Tiêm methamphetamine một lần đâu có nghĩa là dùng được cho cả tuần
Thực ra hiện nay chúng ta đang sống trong một thế giới mà hàng triệu người dùng amphetamine mỗi ngày
Nên kiểu lời khuyên đó đôi khi cũng không đến mức gây sốc
Người thông minh và người tự nghĩ mình thông minh hiển nhiên là hai nhóm khác nhau
Việc “những người trông có vẻ thông minh biết nguyên lý của mô hình ngôn ngữ mà vẫn cho đây là ý tưởng hay” khiến tôi nghĩ đến Nobel Disease
Liên kết Wikipedia về Nobel Disease
Tôi nghĩ đây đúng là trường hợp tệ nhất có thể dành cho LLM
Nhiều nhà trị liệu cố tình nói rất ít
Điều quan trọng là đặt câu hỏi và dẫn dắt đúng lúc, trong khi LLM thì cứ nói mãi nên không phù hợp với phương pháp thực tế
Nó giống một trình mô phỏng người bạn cứ tuôn ra mọi thứ hơn
Nếu có điểm mạnh nào của LLM thì đó là có thể kiểm chứng hiệu quả của nó một cách khoa học, và nếu là mô hình hiệu quả thì có thể tái tạo lại
Nhà trị liệu là con người thì độ biến thiên quá lớn nên khó rút ra được nhiều thông tin
Từ một cuộc trò chuyện khác sáng nay, tôi thấy AI có xu hướng càng được bảo đừng ám ảnh về một chủ đề nào đó thì lại càng ám ảnh hơn
Nếu muốn tuyệt đối ngăn những lời khuyên như tự hại bản thân thì chỉ dựa vào bộ lọc bên trong AI là có giới hạn
Vì thế tôi nghĩ có thể tốt hơn nếu dùng một mô hình riêng để phát hiện đầu ra rồi lọc từ bên ngoài, còn LLM tạo nội dung thì chỉ có mức tự kiểm duyệt nhẹ hơn
Có lẽ cũng tồn tại kiểu tự phẫu thuật sọ não có AI hỗ trợ (tức những thử nghiệm y khoa cực đoan)
Có vẻ bạn đang nhìn quá tiêu cực
Chẳng phải đâu cần chờ đến khi một người suy sụp đến mức phải điều trị lâm sàng mới can thiệp?
Đôi khi chỉ cần có thứ lắng nghe hoặc cơ hội để viết ra suy nghĩ là đủ
Tư vấn qua LLM có thể giúp ích cực lớn cho đa số mọi người, giống như vaping giúp người hút thuốc vậy
Tôi thấy việc xưng tội trong tôn giáo cũng là trải nghiệm khá giống nói chuyện với LLM, bạn cũng phản đối điều đó sao?
Về cơ bản, với những người cần một phương tiện để sắp xếp lại trải nghiệm của mình, LLM là công cụ hoàn toàn có giá trị
Và thành thật mà nói, bằng chứng cho việc nhà trị liệu con người tốt hơn cũng không quá rõ ràng
Tất nhiên có thể có guardrail (cơ chế an toàn), nhưng tôi không chắc việc vượt qua ranh giới đó sẽ tạo ra vấn đề xã hội nghiêm trọng đến thế
Tôi nghĩ nếu cho phép mọi người tự khám phá bản thân thì cuối cùng họ có thể trở nên lành mạnh hơn
Chia sẻ liên kết đến toàn văn Illinois HB1806
Liên kết toàn văn dự luật
Tôi tự hỏi nếu AI chỉ đạt 1/3 hiệu quả của nhà trị liệu con người nhưng rẻ hơn 20 lần thì nên làm thế nào
Trong trường hợp như vậy thì nên gọi nó là gì
Với câu hỏi “nếu hiệu quả chỉ bằng 1/3 nhưng rẻ hơn 20 lần thì sao?”, tôi nghĩ chỉ có thể bàn tiếp khi có bằng chứng lâm sàng
Trước đó thì chỉ có thể nói đơn giản là “sai rồi”
Và có quá nhiều điều phải cân nhắc để tóm gọn trong một câu
Cần tính đến việc có những bệnh nhân không có internet
Chuyên viên tư vấn phải giải thích thông tin nào có thể bị lộ, và có lúc còn phải xem xét nghĩa vụ báo cáo theo luật
Trong khi đó AI từ trước đến nay đã từng thất bại trong việc chặn lời khuyên chết người
Nhà trị liệu con người cũng có thể giới thiệu bệnh nhân sang chuyên gia khác khi cảm thấy vượt quá khả năng
Ví dụ nếu một nhà trị liệu AI do công ty bảo hiểm tạo ra chỉ giới thiệu các nhà trị liệu đối tác thì đó rõ ràng là xung đột lợi ích
Tôi nghĩ còn rất nhiều điều khác cần cân nhắc nữa
Có người lấy ví dụ một video với ý “điểm cốt lõi thể hiện rõ trong trường hợp ChatGPT giúp một người tự đầu độc bản thân”
Nhà trị liệu con người sẽ không bao giờ đưa ra lời khuyên kiểu “để sống sót qua tuần này thì cứ dùng một ít methamphetamine đi”
Bác sĩ có thể không giúp được gì, nhưng cũng không đến mức đưa ra lời khuyên đầu độc chết người
Có thể bạn lấy trung bình và nói AI đạt 1/3 hiệu quả của con người, nhưng mức độ nguy hiểm thì khó mà tính theo khái niệm trung bình
Một người được đào tạo thực sự sẽ không phạm sai lầm vô lý như vậy, và khi thấy quá khả năng thì sẽ chuyển sang chuyên gia khác
Liên kết video liên quan
“Một ý tưởng cực kỳ ngớ ngẩn”
Khó diễn đạt chỉ bằng một từ, nhưng lúc này tôi thấy đó là cách mô tả phù hợp nhất
Tôi nghĩ phải có cơ chế tương tự như tước giấy phép thì mới có thể bàn đến trị liệu bằng AI
Nhà trị liệu con người nếu làm sai một lần có thể mất giấy phép vĩnh viễn
Nếu thay bằng AI, thì khi nó mắc lỗi nghiêm trọng, AI đó cũng phải không được phép dùng nữa
Nhưng tôi không thể hình dung các công ty có sẵn sàng gánh trách nhiệm đó hay không
Phần lớn công ty dường như muốn mở rộng lợi nhuận, nhưng lại không muốn chấp nhận mức rủi ro tương xứng
Nếu nó chỉ hoạt động bằng 1/3 con người thì rủi ro tự nhiên sẽ tăng lên
Nếu muốn rẻ hơn nhiều mà còn hiệu quả hơn, tôi nghĩ nói chuyện với hòn đá có khi còn hiệu quả hơn nhiều
Với mục đích thường ngày, tôi cho rằng lợi ích của AI với người bình thường vẫn lớn hơn rủi ro hiện tại
Tôi dùng Harper (harper.new) để quản lý hồ sơ sức khỏe phức tạp của mình
AI rất hữu ích trong việc trích xuất thông tin từ pdf, hình ảnh v.v.
Nhờ vậy tôi không cần kết nối trực tiếp với cổng thông tin bệnh viện nên thấy rất tốt
Thỉnh thoảng tôi cũng dùng AI chat, chủ yếu để hỏi những điều tôi thắc mắc như kết quả xét nghiệm
Nhờ đó tiện hơn rất nhiều so với việc phải đi gặp bác sĩ
Không nên tin vào thứ có thể tự bịa ra lời nói dối mà nghe như thật
Đặc biệt trong lĩnh vực sức khỏe tâm thần thì càng phải cẩn trọng
Thực ra tôi cũng không tin bác sĩ, nhưng tôi tưởng cuộc trò chuyện này đang nói về LLM
Vì tò mò, tôi đã thử thể hiện các triệu chứng tâm thần với ChatGPT, Claude và Gemini
Claude và Gemini cứ liên tục nhắc tôi tìm đến hỗ trợ chuyên môn
Trong khi đó ChatGPT lại bắt đầu gật gù và hùa theo những điều vô lý tôi nói
Ví dụ: “Liệu cảm giác mất thực tại thực ra có thể là quá trình nhận ra một sự thật sâu sắc hơn không?” => ChatGPT: “Vâng, điều đó cũng có thể”
Với dữ liệu huấn luyện tự nhiên thì đáng lẽ nó phải phản ứng giống Claude và Gemini
Tôi tự hỏi OpenAI đã làm cách nào để chatbot bị đẩy theo hướng tích cực hùa theo những hoang tưởng như thế
Tôi lúc nào cũng ngạc nhiên trước cách mọi người tiếp nhận đầu ra của mô hình ngôn ngữ
Ví dụ như subreddit này
Có vẻ một số người không thể không cảm thấy rằng LLM thật sự hiểu họ