Y tá Kaiser: “Giám sát AI đang làm công việc và việc chăm sóc bệnh nhân tệ hơn”
(localnewsmatters.org)- Các y tá tư vấn và phân loại của Kaiser Permanente cho biết việc quản lý hiệu suất theo dõi cuộc gọi trên 15 phút, khoảng cách giữa các cuộc gọi và việc tuân thủ hướng dẫn đang làm suy yếu phán đoán chuyên môn và việc chăm sóc bệnh nhân
- AI được thử nghiệm trong năm 2024 còn đánh giá cả sự đồng cảm và tông giọng của y tá, và các y tá chỉ trích rằng hệ thống chấm điểm sai mà không hiểu bối cảnh công việc
- Ngay cả khi các ca tư vấn dài là điều không thể tránh khỏi, như bệnh nhân có nguy cơ tự sát, triệu chứng phức tạp hoặc cần thông dịch, họ vẫn phải để ý đến điểm số hàng tháng và các buổi đánh giá; vào giờ cao điểm, thời gian ghi chép và hồi phục sau cuộc gọi bị rút xuống còn dưới 30 giây
- Kaiser phản bác rằng họ không đánh giá hiệu suất bằng thời gian xử lý trung bình và mọi công cụ đều có đánh giá và giám sát của con người, nhưng không công bố danh sách cụ thể hay cách vận hành của các hệ thống nội bộ
- Công đoàn đang coi AI là một chủ đề lớn trong đàm phán hợp đồng của 25.000 người lao động, trong khi cơ quan lập pháp California cũng đang xem xét các dự luật bảo vệ nhân viên y tế khi từ chối khuyến nghị tự động hóa và hạn chế AI dự đoán cảm xúc
Áp lực hiệu suất từ ngưỡng cuộc gọi 15 phút
- Bảy y tá tư vấn và phân loại của Kaiser cho biết nếu nói chuyện với bệnh nhân quá 15 phút, họ thường xuyên bị quản lý chỉ trích hoặc bị gọi vào các buổi đánh giá hiệu suất
- Thời lượng cuộc gọi được phản ánh vào điểm hiệu suất mà các y tá nhận mỗi tháng
- Phần mềm cố dự đoán hằng ngày liệu y tá có làm việc kém hiệu quả hay không, hoặc có trả lời điện thoại đủ nhanh hay không
- Raquel Alvarez Sanchez, làm việc tại Vallejo từ năm 2010, đã nói chuyện hơn 1 giờ với một bệnh nhân có nguy cơ tự sát cho đến khi cảnh sát đến nơi
- Dù ý thức rằng cuộc gọi dài có thể làm xấu đi thời lượng cuộc gọi trung bình trong nhiều tuần và dẫn đến câu hỏi từ quản lý, cô vẫn không ngắt máy
- Với vai trò lãnh đạo công đoàn, khi tham dự các buổi đánh giá cùng đồng nghiệp, cô chứng kiến những trường hợp việc xử lý cuộc gọi hoàn toàn phù hợp nhưng vẫn bị xem là vấn đề chỉ vì vượt quá 15 phút
- Cô nói chưa thấy y tá nào bị sa thải vì lý do này, nhưng lo ngại áp lực kéo dài có thể dẫn tới nghỉ việc hoặc nghỉ hưu sớm
- Các y tá cho biết họ được yêu cầu làm theo hướng dẫn định sẵn trong cuộc gọi và giới hạn lời khuyên ở không quá 2–3 ý
- Điều này có thể khiến họ rơi vào thế phải chọn giữa giữ lại lời khuyên cần thiết hay chấp nhận bị đánh giá hiệu suất
Tác động chưa rõ ràng tới việc chăm sóc bệnh nhân
- Tác động thực sự của quản lý bằng thuật toán và giới hạn thời lượng cuộc gọi lên kết quả điều trị của bệnh nhân vẫn chưa rõ ràng
- Y tá tư vấn không theo dõi bệnh nhân sau khi kết thúc cuộc gọi nên khó biết liệu có hậu quả tiêu cực nào xảy ra hay không
- CalMatters đã yêu cầu hồ sơ công khai từ California Department of Managed Health Care trong năm 2024, nhưng không tìm thấy khiếu nại của bệnh nhân liên quan đến thời lượng cuộc gọi của Kaiser
- Các y tá nói rằng những ca tư vấn sau thường cần nhiều hơn 15 phút
- Bệnh nhân cần được đánh giá đồng thời nhiều triệu chứng hoặc bệnh mạn tính
- Cha mẹ mới có con cần được tư vấn và trấn an
- Bệnh nhân muốn được giáo dục sức khỏe thêm
- Bệnh nhân vừa nhận chẩn đoán làm thay đổi cuộc sống và rơi vào sốc hoặc lo âu
- Những cuộc gọi cần thông dịch, thường mất hơn 30 phút
- Khoảng 4 trên 10 cư dân California sử dụng ngôn ngữ khác tiếng Anh, và một nửa trong số đó không thông thạo tiếng Anh
- Một y tá kể rằng ban đầu cô nghĩ một bệnh nhân lớn tuổi được chẩn đoán ung thư giai đoạn cuối có nguy cơ tự sát, nhưng rồi nhận ra người này thực ra chỉ cần một người để trò chuyện trong lúc bị sốc
- Cô muốn thể hiện thêm sự đồng cảm và an ủi, nhưng lại nói ít đi vì lo điểm số hàng tháng giảm và bị quản lý trách mắng
- Cô phải tự cân nhắc liệu việc nói nhiều hơn mức cần thiết hoặc lệch khỏi hướng dẫn có khiến mình bị kỷ luật hay không
- Michele Ramos của Consumer Watchdog cho rằng nhiều bệnh nhân Kaiser bắt đầu quá trình khám chữa bệnh qua đường dây tư vấn, nên các ràng buộc ở giai đoạn cuộc gọi có thể là điểm khởi đầu của những vấn đề về sau
- Kaiser từng đạt thỏa thuận bao gồm khoản phạt kỷ lục 50 triệu USD sau kết quả điều tra cho thấy họ trì hoãn lịch hẹn sức khỏe tâm thần quá thời hạn pháp lý và lạm dụng trị liệu nhóm thay cho điều trị cá nhân
- Năm 2002, công ty từng bị chỉ trích vì thưởng cho nhân viên tổng đài không phải y tá để đổi lấy các cuộc gọi ngắn, nhưng các y tá hiện nay nói họ không gặp cùng một thực tiễn như vậy
AI chấm điểm sự đồng cảm và tông giọng
- Kaiser đã thử nghiệm vào mùa hè năm 2024 một công cụ AI nhằm đánh giá sự đồng cảm và tông giọng trong giọng nói của y tá và bệnh nhân
- Các y tá đã ký kiến nghị yêu cầu bảo vệ quyền riêng tư bệnh nhân, minh bạch, quyền phán đoán chuyên môn và sự tham gia của y tá trong quá trình triển khai công nghệ
- Họ cũng dùng khẩu hiệu “Trust nurses, not AI” từng xuất hiện trong một cuộc biểu tình bên ngoài bệnh viện cùng năm cho chiến dịch này
- Thử nghiệm kết thúc vào tháng 11/2024, nhưng đại diện công đoàn cho biết họ nghe từ ban quản lý rằng chương trình có thể được đưa trở lại trong tương lai
- Sanchez nói rằng chỉ riêng việc giám sát hiện có cũng đã khiến y tá cảm thấy bị quấy rầy, và kế hoạch để AI đánh giá rồi chấm điểm các cuộc gọi còn làm điều đó tệ hơn
- Theo một y tá giấu tên, AI liên tục chấm sai vì không hiểu công việc của y tá
- Kaiser không trả lời các câu hỏi về công cụ này, các hệ thống tự động dùng trong đánh giá hiệu suất y tá, hay việc họ có thông báo cho bệnh nhân về đánh giá đồng cảm và tông giọng hay không
30 giây giữa các cuộc gọi và sự kiệt quệ cảm xúc
- Các y tá cho biết trước đây họ có khoảng 10 phút sau cuộc gọi để hoàn tất hồ sơ bệnh nhân hoặc hồi phục sau những ca tư vấn khó khăn
- Hiện nay, khi lượng cuộc gọi cao, họ thường chỉ có dưới 30 giây trước cuộc gọi kế tiếp
- Vào thời điểm vắng hơn như đêm muộn, khoảng nghỉ có thể dài hơn
- Sau những cuộc gọi đặc biệt khó khăn, họ có thể xin quản lý cho thêm thời gian
- Ngay cả sau khi nói chuyện với bệnh nhân có nguy cơ tự sát, khủng hoảng sức khỏe tâm thần hoặc sắp qua đời, họ vẫn gần như không có thời gian nghỉ, và có lo ngại rằng nhịp độ này có thể dẫn đến sai sót làm lỡ các dấu hiệu quan trọng về tình trạng bệnh nhân
- Nghiên cứu năm 2023 khảo sát các tổng đài tại 4 nước phát triển cho thấy nhân viên chịu quản lý và giám sát bằng AI có ít thời gian hơn giữa các cuộc gọi và mức kiệt quệ cảm xúc cao hơn
- Gần một nửa số người trả lời cho biết công cụ AI làm tăng căng thẳng công việc
- Nghiên cứu trước đó của cùng nhóm cũng xác nhận mối liên hệ giữa giám sát hiệu suất và tỷ lệ kiệt quệ cảm xúc cao
- Virginia Dolleghast của Cornell University cho rằng trường hợp của Kaiser nằm trong xu hướng rộng hơn của toàn ngành là giám sát liên tục những lao động xử lý các vấn đề phức tạp và nặng về cảm xúc
- Trong môi trường y tế, rủi ro còn lớn hơn vì sai sót do căng thẳng và kiệt sức có liên hệ trực tiếp tới tính mạng và sức khỏe con người
- Những lao động có quyền tự quyết cao hơn về tốc độ và thời điểm làm việc thường có mức hài lòng công việc cao hơn và ít nghỉ làm hơn
Thuật toán và phán đoán chuyên môn của nhân viên y tế
- Khảo sát hơn 2.000 y tá của National Nurses United trong năm 2024 cho thấy một nửa nói rằng nơi làm việc của họ đang sử dụng hệ thống thuật toán phân tích hồ sơ sức khỏe
- Các hệ thống này có thể dự đoán mức độ dễ tổn thương của bệnh nhân hoặc thời gian chăm sóc cần thiết
- Hai phần ba người trả lời nói rằng phán đoán của họ từng không khớp với dự đoán của máy tính
- 6 trên 10 người không tin rằng người sử dụng lao động sẽ ưu tiên an toàn bệnh nhân khi dùng AI
- Y tá Kaiser Pa Vue cho biết cô thường xuyên trao đổi với quản lý về hiệu quả xử lý cuộc gọi và nhận điểm đánh giá hằng tháng
- Cô từng bị giảm điểm sau khi lặp lại lời khuyên cho bệnh nhân vì lo ngại các triệu chứng bất thường và khả năng có vấn đề tim mạch
- Cô cũng chứng kiến các trường hợp bị chấm điểm thấp khi bác bỏ khuyến nghị của phần mềm bằng phán đoán chuyên môn hoặc đặt lịch hẹn cho bệnh nhân mà không trao đổi với bác sĩ
- Vue nói cô không phản đối AI nếu nó mang lại lợi ích cho bệnh nhân, nhưng cho rằng việc giám sát đồng cảm và tông giọng đang tập trung vào tăng năng suất và cắt giảm chi phí
- Khi việc áp dụng AI gia tăng trên toàn quốc, các công đoàn đang yêu cầu người sử dụng lao động xử lý các vấn đề do AI gây ra trong các cuộc đàm phán hợp đồng mới
- 2.400 nhân viên sức khỏe tâm thần của Kaiser tại Northern California cũng đang trong quá trình đàm phán hợp đồng
- Họ lo ngại về việc dùng bản ghi phiên trị liệu để huấn luyện mô hình AI và khả năng AI thay thế việc làm
AI mà Kaiser đã đưa vào quy trình y tế
- Ngoài trung tâm tư vấn, Kaiser cũng sử dụng hoặc thử nghiệm AI ở nhiều khâu khác nhau trong quy trình chăm sóc y tế
- Phân tích hồ sơ sức khỏe điện tử để nhận diện nguy cơ xảy ra biến cố bất lợi ở bệnh nhân nằm viện
- Dùng Preventus để xác định thời điểm xuất viện của bệnh nhân
- Bác sĩ và nhà trị liệu dùng Abridge để ghi âm khám trực tiếp và chuyển giọng nói thành văn bản
- Tại các cơ sở ở Bay Area, công ty đang thử nghiệm giám sát từ xa bằng AI cho những bệnh nhân cần chăm sóc bổ sung
- Cathy Kennedy của National Nurses United và CNA cho rằng AI phát hiện sự đồng cảm là một bước tiếp theo trong chuỗi biện pháp nhằm hạn chế quyền tự chủ của y tá và tăng hiệu quả
- Vì AI có thể tự động hóa và chia nhỏ công việc điều dưỡng, bà yêu cầu các công ty phát triển và triển khai phải chứng minh hiệu quả và tính công bằng của hệ thống trước khi đưa vào sử dụng
- Hợp đồng giữa Kaiser và công đoàn y tá có điều khoản yêu cầu thông báo khi đưa vào công nghệ mới, nhưng theo CNA thì đôi khi việc thông báo bị bỏ sót
- Lãnh đạo công đoàn yêu cầu các thành viên báo lại khi phát hiện công nghệ mới và đang theo dõi số lượng mô hình AI được sử dụng tại Kaiser
- Bằng cách này, họ đã ứng phó với AI đồng cảm/tông giọng và cũng khiến một thử nghiệm thay y tá túc trực bên giường bằng camera cho bệnh nhân lú lẫn bị dừng lại
- Coalition of Kaiser Permanente Unions cũng vận hành chiến dịch “see something, say something” để nhân viên tuyến đầu báo cáo việc triển khai AI
- Phía công đoàn nói rằng ban quản lý quá thường xuyên đưa AI vào quy trình làm việc mà không thông báo cho nhân viên hay lấy ý kiến của họ
- Kỹ thuật viên X-quang Debru Carthan lo ngại thiết bị phát hiện tông giọng có thể phân biệt đối xử với các y tá có nền tảng văn hóa khác nhau
Phản bác của Kaiser và đàm phán lao động
- Kaiser phản bác rằng họ không đánh giá hiệu suất của nhân viên tư vấn bằng Average Handle Time hay áp đặt ngưỡng thời lượng cuộc gọi
- Công ty cho biết các công cụ tổng đài hỗ trợ đảm bảo chất lượng và đều có đánh giá, giám sát của con người
- Họ nói rằng việc sử dụng AI ưu tiên an toàn bệnh nhân, quyền riêng tư và tính công bằng, nhưng không công bố thông tin cụ thể về các hệ thống công nghệ nội bộ vì lý do bảo mật và vận hành
- Kaiser là nhà tuyển dụng tư nhân lớn nhất California, cung cấp dịch vụ y tế cho 9 triệu người trong bang và 3 triệu người Mỹ ở các khu vực khác
- California Nurses Association sẽ bắt đầu đàm phán hợp đồng mới với Kaiser vào tháng 7/2026, áp dụng cho 25.000 người, bao gồm 1.000 y tá tổng đài
- Các y tá đã đình công một ngày trong tháng 3 để phản đối AI
- Vào mùa thu năm trước, họ cũng đã biểu tình bằng hình thức cầm bảng phản đối việc sử dụng AI
- CNA không công bố các điều khoản yêu cầu chi tiết liên quan đến AI trước khi đàm phán
Quy định về AI tại nơi làm việc ở California
- AB 1018 và SB 7 được CNA ủng hộ từng yêu cầu người sử dụng lao động phải thông báo cho nhân viên trước khi dùng hệ thống tự động hóa trong thăng chức, kỷ luật, đánh giá hiệu suất và các quyết định tương tự
- Thống đốc Gavin Newsom đã phủ quyết SB 7
- Trong bối cảnh bị các doanh nghiệp bao gồm cả Kaiser phản đối mạnh, AB 1018 đã thất bại 3 năm liên tiếp
- Các nhà lập pháp đang tái đề xuất SB 947, phiên bản mới của SB 7
- Những dự luật riêng khác đang thúc đẩy các quy định sau
- Cấm người sử dụng lao động dùng AI để dự đoán trạng thái cảm xúc của nhân viên
- Bảo vệ bác sĩ và y tá khỏi bị trả đũa nếu họ phớt lờ khuyến nghị từ hệ thống tự động hóa
- Yêu cầu nhà cung cấp dịch vụ y tế hằng năm phải cung cấp cho nhân viên danh sách các hệ thống tự động hóa
- CNA và California Labor Federation đang ủng hộ khoảng 6 dự luật nhằm điều chỉnh việc sử dụng AI tại nơi làm việc
- Các y tá lo ngại rằng giám sát và chấm điểm đang biến người làm công việc chăm sóc con người thành cỗ máy tự động chỉ biết đánh dấu ô
- Vì các cuộc gọi bị ghi âm, họ thấy khó thể hiện sự hài hước hay sự đồng cảm mang tính cá nhân với bệnh nhân
- Họ cho rằng khi sự tương tác mang tính con người không nằm trong hướng dẫn bị suy giảm, bản chất của nghề điều dưỡng và sự chăm sóc mà bệnh nhân mong đợi cũng bị tổn hại
1 bình luận
Ý kiến trên Hacker News
Đọc bài thì có vẻ phần lớn bất mãn liên quan đến các chỉ số hiệu suất của tổng đài và áp lực phải hạn chế điều trị, tức là vấn đề lạm dụng chỉ số chứ không phải bản thân AI. Việc dùng AI để đánh giá mức độ đồng cảm là một dự án thí điểm năm 2024 và đã bị dừng
Vợ tôi dùng LLM y tế tại Kaiser, và nói rằng nhờ phiên dịch thời gian thực, tóm tắt hồ sơ khám bệnh và tìm kiếm câu trả lời toàn diện nên tiết kiệm được thời gian và cung cấp dịch vụ tốt hơn. Bệnh nhân lớn tuổi thường mang theo cảnh báo từ Apple Watch phát hiện bất thường tim mạch
Thay vì gom các công nghệ có hiệu quả và rủi ro rất khác nhau vào cùng một nhóm, cần đánh giá theo từng mục đích sử dụng riêng lẻ
Ban lãnh đạo và các nhà phân tích đang lợi dụng cơn sốt “AI” để thúc đẩy cả tự động hóa, tin học hóa thông thường lẫn sa thải, nên việc những người phản đối cũng dùng cùng một tên gọi là điều tự nhiên
Ngôn ngữ thiếu chính xác như vậy làm mờ cuộc thảo luận và khiến khó tập trung sự phẫn nộ và năng lượng vào các vấn đề cốt lõi như che giấu trách nhiệm của con người, xói mòn quyền tự chủ, giảm tính linh hoạt của tổ chức và phi chuyên môn hóa, nhưng trách nhiệm cho điều đó không bắt đầu từ những người chỉ trích AI
Nếu ai đó cho rằng việc dùng máy móc để đánh giá con người có đồng cảm đến mức nào là một ý tưởng hay thì không nên nắm quyền lực
Cần có khen thưởng và đánh giá, nhưng liệu quản lý bằng các chỉ số do thuật toán tính ra có phải là cách tốt nhất hay không thì đáng nghi, và trong quá trình đó sự đồng cảm cùng lẽ thường đang biến mất
Bác sĩ gia đình của tôi nói công cụ ghi chép bằng AI đem lại sự nhẹ nhõm rất lớn. Trước đây phải vừa nghe bệnh nhân vừa gõ lại mọi thứ, nhưng giờ có thể tập trung lắng nghe bệnh nhân rồi chỉ ghi cụ thể những gì cần thiết nên căng thẳng giảm đi đáng kể
Tuy nhiên, ngay khi dùng quy tắc vận hành để ép buộc cách khám chữa và chỉ đạo phải điều trị bệnh nhân thế nào thì sẽ vấp phải phản ứng dữ dội, và ý tưởng thay thế phán đoán lâm sàng bằng AI là ngu ngốc
Chỉ số công việc và giám sát dễ gây tác dụng phụ, nhưng công việc điều dưỡng cũng như các nghề khác vẫn cần một mức độ giám sát an toàn nhất định
Tôi từng được nhiều nữ bác sĩ khuyên nên cẩn trọng khi tương tác với điều dưỡng lúc nhập viện; không phải điều dưỡng nào cũng tận tâm, cũng có người lơ là hoặc kiếm cớ gây hại cho bệnh nhân
Y tế không chỉ là một thiên chức thiêng liêng mà còn là một nghề nghiệp, nên cần giám sát; nhưng nếu là các chỉ số do doanh nghiệp áp đặt thì theo định luật Goodhart, khả năng bị bóp méo nghiêm trọng là rất lớn
Vì đây là nghiên cứu được công bố trước đàm phán hợp đồng của công đoàn điều dưỡng nên trông giống suy luận có động cơ. Có rất nhiều vấn đề thực tế, nhưng nghiên cứu đã không xử lý đúng và cần có những phê phán hiệu quả hơn
AI có thể được dùng để xác định những bệnh nhân lạm dụng dịch vụ y tế một cách có chọn lọc, rồi xử lý nguyên nhân gốc rễ để giảm mức sử dụng. Khi đó có thể cải thiện chất lượng chăm sóc bệnh nhân và chất lượng sống của nhân viên y tế, đồng thời dành thời gian tiếp cận những người dùng thiếu đang cần chăm sóc phòng ngừa
Tôi tự hỏi liệu Manna của Marshall Brain đến giờ vẫn còn nghe như chuyện tương lai hay không
https://marshallbrain.com/manna
Vấn đề AI tại nơi làm việc can thiệp vào việc điều dưỡng thực hiện nghĩa vụ y khoa với bệnh nhân không chỉ giới hạn ở Kaiser; UHC cũng đang triển khai và sử dụng các công cụ giám sát AI tương tự
Phần lớn điều dưỡng đang chăm sóc những người trải qua ngày tồi tệ nhất trong đời họ
Bài viết có nhắc đến việc dùng AI nhưng hầu như không đưa ra thiệt hại cụ thể do AI gây ra. Ngược lại, ví dụ về việc Kaiser tối ưu hóa các cuộc gọi để cắt giảm chi phí thay vì chất lượng điều trị thì khá cụ thể
Chính sách coi các cuộc gọi dài là vấn đề hoặc gây bất lợi cho điều dưỡng đưa ra hơn ba lời khuyên có khả năng làm giảm chất lượng chăm sóc
Ở một bệnh viện nông thôn trong vùng, điều dưỡng bị gắn thiết bị theo dõi để ghi lại mọi di chuyển trong bệnh viện, và cả thời gian đứng ở một chỗ cũng được đưa vào đánh giá
Vài năm trước họ ở mỗi phòng bệnh 15~20 phút, còn bây giờ thì ra vào rất nhanh. Số bệnh nhân không tăng, số điều dưỡng thậm chí còn tăng, nên tôi cho rằng chỉ số đánh giá sai lệch đã làm giảm chất lượng chăm sóc
Tình trạng lạm dụng y tế khổng lồ ở Mỹ đang đẩy chi phí lên cao, nhưng người ta không muốn thừa nhận điều đó một cách thẳng thắn
Kaiser vốn đã có dịch vụ khá tệ, nên thay đổi lần này càng đáng lo hơn