‘Hố trách nhiệm’ của tổ chức hấp thụ việc truy cứu trách nhiệm
(aworkinglibrary.com)- The Unaccountability Machine của Dan Davies cho rằng các tổ chức tạo ra hố trách nhiệm để hấp thụ hoặc làm mờ hệ quả của các quyết định, khiến không ai phải chịu trách nhiệm trực tiếp
- Cấu trúc này vận hành khi nó cắt đứt mắt xích kết nối, khiến phản hồi từ những người bị ảnh hưởng bởi quyết định không thể quay trở lại hoạt động của hệ thống
- Việc cắt giảm nhân sự dọn phòng khách sạn, công ty bảo hiểm từ chối thủ thuật điều trị, hủy chuyến bay, cơ quan nhà nước kết luận không đủ điều kiện hưởng phúc lợi, hay yêu cầu từ nhà đầu tư buộc các ứng dụng phải nhồi AI vào đều là những ví dụ về việc kết nối giữa người ra quyết định và người chịu thiệt hại bị cắt đứt
- Như trong vụ Dominion Systems kiện Fox News, khi không có quyết định minh thị nào nhưng một sự ngầm hiểu rằng chỉ số khán giả là ưu tiên cao nhất lại thúc đẩy các quyết định tiếp theo, nguồn gốc của quyết định trở nên mơ hồ và việc truy cứu trách nhiệm cũng khó khăn hơn
- Việc giao quyết định cho thuật toán khiến việc tạo ra hố trách nhiệm trở nên dễ dàng hơn, nhưng các tổ chức quy mô lớn như doanh nghiệp và chính phủ vốn đã quen với kiểu cấu trúc đó, nên AI gần với một công cụ mở rộng rửa trách nhiệm hơn
Cách hố trách nhiệm vận hành
- Hố trách nhiệm là một cấu trúc tổ chức hấp thụ hoặc che khuất hệ quả của quyết định, khiến không ai có thể bị quy trách nhiệm trực tiếp
- Khi cấp trên của một công ty khách sạn cắt giảm nhân sự dọn phòng, các con số trên sổ sách có thể đẹp hơn, nhưng khách không thể nhận phòng vì phòng chưa sẵn sàng thì không có cách nào để khiếu nại trực tiếp với người ra quyết định đó hoặc tác động ngược trở lại quyết định
- Nhân viên lễ tân có thể cung cấp voucher, nhưng điều khách hàng cần là một căn phòng
- Đường phản hồi giữa người ra quyết định và người bị ảnh hưởng biến mất
- Theo tiêu chí của Davies, để hố trách nhiệm hoạt động, cần phải cắt đứt kết nối để phản hồi từ người bị ảnh hưởng không thể được phản ánh vào cách hệ thống vận hành
- Cùng một cấu trúc này lặp lại trong nhiều tình huống
- khi bảo hiểm y tế từ chối một thủ thuật điều trị
- khi hãng hàng không hủy chuyến bay
- khi cơ quan chính phủ tuyên bố không đủ điều kiện nhận phúc lợi
- khi nhà đầu tư ép các công ty trong danh mục phải nhồi cái gọi là AI vào ứng dụng
Quyền hạn và lời giải thích để có thể quy trách nhiệm
- Trách nhiệm gắn liền với phạm vi năng lực có thể thay đổi một quyết định nào đó
- Davies cho rằng mức độ có thể thay đổi một quyết định cũng chính là mức độ có thể chịu trách nhiệm về quyết định đó
- Định nghĩa về accountability của Sidney Dekker gắn trách nhiệm với “một lời giải thích có thể nói ra”
- Cần hiểu chuyện gì đã xảy ra theo cách nào, có những điều kiện nào, vì sao khi đó nó trông như một quyết định hợp lý, và ai đã tham gia, thì mới có thể học cách đưa ra quyết định tốt hơn về sau
- Kết hợp hai khuôn khổ này, để có thể chịu trách nhiệm thì cần cả quyền thay đổi lẫn câu chuyện về cách quyền đó đã được sử dụng
- Giao quyết định cho thuật toán là một cách thuận tiện để tạo ra hố trách nhiệm
- Nhưng doanh nghiệp, chính phủ và các tổ chức ở giữa hai bên đó vốn đã rất thành thạo trong việc tạo ra hố trách nhiệm
- Việc AI mang lại khả năng rửa trách nhiệm không phải điều hoàn toàn mới, mà là một dạng được mở rộng và tăng cường
- Những cách từng thất bại trong việc buộc doanh nghiệp phải chịu trách nhiệm sẽ còn khó thành công hơn khi áp dụng với thuật toán, và cần một cách tiếp cận khác
1 bình luận
Ý kiến trên Hacker News
Tôi từng gặp chuyện tương tự ở một sân bay/hãng hàng không tại Đức và cũng nghĩ như vậy
Đó là một sân bay hoàn toàn tự động nên check-in là tự phục vụ, tôi chỉ tương tác với máy tính; khi đưa thẻ lên máy bay vào, nó chỉ in ra một tờ giấy nói rằng ghế lối đi của tôi đã bị đổi thành ghế giữa. Tôi cố tìm người để khiếu nại đến cùng, nhưng máy tính chỉ phản hồi theo cách UI được thiết kế, và có vẻ lập trình viên cũng không tính đến tình huống của tôi. Nhân viên mặt đất cũng nói việc đó không thuộc phạm vi công việc của họ nên không làm gì được, còn khảo sát gửi đến sau đó lại hỏi về một chặng bay khác, khiến tôi cũng khó mà khiếu nại cho đúng
Vị trí xe buýt thay thế cũng không được hướng dẫn ở đâu, cả trong ứng dụng lẫn trong ga; tài xế xe buýt thì cáu kỉnh với một cụ già hỏi liệu có kịp bắt chuyến tàu nối chuyến không, nói rằng đó không phải việc của mình. Xe buýt tối om, cửa sổ mờ đục vì hơi nước, không có thông báo hay biển hiển thị điểm dừng, và suốt một giờ cũng không có sưởi. Tuần đó, thẻ SIM của tôi bị xóa và bưu kiện cũng biến mất; đến giờ, ngay cả việc ghi lại lượng “việc của người khác” mà tôi gặp ở các hotline hỗ trợ khách hàng cũng đã trở thành việc của người khác đối với tôi
Người duy nhất tôi tìm được là nhân viên bảo vệ, và anh ta chỉ bảo tôi gọi số dán trên máy. Người nghe máy không nói được tiếng Anh, và €50 của tôi chắc vẫn ở đâu đó, nhưng có lẽ chi phí để lấy lại còn lớn hơn số tiền đó
Trước đây, một gói hàng mà Amazon hiển thị là đã giao xong lại không có ở đâu cả, nhưng tôi không có cách nào để được trợ giúp; FAQ chỉ nói hãy kiểm tra trong bụi cây. Trong phần tự động hoàn thành tìm kiếm, nhiều cụm kiểu “báo đã giao nhưng không thấy gói hàng” hiện ra, khiến tôi càng bực hơn; bây giờ có khá hơn một chút nhưng vẫn tương tự
Trước hết hãy cố giải quyết vấn đề một cách thiện chí và lưu lại hồ sơ để dùng làm bằng chứng nếu phải ra phiên điều trần. Sau đó nộp đơn yêu cầu thì thường họ sẽ lùi bước ngay, và bạn có thể buộc doanh nghiệp cung cấp dịch vụ khách hàng thực sự bằng ngôn ngữ duy nhất họ hiểu
Trong bộ máy quan liêu của bộ phim đó, ít nhất vẫn còn con người có thể cảm thấy tội lỗi; còn ở đây, con người không cần trực tiếp tham gia, nên nó có thể trở nên phản địa đàng ở quy mô lớn hơn nhiều
Từ lâu tôi đã nghĩ một trong những chức năng chính của doanh nghiệp là làm mờ trách nhiệm. Cụm trách nhiệm hữu hạn có lý do của nó, và vì có thể tùy ý tạo ra công ty nên rất dễ đẩy trách nhiệm vào những góc tối
Vì vậy có lý do mạnh mẽ để không xem doanh nghiệp như con người. Con người là những thực thể tồn tại lâu dài và chịu trách nhiệm, không thể tùy ý tạo ra hay xóa bỏ
Doanh nghiệp cũng vận hành như vậy trong nền kinh tế nội bộ hoặc trong quan hệ với đối tác. Trung tâm chi phí trả tiền và ủy thác trách nhiệm
Từ lâu tôi đã thấy lạ là chuyện này không được nhắc đến nhiều hơn. Có vẻ mọi người đã quá quen với nó. Theo tôi, nên bỏ hẳn khái niệm phạt tiền công ty, và chuyển sang truy cứu hình sự những người đã thực hiện hành vi bất hợp pháp
Weapons of Math Destruction của Cathy O'Neil (2016, Penguin Random House) là một văn bản đồng hành rất hay khi nhìn khái niệm này từ phía những người xây dựng hoặc giám sát hệ thống
Cathy lập luận rằng trong một số bối cảnh, việc sử dụng thuật toán là có hại, cho phép các hệ thống vô trách nhiệm xuất hiện ở quy mô mới, và cần phải kiểm soát chúng
https://www.penguinrandomhouse.com/books/241363/weapons-of-m...
Thay thuật toán bằng một cái hố nghi lễ, hoặc bằng tình huống trong đó địa vị cảnh sát gần như mang lại miễn trừ thực tế khỏi trách nhiệm dân sự và truy tố hình sự, thì cơ chế vẫn hoạt động y như vậy. Rốt cuộc, thứ tạo điều kiện cho các hệ thống có hại và vô trách nhiệm là lựa chọn của con người không buộc những con người khác chịu trách nhiệm, bất kể dựa trên lý do nào
Ví dụ này là ví dụ tệ vì không đúng sự thật. Trong vụ Fox News và Dominion, Rupert Murdoch đã thừa nhận khi tuyên thệ rằng “Fox đôi khi đã ủng hộ quan niệm sai trái rằng cuộc bầu cử bị đánh cắp”, và dù biết tuyên bố đó là sai, ông đã quyết định không chỉ đạo đài nói khác đi
Các trao đổi nội bộ của những người dẫn chương trình Fox cũng cho thấy họ biết những gì mình nói là sai. Điều này rõ ràng khớp với định nghĩa về nói dối, và phần “External Links” trên Wikipedia có các tài liệu tòa án thực tế ghi chi tiết ai biết gì, khi nào, và đã nói gì
[1] https://www.npr.org/2023/02/28/1159819849/fox-news-dominion-...
[2] https://www.nbcnews.com/politics/elections/dominion-releases...
[3] https://www.dictionary.com/browse/lie
[4] https://en.m.wikipedia.org/wiki/Dominion_Voting_Systems_v._F...
Tôi nghi ngờ rằng một trong những lý do lớn khiến tự động hóa, đặc biệt là biến mọi thứ thành app, hấp dẫn với ban quản lý và cấp C-level là vì nó có thể cắt đứt chuỗi trách nhiệm
Ngày nay nhiều công ty có cấu trúc chia thành “tầng quản lý”, nơi các product manager, developer và nhân viên vận hành duy trì/cải thiện “tầng phần mềm” là hạ tầng IT nội bộ; “tầng phần mềm”, tức hạ tầng tự động hóa khổng lồ thực sự vận hành công việc hằng ngày; và “tầng lao động”, gồm những người làm công việc vật lý với lương thấp và tỷ lệ nghỉ việc cao như tài xế Uber, tài xế giao hàng, công nhân kho Amazon. Người lao động nhận gần như mọi chỉ thị qua app và thiết bị, không được tiếp xúc với ban quản lý, và công ty thường phủ nhận ngay từ đầu rằng họ là nhân viên. Điểm quan trọng là tầng phần mềm hoạt động như một tường lửa trách nhiệm giữa hai tầng: bất mãn của người lao động không thể vượt qua phần mềm để đi lên, còn hành vi bóc lột có thể bị quy là lỗi phần mềm xui xẻo
Lý do là “quy định là vậy” hoặc “hệ thống là vậy”. Dường như không ai biết ai đặt ra quy định và ai xây hệ thống; còn việc tự mình đào sâu tìm hiểu thì gần như là một nhiệm vụ của Hercules và thường kết thúc bằng lãng phí thời gian
Điều khác đi là giờ đây chỉ thị và quy trình thường được phần mềm và phần cứng thực thi thay vì con người. Kết quả cuối cùng mà khách hàng nhận được không thay đổi nhiều như người ta tưởng. Vẫn là cùng ly cà phê hay chuyến taxi, chỉ nhanh hơn, rẻ hơn hoặc tốt hơn đôi chút; và những cải tiến tiệm tiến như vậy trước thời IT cũng đã có thể đạt được bằng quản lý sản phẩm nội bộ và cải tiến quy trình tổ chức
Đây là bài viết gợi nhiều điều để suy nghĩ. Vấn đề này cho thấy vì sao các cơ quan bảo vệ người tiêu dùng của chính phủ và luật pháp lại quan trọng
Nếu đi qua châu Âu hoặc dùng hãng hàng không châu Âu, có luật EU quy định bồi thường khoảng 600 euro khi chuyến bay bị trễ hơn 3 giờ hoặc bị hủy. Đó là một dạng bảo hiểm tốt: dù công ty nói nhảm gì ở sân bay thì bạn vẫn có thể nhận bồi thường, và thủ tục nhận tiền cũng khá đơn giản. Nó cung cấp một con đường đi vòng qua hệ thống của hãng hàng không để dẫn thẳng tới bồi thường; và nếu hãng không vận hành đúng, họ sẽ phải nộp quá nhiều tiền phạt, nên đây cũng có thể là động lực thực sự. Để tránh tình trạng doanh nghiệp dựng hàng rào chatbot chặn khách hàng, chúng ta thật sự cần những luật bảo vệ như thế
Tôi khá thường gặp chuyện này với hệ thống khai báo điện tử tự động mới của chính phủ. Vì tôi dùng trình đọc màn hình và khó dùng bút giấy nếu không có trợ giúp, ban đầu tôi khá thích những hệ thống như vậy, nhưng suy nghĩ của tôi đã thay đổi một chút
Trên giấy, bạn có thể viết bất cứ điều gì, và việc nội dung đó có hợp lý hay không sẽ do con người kiểm tra. Máy tính thì không như vậy, nên nếu hệ thống nói các con số trong đơn phải khớp nhau, thì ngay cả trong những trường hợp đặc biệt mà thực tế chúng hơi lệch, bạn vẫn phải nói dối với chính phủ để làm cho các con số khớp. Tôi gọi cho văn phòng chính quyền địa phương phụ trách thì họ về cơ bản đã nói vòng vo rằng hãy nói dối chính phủ. Hệ thống do trung ương quản lý nên văn phòng địa phương không có quyền sửa; ngay cả họ cũng không có thẩm quyền dù muốn sửa
Khi còn là nghiên cứu sinh STS, tôi từng nghĩ đến việc làm một dự án về cách phần mềm hoạt động như một bộ điều chỉnh năng lực hành động
Cấu trúc là cá nhân gánh một số rủi ro, thường là rủi ro của giao dịch kinh tế, còn phần lớn lợi ích thì chủ sở hữu phần mềm lấy. Uber và các dịch vụ liên quan, ở nhiều khía cạnh, là cơ chế khiến cá nhân gánh rủi ro chiều xuống có xác suất thấp nhưng tác động lớn để đổi lấy một khoản phí nhỏ
So sánh với AI là rõ ràng: ủy quyền quyết định cho thuật toán là cách thuận tiện để tạo ra điểm hấp thụ trách nhiệm. Tài khoản LinkedIn của tôi có một flag ngăn không cho gắn liên kết “follow-me” vào hồ sơ
Không ai trong đội hỗ trợ biết lý do, không biết nó có từ khi nào, cũng không biết khi nào sẽ thay đổi. Chúng ta đã sống trong thế giới như vậy rồi
Tổ chức tồn tại để loại bỏ trách nhiệm đạo đức
Thẩm phán, bồi thẩm đoàn, đao phủ, đội xử bắn và các tổ chức trách nhiệm hữu hạn đều được đặt gọn trong những chiếc hộp ngăn nắp, giúp mọi người có thể ngủ yên vào ban đêm. Thẩm phán cho rằng bồi thẩm đoàn đã phán xét; bồi thẩm đoàn tin rằng thẩm phán sẽ đưa ra một bản án công bằng; người thi hành án tin rằng hai nhóm trước đó đã làm phần việc của họ. Một hệ thống như vậy không hẳn ngăn một người hành động, mà tạo ra một chuỗi bàn giao, để đến khi cai ngục đóng cửa thì sự liên đới với tính đạo đức của kết quả đã biến mất. Việc trong đội xử bắn chỉ một trong nhiều khẩu súng có đạn thật cũng có cùng cấu trúc. Các thể chế và tổ chức lớn, những thứ ở quy mô lớn, là hoàn toàn phi nhân tính; và có thể cho rằng nếu người đưa ra phán quyết cũng trực tiếp thi hành hình phạt, kết quả sẽ khác đi
Nếu để bồi thẩm viên thi hành xử tử và để thẩm phán chịu trách nhiệm giam giữ, điều đó sẽ tạo ra một phản khuyến khích cực lớn đối với những kẻ tàn ác. Ở đây đang giả định sai rằng nếu thẩm phán hoặc bồi thẩm viên trực tiếp gánh sức nặng này thì họ sẽ đồng cảm hơn. Trên thực tế, nhiều khả năng những người mà ta không muốn giao việc đó lại chính là những người sẽ làm việc đó. Trừ cách dùng đạn giả khi xử tử, các thiết chế còn lại bảo vệ người bị kết án hơn là bảo vệ những người bên trong hệ thống
Bạn có thể lập một đảng chính trị tuyên bố rằng phân quyền là hướng đi sai lầm, hoặc tốt hơn là hãy đến thăm một trong hàng chục quốc gia có một siêu độc tài