Hố đen trách nhiệm

Cấu trúc né tránh trách nhiệm

• Trong The Accountability Sink, Dan Davies lập luận rằng các tổ chức hình thành những "cấu trúc né tránh trách nhiệm". Đây là những cấu trúc hấp thụ hoặc làm mơ hồ hậu quả của quyết định, khiến không ai phải chịu trách nhiệm trực tiếp.
• Ví dụ, khi một quản lý cấp cao của một công ty khách sạn quyết định cắt giảm nhân sự dọn phòng, điều đó có thể cải thiện các con số trên báo cáo tài chính. Nhưng khi khách đến làm thủ tục nhận phòng, phòng vẫn chưa sẵn sàng và nhân viên cũng không biết bao giờ mới xong. Không có ai để khiếu nại, cũng không có cách nào để cho quyết định đó đã phá hỏng kế hoạch của khách hàng. Trách nhiệm biến mất và vĩnh viễn bị đánh mất.

Cách cấu trúc né tránh trách nhiệm vận hành

• Để cấu trúc né tránh trách nhiệm hoạt động, cần phải chặn phản hồi. Tức là phản hồi từ những người bị ảnh hưởng bởi quyết định không được tác động đến cách hệ thống vận hành.
• Khi bảo hiểm y tế từ chối một thủ tục, khi hãng hàng không hủy chuyến bay, khi cơ quan chính phủ tuyên bố ai đó không đủ điều kiện nhận trợ cấp, khi nhà đầu tư yêu cầu mọi công ty tích hợp AI vào ứng dụng của họ, thì cấu trúc né tránh trách nhiệm hiện diện ở khắp nơi.
• Điều này giả định rằng một quyết định thực sự đã được đưa ra. Một cơ chế khác của cấu trúc né tránh trách nhiệm là bản thân quyết định nối tiếp theo chuỗi đến mức nguồn gốc của nó biến mất.

Ý nghĩa của trách nhiệm

• Cần dừng lại một chút để nghĩ xem "trách nhiệm" là gì. Davies đưa ra "quy luật nền tảng của trách nhiệm": mức độ bạn có thể thay đổi một quyết định chính là mức độ bạn có thể chịu trách nhiệm cho quyết định đó.
• Theo định nghĩa về trách nhiệm của Sidney Dekker, trách nhiệm là "lời giải thích về việc một điều gì đó đã xảy ra như thế nào, những điều kiện nào đã dẫn đến nó, và vì sao quyết định đó vào thời điểm ấy lại có vẻ là một quyết định tốt". Đây là điều kiện tiên quyết để học hỏi nhằm đưa ra những quyết định tốt hơn.

So sánh với AI

• Giao quyết định cho AI là một cách thuận tiện để tạo ra cấu trúc né tránh trách nhiệm. Tuy nhiên, các tổ chức ở bất kỳ quy mô nào, như doanh nghiệp hay chính phủ, vốn đã rất giỏi trong việc hình thành những cấu trúc như vậy.
• Việc né tránh trách nhiệm mà AI mang lại không phải là một dịch vụ mới, mà là sự mở rộng của điều đã có sẵn. Điều này không khiến nỗi lo giảm bớt, nhưng có thể mang lại một đầu mối hữu ích. Nếu các nỗ lực buộc doanh nghiệp phải chịu trách nhiệm đã thất bại, thì khả năng thành công với thuật toán cũng không cao. Cần có cách tiếp cận mới.

Tóm tắt của GN⁺

• Bài viết này mang lại góc nhìn sâu sắc về cách các tổ chức tạo ra những cấu trúc để né tránh trách nhiệm. Điều này đặc biệt hữu ích để hiểu công nghệ như AI có thể mở rộng việc né tránh trách nhiệm ra sao.
• Cấu trúc né tránh trách nhiệm vận hành bằng cách cắt đứt kết nối giữa người đưa ra quyết định và những người chịu tác động từ quyết định đó.
• AI có thể khiến việc né tránh trách nhiệm trở nên dễ dàng hơn, nhưng đây không phải hiện tượng mới mà là sự mở rộng của một vấn đề đã tồn tại.
• Chủ đề này có thể gợi hứng thú cho việc cải thiện cấu trúc trách nhiệm trong tổ chức và tìm ra cách đưa ra những quyết định tốt hơn.