Máy tính tuyệt đối không thể bị quy trách nhiệm.

• Một trang huyền thoại từ tài liệu đào tạo nội bộ của IBM năm 1979 rất phù hợp với thời đại AI

  A COMPUTER CAN NEVER BE HELD ACCOUNTABLE
  Máy tính tuyệt đối không thể bị quy trách nhiệm.
  THEREFORE A COMPUTER MUST NEVER MAKE A MANAGEMENT DECISION
  Vì vậy, máy tính tuyệt đối không được đưa ra quyết định quản lý.

• Trên Twitter, có người hỏi thông tin về nguồn gốc bản gốc, và Jonty Wareing đã trả lời:
  • Có người tìm thấy nó trong tài liệu công việc của cha mình, nhưng sau đó đã bị phá hủy trong trận lũ
  • Không thể tìm thấy trong quá trình trao đổi với kho lưu trữ của IBM. Việc các chi nhánh tạo ra tài liệu không được lưu trữ là chuyện bình thường.
• Phản hồi mà Jonty nhận được từ IBM
  • Hình ảnh lần đầu được chia sẻ trực tuyến là trong tweet tháng 2/2017 của @bumblebike
  • Xác nhận rằng nó xuất phát từ tài liệu đào tạo nội bộ năm 1979
  • Một tweet khác của @bumblebike vào tháng 12/2021: nó đã bị phá hủy cùng với phần lớn đồ đạc trong trận lũ năm 2019
  • Đã hỏi trong buổi họp Zoom của câu lạc bộ hưu trí, nhưng hầu như không có ai thuộc đúng nhóm tuổi

[mammal]

"Người không thể chịu trách nhiệm cho quyết định của mình thì tuyệt đối không được trở thành nhà quản lý."

[GN⁺]

Ý kiến trên Hacker News

• Chỉ ra rằng việc sử dụng máy tính đang được dùng như một phương tiện để né tránh trách nhiệm. Điều này được giải thích thông qua một câu trích từ cuốn <i>Technopoly</i> của Neil Postman. Máy tính bị làm cho trông như thể chúng là nguồn thẩm quyền thực sự, từ đó dẫn đến xu hướng trốn tránh trách nhiệm

• Đặt câu hỏi về xe tự lái. Trách nhiệm sẽ chuyển từ tài xế sang nhà sản xuất, và có nghi ngờ liệu nhà sản xuất có thực sự muốn gánh trách nhiệm đó hay không

• Cho rằng việc đưa thẻ chip vào sử dụng là để chuyển trách nhiệm của ngân hàng sang người dùng. Dù bảo mật đã được tăng cường, về thực chất đây là ý đồ đẩy trách nhiệm đối với gian lận thẻ tín dụng sang phía người dùng

• Nhấn mạnh rằng hành vi đánh cắp danh tính cũng tương tự, thực chất là gian lận ngân hàng. Việc gọi đó là đánh cắp danh tính đã biến nó từ vấn đề của ngân hàng thành vấn đề của cá nhân

• Đề cập rằng doanh nghiệp ghét trách nhiệm, và thực ra ai cũng ghét điều đó

• Ở một số công ty có chính sách khiến quản lý không muốn đưa ra quyết định vì họ có thể phải chịu trách nhiệm

• Chỉ ra rằng từ "trách nhiệm" giờ đây đã trở thành thứ ngôn ngữ trị liệu rỗng nghĩa. CEO nói rằng họ chịu trách nhiệm, nhưng trên thực tế chẳng có hậu quả nào xảy ra

• Thông qua một câu trích từ cuốn <i>God & Golem Inc.</i> của Norbert Wiener, giải thích rằng thứ con người muốn ở máy tính tự động không phải là phép tính chính xác hơn mà là một cái hộp để có thể đổ trách nhiệm sang đó

• Lập luận rằng theo nguyên tắc pháp lý thì người vận hành phải chịu trách nhiệm. Nếu không, có thể dùng phép ví von rằng để ngăn cháy thì phải cấm cả diêm

• Nhắc rằng điều này đã xảy ra từ trước cả làn sóng AI hiện nay gắn với "thuật toán"

• Giải thích rằng nguyên tắc dùng trong điều tra số đang được áp dụng theo chiều ngược lại. Trước tòa, điều tra viên pháp chứng số có thể làm chứng về những gì đã được thực hiện trên thiết bị, nhưng không thể biết ai là người đã làm việc đó

• Khi chuyên gia giải thích rằng máy tính trông có vẻ rất tất định nhưng trên thực tế vẫn tồn tại sự bất định, công chúng thường bị sốc

• Nhắc đến trường hợp chuông báo an ninh ở cửa hàng bán lẻ reo lên, nơi xã hội đã bình thường hóa việc cho rằng máy tính là thứ gây ra vấn đề. Trông như thể máy tính đã gây sự cố, nhưng thực ra không phải vậy