- Các nhà vận hành chi nhánh Post Office tại Anh phải gánh những khoản thiếu hụt không tồn tại do lỗi trong hệ thống kế toán Horizon do Fujitsu xây dựng; từ năm 1999 đến 2015, hàng trăm người bị kết án, phá sản, ngồi tù và hủy hoại danh tiếng
- Horizon được đưa vào sử dụng năm 1999 để thay thế kế toán trên giấy, nhưng tại nhiều chi nhánh, hệ thống hiển thị các khoản thiếu hụt giả từ hàng nghìn đến hàng chục nghìn bảng Anh; cũng có trường hợp khi gửi lại cùng một phép tính thì số tiền lại tăng lên
- Theo hợp đồng, nhà vận hành chi nhánh phải chịu trách nhiệm về các khoản lỗ, còn Post Office làm thiệt hại trầm trọng hơn khi trả lời những người nêu vấn đề rằng “chỉ có bạn thôi” hoặc chặn quyền truy cập cần thiết để chứng minh vô tội
- Trong vụ kiện dân sự do hơn 500 người khởi kiện năm 2019, các bug, lỗi và khiếm khuyết của Horizon đã được thừa nhận; Post Office đã bồi thường hơn 138 triệu bảng Anh, nhưng trong 700 bản án có tội, mới chỉ 93 trường hợp được hủy án
- Sau bộ phim truyền hình “Mr Bates vs The Post Office” của ITV, dư luận bùng nổ và chính phủ bắt đầu thúc đẩy dự luật hủy án; trách nhiệm bồi thường và khả năng chịu trách nhiệm hình sự của Fujitsu vẫn đang được điều tra
Sai lầm tư pháp quy mô lớn do lỗi Horizon gây ra
- Các sub-postmaster vận hành chi nhánh Post Office tại Anh đã phải chịu truy tố hình sự, phá sản và tổn hại danh tiếng trong giai đoạn 1999–2015 vì các khoản thiếu hụt do Horizon hiển thị
- Chính phủ Anh sở hữu Post Office và gọi vụ việc này là một trong những sai lầm tư pháp lớn nhất trong lịch sử nước Anh
- Thiệt hại lan rộng đến hàng nghìn người; trong đó 700 người bị kết án hình sự và một số người bị giam giữ
- Horizon do Fujitsu của Nhật Bản xây dựng và được đưa vào sử dụng năm 1999 để thay thế kế toán trên giấy
- Ngay sau khi triển khai, các quản lý chi nhánh đã nêu vấn đề rằng phần mềm hiển thị như thể hàng nghìn bảng Anh trở lên đã biến mất khỏi tài khoản Post Office
Khoản thiếu hụt không tồn tại trở thành tội phạm cá nhân
- Jo Hamilton cho biết năm 2003, khi đang vận hành một bưu cục ở một ngôi làng nhỏ miền nam nước Anh, máy tính Horizon hiển thị khoản thiếu hụt 2.000 bảng Anh, và khi bà thực hiện lại cùng phép tính, số tiền đã tăng gấp đôi ngay trước mắt
- Hamilton đã tái thế chấp nhà để bù vào khoản thiếu hụt không tồn tại; đến khi Post Office truy tố bà năm 2007 với cáo buộc trộm cắp và kế toán gian dối, khoản thiếu hụt đã phình lên 36.000 bảng Anh
- Bà nhận tội kế toán gian dối để đổi lấy việc cáo buộc trộm cắp được rút lại, nhưng quá trình đó là một trải nghiệm khiến Hamilton suy sụp
- Wendy Buffrey cũng trải qua tình huống năm 2008: mỗi lần gửi lại cùng phép tính, khoản thiếu hụt không giải thích được của Horizon lại tăng gấp đôi
- Các điều tra viên của Post Office nói với Buffrey rằng bà là người duy nhất gặp vấn đề như vậy
- Buffrey cho rằng mình phải chịu trách nhiệm với 36.000 bảng Anh nên đã dùng thẻ tín dụng đến hạn mức để nộp 10.000 bảng Anh vào tài khoản
- Khi đó, luật sư nói rằng nếu bà không nhận tội thì rất có thể sẽ nhận án 3 năm tù, và Buffrey đã nhận tội kế toán gian dối với điều kiện cáo buộc trộm cắp được rút lại
- Buffrey nói rằng sau đó bà phải chịu những cơn đau kéo dài do đau cơ xơ hóa liên quan đến căng thẳng
Hợp đồng và cách điều tra bất lợi cho nhà vận hành chi nhánh
- Hợp đồng của Post Office gần giống hợp đồng nhượng quyền, và nhà vận hành chi nhánh phải chịu trách nhiệm về tổn thất tài chính phát sinh tại chi nhánh của mình
- Một số nhà vận hành sau khi bị chấm dứt hợp đồng đã bị điều tra viên của Post Office ngăn không cho vào cơ sở kinh doanh, khiến họ khó tìm bằng chứng chứng minh vô tội
- Mỗi lần Hamilton gọi đến đường dây hỗ trợ Horizon, nhân viên tư vấn đều trả lời rằng bà là người duy nhất gặp sự cố hệ thống
- Luật sư Neil Hudgell nói rằng ông đã trực tiếp nghe về các sub-postmaster và gia đình của họ, những người bị cáo buộc sai hoặc mất doanh nghiệp và danh tiếng rồi tự kết liễu đời mình
- Vợ của Martin Griffith cho biết trong bản tường trình nạn nhân rằng chồng bà rơi vào trầm cảm nặng sau quyết định chấm dứt hợp đồng của Post Office và đã bước ra trước một chiếc xe buýt
- Griffith đã vay tiền cha mẹ để bù khoản thiếu hụt trong tài khoản, rồi sau đó còn trải qua một vụ cướp tại chi nhánh
Sau khi thắng kiện, bồi thường và hủy án vẫn chậm chạp
- Trong vụ kiện dân sự do hơn 500 sub-postmaster khởi kiện năm 2019, tòa kết luận Horizon có “bugs, errors and defects”
- Post Office đến nay đã chi trả hơn 138 triệu bảng Anh tiền bồi thường và cho biết sẽ sửa chữa các sai lầm trong quá khứ, bao gồm hỗ trợ lật lại các bản án oan
- Sau chiến thắng pháp lý năm 2019, nhiều sub-postmaster hơn lên tiếng rằng Horizon đã hiển thị các khoản thiếu hụt sai
- Trong số 700 người bị kết án, đến nay 93 người đã được công nhận vô tội, bao gồm Hamilton và Buffrey
- Đến nay, hơn 2.700 người đã nộp đơn xin bồi thường, nhưng nhiều sub-postmaster cho rằng khoản bồi thường nhận được là chưa đủ và yêu cầu những người liên quan đến vụ việc phải chịu trách nhiệm
Điều tra của cảnh sát và phạm vi trách nhiệm của Fujitsu
- Metropolitan Police của London bắt đầu điều tra hình sự từ năm 2020 về các tội danh gian lận mà Post Office có thể đã thực hiện
- Cảnh sát cũng đang điều tra Fujitsu về các cáo buộc phạm tội có thể liên quan đến việc truy tố các sub-postmaster
- Hai bộ trưởng chính phủ Anh nói rằng, tùy theo kết quả điều tra công khai độc lập, Fujitsu có thể bị yêu cầu chi trả tiền bồi thường cho nạn nhân
- Fujitsu cho biết họ cam kết hỗ trợ cuộc điều tra để hiểu và rút ra bài học từ diễn biến vụ việc
- Fujitsu cho biết cuộc điều tra đã xác nhận tác động tàn phá đối với cuộc sống của các postmaster và gia đình họ, đồng thời xin lỗi về vai trò của công ty trong nỗi đau của họ
Bộ phim truyền hình khơi mào phản ứng chính trị
- Vụ việc đã được xử lý tại tòa và trên truyền thông Anh trong nhiều năm, nhưng sau khi bộ phim truyền hình “Mr Bates vs The Post Office” của ITV phát sóng, nhận thức và sự phẫn nộ của công chúng tăng vọt
- Bộ phim kể về chiến dịch kéo dài của các sub-postmaster nhằm chứng minh sự trong sạch và nhận bồi thường
- Alan Bates là cựu sub-postmaster đã dẫn dắt nỗ lực đó
- Sau khi bộ phim ra mắt, chính phủ Anh đã phản ứng trong vài ngày với tốc độ mà các sub-postmaster đã yêu cầu suốt nhiều năm
- Thủ tướng Rishi Sunak tuyên bố Quốc hội sẽ nhanh chóng thông qua một dự luật mang tính đột phá nhằm lật lại các bản án có tội của hàng trăm sub-postmaster
- Hệ thống chính trị và tư pháp Anh vẫn còn những câu hỏi: ai đã biết điều gì và khi nào, liệu có cá nhân nào phải chịu trách nhiệm hình sự hay không, và Fujitsu phải chịu trách nhiệm đến mức nào trong việc bồi thường thiệt hại
Gần 20 năm sang chấn kéo dài
- Siema Kamran và chồng là Kamran Ashraf mua một chi nhánh bưu điện ở phía bắc London năm 2001; 3 năm sau, cuộc kiểm toán của Post Office phát hiện khoản thiếu hụt 25.000 bảng Anh không giải thích được
- Ashraf cảm thấy bị luật sư gây áp lực nên đã nhận tội trộm cắp; năm 2004, ông bị tuyên án 9 tháng tù và đến năm 2020 bản án mới được hủy
- Trong những tuần đầu thụ án, Ashraf bị giam 23 giờ mỗi ngày tại một nhà tù an ninh cao, sau đó được chuyển sang nhà tù có mức an ninh thấp hơn
- Ông được thả sau 4 tháng, nhưng trong 5 tháng tiếp theo phải đeo vòng điện tử để theo dõi vị trí
- Kamran nói rằng chồng bà mắc rối loạn căng thẳng sau sang chấn vì trải nghiệm này, và cả chồng, bà cùng ba người con đều cần được trị liệu
- Kamran, hiện là nghệ sĩ trang điểm tự do, nói rằng nếu Post Office có thể làm điều như vậy thì bà không biết các thương hiệu khác có thể làm gì, và bà không thể làm việc cho một công ty lớn nữa
1 bình luận
Các ý kiến trên Hacker News
Đây là một bài viết tổng hợp lại các trường hợp thực tế, và chính vụ này đã khiến tôi theo học tiến sĩ hệ thống thông tin
Tôi muốn biết vì sao sự kém cỏi về IT ở mức này vẫn có thể xảy ra ngày nay, dù các thực hành tốt về IT và phần mềm đã được tích lũy suốt nhiều thập kỷ, nhưng rồi sớm nhận ra rằng nghiên cứu hệ thống thông tin về cơ bản đã giải thích hầu hết rồi
Rốt cuộc con người vẫn là con người, tổ chức tệ vẫn là tổ chức tệ, và chừng nào hầu như mọi thứ còn có phân bố hình chuông thì có lẽ chuyện này sẽ không biến mất hoàn toàn
Nếu ai cũng vị tha, khiêm tốn, thông minh, có năng lực và trung thực thì không chỉ IT mà rất nhiều vấn đề của thế giới sẽ biến mất, nhưng con người, tổ chức và xã hội đều hỏng theo cách riêng của mình
Dù vậy, nghiên cứu về tổ chức vẫn cố gắng chỉ ra con đường tốt hơn, nhưng có vẻ một số người sẽ chẳng bao giờ quan tâm đến cùng
Chủ đề này có vẻ đã được nghiên cứu đủ nhiều nên tôi không còn tập trung vào nó nữa, nhưng thật thú vị là trường hợp này vẫn liên tục xuất hiện trên tin tức
Các hệ thống quan trọng phải có trách nhiệm quy thuộc rõ ràng, và trách nhiệm đó phải buộc người tạo ra, chủ sở hữu phải xây dựng cơ chế an toàn, kiểm tra và biện pháp bảo vệ
Vì sao nguyên tắc này không được áp dụng tốt trong kỹ nghệ phần mềm là một câu chuyện khác, nhưng tôi cho rằng nó phải được áp dụng
Thành thật mà nói, tôi không muốn nghe câu “di chuyển nhanh và phá vỡ mọi thứ”
Vụ này có quy mô lớn, liên quan đến hàng trăm, hàng nghìn người nên mới được công luận chú ý và có nỗ lực khắc phục
Cần phải hỏi trong những vụ việc rải rác không liên quan với nhau, có bao nhiêu cuộc đời bị hủy hoại và bao nhiêu người vô tội đang mục ruỗng trong tù
Tổ chức này có điều gì đó thu hút những người đặc biệt tàn nhẫn, hoặc có thể nó đã trở nên như vậy trong vài thập kỷ qua
Trong quảng cáo TV “The People’s Post Office” đầu những năm 2000, John Henshaw đóng vai một giám đốc bưu cục phụ; ông vốn nổi tiếng với các vai phản diện mạnh và cảnh sát tham nhũng, nên cách chọn vai này kỳ lạ nhưng lại hợp một cách khó hiểu
Dựa vào giả định “nếu ai cũng thông minh và hành động với thiện ý” vốn đã là một thiết kế hỏng
Nếu quan tâm đến học thuật, tôi rất khuyên nên nhìn lại việc thiết kế hệ thống có thể vận hành ngay cả khi có sự kém năng lực và thậm chí có đối thủ
Ngược lại, những kẻ lừa đảo khoác lác có quan hệ linh hoạt với sự thật lại dễ leo lên ở bất cứ đâu
Có thêm thông tin về việc thực tế phía sau đã xảy ra chuyện gì về mặt kỹ thuật: https://www.theguardian.com/uk-news/2024/jan/09/how-the-post...
David McDonnell thuộc nhóm phát triển nói trong cuộc điều tra rằng “trong 8 người của nhóm phát triển, 2 người rất giỏi, 2 người có thể làm việc cùng ở mức tạm ổn, nhưng 3–4 người thiếu năng lực nên không thể tạo ra mã chuyên nghiệp”
Tôi không định đổ trách nhiệm cho lập trình viên; trách nhiệm rõ ràng thuộc về ban quản lý
Những người tạo ra bug trong code không nên phải chịu trách nhiệm đến mức vì thế mà người khác bị đi tù
Các nhà quản lý không thật sự biết kỹ sư đang làm gì
Chỉ kỹ sư mới thật sự hiểu các đánh đổi kỹ thuật, và nếu mạng sống/cuộc đời của người khác phụ thuộc vào kết quả công việc của chúng ta thì chúng ta không nên được bảo vệ hoàn toàn khỏi hệ quả của các lựa chọn đó
Điều đó không tốt cho xã hội, và rốt cuộc cũng không tốt cho chính chúng ta
Theo nguyên tắc của luật trách nhiệm dân sự ngoài hợp đồng, có trách nhiệm đối với thiệt hại có thể dự liệu, và chuyên môn càng cao thì trách nhiệm càng lớn
Các kỹ sư cấp cao trong nhóm lẽ ra phải làm tốt hơn, và tôi cho rằng họ có lỗi
Điểm này luôn khiến tôi băn khoăn
Có thể tạo một API kiểm toán đầy đủ mọi truy cập, nhưng rất dễ viết code đi vòng qua API đó
Code không phải là một tòa nhà có tường và cửa, nên có thể thay đổi bên trong mà không cần chạm vào cửa
Việc đặt backdoor không được kiểm toán cho người vận hành là xấu, nhưng nếu có thể chỉnh sửa mã nguồn thì về thực chất backdoor là vô hạn
Horizon là sản phẩm của thập niên 1990, và ngành phần mềm khi đó rất khác hiện nay
Lúc ấy, gần như chỉ có Microsoft thường xuyên yêu cầu lập trình viên viết code trong phỏng vấn, còn tuyển dụng thì gần như ngẫu nhiên
Những nhóm trong đó số ít người viết được code chạy được phải gồng đỡ đa số người hoàn toàn không viết được là chuyện phổ biến
The Daily WTF cũng là sản phẩm của thời kỳ đó, với nhiều câu chuyện như Brillant Paula Bean: https://thedailywtf.com/articles/The_Brillant_Paula_Bean
Ngày nay ta ít nghe những chuyện như vậy hơn nhiều, vì ngành đã đi đến chỗ kiểm tra kỹ năng cụ thể trước khi tuyển, nên nhiều người không code được tử tế nhưng vẫn lọt vào dự án đã bị sàng lọc
Nếu tôi là lập trình viên duy nhất và cũng là người bán ứng dụng này thì tôi không có trách nhiệm sao?
Nếu có một QA thì khác đi không, nếu có hai lập trình viên và hai QA thì sao?
Người không chuyên kỹ thuật đã bán hoặc quảng bá ứng dụng phải chịu trách nhiệm thay à?
Tôi không hiểu vì sao trách nhiệm của lập trình viên trong việc không kiểm tra đầy đủ code của mình lại hoàn toàn biến mất
Có vẻ cốt lõi của vụ này là hệ thống “tư pháp” tư nhân bên trong Post Office
Nó mờ ám, thiên lệch và từ chối xem xét chứng cứ
Trong thời đại theo đuổi các quyền phổ quát, thật ngu xuẩn khi nơi làm việc có thể tước đi quyền tự bảo vệ mình trong hệ thống tư pháp công
Lỗi IT cũng là vấn đề, nhưng sự phán đoán chính trị sai lầm của một tổ chức mắc kẹt trong quá khứ đã hủy hoại nhiều người, và mọi chuyện bị chôn vùi cho đến khi phim truyền hình lên sóng
Thực tế, người lãnh đạo Post Office còn được chính phủ trao huân chương
IT và việc sinh mã có rất nhiều cạm bẫy, nhưng cốt lõi của vụ này nằm ở chỗ khác
Cuộc điều tra công khai cho thấy Post Office đã dùng các chiến thuật pháp lý hung hăng, như gán tội trộm cắp cho các trưởng bưu cục phụ để gây áp lực buộc họ nhận tội với cáo buộc nhẹ hơn
CPS đã xác định 11 vụ của các trưởng bưu cục phụ có chứa “chứng cứ đáng chú ý” từ hệ thống Horizon
Các chuyên gia pháp lý cho rằng chính phủ đã được cảnh báo từ nhiều năm trước rằng bên thúc đẩy truy tố tư nhân có thể có động cơ khác ngoài việc thực thi công lý, nên điều này rất nguy hiểm
Cựu Giám đốc Công tố Lord Ken Macdonald KC nói rằng khi một tổ chức có lợi ích liên quan như Post Office đóng vai trò công tố viên thì sẽ phát sinh rủi ro rõ ràng
CEO được tưởng thưởng vì đã “quản lý” khủng hoảng, còn chính phủ lẽ ra phải yêu cầu câu trả lời sau những tín hiệu cảnh báo trong vài năm đầu
Nhưng phải 20 năm và một bộ phim truyền hình sau đó, họ mới bị buộc phải thể hiện vai trò lãnh đạo
Tôi không biết Netflix có phát hành theo giấy phép trên quốc tế hay không
Hơi khác với tình hình ở Anh, nhưng các điều khoản trọng tài bắt buộc đang tước đi quyền tìm kiếm công lý của nhân viên và ngày càng phổ biến
BBC đã phát sóng vụ này trong một phim tài liệu Panorama vào năm 2015, và Post Office đã đe dọa BBC vì nội dung đó
“Post Office đã đe dọa và nói dối BBC trong khi cố kìm giữ chứng cứ then chốt giúp minh oan cho các trưởng bưu cục trong bê bối Horizon”
“Những tuyên bố sai sự thật không ngăn được chương trình, nhưng đã làm chậm việc phát sóng trên BBC vài tuần”
https://www.bbc.com/news/uk-67884743
Đây không chỉ là một “lỗi” đơn thuần, mà còn là một cuộc chiến PR đã khá thành công trong việc bóp nghẹt tiếng nói của các nạn nhân cho đến tận bây giờ
Khi xem tin, tôi đã nghĩ: “Chuyện này mình nghe từ 5 năm trước rồi, chắc hẳn phải được giải quyết rồi chứ?”
Lẽ ra không cần phải đưa ra công luận đến mức này thì bánh xe công lý mới bắt đầu chuyển động
Vài năm trước tôi nghĩ “công nghệ đang hủy hoại đời người”, nhưng nhìn tình hình vẫn kéo dài sang năm 2024 thì tôi không còn thấy đây là lỗi của công nghệ nữa
Rốt cuộc đây là vấn đề con người, và con người thì thật khủng khiếp
Câu chuyện này giờ mới nhận được sự chú ý xứng đáng
Nếu muốn nắm tóm tắt về quy mô khổng lồ của sự bất công, bài này của Private Eye rất đáng đọc: https://www.private-eye.co.uk/pictures/special_reports/justi...
Chương trình radio của BBC bắt đầu từ năm 2020 cũng cung cấp rất nhiều thông tin hay, chẳng hạn Post Office đã điều tra các trưởng bưu cục phụ bị nghi ngờ như thế nào: https://www.bbc.co.uk/sounds/brand/m000jf7j
Khó có thể xem đây chỉ là một lỗi phần mềm đơn thuần
Ở mọi tầng nấc của một tổ chức do chính phủ vận hành, bộ máy quan liêu đã cố che đậy để tránh dư luận xấu
Thiết bị y tế? Tuyệt đối xin miễn
Tất nhiên đến cuối cùng tôi không thể biết code của mình sẽ chạy ở đâu
Để chuyện phình to đến mức này thì không thể chỉ có vấn đề phần mềm, nhưng tôi vẫn thắc mắc làm sao các lập trình viên phụ trách việc này suốt nhiều năm lại có thể bỏ qua
Thật khó tin là không một lập trình viên nào từng nghe về vấn đề này
Họ đã lập tức nghĩ: “Không thể nào, mình là người giỏi nhất thế giới nên không thể là lỗi hệ thống, chắc bọn họ đều ăn cắp tiền” sao?
Nếu là tôi, chắc tôi sẽ mất ngủ và rà lại toàn bộ hệ thống trong đầu để tìm xem sai ở đâu
Có lẽ giống hiệu ứng Dunning–Kruger chăng
Tôi không nghĩ mình là phù thủy lập trình, nhưng ít nhất tôi biết rằng mình sẽ còn tạo bug cho đến lúc chết
Rust cũng không ngăn được lỗi logic
Không phải một bug, mà là nhiều bug khác nhau
Post Office là một công ty tư nhân hoàn toàn
Câu chuyện này có rất nhiều kẻ ác hiển nhiên, nhưng tôi tự hỏi bấy lâu nay hệ thống pháp luật đã ở đâu
Chẳng lẽ họ đã truy tố 900 vụ mà không có bằng chứng thật sự, hoặc chỉ vì “máy tính nói vậy” sao?
Nếu là một trụ cột của tam quyền phân lập, chẳng phải hệ thống pháp luật và tư pháp phải là tuyến phòng thủ cuối cùng ngăn chặn kiểu đàn áp hàng loạt thất thường như thế này đối với những người hoàn toàn vô tội sao?
“Không có bằng chứng trực tiếp nào cho thấy bà ấy đã lấy tiền… bà ấy kiên quyết phủ nhận tội trộm cắp. Không có bằng chứng CCTV. Không có dấu vân tay hay tiền giấy được đánh dấu gì cả. Cũng không có bằng chứng rằng bà ấy đã cất giữ tiền mặt ở nơi khác, tiêu những khoản lớn hay trả nợ, và hoàn toàn không có bằng chứng nào liên quan đến tài khoản ngân hàng. Khi khám xét nhà, cũng không tìm thấy gì chỉ ra tội trạng”
Bằng chứng duy nhất là chênh lệch giữa số tiền mặt mà hệ thống máy tính Horizon của Post Office cho rằng phải có tại chi nhánh và số tiền mặt thực tế
“Quý vị có chấp nhận lập luận của bên công tố rằng có đủ bằng chứng cho thấy Horizon là một hệ thống đã được kiểm chứng, được sử dụng trong hàng nghìn bưu cục suốt nhiều năm, và về cơ bản là vững chắc, đáng tin cậy không?”
Chỉ lời tôi nói với lời anh nói thì không đáp ứng được tiêu chuẩn “vượt quá nghi ngờ hợp lý”, nhưng lời của Post Office khi được một hệ thống máy tính hậu thuẫn dường như đã đủ sức thuyết phục bồi thẩm đoàn
Trong vụ trên, bồi thẩm đoàn đã đưa ra phán quyết có tội
Nó mặc định rằng máy tính hoạt động đúng, và người cho rằng không phải vậy phải chịu gánh nặng chứng minh
Nhiều người nói rằng cần thay đổi giả định về chứng cứ máy tính này
https://www.theguardian.com/uk-news/2024/jan/12/update-law-o...
https://www.forbes.com/sites/emmawoollacott/2024/01/15/law-o...
Phần mềm là một cỗ máy, không thông minh cũng không ngu ngốc
Trong trường hợp này, nó đã bị lỗi, và những người thực sự có khả năng phân tích, phê phán và phán đoán tình hình lại chấp nhận đầu ra của một cỗ máy mà họ không thể nhìn thấu bên trong như chân lý tuyệt đối
Nói chung, khi đối diện giữa đội ngũ pháp lý đáng kính của His Majesty’s Postal Service và một “gã bẩn thỉu mà theo chúng tôi là đã ăn cắp” nói giọng địa phương, thẩm phán sơ thẩm lần nào cũng sẽ chọn phía chính phủ
Không có dấu vết tiền chuyển vào tài khoản, không có tài sản không giải thích được, không có chi tiêu xa xỉ, tất cả chỉ là “máy tính nói vậy”
Việc hệ thống tư pháp xử lý từng vụ riêng lẻ cũng là một vấn đề
Sau vài vụ, hệ thống pháp luật cần có một cơ chế để dừng lại và nói “khoan đã, có gì đó không ổn ở đây”
Thay đổi đầu tiên trong vụ này có lẽ sẽ là chấm dứt thông lệ lỗi thời cho phép Post Office tự khởi tố ở Anh
Ở nhóm trước đây, chúng tôi cấm dùng từ glitch
Nó được các lập trình viên và người phụ trách sản phẩm dùng khi nói với khách hàng như một cách gọi chung cho “lỗi mà tôi không muốn chịu trách nhiệm”, và nó không có chỗ trong các đội ngũ công nghệ hiện đại
Trước đây từng có chuyện sao chép câu trả lời trên Stack Overflow vào codebase của công ty rồi cố cho đến khi nó “chạy”, và khi có vấn đề thì nó nằm ở một người trong vài tuần hoặc vài tháng rồi lại chuyển sang người khác
Phần lớn chỉ cần thêm vài dòng in ra đơn giản là đã có manh mối để sửa, nhưng ngay cả việc đó cũng bị coi là quá phức tạp
Khi phần mềm kiếm ra tiền, động cơ cắt giảm chi phí phát triển, thuê kỹ sư ít kinh nghiệm hơn và rẻ hơn, rồi bỏ qua quy trình với lý do “TDD là lãng phí thời gian” càng lớn hơn
Chính phủ Anh nghiện các hãng tư vấn lớn, và các hãng này đã đưa nhân sự rẻ, thiếu kinh nghiệm vào khu vực công, bàn giao các dự án nửa vời với giá đắt đỏ hoặc thậm chí không bàn giao được, rồi bỏ túi phần còn lại
Không có tổ chức nào muốn điều tra những hợp đồng như vậy
Nó rất giống với chương trình Robodebt từng xảy ra ở Úc, và gây ra những hậu quả phá hoại tương tự: https://en.wikipedia.org/wiki/Robodebt_scheme
Một người nhận phúc lợi nhận được thông báo thu hồi nợ tự động đã tự sát, thông báo nợ được gửi tới người đã qua đời, và cả người nhận trợ cấp khuyết tật cũng nhận được thông báo nợ
Wikipedia có vẻ gọi những thứ như vậy là Algocracy, tức sự cai trị bằng thuật toán
Vì nó gợi ra kết quả có lợi cho chính phủ khi đó, đồng thời đặt trách nhiệm phản chứng rằng khoản nợ là sai lên từng cá nhân, với các yêu cầu phi lý và gần như không có hỗ trợ hay quy trình khiếu nại
Liberal & National Party khi đó cầm quyền muốn tạo hình ảnh cứng rắn với những kẻ gian lận phúc lợi để dùng trong bầu cử, đồng thời muốn đưa một nguồn thu tiềm năng khổng lồ nhưng thực tế không tồn tại vào ngân sách tiếp theo
Nhiều khoản tính sai là kết quả của việc lấy trung bình thu nhập trong 2 tuần hoặc nhiều kỳ 2 tuần rồi ngoại suy thành thu nhập hằng năm; với nhiều người nhận phúc lợi làm việc tạm thời hoặc ngắn hạn, và giai đoạn đó không đại diện cho thu nhập năm, đây là cách làm hoàn toàn sai
Trong một số trường hợp, người bị chỉ định là con nợ chỉ biết chuyện lần đầu khi nhận thư yêu cầu từ công ty thu hồi nợ
Khi cá nhân khởi kiện, chính phủ hạ khoản nợ xuống 0,00 đô la rồi lập luận rằng không còn lý do kiện tụng nữa, khiến vụ việc bị bác
Cuối cùng, các luật sư đại diện cho một người đã đòi cả tiền lãi trên khoản nợ bị áp sai, khiến chính phủ không thể thắng bằng cùng chiến thuật đó nữa; chỉ khi ấy chính phủ mới thừa nhận tính bất hợp pháp của chương trình kéo dài nhiều năm
Để hiểu toàn bộ bối cảnh, tôi khuyến nghị loạt YouTube 3 phần này: https://www.youtube.com/watch?v=OfsL9GAbl3M
Ngay từ đầu, nó giải thích rằng vụ việc đã dẫn tới vụ kiện tập thể lớn nhất trong lịch sử Úc
Ngày nay, phần mềm được xem như sự thật, nhưng không phải lúc nào cũng vậy
Việc AI nhận được nhiều sự chú ý là điều đáng mừng, vì dường như mọi người đang ý thức hơn rằng các phán đoán của nó có thể sai
Tại tòa, cần yêu cầu các quyết định của phần mềm phải công khai dữ liệu và lộ trình ra quyết định, tức “thuật toán”
Một luật cần thiết khác là về việc cấm sử dụng hệ thống
Việc một người có thể bị chặn suốt đời mà không có giải thích hay biện pháp khắc phục là điều điên rồ, và trên thực tế gần giống như bị kết án chung thân mà không có lý do