Người phụ nữ vô tội bị giam nhiều tháng vì lỗi nhận diện khuôn mặt của AI

• Do hệ thống nhận diện khuôn mặt AI hoạt động sai, một phụ nữ đã bị bắt và bị giam nhiều tháng dù không liên quan đến tội phạm
• Vụ việc bắt nguồn từ quá trình điều tra một vụ gian lận ở bang North Dakota, nơi AI nhận diện nhầm người
• Nạn nhân là một người bà vô tội, và chỉ về sau mới được làm rõ là hoàn toàn không liên quan đến vụ án thực tế
• Trường hợp này phơi bày vấn đề về độ tin cậy và trách nhiệm của công nghệ điều tra dựa trên AI
• Đây trở thành động lực đặt ra nhu cầu tăng cường kiểm chứng đối với việc cơ quan thực thi pháp luật phụ thuộc vào AI

---

Vụ giam giữ oan do AI nhận diện nhầm

• Tại bang North Dakota, một phụ nữ bị chỉ nhầm là nghi phạm và bị bắt do lỗi của công nghệ nhận diện khuôn mặt AI
• Người phụ nữ này không liên quan đến vụ gian lận, nhưng đã ở trong tình trạng bị giam giữ suốt nhiều tháng trước khi được xác nhận vô tội
• Vụ việc làm nổi bật giới hạn về độ chính xác của công nghệ AI và vấn đề trách nhiệm pháp lý

Lỗi kỹ thuật và tác động xã hội

• Đây được xem là một ví dụ điển hình cho việc dương tính giả của thuật toán nhận diện khuôn mặt dẫn đến xâm phạm nhân quyền
• Vấn đề cũng nằm ở chỗ cơ quan thực thi pháp luật đã tin vào kết quả phân tích của AI mà không qua kiểm chứng
• Sự việc này tiếp tục dẫn tới các thảo luận nhấn mạnh nhu cầu bảo đảm tính công bằng và minh bạch của công nghệ AI

Cần có phản ứng ở cấp thể chế

• Các chuyên gia kêu gọi siết chặt tiêu chuẩn sử dụng và quy trình kiểm chứng đối với công cụ điều tra AI
• Có ý kiến cho rằng cần gấp rút xây dựng cơ chế ngăn chặn các phán đoán sai do lỗi của trí tuệ nhân tạo
• Trong tương lai, trách nhiệm pháp lý và vấn đề bồi thường thiệt hại có thể trở thành những điểm tranh luận lớn

[GN⁺]

Ý kiến trên Hacker News

• Chia sẻ liên kết bài gốc (archive.ph)

• Theo tài liệu tòa án, cảnh sát đã đích thân xác nhận kết quả nhận diện khuôn mặt do AI đưa ra nhưng vẫn tiếp tục vụ bắt giữ sai
  AI chỉ đánh dấu là “khả năng trùng khớp”, nhưng điều có vấn đề là các điều tra viên con người lại tiếp nhận nó như bằng chứng chắc chắn
  Cuối cùng, việc bà bị giam suốt 5 tháng mà thậm chí còn không được thẩm vấn lấy một lần là do sự tắc trách của hệ thống tư pháp hình sự

  • Trên thực tế thì giờ đây chỉ là câu “máy tính nói đúng” đã đổi thành “AI nói đúng” mà thôi
    Con người trao quá mức thẩm quyền và khả năng phán đoán cho máy móc, đồng thời muốn né tránh trách nhiệm đối với sai sót
  • Vấn đề không chỉ đơn thuần là AI, mà là quyền lực cảnh sát kết hợp với AI
    Các công nghệ giám sát như nhận diện khuôn mặt, nhận diện biển số xe bị lạm dụng, còn dù nạn nhân có bị hủy hoại cuộc đời thì cũng chẳng ai chịu trách nhiệm
  • Rốt cuộc đây là hình ảnh xã hội sụp đổ khi con người mù quáng tin vào AI có lỗi
    Phần lớn mọi người không thể phân biệt AI với trí tuệ thực sự, và đưa ra những quyết định phi lý chỉ vì “máy tính đã nói vậy”
  • Trong một vụ tương tự, đã từng có người bị bắt vì một lọ thuốc thông thường bị nhầm là ma túy
    Có thể xem trong bài liên quan
  • Khi quét hàng triệu bức ảnh thì tỷ lệ dương tính giả tất yếu sẽ tăng lên, nên xác suất bắt nhầm là khá lớn

• Đây rõ ràng là một vụ đáng để kiện Sở cảnh sát Fargo và các cơ quan chính quyền
  Người phụ nữ trong video rõ ràng trẻ hơn nhiều, và xét từ nhiều tình tiết thì không phải cùng một người
  Ít nhất bà ấy phải được bồi thường hàng triệu USD

  • Nhưng vì qualified immunity (quyền miễn trừ dành cho công chức) nên trên thực tế có rất nhiều trở ngại
  • US Marshals có thể không phải chịu trách nhiệm vì họ chỉ đơn thuần thi hành lệnh bắt
  • Cuối cùng thì những khoản bồi thường như vậy cũng lại được chi trả bằng tiền thuế của người dân, điều này cũng thật chua chát
  • Chi tiết “trong thời gian ở tù, bà mất nhà, mất xe, thậm chí cả chó cưng” đặc biệt gây sốc
    Không khỏi thắc mắc ai đã mang con chó đó đi
  • Dù có giống nhau như sinh đôi đi nữa thì bị giam 6 tháng vẫn là chuyện vô lý

• Theo bài báo, kết quả nhận diện khuôn mặt này là lỗi của AI đồng thời cũng là thất bại toàn diện của con người
  Cảnh sát, công tố viên, thẩm phán, cảnh sát tư pháp đều có trách nhiệm
  Tuyệt đối không được ban hành lệnh bắt chỉ dựa vào nhận diện khuôn mặt

  • Không nên quên rằng đã có nhiều chủ thể cùng lúc làm sai
    a) lạm dụng công cụ và tắc trách từ phía cảnh sát,
    b) thiếu giám sát từ phía tư pháp,
    c) phía công ty cung cấp AI để mặc việc lạm dụng hoàn toàn có thể dự đoán trước
    Những thất bại như vậy phải kéo theo mất chức vụ và trách nhiệm mang tính thể chế
  • Trong dân số 300 triệu người của Mỹ, có rất nhiều người giống nhau
    Đây là kết quả của việc mù quáng tin vào năng lực thần bí của AI và coi nhẹ quyền con người của nghi phạm
  • AI không phải là chủ thể, trách nhiệm chỉ thuộc về con người
  • Trên thực tế, phần mềm chỉ hoạt động như một công cụ lọc mẫu hình
    Nó chỉ đưa ra “khả năng trùng khớp”, nhưng con người lại hiểu nhầm đó là bằng chứng xác định

• Vụ việc này khiến người ta nhớ đến vụ bê bối Bưu điện Anh

  • Khi đó tôi đã theo dõi phiên điều trần trên YouTube, và sự ngạo mạn cùng vô năng thật gây sốc
  • Cũng xin giới thiệu mini-series đoạt BAFTA Mr Bates vs The Post Office
  • Nghĩ lại vụ đó lại thấy cơn giận dâng lên
  • Dù sao thì cũng may là giám đốc sở cảnh sát Fargo vẫn chưa được trao một chức danh danh dự nào

• Trong video của The Civil Rights Lawyer cũng có đề cập một vụ tương tự
  AI của sòng bạc đã chỉ nhầm người, nhưng cảnh sát bắt giữ mà không hề kiểm chứng gì
  Thậm chí sau khi sự vô tội đã được làm rõ, công tố viên vẫn tiếp tục giữ nguyên cáo buộc xâm nhập trái phép

  • Cũng chia sẻ luôn liên kết video YouTube
    Đúng là thế giới nhỏ thật, người quen của người quen lại chính là đương sự trong vụ đó

• Nhìn ảnh nhận diện khuôn mặt thì đây là kiểu gương mặt giống nhau mà một tuần có thể gặp vài người

• Ban đầu còn thấy vui vì kiểu “quê tôi lên Hacker News rồi!”, nhưng vừa nhìn nội dung là lập tức có điềm chẳng lành
  Nghe nói giám đốc sở cảnh sát đã từ chức hôm nay, có lẽ liên quan đến vụ này

  • Chỗ tôi mỗi lần lên tin tức toàn quốc cũng luôn là vì những vụ việc rắc rối kiểu này
  • Cũng có người hỏi nguồn tin về việc giám đốc sở cảnh sát từ chức

• Mọi người nói “không phải AI sai mà là con người sai”, nhưng điều đó ngược lại chính là đang mắc vào chiến lược marketing của các công ty AI
  Cảnh sát, chính trị gia, và những người vận hành hệ thống đều ở trong một cấu trúc miễn trừ trách nhiệm, nên không thể truy cứu trách nhiệm
  Cuối cùng thứ còn lại chỉ là công cụ và kẻ tạo ra nó
  Câu “không phải AI mà con người mới là vấn đề” rốt cuộc lại giúp doanh nghiệp né tránh trách nhiệm
  Nếu thực sự muốn truy cứu trách nhiệm, phải buộc giới tư bản và nhà cung cấp công nghệ chịu trách nhiệm

  • Hoàn toàn đồng ý với điều này
    Kết cục như vậy là hệ quả có thể dự đoán trước, và đã được báo trước ngay từ khoảnh khắc họ bán AI nhận diện khuôn mặt cho cảnh sát Mỹ