Hình ảnh cầu sập giả khiến hoạt động chạy tàu bị đình chỉ

• Một hình ảnh bị nghi là do AI tạo ra lan truyền trên mạng xã hội, trông như thể một cây cầu thực sự đã sập, khiến hoạt động chạy tàu tạm thời bị dừng lại
• Network Rail đã dừng mọi chuyến tàu đi qua Carlisle Bridge ngay sau khi bức ảnh được phát tán để tiến hành kiểm tra an toàn
• Kết quả kiểm tra không phát hiện bất thường, tuyến được mở lại sau khoảng 1 tiếng rưỡi, nhưng 32 chuyến tàu chở khách và hàng hóa đã bị chậm
• Cơ quan đường sắt cảnh báo rằng việc tạo và chia sẻ hình ảnh giả gây ra hỗn loạn không cần thiết và lãng phí tiền thuế
• Các chuyên gia đánh giá rằng dù thiệt hại thực tế trong vụ việc này là nhỏ, đây vẫn là ví dụ cho thấy rủi ro của thông tin sai lệch dựa trên AI đối với vận hành hạ tầng xã hội

---

Hoạt động chạy tàu bị đình chỉ vì hình ảnh giả

• Ngay sau khi xảy ra động đất, một hình ảnh trông như cây cầu bị hư hại nghiêm trọng đã được đăng lên mạng xã hội
  • Hình ảnh này bị nghi là do AI tạo ra, mô tả Carlisle Bridge ở Lancaster như thể đã bị sập
• Network Rail nhận biết hình ảnh này lúc 00:30 GMT và dừng mọi chuyến tàu đi qua cây cầu để kiểm tra an toàn
• Khi phóng viên BBC phân tích hình ảnh bằng chatbot AI, họ xác nhận có những khu vực cho thấy dấu hiệu bị chỉnh sửa

Phản ứng của cơ quan đường sắt và tác động

• Khoảng 02:00 GMT, tuyến đã được mở lại hoàn toàn, và Network Rail cảnh báo về những tác động nghiêm trọng mà việc tạo và chia sẻ hình ảnh giả có thể gây ra
• Cơ quan này cho biết: “Sự hỗn loạn do những hình ảnh giả như vậy gây ra dẫn đến chậm trễ cho hành khách và lãng phí tiền thuế, đồng thời làm tăng gánh nặng công việc cho nhân sự tại hiện trường”
• British Transport Police đã nắm được vụ việc nhưng không tiến hành điều tra chính thức

Quy mô chậm trễ vận hành

• Theo Network Rail, tổng cộng 32 chuyến tàu chở khách và hàng hóa đã bị chậm
  • Một số chuyến dừng lại trực tiếp hoặc giảm tốc, còn một số khác bị ảnh hưởng do các chuyến phía trước chậm trễ
  • Do chiều dài của West Coast Main Line, tình trạng chậm trễ đã lan đến tận miền bắc Scotland

Phân tích của chuyên gia

• Chuyên gia đường sắt Tony Miles giải thích rằng do vụ việc xảy ra vào đêm muộn nên phần lớn là tàu hàng và tàu giường nằm
  • Các đoàn tàu này thường chạy với tốc độ thấp hơn, nên ngay cả khi bị chậm vẫn có khoảng trống để tăng tốc bù thời gian
• Ông nói thêm rằng vì Network Rail phải khẩn cấp điều đội kiểm tra hiện trường, công việc trong vài ngày tới có thể vẫn bị ảnh hưởng

Tác động xã hội của thông tin giả

• Miles nhấn mạnh rằng những hình ảnh giả như vậy có thể ảnh hưởng đến lịch trình của người thật
  • Ông cảnh báo chúng có thể làm gián đoạn các lịch trình quan trọng như lịch khám bệnh, chuyến bay và tang lễ
• Ông kêu gọi kiềm chế, nói rằng: “Đây không chỉ là một trò đùa mà là hành vi gây tổn hại đến cuộc sống của người thật”

[roxie]

Tại sao không truy tìm kẻ phát tán đầu tiên?

[shakespeares]

Có lẽ nhờ AI mà bọn thao túng giá cổ phiếu sẽ có thể chuyển từ tổ chức sang hoạt động cá nhân nhỉ?

[crawler]

Thật sự rất tò mò không biết trong trường hợp như thế này thì sẽ bị xử phạt ra sao.

[GN⁺]

Ý kiến Hacker News

• Chúng ta giờ mới chỉ bắt đầu bước vào thời đại của hình ảnh và video giả
  Trước đây cũng đã có những màn dàn dựng giả mà không cần AI, như vụ đánh bom ngụy tạo ở vùng Donbas khi người ta dùng cả xác chết để tạo hiện trường giả
  Trong tương lai sẽ xuất hiện những video cho thấy người thiểu số hay chính trị gia làm những việc họ chưa từng làm, cùng các tài liệu hoàn toàn bịa đặt được nộp làm chứng cứ trước tòa. Có vẻ đó sẽ là một thế giới thật kinh khủng

  • Thậm chí cũng không nhất thiết phải cần video giả. Chỉ cần gắn phụ đề bịa đặt vào ảnh của một người thuộc nhóm thiểu số là đã có vô số người nổi giận và lao vào rồi
  • Phản ứng khác nhau theo thế hệ. Những người từng trải qua giai đoạn chỉnh sửa kỹ thuật số mới bắt đầu phổ biến thì khá điềm tĩnh, còn thế hệ ở giữa giai đoạn đó (20~40 tuổi) lại khó chịu nhất. Cảm giác như đang đứng giữa tâm điểm của một sự hỗn loạn kiểu cyberpunk nơi cảm giác về thực tại đang sụp đổ
  • Ngay cả 10~20 năm trước, với những công cụ cơ bản cũng đã có thể tạo ra sản phẩm giả mạo tinh vi rồi. Câu chuyện “AI đang phá hỏng mọi thứ” hiện nay ngược lại còn giống một động thái chính trị nhằm vào việc siết AI mã nguồn mở
  • Tôi lần đầu nghe thuật ngữ 'Cheap Fakes' trong một nghiên cứu ở Ấn Độ. AI tạo sinh đang làm cho các cuộc tấn công phishing hiệu quả hơn, khiến cả những nhóm dễ tổn thương trước đây không phải mục tiêu cũng bị nhắm tới. Hệ sinh thái thông tin đang bị ô nhiễm, và một khu rừng tối tăm đang hình thành nơi ham muốn kiểm soát của chính phủ va chạm với tự do biểu đạt
  • Thực tế là có rất nhiều ảnh bị chỉnh sửa, nhưng cũng có vô số trường hợp người ta bóp méo hoặc phớt lờ các sự kiện có thật. Vấn đề nằm ở chính điểm mà thực và giả trộn lẫn vào nhau

• Vụ này cho thấy khoảng cách giữa chi phí tạo ra cảnh báo và chi phí xác minh
  Các công cụ tạo sinh khiến việc giả mạo gần như miễn phí, đồng thời làm khối lượng của chúng bùng nổ
  Nhà vận hành đường sắt không có lỗi. Ngay sau động đất, nếu xuất hiện một hình ảnh trông có vẻ đáng tin thì đương nhiên phải đi kiểm tra thực tế
  Sau này sẽ là một thế giới nơi chỉ một người cũng có thể với chi phí thấp gây ra phản ứng tốn kém. Thay vì phớt lờ mạng xã hội, hệ thống phải tăng tốc độ phân biệt tín hiệu với nhiễu và khả năng phục hồi

  • Chỉ cần gọi điện nói “cầu sập rồi” thì chắc cũng vẫn gây chậm trễ. Nói dối qua điện thoại cũng là vấn đề có từ lâu
  • Ở nơi có nhiều CCTV như Anh thì tưởng là họ có thể kiểm tra trực tiếp tình trạng cây cầu chứ, nên khá bất ngờ. Công nghệ phát hiện tự động cần phát triển hơn nữa
  • Giống như định luật Brandolini, việc bác bỏ điều sai trái luôn tốn nhiều năng lượng hơn rất nhiều
  • Vào khoảng năm 2030, những hình ảnh giả mạo tinh vi sẽ còn được tạo ra trong nháy mắt. Điều này giống với thế lưỡng nan giữa kẻ tấn công và người phòng thủ trong an ninh mạng
  • Những vụ như thế này cũng có thể thúc đẩy đầu tư vào giám sát hạ tầng theo thời gian thực

• Giai đoạn 1950~2005, rào cản gia nhập phát sóng rất cao nên số nguồn thông tin ít. Từ 2005~2021, độ tin cậy của video rất cao, nhưng giờ thì chi phí tạo video giả gần như bằng 0
  Có lẽ chúng ta sẽ quay lại tập trung vào một số ít nguồn đáng tin cậy

  • Nhưng chính một số ít nguồn đó trước đây cũng từng bóp méo sự thật. Nếu AI làm niềm tin suy giảm thêm, giá trị của báo chí thật sự có thể cũng bị giảm đi
  • Dạo này quảng cáo dùng động vật AI biết nói xuất hiện đầy rẫy, phát ngán
  • Một số người sẵn sàng trả tiền để có tin tức chính xác, nhưng phần đông chỉ muốn xác nhận thiên kiến của mình. Thuật toán mạng xã hội ưu tiên mức độ tương tác và doanh thu quảng cáo hơn là sự thật

• Network Rail nói rằng “hãy nghĩ đến hậu quả nghiêm trọng trước khi tạo hoặc chia sẻ hình ảnh giả”, nhưng
  điều thực sự cần thiết là một hệ thống xác minh không phụ thuộc vào mạng xã hội. Có lẽ gọi điện xác nhận trực tiếp còn tốt hơn?

  • Dù vậy, nếu thật sự có khả năng cây cầu đã sập thì dừng tàu vẫn là lựa chọn đúng
  • Vì là giữa đêm nên chắc đã mất thời gian để tìm nhân lực đi xác minh. Không thể bảo đảm an toàn tuyệt đối, nhưng ưu tiên trước hết vẫn là giảm rủi ro
  • Không thể bố trí nhân sự túc trực 24 giờ ở mọi đoạn tuyến. Network Rail đã xử lý đúng theo nguyên tắc ưu tiên an toàn

• Thật ra việc kiểu này không cần AI
  Chỉ cần gọi điện nói “cầu bị hỏng rồi” thì có lẽ kết quả cũng vậy thôi. Cuộc gọi phá rối và đe dọa giả vốn đã tồn tại từ lâu

  • Nhưng tính lan truyền của mạng xã hội thì khác. Khi hình ảnh lan ra, nhiều trung tâm quyền lực sẽ đồng thời phản ứng. Điện thoại thì không tự lan truyền, còn hình ảnh thì tự khuếch tán. Đó là lý do vụ này có thể xảy ra
  • Lập luận kiểu “ngày xưa cũng đã có chuyện xấu rồi nên không cần lo” là rất nguy hiểm. Không nên để vấn đề bị đẩy từ cấp độ X lên cấp độ X²
  • Gọi điện phá rối có thể bị xử phạt pháp lý, còn ảnh giả thì chưa vượt qua ngưỡng đó
  • Trước khi thuốc súng được phát minh, con người cũng đã có thể giết nhau bằng vật phóng, nhưng thuốc súng đã thay đổi thế giới. AI cũng vậy
  • Muốn ngăn các hành vi gian dối thì cần hình phạt nghiêm khắc. Vấn đề là xã hội mới là bên gánh chi phí, chứ không phải kẻ phạm tội

• Điều thú vị là thực ra không có bằng chứng cho thấy bức ảnh này đã lan truyền trên mạng xã hội
  Ngoài bài của BBC ra thì không tìm thấy dấu vết nào cả. Có lẽ nó đã được gửi trực tiếp qua email cho Network Rail chăng?

  • Nếu là một trò đùa được thực hiện tinh vi đến mức đó thì ngược lại còn đáng thán phục

• Vụ này khiến tôi nhớ đến cốt truyện Moab trong Fall; or, Dodge in Hell

  • Phần đầu cuốn sách thật sự rất cuốn hút. Đặc biệt ấn tượng với những đoạn nói về tính ẩn danh và sự hiện diện trực tuyến

• Phóng viên BBC nói đã phân tích hình ảnh bằng chatbot AI để tìm dấu vết chỉnh sửa
  Nhưng cách này có vẻ không phù hợp làm phương pháp xác minh

  • Trên thực tế, phóng viên đã đến hiện trường và xác nhận cây cầu vẫn nguyên vẹn. Phân tích AI có lẽ chỉ là công cụ hỗ trợ
  • Có giáo viên kiểm tra bài làm của học sinh bằng ChatGPT, nhưng độ tin cậy của kiểu nhận diện AI như vậy rất thấp. Nếu học sinh quay lại lợi dụng mô hình thì dễ dàng qua mặt được
  • Kiểu phản hồi của ChatGPT như “nhìn pixel là biết” nghe như một câu đùa
  • Có thể đây là cách nhanh, nhưng chưa đủ độ tin cậy để trích dẫn trong một bài báo

• Cảnh báo của Network Rail ngược lại còn như đang phơi bày điểm yếu của chính họ
  Rằng bất cứ lúc nào cũng có thể xảy ra một cuộc tấn công làm tê liệt hạ tầng công cộng bằng cách này

  • Thực ra kiểu điểm yếu này đã được biết đến từ rất lâu rồi

• Câu “việc kiểm tra cây cầu đã ảnh hưởng đến công việc trong vài ngày” mới là điều đáng lo hơn
  Thật ngạc nhiên khi ngay cả một lần kiểm tra trực quan đơn giản cũng có thể gây ra chi phí xã hội lớn đến vậy

  • Nhưng nhân lực được điều động khẩn cấp sẽ được nghỉ bù (TOIL) nên lịch trình sẽ bị ảnh hưởng.
    Việc duy trì đội ngũ túc trực 24/7 còn tốn kém hơn. Cuối cùng đây vẫn là bài toán cân bằng giữa chi phí và an toàn