Vụ rơi chuyến bay 752 của Ukraine International Airlines xảy ra gần Tehran, Iran cách đây không lâu nhiều khả năng là do Iran phóng nhầm tên lửa. Khi đó, vì căng thẳng với Iran, Mỹ đang điều động tiền phương 6 máy bay ném bom chiến lược B-52 đến khu vực lân cận Iran, và sự leo thang căng thẳng này có thể đã khiến đơn vị phòng không Iran nhầm một máy bay dân dụng cất cánh từ lãnh thổ nước mình thành máy bay quân sự Mỹ đang định tấn công sân bay trong nước. Trùng hợp thay, một tình huống tương tự ở khu vực tương tự khiến người ta chợt liên tưởng đến [vụ USS Vincennes bắn hạ chuyến bay Iran Air 655], nơi sai sót của phía Mỹ đã bắn hạ một máy bay dân dụng Iran; nguyên nhân của sự cố này thường được chỉ ra là hàng loạt lỗi con người xảy ra trong trạng thái căng thẳng tâm lý cùng với giao diện người dùng không phù hợp.
Con người khi căng thẳng hoặc rơi vào tình huống khẩn cấp, bất ngờ thì rất dễ hoang mang và đưa ra phán đoán sai. Vì vậy, nhiều người nêu ra giải pháp là tự động hóa bằng máy móc hoặc tăng tính tự chủ với mức can thiệp của con người được giảm thiểu. Ý tưởng là trong những tình huống con người nhầm lẫn hoặc không kịp phản ứng, máy móc phải tự động chủ động thực hiện một số biện pháp trước. Đây là lập luận có lý, nhưng vấn đề là những người tạo ra cỗ máy đó vẫn là các thực thể không hoàn hảo. Vì thế, bản thân cỗ máy ấy cũng rất có thể không hoàn hảo. Nói cách khác, các hành động tự động mà máy thực hiện có khả năng thực ra là sai. Hơn nữa, nếu người vận hành không hiểu đúng về cơ chế tự động hóa đó, thì chính nó lại có thể trở thành nguyên nhân khiến vấn đề trầm trọng hơn.
Tôi đã tìm thấy một bài viết giải thích mặt tiêu cực của hệ thống tự chủ thông qua trường hợp tên lửa đất đối không Patriot bị phóng nhầm. (Tiếng Anh) Tên lửa Patriot có khả năng đánh chặn tên lửa đạn đạo của đối phương, nhưng vì việc này quá phức tạp và thời gian quá gấp để con người trực tiếp điều khiển, nên đã xuất hiện [chế độ tự động], trong đó chỉ cần bật công tắc là ngay khi radar phát hiện tên lửa đạn đạo, hệ thống sẽ tự động phóng để thử đánh chặn. Chế độ tự động này trông có vẻ đã bắn hạ tên lửa Scud rất hiệu quả trong Chiến tranh Vùng Vịnh, nên quân đội Mỹ đã chủ quan và tin tưởng vào nó. Thế nhưng trong Chiến tranh Iraq, đã có tới hai lần tên lửa Patriot ở chế độ tự động bắn hạ máy bay chiến đấu của phe mình. Do nhiễu điện từ trên radar, hệ thống phát hiện một tên lửa đạn đạo không hề tồn tại, Patriot lập tức được phóng đi; sau đó vì không thể tìm thấy mục tiêu đã được chỉ định, tên lửa coi vật thể gần nhất là mục tiêu, và vật thể đó là máy bay chiến đấu nên nó đã bắn hạ luôn.
Trường hợp chế độ tự động của tên lửa Patriot cho thấy rất rõ vấn đề của vũ khí tự động sát thương (Lethal Autonomous Weapon: vũ khí tự động được thiết kế để tự lựa chọn và tấn công mục tiêu mà không có sự can thiệp của con người). Năng lực để một hệ thống tự động hóa đưa ra phán đoán đúng trong các tình huống mơ hồ của thế giới thực thấp hơn ta tưởng nhiều. Không chỉ riêng vũ khí tự động sát thương, các hệ thống tự động hóa ngày càng ảnh hưởng đến đời sống hằng ngày của chúng ta. Ví dụ, YouTube dùng machine learning để tự động nhận diện nội dung dành cho trẻ em và vì phân loại sai mà đang vấp phải sự phản đối của nhiều YouTuber; tại Hàn Quốc, từ tháng 7 tới sẽ có thể ra mắt ô tô được trang bị tính năng tự lái từng phần cấp độ 3. Thời đại của những cỗ máy với sự can thiệp của con người ngày càng giảm đang đến gần, nhưng chúng ta vẫn cần ghi nhớ rằng trong tình huống khẩn cấp, sự can thiệp của con người vẫn luôn cần thiết.
Tham khảo - tóm tắt trích lược bằng tiếng Hàn cho bài viết trên:
2 bình luận
Đã có video xuất hiện, có vẻ như máy bay thật sự đã bị trúng tên lửa.
https://www.nytimes.com/2020/01/09/video/iran-plane-missile.html
Cuối cùng Iran đã thừa nhận rằng vụ việc lần này xảy ra do quân đội nước này phóng nhầm tên lửa của chính mình. Xin chia buồn cùng những người đã khuất.
https://www.yna.co.kr/view/AKR20200111031354009
https://www.yna.co.kr/view/AKR20200111041651111