'Lavender': hệ thống AI của Israel chỉ huy các cuộc ném bom xuống Dải Gaza
- Quân đội Israel đã phát triển một chương trình dựa trên trí tuệ nhân tạo có tên 'Lavender', đóng vai trò quan trọng trong các cuộc ném bom bừa bãi nhắm vào người Palestine ở Dải Gaza.
- Hệ thống này đánh dấu hàng chục nghìn cư dân Gaza là mục tiêu ám sát mà không có sự giám sát của con người, trong khi chính sách chấp nhận thương vong rất dễ dãi.
- Lavender được thiết kế để đánh dấu các thành viên của cánh quân sự Hamas và Thánh chiến Hồi giáo Palestine (PIJ) là các mục tiêu ném bom tiềm năng.
BƯỚC 1: Tạo mục tiêu
- Lavender phân tích thông tin được thu thập thông qua một hệ thống giám sát quy mô lớn đối với phần lớn cư dân Dải Gaza, rồi đánh giá và xếp hạng khả năng mỗi cá nhân là thành viên của cánh quân sự Hamas hoặc PIJ.
- Hệ thống AI này học các đặc điểm của những thành viên quân sự đã được biết đến và tìm các đặc điểm đó trong dân số nói chung để đưa ra đánh giá.
- Lavender đã đánh dấu khoảng 37.000 người Palestine là các 'thành viên quân sự' Hamas đáng ngờ để đưa vào danh sách ám sát.
BƯỚC 2: Liên kết mục tiêu với nhà của gia đình
- Quân đội Israel sử dụng các hệ thống tự động để liên kết mục tiêu với nhà của gia đình họ, đồng thời dùng thêm các hệ thống tự động như 'Daddy, where's home?' để phát tín hiệu ném bom khi mục tiêu đi vào nhà của gia đình.
- Những hệ thống này theo dõi mục tiêu liên tục và cho phép tấn công ngay khi họ bước chân vào nhà của gia đình.
BƯỚC 3: Chọn vũ khí
- Sau khi bị Lavender đánh dấu là mục tiêu ám sát, binh sĩ sẽ xác nhận mục tiêu có phải là nam giới hay không, và khi phần mềm theo dõi xác định được mục tiêu trong nhà, họ sẽ chọn loại đạn dược để dùng cho cuộc ném bom.
- Các loại bom 'ngu' giá rẻ có thể gây thiệt hại phụ lớn hơn bom dẫn đường chính xác, và chủ yếu được dùng để ám sát các thành viên cấp thấp.
BƯỚC 4: Phê duyệt thương vong dân sự
- Trong những tuần đầu của cuộc chiến, quân đội Israel cho phép giết tối đa 15 hoặc 20 dân thường khi ám sát từng thành viên cấp thấp bị Lavender đánh dấu.
- Mức 'thiệt hại phụ chấp nhận được' này được áp dụng rộng rãi cho mọi thành viên cấp thấp bị nghi ngờ, bất kể cấp bậc, tầm quan trọng quân sự hay độ tuổi của họ.
Ý kiến của GN⁺
- Hệ thống Lavender là một ví dụ về việc áp dụng công nghệ AI vào hoạt động quân sự, cho thấy vai trò của AI trong chiến tranh tương lai sẽ ngày càng tăng.
- Việc phụ thuộc vào danh sách mục tiêu ám sát do trí tuệ nhân tạo quyết định đặt ra các vấn đề đạo đức nghiêm trọng và làm tăng khả năng dân thường bị thiệt hại do nhắm sai mục tiêu.
- Cần có thảo luận sâu hơn về việc công nghệ này sẽ thay đổi bản chất chiến tranh như thế nào, đồng thời đòi hỏi những cách diễn giải mới về luật pháp quốc tế và các quy tắc chiến tranh.
- Việc đưa vào sử dụng các hệ thống như Lavender có thể nâng cao hiệu quả quân sự, nhưng đồng thời cũng mang tính hai mặt khi có thể đẩy sinh mạng của dân thường vô tội vào nguy hiểm.
- Cần xem xét công nghệ này sẽ ảnh hưởng đến cộng đồng quốc tế ra sao trong tương lai, cũng như sự cần thiết của các biện pháp quản lý hoặc đối phó tương ứng.
1 bình luận
Ý kiến trên Hacker News
Các nhà nghiên cứu từ lâu đã nêu lên lo ngại về việc nhắm mục tiêu cá nhân dựa trên những mối liên hệ gián tiếp. Những hệ thống này ban đầu được dùng cho mục đích giám sát, nhưng giờ đây đã vượt xa giám sát đơn thuần để được dùng vào việc thực sự giết người.
Bày tỏ lo ngại về ý tưởng để trí tuệ nhân tạo (AI) đưa ra quyết định giết người trước. Trong trường hợp này vẫn có sự phê duyệt của con người, nhưng điều đó cho thấy chỉ còn cách một bước tới tình huống con người bị giết bởi robot mà không có sự can thiệp của con người.
Chỉ ra rằng nhiều người sẽ chỉ nhìn tiêu đề mà không đọc nội dung, đồng thời khuyên hãy chú ý tới đoạn thứ hai của bài báo.
Đề xuất nghe mùa hiện tại của podcast Serial.
Dù đây là một câu chuyện mô tả hành động của Israel theo hướng tiêu cực, nó vẫn có thể được đọc như một nỗ lực ít nhất là nhằm vào các mục tiêu quân sự.
Đặt câu hỏi về độ chính xác của công nghệ này và chỉ ra rằng dường như người ta quan tâm nhiều hơn tới việc trông như công nghệ tiên tiến thay vì kết quả.
Nhắc rằng Lực lượng Phòng vệ Israel (IDF) không chỉ quan tâm tới việc giết các chiến binh Hamas trong các tòa nhà quân sự hoặc khi họ đang thực hiện hoạt động quân sự.
Đặt câu hỏi về việc sử dụng AI đã mang lại lợi ích gì cho IDF trong việc đạt được mục tiêu của họ.
The Guardian cũng đang đưa câu chuyện này lên trang nhất và đã được cung cấp trước các chi tiết.
Một nguồn tin cho biết các nhân viên con người chỉ đóng vai trò như một "con dấu cao su" đối với các quyết định của máy móc.