Giám đốc tình báo hàng đầu của Israel để lộ danh tính thật vì sơ suất bảo mật trực tuyến
(theguardian.com)- Danh tính của chỉ huy Unit 8200 thuộc tình báo quân đội Israel, vốn được giữ tuyệt mật, đã bị lộ qua dấu vết số còn sót lại trong một ebook trên Amazon từ năm 2021
- Cuốn sách xuất bản dưới bút danh Brigadier General YS có chứa một địa chỉ email ẩn danh, và địa chỉ này dẫn tới tài khoản Google mang tên Yossi Sariel cùng các hồ sơ Maps và Calendar
- Cuốn The Human Machine Team bàn về việc kết hợp nhân sự quân đội với AI, và được liên hệ với bản phác thảo của hệ thống gợi ý mục tiêu dựa trên AI mà IDF đã phụ thuộc vào trong 6 tháng của cuộc chiến Gaza
- IDF nói email đó không phải tài khoản cá nhân mà là tài khoản chuyên dùng cho các vấn đề liên quan tới cuốn sách, nhưng sau đó thừa nhận việc lộ thông tin cá nhân của Sariel là một “sai sót” và cho biết sẽ xem xét để ngăn tái diễn
- Vụ lộ này làm tăng thêm áp lực với Sariel trong bối cảnh tranh cãi trách nhiệm xoay quanh Unit 8200, đơn vị đã không ngăn được cuộc tấn công của Hamas ngày 7/10/2023, cùng các chỉ trích về thiên kiến công nghệ
Danh tính chỉ huy Unit 8200 bị lộ
- Danh tính của chỉ huy Unit 8200 của Israel được xem là một trong những bí mật nhạy cảm nhất ngay cả trong nội bộ quân đội
- Unit 8200 được biết đến là một cơ quan giám sát rất mạnh, thường được so sánh với NSA của Mỹ
- Chỉ huy được xác định là Yossi Sariel, người đã hoạt động hơn 20 năm mà không bị công khai danh tính
- Danh tính của Sariel bị lộ thông qua dấu vết số gắn với một cuốn sách xuất bản trên Amazon
- Địa chỉ email ẩn danh có trong ebook dẫn tới một tài khoản Google được tạo dưới tên Sariel
- Tài khoản này được liên kết với một ID riêng và các liên kết hồ sơ Google Maps và Calendar
- Người phát ngôn IDF giải thích rằng email đó không phải email cá nhân của Sariel mà là tài khoản chỉ dùng cho các vấn đề liên quan tới cuốn sách
- Sau đó, IDF thừa nhận với truyền thông Israel rằng việc lộ thông tin cá nhân là một “sai sót”, đồng thời cho biết sẽ rà soát vụ việc để ngăn các trường hợp tương tự tái diễn
The Human Machine Team và chiến lược quân sự AI
- Sariel xuất bản The Human Machine Team vào năm 2021 dưới bút danh Brigadier General YS
- Bút danh được tạo từ chữ cái đầu tên ông
- Theo xác nhận từ nhiều nguồn, Sariel là tác giả ẩn danh của cuốn sách này
- Cuốn sách trình bày hình dung về việc AI có thể thay đổi mối quan hệ giữa con người quân sự và máy móc như thế nào
- Sariel cho rằng trong chiến tranh hiện đại, machine learning phải chuyển từ vị trí bên lề sang sân khấu trung tâm
- Định hướng cốt lõi là human-machine teaming, tức theo đuổi sự phối hợp giữa con người và AI thay vì các hệ thống tự trị hoàn toàn
- Độc giả mục tiêu là các chỉ huy quân sự cấp cao và giới chức an ninh
- Được biết Sariel viết sách sau khi dành 1 năm làm nghiên cứu viên thỉnh giảng tại National Defense University ở Washington DC của Mỹ và nhận được sự cho phép của IDF
Hình dung về cỗ máy xác định mục tiêu bằng AI
- Một phần của cuốn sách đề cập tới khái niệm “targets machine” dựa trên AI
- Khái niệm này tương tự với mô tả về hệ thống gợi ý mục tiêu mà IDF được cho là đã sử dụng trong các đợt ném bom Gaza
- Sariel cho rằng để xây dựng một cỗ máy xác định mục tiêu hiệu quả thì cần big data mà bộ não con người không thể xử lý nổi
- Ví dụ được đưa ra gồm dữ liệu chiến trường, thông tin dân cư, dữ liệu hình ảnh, dữ liệu điện thoại di động, kết nối mạng xã hội, ảnh chụp và danh bạ điện thoại
- Quan điểm của ông là dữ liệu càng nhiều và càng đa dạng thì càng tốt
- Cỗ máy xác định mục tiêu sử dụng các mô hình phức tạp để dự đoán bằng cách kết hợp hàng loạt đặc điểm nhỏ
- Ví dụ gồm người ở cùng nhóm WhatsApp với thành viên Hezbollah, người được cấp điện thoại mới vài tháng một lần, hoặc người thường xuyên đổi địa chỉ
- AI được xem như cách giảm các nút thắt cổ chai do nhân viên tình báo hoặc binh sĩ tạo ra trong quá trình tạo ra mục tiêu quân sự tiềm năng
- Tìm kiếm mục tiêu mới và ra quyết định phê duyệt
- Xử lý lượng dữ liệu lớn
- Kết nối thông tin tình báo với hỏa lực
Các hệ thống AI trong chiến tranh Gaza
- Dưới quyền chỉ huy của Sariel, Unit 8200 đã triển khai trong 6 tháng của cuộc chiến Gaza nhiều hệ thống hỗ trợ ra quyết định dựa trên AI do đơn vị này nhanh chóng phát triển và cải tiến
- Các hệ thống đã được công khai gồm the Gospel và Lavender
- Hai hệ thống này được biết đến qua truyền thông Israel-Palestine +972 magazine, báo tiếng Hebrew Local Call và Guardian
- IDF giải thích rằng các hệ thống AI nhằm hỗ trợ các sĩ quan tình báo con người
- Các sĩ quan tình báo con người phải xác nhận liệu nghi phạm quân sự có phải là mục tiêu hợp pháp theo luật quốc tế hay không
- Người phát ngôn cho biết quân đội sử dụng nhiều công cụ và phương pháp khác nhau, trong đó có các công cụ dựa trên AI để hỗ trợ các nhà nghiên cứu tình báo
Tranh cãi quanh Unit 8200 sau ngày 7/10
- Sơ suất bảo mật của Sariel bị phơi bày trong bối cảnh Unit 8200 bị chỉ trích vì không dự đoán và ngăn chặn được cuộc tấn công của Hamas ngày 7/10/2023
- Trong cuộc tấn công đó, các tay súng Palestine đã giết khoảng 1.200 người Israel và bắt cóc khoảng 240 người
- Unit 8200 từng được đánh giá cao cả trong và ngoài Israel, với năng lực tình báo được cho là ngang tầm GCHQ của Anh
- Đơn vị này được cho là đã xây dựng một bộ máy giám sát quy mô lớn để theo dõi chặt chẽ các khu vực Palestine
- Sau cuộc tấn công, xuất hiện chỉ trích rằng sự tự mãn về công nghệ của Unit 8200 đã đánh đổi các kỹ thuật thu thập tình báo truyền thống
- Báo Israel Maariv vào tháng 2/2024 đã đề cập đến tranh cãi trách nhiệm nội bộ trong Unit 8200 sau ngày 7/10
- Sariel được nhắc tới không phải bằng tên mà là chỉ huy Unit 8200 “Y”
- Những người chỉ trích cho rằng dưới quyền Sariel, đơn vị này đã ưu tiên các công nghệ “gây nghiện và hấp dẫn”, dẫn tới thảm kịch
- Sariel được dẫn lời nói với các đồng nghiệp rằng ngày 7/10 sẽ ám ảnh ông đến ngày cuối cùng, và rằng ông chấp nhận trách nhiệm ở ý nghĩa sâu sắc nhất: “chúng ta đã thất bại. Tôi đã thất bại”
1 bình luận
Ý kiến trên Hacker News
Tôi muốn biết rõ hơn sai sót bảo mật được nhắc trong phần trích dẫn cụ thể là kiểu gì
Không biết là Amazon có lỗi làm lộ địa chỉ email tài khoản của tác giả tự xuất bản hay không, hay là khi chia sẻ nội dung Google Maps hoặc Google Calendar trong sách, họ không biết các tính năng đó sẽ để lộ email thật
Có vẻ ông ấy có một tài khoản Gmail lập ra để nhận phản hồi, đính chính, đánh giá và liên hệ báo chí; tài khoản này đáng lẽ phải gần như ẩn danh nhưng lại được đăng ký bằng tên thật
Ít nhất thì tên hẳn đã hiện với những người nhận được hồi âm, và cũng có thể bị lộ qua các liên kết với tài khoản khác
Không biết đó là thứ giống số định danh công dân, số quân nhân, hay một loại định danh khác
Ở đây có vẻ không có thất bại bảo mật nào
Có người dùng bút danh để che giấu danh tính thật, nhưng cũng có người dùng bút danh để tách biệt persona công khai với đời sống riêng tư
Trường hợp này rõ ràng gần với vế sau hơn
Ông ấy xuất bản sách bằng cách kết hợp chữ cái đầu tên mình với các gợi ý ám chỉ nghề nghiệp, và việc không nghiêm túc che giấu email cũng tự nhiên trong mạch đó
Việc này cũng chẳng có gì to tát, giống như đưa tin rằng đã tìm ra tên thật của JJ Lehto
Nghĩ lại thì nó đồng thời vừa là bí danh chiến đấu vừa là bút danh
An ninh tác chiến rất khó
Và dù có lạc quan đến đâu về tiềm năng của AI, dùng AI để quyết định giết ai là điều khủng khiếp và rõ ràng phi đạo đức
Nó khiến các hành vi tàn bạo không có quy trách nhiệm trở nên khả thi
Ngay từ việc người này từng ẩn danh cũng có vẻ là dấu hiệu cho thấy mục tiêu không phải là trách nhiệm giải trình
https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai...
Tuy nhiên, trong bài đó, phần lớn những điều đáng sợ lại đến từ các vận hành viên con người
Có vẻ tồn tại một sự thờ ơ khá mạnh trong việc tìm lý do để không tin vào máy móc
Tôi đồng ý với cảm giác rằng “dùng AI để quyết định giết ai là phi đạo đức”, nhưng khó chấp nhận một mệnh đề mạnh đến vậy
Ví dụ, nếu có một nhóm 10 người quyết định mục tiêu, và AI giảm khối lượng công việc để 10 người đó có thể xem xét lại lâu hơn, thì đó cũng là “dùng AI để quyết định giết ai”, nhưng kết quả thậm chí có thể được cải thiện
Vấn đề là trong thực tế, khả năng cao người ta sẽ đẩy trách nhiệm cho máy móc rồi nhún vai
Tôi nghĩ rất khó vừa trả lời câu hỏi này một cách đúng đắn vừa đưa ra một câu trả lời dễ dàng
Ngược lại, chính các bình luận và cách nghĩ như thế này mới tạo điều kiện cho việc né tránh trách nhiệm
Có con người đã quyết định sử dụng AI, và con người đó phải chịu trách nhiệm
Nếu không gánh nổi trách nhiệm đó thì không nên dùng AI
Dù danh tính bị lộ thì cũng không quá quan trọng
Nếu là nhân vật cấp cục trưởng/giám đốc thì làm gì cũng sẽ nổi bật hơn và không thể ẩn mình
Trong lĩnh vực quân sự, các sĩ quan cấp cao không được bảo vệ danh tính vì họ đại diện cho quân đội
Tất nhiên, binh sĩ và nhân sự cấp thấp, cấp trung là những người thực thi mệnh lệnh và thực sự chịu rủi ro, nên luôn phải được bảo vệ danh tính
Có lẽ sẽ tốt hơn nếu danh tính ông ấy không bị công khai vì ông ấy có thể đối mặt nguy cơ bị ám sát khi đi lại, nhưng thành thật mà nói đây không phải chuyện lớn
Có lẽ chỉ tạo thêm các bình luận thù ghét từ những nhóm có khuynh hướng chống Israel
Nhìn bề ngoài thì ông ấy đã cố giấu danh tính, và vì thất bại khá thảm hại nên mới thành câu chuyện đáng đưa tin
Cuốn sách ở đây:
https://www.amazon.com/Human-Machine-Team-Artificial-Intelli...
Cá nhân tôi không quan tâm đến danh tính của ông ấy, nhưng bài này cũng đề cập đến nội dung cuốn sách mà ông ấy xuất bản, và phần đó thú vị hơn nhiều
Một nước đi cờ vua 4 chiều thông minh của Yossi Sariel
Có vẻ như ông ta đang giả vờ mắc lỗi để rời vị trí mà không phải chính thức từ chức
“Sai lầm” này vừa cho cấp trên cái cớ để cho ông ta ra đi, vừa giúp tránh vụ việc ngày 7/10
Nhìn vào những gì đã xảy ra sau ngày 7/10, cả hai bên đều không có vẻ giỏi trong bất kỳ hình thức hoạch định chiến lược nào
Càng không phải “cờ vua 4 chiều thông minh”
Ý là ông ta cố tình phạm sai lầm lúc đó để tạo đường rút lui mà không phải từ chức sau 3 năm sao?
Không có vẻ như họ thật sự định giữ bí mật
Nếu muốn, ông ta cũng có thể trở thành người tố giác như Snowden
Thấy kỳ lạ là cũng được an ủi phần nào khi biết những chuyện như thế này ngay cả với chuyên gia cũng khó
“Những người chỉ trích Sariel cho rằng việc Unit 8200 ưu tiên các công nghệ ‘gây nghiện và thú vị’ hơn các phương thức thu thập tình báo kiểu cũ đã dẫn đến thảm họa”
Họ cũng dùng Kubernetes và các framework frontend mới nhất à?
Đó là một vòng lặp useEffect() khổng lồ điều khiển riêng từng robot sát nhân bằng các tên được hard-code
Vì vẫn chưa có ngân sách nghiên cứu memoization nên hơi chậm, nhưng trên phần cứng đủ mạnh thì vẫn ổn
Toàn bộ tính toán đạn đạo đều làm bằng WebGL, gây ra tình trạng thiếu GPU trên toàn cầu suốt vài năm qua
Thỉnh thoảng tính sai kích thước viewport nên cũng gây thiệt hại phụ :(
Rút kinh nghiệm, dự án AI tiếp theo của Israel sẽ đi theo cách đã được kiểm chứng và sẽ được viết hoàn toàn bằng CSS
Phép ví von hợp lý hơn là sa thải senior developer rồi tuyển các junior có gói thuê bao ChatGPT, sau đó kỳ vọng tốc độ phát triển sẽ cải thiện mạnh
Xâm nhập các máy tính ngẫu nhiên trong tầng hầm rồi gửi các hàm nhỏ đi xử lý phân tán
Dữ liệu quá nhỏ nên không thể tái dựng họ đang làm gì
Kiểu SETI@HOME phiên bản Liên Xô
Bạn cũng sẽ xử lý dữ liệu của họ mà không hề hay biết
Việc duy nhất có thể làm là format hệ thống để loại bỏ backdoor, dù cũng chỉ biết hy vọng mọi thứ suôn sẻ
Bảo mật tác chiến rất khó
Dù làm đúng 99.999 lần, chỉ cần mắc lỗi một lần là xong