Vấn đề Thung lũng Silicon của Lầu Năm Góc

Vấn đề của Lầu Năm Góc ở Thung lũng Silicon

• Giám đốc Ron Bar của Shin Bet, cơ quan an ninh nội địa của Israel, đã công bố một nền tảng trí tuệ nhân tạo do cơ quan này tự phát triển.
• Công nghệ này được օգտագործվում để phân tích thông tin về khủng bố, dự đoán rủi ro và phát cảnh báo.
• Cuộc tấn công của Hamas đã hoàn toàn khiến hệ thống phòng thủ của Israel bất ngờ, dù Hamas đã tiến hành công tác chuẩn bị một cách công khai.

Big Tech đang tụt lại trong chiến tranh tương lai

• Michèle Flournoy nhấn mạnh tầm quan trọng của mối liên kết giữa Thung lũng Silicon và chính phủ Mỹ.
• Lầu Năm Góc thường bị xem là kháng cự công nghệ mới, nhưng trên thực tế đang đầu tư vào nhiều dự án AI.
• Công nghệ AI có thể ảnh hưởng đến cách tiến hành các chiến dịch quân sự, nhưng điều đó cũng nuôi dưỡng huyền thoại rằng những người theo chủ nghĩa lý tưởng trong ngành công nghệ đang đổi mới cỗ máy chiến tranh.

Niềm tin rằng phần mềm có thể giải quyết xung đột của con người

• Vai trò của phần mềm trong cách Mỹ tiến hành chiến tranh đã có một lịch sử lâu dài.
• Trong Chiến tranh Việt Nam, chiến dịch Igloo White đã triển khai cảm biến để phát hiện hoạt động của đối phương nhưng đã thất bại.
• Thung lũng Silicon phát triển từ ngành công nghiệp điện tử từng góp phần vào chiến thắng trong Thế chiến II và được Lầu Năm Góc hậu thuẫn trong suốt thời kỳ Chiến tranh Lạnh.

Mối quan hệ giữa Thung lũng Silicon và Lầu Năm Góc

• Ngành công nghệ của Thung lũng Silicon ban đầu có quan hệ chặt chẽ với ngành công nghiệp quốc phòng, và Internet được phát triển từ ARPANET của Lầu Năm Góc.
• Peter Thiel theo đuổi mục tiêu đưa Thung lũng Silicon trở lại thành một phần của tổ hợp công nghiệp quân sự.
• Lầu Năm Góc đang nỗ lực tận dụng công nghệ của Thung lũng Silicon để duy trì ưu thế công nghệ của Mỹ.

Công nghệ quốc phòng của Thung lũng Silicon

• Các công ty ở Thung lũng Silicon đang mở rộng hoạt động trong lĩnh vực quốc phòng, bổ sung những người chơi mới vào tổ hợp công nghiệp quân sự hiện có.
• Google từng phát triển công nghệ xử lý video drone thông qua Project Maven, nhưng đã rút khỏi dự án do sự phản đối của nhân viên.
• Các công ty ở Thung lũng Silicon đang mở rộng vai trò trong lĩnh vực quốc phòng, và đây có vẻ là một nguồn doanh thu ổn định từ ngân sách quốc phòng.

Ý kiến của GN⁺

• Bài viết này mang đến góc nhìn thú vị về cách công nghệ quốc phòng và trí tuệ nhân tạo đang được áp dụng vào các chiến dịch quân sự thực tế.
• Bài viết đặt ra câu hỏi liệu công nghệ AI có thể thực sự hiểu và ứng phó đầy đủ với tính phức tạp của chiến trường hay không.
• Bài viết khơi gợi một cuộc thảo luận quan trọng về việc sự hợp tác giữa ngành công nghệ và lĩnh vực quốc phòng sẽ ảnh hưởng như thế nào đến an ninh quốc gia.
• Bài viết nhấn mạnh các vấn đề đạo đức có thể phát sinh khi các công ty ở Thung lũng Silicon can dự sâu hơn vào lĩnh vực quốc phòng.
• Bài viết cũng nhắc lại rằng tiến bộ công nghệ không phải lúc nào cũng dẫn đến thành công quân sự, và đưa ra các ví dụ về những dự án thất bại trong quá khứ để củng cố điều đó.

[GN⁺]

Ý kiến Hacker News

• Các ví dụ được nhắc trong bài có vẻ đã được chọn lọc có chủ đích. Không thể chỉ đổ thất bại ở Việt Nam cho máy tính IBM 360. Cuộc tấn công của Hamas có thể đã khiến Israel bất ngờ, nhưng trong vài năm gần đây Iron Dome vẫn hoạt động tốt. Mỹ đã cảnh báo về cuộc tấn công của Nga vào Ukraine, nhưng nhiều người đã không lắng nghe. Và bom nguyên tử là do các nhà vật lý lý thuyết tạo ra.
• Cũng như nhiều phương tiện truyền thông khác, bài này giải thích AI theo cách quá khái quát. Khả năng dự đoán của machine learning (ML) đã được dùng trong quân đội hiện đại suốt nhiều thập niên. Phần mở đầu của bài viết ám chỉ LLM đóng vai trò lớn trong thất bại tình báo ngày 7 tháng 10, nhưng thực tế không phải vậy. ML sẽ tiếp tục đóng vai trò, lặp lại cả thành công lẫn thất bại, và sẽ càng trở nên không hoàn hảo hơn khi phải đối phó với adversarial ML. Đổ lỗi cho một công cụ không hoàn hảo là không hữu ích.
• Các hệ thống AI biết mọi thứ về Hamas, nhưng các thành viên Hamas lại cung cấp dữ liệu mà AI muốn nghe. Khi đối phương có thể nhìn thấy mọi hành động và lời nói, biện pháp phòng vệ duy nhất là quyền riêng tư. Trong tiểu thuyết "Bài toán Tam thể", quyền riêng tư chỉ tồn tại trong tâm trí con người, và chỉ con người mới có thể đưa ra quyết định dựa trên những chiến lược chưa bao giờ được nói ra. Khoa học viễn tưởng đang trở thành hiện thực.
• Gần như không thể thiết kế một hệ thống tốt nếu không có ca sử dụng rõ ràng. Ukraine có những ca sử dụng như vậy và có động lực rất lớn để giải quyết chúng. Ukraine điều khiển chiến trường bằng máy tính thông thường và đã đánh chìm nhiều tàu chiến Nga bằng drone hải quân tầm xa. Gần đây, họ cũng bắt đầu thử nghiệm quy mô lớn các drone bay giá rẻ được trang bị nhận diện mục tiêu dựa trên computer vision. Nhưng Mỹ đang trong thời bình, điều này tự nó là tốt, song trên thực tế cũng khiến người ta dễ lãng phí hàng tỷ USD vào công nghệ vô dụng.
• Cách dùng từ 'đáng ngạc nhiên' nghe khá lạ. Truyền thông Israel đã nhiều lần đưa tin rằng các nhà phân tích tuyến đầu đã phát cảnh báo nhưng bị phớt lờ. Điều này có thể là do phân biệt giới tính, phân biệt tuổi tác, sự kỳ thị liên quan đến chế độ nghĩa vụ quân sự, hoặc do các nhóm định cư trong chính phủ có ý chí rất mạnh muốn tái định cư Dải Gaza. Dù sao đi nữa, tín hiệu đã có, và họ đã quan sát sự chuẩn bị cùng diễn tập trong khoảng một năm. Ngay cả khi các nhóm kháng cự giữ kín bí mật đó, một sĩ quan bình thường trong lực lượng tình báo hay quân đội lẽ ra cuối cùng cũng phải kết luận rằng sẽ có phản ứng bạo lực.
• Tôi không rõ về công nghệ Israel, nhưng Pentagon có vấn đề về hình ảnh ở Silicon Valley. Có vẻ nơi đó không thu hút được nhân tài hàng đầu, cũng không phải là nơi người ta muốn vào làm cho các công ty thầu như Palintir. Thế hệ của chúng ta gần với Iraq và Việt Nam hơn là Thế chiến II, và nhiều bộ óc xuất sắc là người nhập cư thế hệ thứ nhất. Gần đây ad tech cũng gặp vấn đề về hình ảnh (khi mọi người nhìn thấy quá trình tạo ra nó nhiều hơn), nhưng làm việc ở các công ty tiêu dùng lớn vẫn hấp dẫn hơn ngành quốc phòng. Muốn thuyết phục đồng nghiệp làm việc cho chính phủ Mỹ, dù chỉ gián tiếp, thì phải trả nhiều tiền hơn. Thay vào đó, thường lại là ít tiền hơn và cũng ít tự do hơn cho các hoạt động ngoài giờ.
• Ở cuối bài, Cockburn phàn nàn rằng khi hỏi ChatGPT về công việc của IDF và Palantir thì nhận được câu trả lời bịa đặt. Tìm kiếm "IDF Palantir" trên DuckDuckGo.com sẽ cho ra liên kết đến nhiều bài báo. Nếu ý là LLM hiện chưa đáng tin, thì đúng; nhưng nếu ý là không thể biết Palantir có hợp tác với IDF hay không, thì bằng chứng đã có sẵn.
• Không thể thoát khỏi chân lý muôn thuở về đo lường và đối sách... một kẻ ngốc có công cụ vẫn chỉ là kẻ ngốc...
• Có vẻ đội ngũ vận hành đang bị quá tải bởi các cảnh báo giả từ nghĩa vụ on-call. Cách tốt nhất để sửa lỗi là... cứ phớt lờ nó. Những hệ thống phức tạp phải do các nhân viên quan liêu vận hành thì đã được định sẵn là sẽ thất bại.