Vấn đề Silicon Valley của Lầu Năm Góc
(harpers.org)- Các tổ chức quốc phòng và tình báo của Mỹ và Israel nêu AI và công nghệ Silicon Valley như một bước đột phá cho việc ra quyết định trong chiến tranh, nhưng nhiều trường hợp cho thấy sự tự tin vào công nghệ đã nhiều lần va chạm với thất bại ngoài thực địa
- Shin Bet cho biết đã tích hợp AI tạo sinh như một “đồng phi công” cho việc ra quyết định, nhưng cuộc tấn công của Hamas ngày 7 tháng 10 năm 2023 vẫn đánh úp hệ thống quốc phòng và tình báo Israel dù đã có video giám sát, huấn luyện công khai, báo cáo nội bộ và tài liệu từ trước
- Trong lĩnh vực quốc phòng Mỹ, Igloo White, Assault Breaker, Future Combat Systems và Secure Border Initiative Network đều tìm cách kiểm soát chiến trường bằng điện toán và cảm biến, nhưng sau khi tiêu tốn chi phí khổng lồ thì либо thất bại либо bị hủy bỏ
- Trái với hình ảnh là một tổ chức thờ ơ với AI, Lầu Năm Góc đang hỗ trợ ít nhất 686 dự án AI, và năm 2022 đã trao hợp đồng Joint Warfighting Cloud Capability trị giá tới 9 tỷ USD cho các công ty công nghệ lớn
- Google, Amazon, Microsoft, Palantir và Anduril đã tiến sâu vào thị trường quốc phòng, nhưng các trường hợp như Project Maven, IVAS, Roadrunner và Palantir cho thấy AI quân sự đi kèm tranh cãi đạo đức, giới hạn hiệu năng, thổi phồng marketing và vấn đề ảo giác
Cuộc tấn công ngày 7 tháng 10 mà AI đã bỏ lỡ
- Ba tháng trước cuộc tấn công của Hamas, giám đốc Shin Bet Ronen Bar công bố rằng cơ quan an ninh nội địa đã phát triển một nền tảng AI tạo sinh tương tự ChatGPT và tích hợp tự nhiên vào “interdiction machine”
- Hệ thống này được thiết kế để phân tích hành vi và dự đoán rủi ro, phát cảnh báo dựa trên di chuyển, bạn bè, gia đình, hoạt động, phát ngôn và bài đăng của đối tượng
- Cuộc tấn công của Hamas ngày 7 tháng 10 năm 2023 đã hoàn toàn đánh úp Shin Bet cùng hệ thống phòng thủ trị giá hàng tỷ USD của Israel
- Hamas công khai tiến hành huấn luyện nhắm vào hàng rào biên giới và mô hình khu định cư Israel
- Các nhóm vũ trang do Hamas dẫn dắt đã đăng video huấn luyện lên mạng
- Cư dân Israel gần biên giới quan sát được các cuộc huấn luyện và đưa ra cảnh báo nhưng bị phớt lờ
- Các binh sĩ nghĩa vụ Israel theo dõi camera giám sát biên giới Gaza đã nộp báo cáo chi tiết về việc phá hàng rào và chuẩn bị bắt cóc con tin, nhưng bị bác bỏ là “kịch bản tưởng tượng”
- Cơ quan tình báo Israel đã nắm giữ hơn một năm một tài liệu của Hamas mô tả chi tiết kế hoạch tấn công
- Các thành viên Hamas đã điều chỉnh theo cách làm tình báo của Israel, thông qua các nguồn tin mà họ biết để tung ra dữ liệu mà Israel muốn nghe
- Phát tín hiệu rằng Hamas ở Gaza đang tập trung vào cải thiện kinh tế địa phương thông qua việc tiếp cận thị trường lao động Israel
- Tạo ấn tượng rằng sức mạnh quân sự áp đảo của Israel đã kiềm chế Hamas không hành động
- Thất bại này đặt sự tự tin kiểu AI “biết mọi thứ về khủng bố” đối lập với giới hạn thực tế là không thể biết đối tượng thực sự đang nghĩ gì
Sự lạc quan về AI quốc phòng và thực tế của Lầu Năm Góc
- Michèle Flournoy viết trên Foreign Affairs rằng AI sẽ thay đổi cách tác chiến, phát hiện mối đe dọa, bảo trì hệ thống vũ khí và ước tính chi phí của các quyết định chiến lược
- Bộ máy quan liêu của Lầu Năm Góc thường bị chỉ ra là rào cản ngăn các công ty công nghệ thâm nhập quốc phòng, nhưng khó có thể xem Lầu Năm Góc là tổ chức không quan tâm đến AI
- Được cho là đã cấp vốn cho ít nhất 686 dự án AI
- Năm 2022, thông qua hợp đồng Joint Warfighting Cloud Capability, họ đã trao các gói thầu trị giá tới 9 tỷ USD cho những công ty công nghệ lớn
- Một quan chức Lầu Năm Góc nói hợp đồng này sẽ “turbocharge” các giải pháp AI
- Gamechanger là một dự án AI được thiết kế để giúp nhân viên Lầu Năm Góc tìm ra tổ chức khổng lồ này thực sự đang làm gì và tiền đang chảy về đâu
- Một thông cáo của Joint Artificial Intelligence Center đầu năm 2022 nhắc đến các nguồn được ghi là “28 Authoriative Sources”
- Một quan chức kế toán cấp cao của Lầu Năm Góc kỳ vọng áp dụng Gamechanger để tăng khả năng quan sát và mức độ hiểu biết đối với toàn bộ tài liệu ngân sách
- Dù vậy, Lầu Năm Góc vẫn không vượt qua kiểm toán tài chính trong năm 2023, đánh dấu 6 năm thất bại liên tiếp
- Câu chuyện về những nhân vật ngành công nghệ cải tổ hệ thống quân sự dẫn đến một huyền thoại rằng có thể cải thiện tận gốc cả những hệ thống quốc phòng vốn nổi tiếng vì tiêu tiền lớn, vũ khí hoạt động kém và các cuộc chiến thất bại
Những thất bại lặp lại khi cố kiểm soát chiến trường bằng điện toán
- Trong cách tiến hành chiến tranh của Mỹ từ lâu đã tồn tại niềm tin rằng phần mềm có thể giải quyết những vấn đề của xung đột do con người gây ra
-
Igloo White
- Từ năm 1967 đến 1972, không quân Mỹ triển khai quy mô lớn các cảm biến quanh Ho Chi Minh trail trong rừng Đông Nam Á
- Chiến dịch này nhằm phát hiện hoạt động của con người qua tiếng bước chân, mùi amoniac từ nước tiểu và tín hiệu điện tử khi động cơ khởi động, rồi gửi thông tin đến máy tính IBM tại một căn cứ bí mật ở Thái Lan để xác định tuyến tiếp vận
- Chi phí ít nhất hàng trăm triệu USD mỗi năm nhưng kết thúc bằng thất bại hoàn toàn
- Quân đội Việt Nam treo xô nước tiểu lên cây ngoài đường hoặc lùa gia súc đi trên những lối không dùng đến để máy tính nhận nhầm là di chuyển của đối phương
- Năm 1972, quân đội Bắc Việt mở cuộc tấn công với hàng trăm xe tăng nhưng Igloo White hoàn toàn không phát hiện được, và chiến dịch sớm bị loại bỏ
-
Assault Breaker và các dự án sau đó
- Sau khi rút khỏi Việt Nam, Mỹ đổ số tiền lớn vào Assault Breaker, chương trình dùng radar trên không để quan sát hậu phương Liên Xô ở Đông Âu
- Hệ thống này trong thử nghiệm không phân biệt được xe tăng, ô tô và cây rung trong gió, rồi bị hủy ở thập kỷ tiếp theo
- Future Combat Systems đưa ra hình dung rằng có thể kết nối cảm biến và vũ khí bằng bộ xử lý hiệu năng cao để tấn công mục tiêu dễ đến mức gần như không cần giáp bảo vệ, nhưng sau khi tiêu gần 20 tỷ USD thì kết thúc mà không có kết quả
- Secure Border Initiative Network của Department of Homeland Security được quảng bá là một “bức tường ảo” kết nối radar, camera và cảm biến giám sát, nhưng bị hủy vào năm 2011
- Boeing là nhà thầu chính của cả Future Combat Systems và Secure Border Initiative Network, và những thất bại này đối lập với kỳ vọng rằng đổi mới nhanh kiểu Silicon Valley có thể thay thế các thất bại của nhà thầu quốc phòng truyền thống
Sự tái kết nối giữa Silicon Valley và tổ hợp công nghiệp quân sự
- Ngành công nghiệp Silicon Valley gắn sâu với ngành điện tử đã phát triển dưới sự bảo trợ của Lầu Năm Góc
- Mạch tích hợp, nền tảng cốt lõi của máy tính hiện đại, lần đầu được Texas Instruments sản xuất năm 1958 và được thúc đẩy bởi ngân sách quốc phòng
- Ứng dụng ban đầu là hệ thống dẫn đường của tên lửa hạt nhân liên lục địa Minuteman II
- Apple Computer chưa đầy một tháng sau IPO vào tháng 12 năm 1980 đã được định giá cao hơn Ford, còn Macintosh được giới thiệu với hình ảnh giải phóng, trao cho cá nhân sức mạnh tính toán ở cấp độ doanh nghiệp
- Việc đoạn tuyệt với quốc phòng chưa bao giờ hoàn toàn
- Internet xuất phát từ ARPANET do Advanced Research Projects Agency của Lầu Năm Góc phát triển
- Nghiên cứu ban đầu tại Stanford của Larry Page và Sergey Brin, những người sáng lập Google, được tài trợ một phần bởi chính cơ quan của Lầu Năm Góc sau này trở thành DARPA
- Google Earth bắt nguồn từ Keyhole EarthViewer, công ty được tổ chức đầu tư mạo hiểm của CIA là In-Q-Tel rót vốn một phần trước khi được Google mua lại
- Peter Thiel, sau khi làm giàu nhờ đồng sáng lập PayPal và đầu tư sớm vào Facebook, đã theo đuổi hướng đưa tổ hợp công nghiệp quân sự trở lại Silicon Valley
- Palantir được thành lập năm 2003, cung cấp phần mềm phát hiện và truyền đạt trực quan các mẫu dữ liệu dựa trên công nghệ phát hiện gian lận của PayPal
- CIA là một nhà đầu tư sớm thông qua In-Q-Tel
- Nhiều hợp đồng ban đầu được cho là đến từ các cơ quan tình báo
- Từng có tuyên bố rằng Palantir đóng vai trò lớn trong vụ GhostNet và việc xác định nơi ẩn náu của Osama bin Laden, nhưng không có bằng chứng hậu thuẫn
- Palantir quảng bá công nghệ của mình thông qua các sĩ quan Army cấp trung và các nghị sĩ đồng minh, bất chấp sự phản đối từ giới quân sự cấp cao
Các tổ chức đổi mới quốc phòng và Project Maven
- Robert O. Work cảnh báo rằng Mỹ đang đánh mất lợi thế công nghệ từng có ở vũ khí hạt nhân và vũ khí dẫn đường chính xác, trong khi Trung Quốc và Nga đã bắt kịp
- Năm 2014, bộ trưởng quốc phòng Chuck Hagel công bố Defense Innovation Initiative do Work giám sát, nói rằng sẽ chủ động tìm kiếm đề xuất từ doanh nghiệp và học giới ngoài các lĩnh vực truyền thống của bộ quốc phòng
- Ash Carter nhiều lần đến các trung tâm công nghệ và năm 2015 thành lập Defense Innovation Unit Experimental tại Mountain View, gần trụ sở Google và Apple
- Về sau chữ “Experimental” được bỏ khỏi tên
- Department of Homeland Security cũng mở một văn phòng vệ tinh gần đó để tăng quan hệ với các công ty công nghệ Silicon Valley
- Năm 2016, Carter lập Defense Innovation Advisory Board do Eric Schmidt dẫn dắt; sau đó Schmidt tiếp tục đứng đầu National Security Commission on Artificial Intelligence, còn Work làm phó chủ tịch
- Project Maven là sáng kiến do Work tạo ra, nhằm tăng tốc tích hợp dữ liệu lớn và machine learning vào Lầu Năm Góc
- Năm 2017, Google giành được hợp đồng phát triển công cụ xử lý dòng video drone liên tục để nhận diện mục tiêu
- Theo email nội bộ bị rò rỉ cho Gizmodo, việc Google tham gia không được công bố nếu không có sự cho phép của công ty
- Fei-Fei Li, nhà khoa học trưởng AI của Google Cloud, đã gửi email yêu cầu tránh nhắc đến hoặc ám chỉ “AI”
- Khi hợp đồng bị phanh phui, khoảng 4.000 nhân viên Google ký kiến nghị yêu cầu một chính sách rõ ràng rằng Google và các nhà thầu của hãng sẽ không xây dựng công nghệ chiến tranh; một số người đã từ chức
Những giới hạn hiệu năng lộ ra sau Maven và sự chuyển dịch sang nhà thầu phụ
- Nguồn đầu vào video của Project Maven là hệ thống pod camera Gorgon Stare gắn trên drone Reaper
- Gorgon Stare được quảng bá như thể có thể nhìn thấy mọi thứ, nhưng báo cáo năm 2011 của đơn vị thử nghiệm tại Eglin Air Force Base chỉ ra nhiều khiếm khuyết
- Camera không dễ tìm và nhận diện mục tiêu
- Tốc độ truyền quá chậm
- Đơn vị thử nghiệm kết luận nó “không hiệu quả trong tác chiến” và khuyến nghị không triển khai tới Afghanistan, nhưng không quân vẫn triển khai
- Một cựu phi công chiến đấu kiêm nhà phân tích của Lầu Năm Góc nói rằng nhận diện mục tiêu tự động (ATR) sau nhiều năm tiêu tốn tiền bạc vẫn không hoạt động
- Một cựu binh khác đang xử lý vấn đề liên quan tại một cơ quan của Lầu Năm Góc cho rằng các nhà phát triển AI dường như không hiểu một phần các yêu cầu quân sự
- Trong một thí nghiệm của DARPA, một tiểu đội Marines đã tránh bị robot do AI điều khiển phát hiện bằng cách thay đổi hình dáng cơ thể
- Hai người chui vào một thùng carton lớn để di chuyển, người khác thì lộn nhào, còn một người mang cành linh sam
- Tất cả đều băng qua khu đất trống, tiếp cận robot và chạm vào nó mà không bị phát hiện
- Sau khi Google rút khỏi Maven, Microsoft, Amazon và Palantir cùng các bên khác tiếp quản vai trò nhà thầu phụ
- Điều này được Jack Poulson, người rời Google, phát hiện
- Về sau Poulson lập Tech Inquiry để theo dõi các hợp đồng của Defense Innovation Unit và các tổ chức liên quan
Hợp đồng đám mây và khoảng cách công nghệ - quốc phòng đang biến mất
- Việc Google rút khỏi Maven đã gây phản ứng dữ dội từ phe công nghệ quốc phòng
- Peter Thiel gọi thái độ của Google là “phản quốc”
- Eric Schmidt nói ông không đồng tình với quyết định đó
- Jeff Bezos nói rằng nếu các công ty công nghệ lớn quay lưng với Department of Defense thì nước Mỹ sẽ gặp rắc rối
- Năm 2013, Amazon giành được hợp đồng 10 năm trị giá 600 triệu USD từ CIA để cung cấp AWS cloud cho nhu cầu của cơ quan tình báo
- Cloud computing trở thành một mặt trận doanh thu mới cho Amazon, Microsoft, Oracle và Google
- Gác lại những lo ngại đạo đức từng nêu trong tranh cãi Maven, Google đã tham gia đấu thầu để giành một phần trong hợp đồng Joint Warfighting Cloud Capability trị giá tới 9 tỷ USD
- Khi thu lợi lớn từ dịch vụ thương mại, các công ty đồng thời bắt đầu xem chính phủ là nguồn doanh thu ổn định và dồi dào, và khoảng cách giữa ngành công nghệ với Lầu Năm Góc nhanh chóng biến mất
Anduril, Roadrunner, IVAS
- Tác động của drone trong chiến tranh Ukraine được nói đến rất nhiều, nhưng phần lớn những drone phổ biến và hiệu quả ở cả hai phía gần hơn với các thiết bị đơn giản, rẻ tiền ghép từ linh kiện mua bằng tài khoản Amazon rồi gắn bom nhỏ hoặc đạn pháo
- Anduril ra mắt Roadrunner vào tháng 12 năm 2023
- Đây là một drone phản lực cỡ nhỏ, được cho là có thể tự động phát hiện và tiêu diệt các mối đe dọa phản lực, bao gồm drone, rồi quay về căn cứ
- Theo Newsweek, giá ở mức “vài trăm nghìn USD thấp”
- Video công bố cho thấy Roadrunner thực hiện thử nghiệm một cách hoàn hảo
- Nhà phân tích Lầu Năm Góc Franklin “Chuck” Spinney đánh giá phần quảng bá Roadrunner là “nhảm nhí marketing”, và thấy đáng ngờ khi cảnh đáp xuống sa mạc bằng đuôi trước gần như không tạo cột bụi từ ống xả
- Anduril là công ty do Palmer Luckey sáng lập; sau khi phát triển Oculus và bán cho Facebook với giá 3 tỷ USD, Luckey chuyển trọng tâm sang quốc phòng
- Anduril nói rằng nền tảng hợp nhất cảm biến dùng AI của họ có thể tạo mô hình 3D hoàn hảo của các khu vực rộng lớn
- Luckey dự đoán người lính tương lai sẽ thành một “siêu anh hùng” có “toàn tri hoàn hảo”, biết vị trí của mọi kẻ địch, đồng minh và tài sản trong khu vực tác chiến
- Army ký hợp đồng Integrated Visual Augmentation System (IVAS) dựa trên HoloLens với Microsoft vào năm 2021, trị giá 21,9 tỷ USD
- Báo cáo năm 2023 của cơ quan Operational Test and Evaluation thuộc Lầu Năm Góc cho biết nhiều binh sĩ thử nghiệm đã báo cáo ít nhất một tổn hại thể chất như mất phương hướng, chóng mặt, mỏi mắt, đau đầu, say tàu xe, buồn nôn, căng cổ và tầm nhìn đường hầm
- Binh sĩ cũng nêu các vấn đề về hiệu năng ánh sáng yếu, chất lượng hiển thị, sự cồng kềnh, độ tin cậy thấp, không phân biệt được địch-ta, khó bắn, tổn hại thể chất và tầm nhìn ngoại vi hạn chế
- Congress đã giữ lại phần lớn ngân sách mua sắm, nhưng Army vẫn trả thêm 125 triệu USD cho Microsoft để chỉnh sửa hệ thống, nâng tổng giá trị gần sát 23 tỷ USD
- Army nói rằng trong thử nghiệm nội bộ với hệ thống đã sửa, phản hồi từ binh sĩ là tích cực
Cơn sốt AI, Palantir và ảo giác
- Sau khi ChatGPT ra mắt, Microsoft nhìn thấy cơ hội lớn hơn, nhưng đồng thời cũng tồn tại sự hoài nghi về năng lực AI
- Yann LeCun, nhà khoa học trưởng AI của Meta, cho rằng những cảnh báo về mối đe dọa từ cỗ máy siêu trí tuệ là quá sớm, khi hiện tại thậm chí còn chưa có thiết kế hệ thống nào đạt năng lực học tập ở mức con mèo
- Nate Koppikar, đồng sáng lập Orso Partners, đánh giá tình hình ngành công nghệ từ năm 2016 trở lại đây gần với “nhảm nhí”
- Khu vực công nghệ đã mất tiền và cắt giảm nhân sự sau khi bong bóng vỡ vào cuối năm 2021
- Thiệt hại của nhà đầu tư trong ngành được đưa ra ở mức khoảng 7,4 nghìn tỷ USD
- Ông nói lời hứa AI là “điều lớn tiếp theo” đột nhiên đang bán chạy
- Ông xem nỗi sợ robot AI là một phần của chiến dịch marketing nhằm khiến người ta tin vào sức mạnh của công nghệ
- AI có xu hướng bịa ra thông tin, một lỗi mà ngành gọi là “ảo giác”
- Cổ phiếu Palantir tăng vọt trong làn sóng AI năm 2023, còn CEO Alex Karp công khai nói Palantir “đứng cùng Israel”
- Google Bard đã đưa ra một câu trả lời theo đúng kiểu thông cáo báo chí chuyên nghiệp rằng Palantir công bố quan hệ đối tác với IDF năm 2019 để phát triển công cụ AI, nhưng thông cáo đó là một ảo giác không tồn tại
1 bình luận
Ý kiến trên Hacker News
Các ví dụ trong bài có vẻ đã được cherry-pick khá nhiều. Khó mà đổ thất bại ở Việt Nam chỉ cho riêng IBM 360, và cuộc tấn công của Hamas có thể đã khiến Israel bất ngờ, nhưng Iron Dome là công nghệ đã hoạt động tốt trong vài năm gần đây
Mỹ đã cảnh báo bất kỳ ai chịu lắng nghe rằng Russia sẽ tấn công Ukraine, và những người tạo ra bom nguyên tử cũng là các nhà vật lý khá thiên về lý thuyết
Người ta không vì vui mà đưa một phần đáng kể hải quân đi vòng qua Europe xuống tận Black Sea. Việc gửi nguồn cung máu đến các điểm tập kết gần biên giới cũng tuyệt đối không phải chuyện xảy ra nếu đó chỉ là tập trận hay phô trương sức mạnh
Ý chính của bài là Pentagon nghĩ rằng họ đang tài trợ cho công nghệ, nhưng lại không thu được giá trị tương xứng với số tiền đó. Họ thất bại vì không có ý chí hoặc năng lực để kết hợp chuyên môn, quyền hạn và trách nhiệm trong đầu của một con người duy nhất
Khi một tổ chức phân tán trách nhiệm, hoặc trao quyền cho những người không phân biệt được giữa chuyển động và tiến bộ, kết quả luôn là lãng phí và trì trệ. Trong những khoảnh khắc hiếm hoi khi một lãnh đạo mạnh tạm thời đảo ngược được thứ entropy này của tổ chức, những điều kỳ diệu sẽ xảy ra; có thể so sánh ULA với SpaceX, và DeepMind với OpenAI
Nếu năng lực thể chế là chuẩn mực thay vì những phép màu ngắn ngủi và bấp bênh, nhân loại hẳn đã ở một trình độ công nghệ cao hơn rất nhiều
Mỹ cũng đã cảnh báo Russia về vụ tấn công ở Moscow, nhưng bị coi là sự can thiệp chính trị. Gần như chắc chắn đó là tín hiệu tình báo đã bị phớt lờ
https://apnews.com/article/russia-intelligence-duty-to-warn-...
Với tôi, nhìn vào việc tập trung quân ở biên giới, các phát biểu khác nhau, lời của Biden, và việc phe Republican chính trị hóa mọi thứ mà không có cơ sở, đây là một cuộc xâm lược quá hiển nhiên, rõ như mức bán khống hay thị trường dự đoán vậy. Hiển nhiên như hợp đồng quyền chọn đáo hạn trong ngày
Thế mà phản ứng đó vẫn khiến tôi nghĩ mãi. Tôi không biết sau này nên phản ứng thế nào. Việc thảo luận với người có nhận thức thực tại khác hẳn mình có vẻ vô nghĩa, và cuối cùng chỉ còn lại либо hoàn toàn không hành động, либо cược tài chính
Tôi thích việc đặt cược vào điều mình tin vì phần thưởng cũng ổn, mà nếu dự đoán sai cũng vẫn chấp nhận được. Dù vậy, những cuộc trò chuyện để tìm ra một cách hiểu chung về thực tại vẫn tự nhiên hơn, nhưng dạo này điều đó có vẻ vô nghĩa
Tôi cho rằng bài này, giống như rất nhiều bài báo khác về lĩnh vực này, đã khái quát hóa trí tuệ nhân tạo quá mức. Khía cạnh dự đoán của machine learning đã được dùng trong quân đội hiện đại từ nhiều thập kỷ nay, và đoạn đầu dường như mơ hồ gợi ý rằng LLM chiếm vai trò lớn trong thất bại tình báo về cuộc tấn công ngày 7 tháng 10
Việc LLM là một phần của các hệ thống bao gồm nhiều dạng machine learning không có gì đáng ngạc nhiên. Chúng là giao diện con người rất tốt. Nhưng tôi hoàn toàn không tin rằng chúng đã đóng vai trò đủ lớn để phải chịu trách nhiệm đáng kể cho việc bỏ lỡ cuộc tấn công đó
Machine learning sẽ tiếp tục giữ một vai trò, sẽ có cả thành công lẫn thất bại, và sẽ càng không hoàn hảo hơn khi phải cạnh tranh với machine learning đối kháng. Đổ lỗi cho một công cụ không hoàn hảo như thể nó là nguyên nhân của những thất bại không thể tránh khỏi là không hữu ích, và xét đến việc phương án thay thế là con người còn dễ thất bại hơn, tôi cũng khó xem đó là một “vấn đề”
Từ AI mang sức nặng lớn hơn nhiều so với điều chúng ta thừa nhận, và khi dùng từ đó cho LLM thì ý nghĩa của nó bị nhẹ đi
Người bình thường khi nghe AI sẽ kỳ vọng nhiều hơn rất nhiều, chứ không chỉ là một thuật toán cố dự đoán và bắt chước văn bản do con người viết, dù thuật toán đó có thông minh và ấn tượng đến đâu
Có vẻ như ngành đã đồng thuận rằng thế hệ thuật toán machine learning tiếp theo sẽ được gọi là “trí tuệ nhân tạo”, vì nó bán chạy hơn và thu hút được nhiều vốn hơn rất nhiều. Nếu vậy thì tôi lo những câu hỏi về an toàn, đạo đức và luân lý mà ta cần đặt ra trước khi tạo ra AI thực sự sẽ ra sao
“Hệ thống AI biết mọi thứ về Hamas. Nó biết họ đã nói gì, đăng gì […] phân tích hành vi, dự đoán rủi ro và phát cảnh báo.”
“Các thành viên Hamas hiểu rất rõ điều này nên đã cung cấp cho đối phương dữ liệu mà họ muốn nghe. Cuối cùng hệ thống AI biết mọi thứ về kẻ khủng bố, nhưng lại không biết hắn đang nghĩ gì.”
Nếu đối phương có thể thấy mọi việc tôi làm và nghe mọi điều tôi nói, thì cách phòng thủ duy nhất là quyền riêng tư. Trong tiểu thuyết The Three Body Problem, điều này được đẩy đến cực hạn: quyền riêng tư duy nhất nằm trong tâm trí con người, và một số người được giao đưa ra quyết định dựa trên chiến lược tuyệt đối chưa từng nói thành lời với bất kỳ ai. Khoa học viễn tưởng dường như đã trở thành hiện thực
Bài học quan trọng nhất, theo tôi, là gần như không thể thiết kế một hệ thống tốt nếu không có trường hợp sử dụng rõ ràng
Ukraine có những trường hợp sử dụng như vậy, và động lực giải quyết cũng rất mạnh. Người Ukraine đang kiểm soát chiến trường bằng các máy tính đa dụng https://en.defence-ua.com/news/how_the_kropyva_combat_contro..., đã đánh chìm nhiều tàu chiến Russian bằng drone hải quân tầm xa https://www.bbc.com/news/world-europe-68528761, và gần đây còn bắt đầu thử nghiệm trên quy mô lớn các drone bay giá rẻ có nhận diện mục tiêu dựa trên computer vision tích hợp sẵn https://www.forbes.com/sites/davidhambling/2024/03/21/ukrain...
Trong khi đó Mỹ đang ở thời bình. Bản thân điều đó là tốt, nhưng cũng khiến việc lãng phí hàng tỷ đô la vào phát triển những công nghệ trông ấn tượng trên PowerPoint nhưng thực tế vô dụng trở nên quá dễ dàng
Các thiết kế drone bay cũng do nhiều công ty cùng phát triển để tránh rủi ro một công ty bị phá hủy bởi đòn tấn công tên lửa của Russian. Tôi nghĩ các sản phẩm quốc phòng khác cũng tương tự
Hàng tỷ đô la vẫn sẽ bị lãng phí, nhưng số tiền đó sẽ được dùng để tái thiết những tòa nhà, cây cầu, cơ sở hạ tầng và cuộc sống bị chiến tranh tàn phá
Ukraine đã làm được những điều đáng kinh ngạc với công nghệ rẻ tiền và tự chắp vá, nhưng cái giá phải trả là 486 tỷ USD cần cho công cuộc tái thiết đất nước
https://www.reuters.com/world/europe/ukraine-needs-486-bln-r...
Tôi thực sự không biết nên kẻ ranh giới ở đâu giữa việc chuẩn bị cho một cuộc chiến cận kề và trạng thái thời bình
Một lượng lớn bom chùm cấp độ đủ cho WW3 lẽ ra sẽ bị loại bỏ đã được chuyển cho AFU, còn những món như Bradley, Javelin, Stinger cũ vốn được thiết kế để phá hủy T-72 và Hind-D thì giờ thực sự đang làm đúng việc đó. Chúng ta cũng sẽ sớm thấy những thứ “trông ngầu trên PowerPoint” có thể làm được gì
Và một phần đáng kể hiệu quả quân sự của Ukraine là nhờ chia sẻ tình báo của NATO. Hệ thống kiểm soát tác chiến và drone hải quân sẽ chỉ là những màn trình diễn thứ yếu nếu NATO không lập bản đồ tác chiến điện tử, tàu chiến và hoạt động điều quân của Russian
Không thể nói về công nghệ Israeli, nhưng Lầu Năm Góc có vấn đề hình ảnh ở Silicon Valley, và khó mà tin rằng ngay cả các công ty thầu như Palantir cũng đang thu hút được nhân tài hàng đầu
Thế hệ chúng ta gần Iraq và Vietnam hơn là WW2, và trong số những người thật sự xuất sắc có rất nhiều người nhập cư thế hệ thứ nhất. Dù ad tech gần đây cũng bị xấu hình ảnh, làm ở các công ty tiêu dùng lớn vẫn hấp dẫn hơn quốc phòng
Nếu muốn đồng nghiệp làm việc cho chính phủ Mỹ, dù chỉ gián tiếp, thì phải trả nhiều tiền hơn, nhưng thường lại ít hơn, và trong nhiều trường hợp mức độ tự do với những việc có thể làm ngoài giờ cũng thấp hơn
Hơn nữa, ký hợp đồng với quân đội bằng AI nghe như đang đóng vai một dạng bảo hiểm vật tế thần. Đổ lỗi cho những người thông minh cầm máy tính có thể bị lừa, chứ không đổ lỗi cho những người đã thuê họ và hành động ưu tiên tín hiệu đó hơn những tín hiệu khác
Ý nghĩ rằng mô hình ChatGPT có thể là yếu tố quyết định ngăn chặn 10/7 sẽ nghe rất phi lý với bất kỳ ai làm trong ngành này. Có lẽ ngoại lệ duy nhất là các consultant đang muốn bán LLM cho IDF
Trở ngại lớn hơn là mua sắm công. Theo chuẩn liên bang, mua sắm phần mềm tương đối đơn giản, nên với các startup sau Series E, chỉ cần bỏ ra 7~10 triệu USD và 1~1,5 năm cho một lộ trình riêng để tuân thủ FedRAMP và FIPS là có thể vào được
Ra ngoài phạm vi phần mềm, mua sắm công trở thành địa ngục giấy tờ. Cộng thêm địa ngục giấy tờ của các cơ quan cấp tài trợ R&D như DoD và DoE thì nó thành một hệ thống mua sắm kiểu bán-Xô Viết
Trớ trêu là phần lớn các bước kiểm tra tuân thủ và quy định này được thêm vào với thiện ý nhằm giảm tham nhũng và hối lộ, nhưng trên thực tế lại làm tắc nghẽn cả hệ thống và khiến startup cùng nhà đổi mới không thể làm việc trực tiếp với cộng đồng quốc phòng
Các dự án như DIUx và In-Q-Tel đang cố thay đổi điều đó, nhưng quá ít và quá muộn, còn nền tảng công nghiệp quốc phòng thì hoàn toàn phụ thuộc vào việc các công ty như Microsoft, Cisco, CrowdStrike và Zscaler mua lại những startup đầy hứa hẹn rồi lan truyền đổi mới bên trong
Chính phủ liên bang không được thiết kế để tuyển nhanh nhân tài từ ngành. Nó vẫn bị trói rất chặt bởi những quy tắc cũ đòi hỏi bằng cấp cao cho các vị trí cấp cao
Tín hiệu ở khắp nơi, và Mossad không phải một đám xử lý giấy tờ vô năng
Người chịu trách nhiệm xuất thân từ lực lượng đặc nhiệm, và giết người không chớp mắt cũng là một phần công việc đó, nên khó mà kỳ vọng tính nhân đạo từ phía ấy
Có lẽ tôi đã nhìn khác đi nếu chưa từng đọc những câu chuyện gần như y hệt diễn ra ở thời đại và địa điểm khác. AI không giải quyết được vấn đề chính trị, nó chỉ làm những vấn đề vốn đã phức tạp trở nên phức tạp hơn
Cách nói “bị đánh úp” nghe kỳ lạ. Truyền thông Israeli đã nhiều lần đăng bài rằng các nhà phân tích tuyến đầu đã cảnh báo nhưng bị phớt lờ
Lý do có thể là phân biệt giới tính, phân biệt tuổi tác, phân biệt với lính nghĩa vụ, hoặc cũng có thể vì các tổ chức định cư đã cài người của họ vào chính phủ và rất muốn tái định cư Gaza Strip
Dù là bên nào thì tín hiệu vẫn có đó, và họ đã quan sát sự chuẩn bị và huấn luyện suốt khoảng 1 năm. Ngay cả nếu các tổ chức kháng chiến giữ được bí mật, thì một sĩ quan tình báo hay quân đội bình thường cũng phải có khả năng nhìn từ “nguyên lý đầu tiên” và hành vi của họ để kết luận rằng rốt cuộc sẽ có phản ứng bạo lực
Netanyahu đã chia rẽ xã hội Israeli đến mức trong nhiều tháng trước 10/7, mỗi cuối tuần đều có hàng triệu người biểu tình, và cả lực lượng dự bị cũng từ chối phục vụ để phản đối
Nếu ông ta tập trung hơn vào việc điều hành hoặc từ chức, thay vì tập trung vào việc dùng mọi cách để không phải vào tù, thì có lẽ sự phân tâm ở cấp quốc gia đã bớt đi. Tôi không khẳng định đó là lỗi của ông ta, nhưng sự hỗn loạn ông ta tạo ra chắc chắn không giúp ích gì
Chính những người điều hành chính phủ và quân đội Israeli mới là thứ giống như công cụ. Dù là ác ý hay là bất tài và ngu dốt, họ rõ ràng đã thất bại
Cá nhân tôi thấy phần thú vị nhất trong toàn bài là đoạn này
“Sau đó ông tập trung vào công việc quốc phòng, than phiền rằng những người có năng lực kỹ thuật liên quan để tạo ra vũ khí tương lai ‘nhìn chung từ chối làm việc với lĩnh vực quốc phòng.’”
Tôi vẫn tò mò không biết điều đó còn đúng đến mức nào. Rõ ràng là đang có rất nhiều tiền đổ vào, và chắc chắn một số người đã đi theo tiền. Palantir vẫn tồn tại mà
Nhưng nếu người ta có thể xem trực tiếp trên Twitter cảnh một khu dân cư nào đó bị ném bom, thì họ có thể sẽ nghĩ lại về việc giúp sức cho những chuyện như thế
Câu hỏi quan trọng là trong lực lượng lao động có bao nhiêu sự phản kháng, và nó ảnh hưởng đến khả năng tuyển người tài đến mức nào
Tôi bị sốc trước quy mô tiền thuế bị lãng phí. Có quá nhiều dự án thất bại đến mức ngay cả sự bất tài tai tiếng của Big Tech cũng chẳng là gì nếu so với tổ hợp công nghiệp-quân sự Mỹ
Trong 3/4 thế kỷ qua, toàn bộ phần thặng dư của nền văn minh phương Tây đã chảy vào đây. Giờ thì phần thặng dư đó đã biến mất, và khi các tài nguyên cốt lõi cùng nguồn năng lượng cạn kiệt, nó sẽ sớm chuyển sang số âm. Tôi mong sự thống trị thế giới của Mỹ kết thúc càng sớm càng tốt
Xin lỗi, nhưng chưa từng có thời điểm nào Mỹ là nhà cai trị chính đáng của Trái Đất. Toàn bộ các quốc gia của tôi đã bị phá hủy, toàn bộ dân số либо chết либо bị buộc phải di cư. Điều đó xảy ra để bạn có thể mua Xbox mới cho con mình, và để người hàng xóm có thể mua du thuyền mới
Thảm họa ở Trung Đông từ năm 2003 đã tiêu tốn ít nhất 8 nghìn tỷ USD
Số tiền đó đủ để chuyển toàn bộ nước Mỹ sang năng lượng sạch, nuôi mọi người đang đói trên Trái Đất, và cung cấp nhà ở cho mọi người vô gia cư tại Mỹ. Vẫn còn dư tiền
Thay vào đó, số tiền ấy đã được dùng để giết chết hàng triệu người, khiến hàng chục triệu người phải di dời, và để lại ung thư cùng dị tật bẩm sinh cho nhiều thế hệ trẻ em
Nó độc ác và ngu xuẩn đến mức ngay cả Noam Chomsky cũng nói không có từ ngữ nào để diễn tả
[1]:https://www.digitalhistory.uh.edu/disp_textbook.cfm?smtID=2&...
“Khi Hội nghị Lập hiến kết thúc, George Washington nói: ‘Tôi không kỳ vọng Hiến pháp sẽ tồn tại quá 20 năm.’ Ngày nay, Mỹ sở hữu bản hiến pháp thành văn lâu đời nhất thế giới.”
Những gì quốc gia này đã đạt được cho đến nay cũng khá đáng nể. Trong phần lớn thời gian tồn tại, Mỹ không phải là một siêu cường như chúng ta biết ngày nay. Tương lai chưa được định sẵn, nhưng có lẽ chúng ta sẽ chứng kiến một nước Mỹ cô lập, chỉ lo xử lý các vấn đề nội bộ
Tôi đã tìm một đoạn nhắc đến Strategic Defense Initiative, còn gọi là Star Wars. Một trong những vấn đề kỹ thuật mà chương trình đó cuối cùng không thể vượt qua là khả năng nhận diện đầy đủ tên lửa đang bay tới và dẫn hệ thống phòng thủ đánh chặn vào mục tiêu
Giống như các hệ thống Igloo White và Assault Breaker trong bài, nó đã thất bại trong việc phân biệt mồi nhử với mục tiêu thật
Vấn đề kỹ thuật lớn nhất trong đánh chặn tên lửa đạn đạo là làm cho động cơ rocket siêu vượt âm mới dự định sử dụng phản hồi với lệnh dẫn đường với độ chính xác đủ cao. Đó là một vấn đề về khoa học vật liệu, và khi gắn cùng thiết bị đó lên động cơ rocket thông thường thì trên thực tế nó hoạt động tốt