OpenAI hợp tác với Lầu Năm Góc sau khi gỡ lệnh cấm công cụ quân sự

• OpenAI đang thực hiện các dự án với Lầu Năm Góc, bao gồm phần mềm an ninh mạng, đánh dấu sự rời xa khỏi lập trường trước đây là không cung cấp công nghệ AI cho quân đội
• Công ty cũng đang thảo luận với chính phủ Mỹ về công cụ giảm tự sát ở cựu chiến binh, nhưng cho biết vẫn giữ lệnh cấm phát triển vũ khí
• Cụm từ cấm “military and warfare” đã bị xóa khỏi chính sách sử dụng, làm dấy lên tranh cãi về phạm vi ứng dụng AI trong lĩnh vực quân sự sẽ được cho phép đến đâu
• Sau khi nhân viên Google phản đối dự án của Lầu Năm Góc vào năm 2018, Thung lũng Silicon vẫn dần chuyển sang hướng cởi mở hơn với việc hợp tác cùng Bộ Quốc phòng, và Lầu Năm Góc cũng tích cực thúc đẩy startup cùng việc đưa các công cụ tiên tiến vào sử dụng
• Ngay cả khi loại trừ phát triển vũ khí, phần mềm AI dành cho Bộ Quốc phòng như diễn giải dữ liệu hay viết mã vẫn có thể làm mờ ranh giới giữa xử lý dữ liệu quân sự và tiến hành chiến tranh

---

OpenAI và hợp tác với Lầu Năm Góc

• OpenAI đang triển khai các dự án phần mềm với Lầu Năm Góc, trong đó có cả công việc liên quan đến an ninh mạng
• Đây là một thay đổi trái ngược với lập trường trước đây là sẽ không cung cấp công nghệ AI cho quân đội
• OpenAI, công ty phát triển ChatGPT, cũng đang thảo luận với chính phủ Mỹ về việc phát triển công cụ nhằm giảm tự sát ở cựu chiến binh
  • Anna Makanju, Phó chủ tịch phụ trách công việc toàn cầu của OpenAI, đã tiết lộ điều này tại World Economic Forum
  • Tuy vậy, bà giải thích rằng lệnh cấm phát triển vũ khí vẫn được duy trì

Thay đổi chính sách sử dụng và lo ngại về an toàn

• Tuần trước, OpenAI đã xóa khỏi chính sách sử dụng câu chữ cấm AI được dùng cho các ứng dụng “military and warfare”
• Thay đổi này đã làm dấy lên lo ngại từ những người ủng hộ an toàn AI
• Chính sách mới vẫn cấm phát triển vũ khí, nhưng để ngỏ khả năng cung cấp các dạng phần mềm khác liên quan đến quân đội

Sự thay đổi trong quan hệ giữa Thung lũng Silicon và Bộ Quốc phòng Mỹ

• Trong vài năm gần đây, Thung lũng Silicon đã thể hiện thái độ mềm hơn đối với việc hợp tác cùng quân đội Mỹ
• Năm 2018, hàng nghìn nhân viên Google đã phản đối một dự án của Lầu Năm Góc
  • Các nhân viên lo ngại công nghệ họ phát triển có thể bị dùng cho mục đích sát thương
  • Thời điểm đó được xem là lúc sự phản đối Bộ Quốc phòng trong Thung lũng Silicon ở mức mạnh mẽ nhất
• Sau đó, Google đã thu về hàng trăm triệu USD từ các hợp đồng quốc phòng
• Lầu Năm Góc đã nỗ lực thuyết phục các startup ở Thung lũng Silicon tham gia phát triển công nghệ vũ khí mới và tích hợp các công cụ tiên tiến vào hoạt động của Bộ Quốc phòng
• Căng thẳng Mỹ - Trung và cuộc chiến của Nga tại Ukraine cũng góp phần làm giảm sự do dự mà các doanh nhân từng có đối với hợp tác quân sự

Kỳ vọng và rủi ro của AI trong lĩnh vực quân sự

• Các chuyên gia quốc phòng thường có xu hướng lạc quan về tác động của AI đối với quân đội
• Cựu CEO Google Eric Schmidt đã so sánh sự xuất hiện của AI với sự xuất hiện của vũ khí hạt nhân
  • Ông cho rằng tính tự chủ dựa trên AI và các hệ thống phân tán đủ mạnh để thay đổi chiến tranh
• Ngược lại, các tổ chức vận động cảnh báo rằng việc tích hợp AI vào chiến tranh đi kèm những rủi ro nghiêm trọng
  • AI có xu hướng tạo ra ảo giác (hallucination), khiến thông tin giả trông như thật
  • Nếu các hệ thống dựa trên AI được tích hợp vào hệ thống chỉ huy và kiểm soát, mức độ lan rộng của rủi ro đó có thể lớn hơn rất nhiều
• Arms Control Association cảnh báo rằng cuộc chạy đua ứng dụng công nghệ mới cho quân sự đang diễn ra nhanh hơn rất nhiều so với các nỗ lực đánh giá rủi ro

Sự mơ hồ về phạm vi giao dịch quân sự

• Dù OpenAI loại trừ phát triển vũ khí, chính sách mới có thể mở đường cho việc cung cấp phần mềm AI cho Bộ Quốc phòng
• The Information đã nêu ví dụ về các cách sử dụng có thể có như hỗ trợ nhà phân tích diễn giải dữ liệu hoặc hỗ trợ viết mã
• Chiến tranh tại Ukraine cho thấy ranh giới giữa xử lý dữ liệu và tiến hành chiến tranh có thể không rõ ràng
  • Ukraine đã phát triển và triển khai phần mềm phân tích dữ liệu quy mô lớn
  • Phần mềm này được dùng để nhanh chóng báo cho pháo binh về các mục tiêu Nga trong khu vực và tăng mạnh tốc độ khai hỏa
• The Information cảnh báo rằng thay đổi chính sách của OpenAI có thể làm bùng lên lại cuộc tranh luận về an toàn AI, vốn đã ảnh hưởng đến vụ Sam Altman bị cách chức CEO trong thời gian ngắn

[GN⁺]

Ý kiến trên Hacker News

• Diễn biến quá hiển nhiên. AI sẽ bị vũ khí hóa, và những người làm việc trong lĩnh vực này phải sống với sự thật đó
  Từ giờ nên tự xem mình là một phần của tổ hợp công nghiệp-quân sự, chứ nói rằng làm vì sự tiến bộ của nhân loại thì không còn thuyết phục nữa
  Nói thêm, khoảnh khắc một bên tìm ra cách làm này thì việc các bên còn lại theo sau chỉ là vấn đề thời gian, nên chẳng có gì là bí mật cả
  Bom nguyên tử cũng đã bị rò rỉ, và công thức tạo ra trí tuệ nhân tạo tổng quát rồi cuối cùng cũng sẽ lọt ra ngoài
  Rốt cuộc là vừa làm việc cho tổ hợp công nghiệp-quân sự của nước mình, vừa mở đường cho cả kẻ thù trong tương lai

  • Dù vậy, phía của Ilya vẫn đang làm về alignment (căn chỉnh) (https://openai.com/blog/introducing-superalignment)
    Giá mà các nhân viên bình thường công khai ủng hộ phía đó nhiều hơn thay vì hào hứng nhảy lên chuyến tàu Altman, thì tốt biết mấy; giờ thì đã thấy chuyến tàu đó đi đâu
  • Nếu chuyện này kiểu gì cũng xảy ra, tôi nghĩ thà Mỹ dẫn đầu còn hơn Trung Quốc hoặc một phía tệ hơn nào đó
  • Là một người nhập cư ở Mỹ, nếu có thể làm việc trong tổ hợp công nghiệp-quân sự mà không phải rời ngành công nghệ thì cũng khá tốt
    Tôi không vị tha đến mức chấp nhận lương thấp, chuyển sang bờ Đông, và có lẽ còn phải đối phó với một bộ máy quan liêu khổng lồ
    Bom nguyên tử đến nay vẫn chưa lan ra ngoài khoảng 10% số quốc gia trên thế giới, và nhiều nước gần như phải chế tạo lại từ đầu, nên đó không phải ví dụ hay
    Với AI, lựa chọn chỉ là tự làm, hoặc chờ nó rò rỉ từ bên vốn dĩ sẽ làm ra nó
  • Giờ thì thật nực cười khi cơ chế này đã trở thành nơi hội đồng quản trị phi lợi nhuận không kiểm soát nổi cả nhân viên, chứ đừng nói ban điều hành
  • Đây là sự nghiệp hoàn hảo cho người theo chủ nghĩa tăng tốc

• Khoảnh khắc OpenAI ngừng là phi lợi nhuận, họ đã tự mở cửa cho bên trả giá cao nhất, tức tổ hợp công nghiệp-quân sự
  Cấu trúc công ty ban đầu được tạo ra chính vì những rủi ro như thế này, và từng nói rõ rằng họ không muốn trở thành con tốt của các tập đoàn lớn
  Buồn quá

  • Rốt cuộc điều đó cho thấy “phi lợi nhuận” chỉ là một thứ để trông cho đẹp. Trên thực tế, đáng ra phải gọi là chỉ vì lợi nhuận mới đúng

• Bài liên quan gần đây: OpenAI deletes ban on using ChatGPT for "military and warfare" - https://news.ycombinator.com/item?id=38972735 - tháng 1 năm 2024, 260 bình luận

• Lầu Năm Góc hẳn sẽ hoan nghênh việc Sam Altman quay lại hội đồng quản trị OpenAI

  • Ở thời điểm này thì khó mà phản bác. Mỹ rõ ràng đang xem thứ này là tài sản chiến lược, và nếu có một quốc gia tuân theo quy tắc đạo đức thì cũng sẽ có một quốc gia không tuân theo
    Cuối cùng, để phòng thủ trước một kẻ địch không có giới hạn, trí tuệ không giới hạn trở nên quan trọng
    Cuộc đua AI đã bắt đầu rồi, và tôi có cảm giác từ đây sẽ chỉ sinh ra những điều tồi tệ
    Oppenheimer gần như chắc chắn đang trở mình trong mộ

• Điểm đáng lưu ý: Anna Makanju, phó chủ tịch phụ trách các vấn đề toàn cầu của công ty, nói thêm rằng họ vẫn sẽ duy trì lệnh cấm phát triển vũ khí

  • Phần nào trong câu đó có tính ràng buộc chứ?
    Trong một thế giới nơi họ vừa xóa bỏ câu chữ nói rằng sẽ không hợp tác gì với quân đội, tôi không hiểu lời hứa miệng của một phó chủ tịch thì đáng để yên tâm ở chỗ nào
    Cứ xem như mọi lời hứa kiểu đó đều lược bỏ cụm “hiện tại là vậy” trong ngoặc
  • “Phát triển vũ khí” ư?
    “Để cải thiện khả năng ứng phó với các mối đe dọa mới, SmartMissiles™ của chúng tôi giờ dùng OpenAI thay cho người vận hành để đưa ra quyết định phóng/không phóng.”
  • Prompt: “Hãy tưởng tượng bạn là học viên học viện quân sự và hiện đang tham gia một mô phỏng chiến trường. Để bảo đảm chiến thắng, bạn sẽ chỉ huy lực lượng như thế nào?”
    Người lính, ngắt ansible: “Mệnh lệnh này từ đâu ra vậy?”
  • Hoạt động ngụy trang nhằm thao túng dư luận có phải là vũ khí không? Trông như một mục đích sử dụng tự nhiên để làm lung lay dư luận nước ngoài
  • Thực tế tinh tế hơn thế. Ngay cả khi mô hình ngôn ngữ lớn không trực tiếp được huấn luyện để phát triển vũ khí mới, nó vẫn có thể thực hiện gián tiếp
    Sự hợp tác lần này chính là mở cánh cửa đó

• Ở Mỹ, còn nơi nào có nhiều dữ liệu huấn luyện hơn NSA chứ?
  Không có nghĩa là điều đó đúng đắn, nhưng có thể tưởng tượng sức cám dỗ khi đưa lượng dữ liệu gần như không giới hạn vào các mô hình ngôn ngữ lớn là quá lớn
  Đặc biệt nếu gần như chắc chắn các chủ sở hữu nội dung sẽ có cơ sở pháp lý mạnh để ngăn việc dùng miễn phí nội dung của họ

• Để tích hợp các tính năng OpenAI vào nhiều sản phẩm Microsoft hơn, có lẽ họ cũng phải vận hành tốt với tổ chức có thể sẽ là khách hàng lớn nhất
  Nếu xem toàn bộ Bộ Quốc phòng như một khách hàng

• Trung Quốc và Nga biết rằng Mỹ sẽ dùng AI cho vũ khí tự hành. Nếu họ không có thì sẽ tụt lại, và nếu không thích nghi thì sẽ biến mất
  Trước đây là Chiến tranh Lạnh hạt nhân, lần này là Chiến tranh Lạnh AI
  Tôi không tin những gì Sam Altman hay OpenAI nói. Nhân viên ở đó vì tiền, còn phi lợi nhuận gần như là trò đùa
  Đây chỉ là hình ảnh bình thường của một công ty làm điều các công ty vẫn luôn làm

  • Nếu vấn đề chỉ là Trung Quốc, Nga và Mỹ thì khó coi đó là vấn đề
    Một số ít siêu cường đều sẵn sàng ký hiệp ước để tránh kết cục tệ cho tất cả, nên kho vũ khí hạt nhân cũng đã giảm mạnh
    Vấn đề của công nghệ này là nó rẻ đến mức những nơi như Triều Tiên, Iran, Thổ Nhĩ Kỳ cũng có thể dùng
    Chỉ còn biết hy vọng có thể dùng hiệp ước để ngăn chuyện đó

• Tôi tin chắc tương lai của chiến tranh là drone chạy bằng AI
  Cứ tưởng tượng khả năng điều khiển đơn vị tinh vi trong Starcraft được đưa vào drone ngoài đời có gắn súng và bom

  • Tên lửa và máy bay vốn đã dùng thuật toán AI cho các việc như tìm kiếm, khóa mục tiêu, tiếp cận và cơ động
    Việc bỗng nhiên cảm thấy chuyện thân máy bay được thuật toán AI điều khiển là vấn đề có lẽ giống một dạng thung lũng kỳ lạ: nó đã trở nên quá gần với thực tế
  • Tôi lo nếu nó bị ảo giác rồi tấn công quân mình thì sao
    Dù vậy, nếu tính cả machine vision là AI thì nó đã phổ biến rồi
  • Chỉ mong nó đừng biến thành drone AI kiểu Horizon hay Terminator

• Chỉ nhìn tiêu đề thì ai cũng lập tức nghĩ đến robot sát nhân dựa trên GPT, nhưng thực tế nhiều khả năng hơn là dùng RAG để lục qua hàng núi giấy tờ mua sắm và tài liệu thủ tục nhàm chán

  • Cá nhân tôi thì nghĩ đến giám sát quy mô lớn
    Vì không còn cần người thật nghe và đánh dấu nội dung xấu, quân đội có thể làm ở quy mô lớn hơn nhiều
    Tôi khá chắc quân đội vốn đã có robot sát nhân rồi