OpenAI ký quan hệ đối tác với Lầu Năm Góc sau khi gỡ bỏ lệnh cấm đối với công cụ quân sự
(semafor.com)OpenAI gỡ bỏ lệnh cấm công cụ quân sự và hợp tác với Lầu Năm Góc
- OpenAI công bố đang hợp tác với Lầu Năm Góc, bao gồm các dự án phần mềm liên quan đến an ninh mạng.
- Trước đây công ty cấm cung cấp công nghệ AI cho mục đích quân sự, nhưng gần đây đã gỡ bỏ lệnh cấm này thông qua thay đổi chính sách.
- Lệnh cấm phát triển vũ khí vẫn được giữ nguyên, nhưng điều khoản cấm sử dụng AI cho quân sự và chiến tranh đã bị xóa.
Thung lũng Silicon thay đổi thái độ đối với hợp tác với Lầu Năm Góc
- Trong vài năm gần đây, Thung lũng Silicon đã nới lỏng thái độ đối với việc hợp tác với quân đội Mỹ.
- Nhân viên Google từng biểu tình phản đối các dự án của Lầu Năm Góc, nhưng sau đó Google đã kiếm được hàng triệu USD từ các hợp đồng quốc phòng.
- Căng thẳng Mỹ - Trung và chiến tranh Ukraine khiến các doanh nhân bớt lo ngại hơn về hợp tác quân sự.
Tương lai của AI và quân sự, bao gồm cả rủi ro
- Các chuyên gia quốc phòng tỏ ra lạc quan về tác động mà AI có thể mang lại cho quân sự.
- AI có nguy cơ vô tình tạo ra thông tin giả, và nếu được tích hợp vào hệ thống chỉ huy - kiểm soát quân sự, điều này có thể gây ra rủi ro lớn hơn.
Phạm vi các thỏa thuận quân sự khả dĩ của OpenAI vẫn chưa rõ ràng
- OpenAI loại trừ việc phát triển vũ khí, nhưng vẫn có thể cung cấp phần mềm AI cho Bộ Quốc phòng cho các mục đích như phân tích dữ liệu hoặc viết mã.
- Chiến tranh Ukraine cho thấy phần mềm phân tích dữ liệu đóng vai trò quan trọng trong việc tiến hành chiến tranh.
Việc thay đổi chính sách của OpenAI có thể khơi lại tranh luận về độ an toàn của AI
- Việc thay đổi chính sách của OpenAI có thể làm bùng lại cuộc tranh luận về an toàn AI, vốn từng góp phần dẫn đến việc CEO Sam Altman bị sa thải.
GN⁺ nhận định:
- Việc OpenAI gỡ bỏ lệnh cấm công cụ quân sự mở rộng khả năng ứng dụng công nghệ AI trong quân sự, và điều này có thể trở thành bước ngoặt quan trọng đối với tiến bộ công nghệ và an ninh quốc gia.
- Sự thay đổi thái độ của Thung lũng Silicon có thể đẩy nhanh quá trình tích hợp giữa công nghệ và quốc phòng, từ đó ảnh hưởng đến hình thái chiến tranh trong tương lai.
- Việc tích hợp AI vào quân sự có tiềm năng rất lớn, nhưng đồng thời cũng cần cân nhắc các rủi ro do sai sót của AI gây ra, chẳng hạn như việc "tạo ra thông tin giả".
1 bình luận
Ý kiến Hacker News
Vài tuần trước, nhân viên OpenAI đã ký vào một lá thư với nội dung "nếu Altman không được phục chức, chúng tôi sẽ từ chức".
Trí tuệ nhân tạo (AI) sẽ bị vũ khí hóa, và những người làm việc trong lĩnh vực này cần chấp nhận thực tế đó.
OpenAI đã xóa điều khoản cấm không sử dụng ChatGPT cho mục đích quân sự và chiến tranh.
Khi OpenAI không còn là tổ chức phi lợi nhuận, công ty bị đặt vào tầm ngắm của các gói thầu trong tổ hợp công nghiệp quân sự.
Lầu Năm Góc hoan nghênh việc Sam Altman quay trở lại hội đồng quản trị OpenAI.
Anna Makanju, Phó chủ tịch phụ trách các vấn đề toàn cầu của OpenAI, cho biết công ty sẽ tiếp tục duy trì chính sách cấm phát triển vũ khí.
Để tích hợp sâu hơn công nghệ OpenAI vào các sản phẩm của Microsoft, có lẽ họ cần hợp tác với Bộ Quốc phòng, vốn có thể là khách hàng lớn nhất.
Khi đọc tiêu đề, mọi người có thể nghĩ đến những robot giết người chạy bằng GPT, nhưng trên thực tế công nghệ này nhiều khả năng sẽ được dùng nhiều hơn cho việc xử lý các tài liệu thường nhật như hồ sơ mua sắm quân sự.
Có sự bối rối về việc các sản phẩm của OpenAI có thể mang lại lợi ích gì cho Bộ Quốc phòng Mỹ. Chưa rõ các trường hợp sử dụng ở quy mô lớn của những sản phẩm chủ lực như LLM và trình tạo ảnh là gì.
Mọi người đang vội vàng kết luận. Bộ Quốc phòng làm rất nhiều việc, và phần lớn trong số đó khá tẻ nhạt. Khả năng các sản phẩm của OpenAI được dùng cho mục đích liên quan đến vũ khí vật lý là rất thấp.