OpenAI gỡ lệnh cấm sử dụng ChatGPT cho mục đích "quân sự và chiến tranh"

OpenAI xóa điều khoản cấm sử dụng cho mục đích quân sự và chiến tranh

• OpenAI trong tuần này đã âm thầm xóa khỏi chính sách sử dụng ngôn từ từng nêu rõ việc cấm dùng công nghệ của mình cho mục đích quân sự.
• Cho đến ngày 10 tháng 1, trang chính sách sử dụng của OpenAI vẫn nêu rõ việc cấm các hoạt động có thể làm gia tăng tổn hại thể chất, bao gồm "phát triển vũ khí" và "quân sự và chiến tranh".
• Chính sách mới vẫn giữ hướng dẫn "không sử dụng dịch vụ để gây hại cho bản thân hoặc người khác", nhưng lệnh cấm toàn diện đối với việc sử dụng cho "quân sự và chiến tranh" đã biến mất.

Bối cảnh của thay đổi chính sách

• OpenAI đã sửa đổi lớn trang chính sách nhằm làm cho nội dung "rõ ràng hơn và dễ đọc hơn".
• Người phát ngôn của OpenAI giải thích rằng chính sách mới nhấn mạnh việc tuân thủ pháp luật và nguyên tắc "không gây hại cho người khác" có thể được áp dụng một cách rộng rãi.
• Các chuyên gia chỉ ra rằng chính sách mới né tránh câu hỏi về hợp đồng quân sự và hoạt động chiến tranh, đồng thời đặc biệt tập trung vào vũ khí.

Lo ngại về việc sử dụng cho quân sự và chiến tranh

• Các chuyên gia chỉ ra rằng do thiên kiến và độ chính xác còn hạn chế của các mô hình ngôn ngữ lớn (Large Language Models, LLMs), việc sử dụng chúng trong chiến tranh quân sự có thể dẫn đến các hoạt động thiếu chính xác và thiên lệch.
• Khả năng công cụ của OpenAI được dùng trực tiếp cho mục đích sát thương của lực lượng quân sự là thấp, nhưng chúng có thể được sử dụng trong nhiều tác vụ khác nhau để hỗ trợ quân đội.
• Vì mục tiêu cốt lõi của các tổ chức quân sự là duy trì năng lực sát thương, nên ngay cả khi không trực tiếp mang tính bạo lực, việc hỗ trợ các tổ chức quân sự vẫn có thể là vấn đề.
• Quan hệ đối tác chặt chẽ giữa OpenAI và Microsoft để ngỏ khả năng OpenAI mở rộng kinh doanh sang mục đích quân sự.

Tác động thực tế của thay đổi chính sách

• Hệ quả ngoài đời thực của thay đổi chính sách này vẫn chưa rõ ràng.
• OpenAI không đưa ra lập trường rõ ràng về cách họ sẽ thực thi lệnh cấm đối với việc sử dụng cho quân sự và chiến tranh.
• Các chuyên gia đánh giá rằng OpenAI đang làm suy yếu lập trường của mình đối với hoạt động kinh doanh với các tổ chức quân sự.

Việc các tổ chức quân sự sử dụng công nghệ AI

• Quân đội các nước trên thế giới đang tìm cách giành lợi thế bằng công nghệ máy học, và Lầu Năm Góc vẫn đang khám phá việc sử dụng ChatGPT hoặc các LLM khác.
• Các mô hình ngôn ngữ lớn được huấn luyện trên khối lượng lớn sách, bài báo, dữ liệu web và nhiều nguồn khác để mô phỏng phản hồi của con người trước lời nhắc của người dùng.

Ý kiến của GN⁺:

• Thay đổi chính sách của OpenAI có thể làm tăng khả năng công nghệ AI được sử dụng cho mục đích quân sự, và điều này có thể khơi mào các cuộc thảo luận quan trọng về đạo đức công nghệ và an toàn.
• Sự thay đổi này cho thấy các công ty công nghệ đang cố gắng cân bằng giữa nguyên tắc của mình và cơ hội thị trường liên quan đến các hợp đồng quốc phòng như thế nào.
• Việc xóa điều khoản cấm rõ ràng đối với việc sử dụng AI cho mục đích quân sự và chiến tranh có thể trở thành chất xúc tác thúc đẩy cuộc thảo luận xã hội rộng lớn hơn về sự an toàn và việc sử dụng công nghệ một cách có đạo đức.

[GN⁺]

Ý kiến Hacker News

• Sự phát triển của OpenAI và sự thay đổi nguyên tắc

  • Thật đáng chú ý khi OpenAI từ bỏ các nguyên tắc sáng lập và đi theo chiến lược của Google.
  • Google mất 17 năm trước khi gỡ bỏ khẩu hiệu "Don't be Evil", nhưng OpenAI đã tăng trưởng nhanh và thay đổi đột ngột.
  • Có vẻ OpenAI sẽ là công ty hoặc công nghệ thay thế Google, thật trớ trêu khi Google từng thay thế Microsoft.

• Khả năng ứng dụng quân sự của mô hình GPT

  • Các mô hình GPT có cơ hội lớn để được sử dụng một cách bình thường trong cơ sở dữ liệu quân sự và các công việc nghiên cứu.
  • Lệnh cấm sử dụng cho mục đích quân sự có thể vô tình cấm cả những trường hợp như quân đội sử dụng để cải thiện khả năng chuẩn bị ứng phó thảm họa.
  • Hầu hết các tập đoàn lớn cuối cùng đều sẽ đưa ra những nhượng bộ như vậy, vì Lầu Năm Góc có nguồn ngân sách khổng lồ.

• Việc các công ty công nghiệp phát triển sản phẩm quân sự

  • Nhiều công ty công nghiệp cũng có khả năng phát triển các sản phẩm quân sự.
  • Ví dụ, họ có thể muốn có hỗ trợ LLM trong công cụ CAD để phát triển động cơ tàu có thể được dùng cho mục đích quân sự.
  • Hạ tầng và phần mềm thường được chia sẻ hoặc được phát triển để có thể áp dụng trên toàn công ty.

• Cách hiểu về chính sách mới

  • Không biết có ai thực sự đọc chính sách mới hay chưa.
  • Chính sách này có phạm vi rộng hơn liên quan đến vũ khí và việc gây hại.

• AI và sức mạnh quân sự

  • AI tiên tiến là yếu tố thiết yếu đối với sức mạnh quân sự tiên tiến.
  • Những vấn đề này không phải là vấn đề kỹ thuật mà là vấn đề của con người.
  • Con người là loài linh trưởng có thứ bậc, cạnh tranh vì lãnh thổ và tài nguyên.

• Khác biệt chính sách về phát triển vũ khí và hoạt động quân sự

  • Có sự khác biệt rõ ràng giữa hai chính sách: chính sách trước cấm phát triển vũ khí và hoạt động quân sự, trong khi chính sách sau nhấn mạnh việc tuân thủ pháp luật và tính linh hoạt.
  • Tác động tiềm tàng đối với an toàn AI là điều quan trọng.

• Giới hạn của LLM

  • Việc ChatGPT vẫn không thể ngừng ảo giác một cách nhất quán trong các tác vụ cơ bản và thực ra không thực sự hiểu gì là một ý tưởng tồi tệ.
  • Bản thân lĩnh vực AI/ML không phải là sự lãng phí thời gian, nhưng LLM phần lớn chỉ hào nhoáng và hầu như không có nhiều giá trị thực chất.

• Tính tất yếu trong quyết định của OpenAI

  • Việc OpenAI sẽ không từ bỏ kiểu nguồn tiền đó là điều tất yếu.
  • Cảm thấy thật lạ khi lo ngại về việc sản phẩm bị sử dụng theo những cách khác.

• Silicon Valley và tổ hợp công nghiệp quân sự

  • Silicon Valley là sản phẩm của tổ hợp công nghiệp quân sự.

• Khác biệt góc nhìn giữa dân sự và quân đội về phát triển vũ khí

  • Với dân sự, trong đa số trường hợp phát triển vũ khí là nguy hiểm, nhưng với quân đội, điều nguy hiểm là không phát triển được vũ khí tốt hơn kẻ thù nhanh hơn họ.