Google rút lại cam kết không sử dụng AI cho vũ khí và giám sát

 (washingtonpost.com)
3 điểm bởi GN⁺ 2025-02-05 | 1 bình luận | Chia sẻ qua WhatsApp

  • Bối cảnh thay đổi nguyên tắc AI của Google

    • Cam kết từng được nêu rõ trong các nguyên tắc AI trước đây rằng sẽ không sử dụng AI cho mục đích vũ khí hoặc giám sát đã bị loại bỏ
    • Demis Hassabis và James Manyika của Google công bố thay đổi chính sách với lý do AI đang phổ biến rộng rãi hơn và nhu cầu an ninh quốc gia gia tăng
    • Họ nhấn mạnh rằng “các quốc gia dân chủ nên dẫn dắt việc phát triển AI, đồng thời hợp tác với chính phủ và lĩnh vực an ninh”

  • Những điểm chính trong chính sách AI mới

    • Vẫn giữ nội dung sẽ sử dụng công nghệ theo hướng phù hợp với luật pháp quốc tế và các nguyên tắc nhân quyền
    • Bổ sung mục “tiến hành thử nghiệm để giảm thiểu những tác hại ngoài dự kiến”
    • Điều khoản loại trừ cụ thể đối với việc sử dụng cho vũ khí hoặc giám sát đã bị xóa bỏ
    • Người phát ngôn Google từ chối trả lời các câu hỏi cụ thể về thay đổi chính sách liên quan đến vũ khí và giám sát

  • Phản ứng nội bộ trước đây tại Google và hợp đồng Maven

    • Năm 2018, khi thực hiện dự án Maven với Bộ Quốc phòng Mỹ để phân tích hình ảnh drone, công ty đã vấp phải phản đối mạnh mẽ từ nhân viên
    • Nhân viên cho rằng “Google không nên tham gia vào hoạt động kinh doanh chiến tranh”
    • Công ty đã không gia hạn hợp đồng Maven, sau đó công bố các nguyên tắc AI và đưa vào cam kết cấm sử dụng cho vũ khí và giám sát
    • Việc cập nhật chính sách lần này xóa bỏ cam kết rõ ràng đó, khiến làn sóng phản đối của nhân viên trong quá khứ снова thu hút sự chú ý

  • Tác động đối với ngành

    • Tại Thung lũng Silicon, hợp tác trong lĩnh vực quân sự và quốc phòng đang mở rộng nhanh chóng
    • Có đánh giá cho rằng sự phản đối Maven từ nhân viên Google đã tạo ra một bước ngoặt lớn cho ngành
    • Phân tích cho thấy thay đổi chính sách lần này làm tăng khả năng AI của Google một lần nữa được áp dụng trong lĩnh vực quân sự và giám sát

Bài viết liên quan

1 bình luận

 
GN⁺ 2025-02-05
Ý kiến trên Hacker News

  • Thảo luận về mức độ nguy hiểm của drone và vũ khí AI. Có nhiều khả năng bị lạm dụng như ám sát từ xa, gây bất ổn chính trị và nhắm mục tiêu có chọn lọc bởi các nhà độc tài

    • Nhiều quốc gia sẽ sở hữu các công nghệ này, và đã có rất nhiều mô hình AI được công khai
    • Cộng đồng công nghệ cần suy nghĩ về cách giải quyết vấn đề này
    • Những câu hỏi quan trọng được đặt ra như biện pháp phòng vệ, phương thức giám sát và cách công dân có thể kiểm toán việc chính phủ sử dụng vũ khí

  • Các tập đoàn lớn như Google về bản chất không phải là thiện chí hay có đạo đức, và hình ảnh đó chỉ là một chiến lược marketing

  • Nhận thức rằng thế giới đang tiến tới tự hủy diệt, và có những bước phát triển đáng sợ đang diễn ra một cách không công khai

  • Phần lớn doanh nghiệp tư nhân sẽ sử dụng công nghệ vì lợi nhuận và sẽ phá vỡ những cam kết trước đó

  • Thật thú vị khi các công ty thay đổi theo tình hình chính trị

    • Google đang quan tâm đến việc quản lý hình ảnh trước phản ứng đối với các công bố AI của mình

  • So sánh việc OpenAI ký hợp đồng với DoD và hành động của Google, đồng thời cho rằng thái độ thẳng thắn sẽ trung thực hơn

  • Có ý kiến cho rằng một số quốc gia cần vũ khí để kiểm soát đám đông

    • Chỉ trích rằng các cuộc khủng hoảng quốc tế chủ yếu do Mỹ và Nga khơi mào

  • Trong bối cảnh thế giới hỗn loạn, có ý kiến cho rằng việc các công ty như Google, OpenAI và Microsoft tham gia các dự án quốc phòng là điều tích cực

  • Bày tỏ lo ngại về khả năng LLMs mở rộng việc phân tích văn bản trong các cơ quan tình báo