Google rút lại cam kết không sử dụng AI cho vũ khí và giám sát
(washingtonpost.com)- Google đã thay đổi hướng dẫn đạo đức AI vào thứ Ba, loại bỏ cam kết công khai rằng sẽ không áp dụng AI trong lĩnh vực vũ khí và giám sát
- Các nguyên tắc AI năm 2018 có điều khoản hạn chế nêu rõ loại trừ việc áp dụng AI theo những cách “gây ra hoặc có khả năng gây ra tổn hại tổng thể”
- Phần “các ứng dụng chúng tôi sẽ không theo đuổi” trong tài liệu trước đây xếp vũ khí, giám sát, công nghệ có khả năng gây hại cao, và các trường hợp sử dụng trái với luật pháp quốc tế và nguyên tắc nhân quyền vào nhóm bị cấm
- Bản sao được lưu trên Internet Archive tính đến thứ Năm vẫn còn phần cấm này cùng 4 danh mục
- Với thay đổi lần này, câu chữ từng nêu rõ việc loại trừ một số mục đích sử dụng rủi ro cao đã biến mất khỏi các nguyên tắc AI công khai của Google
Cam kết cấm đã biến mất khỏi các nguyên tắc AI
- Google đã cập nhật hướng dẫn đạo đức AI vào thứ Ba
- Trong hướng dẫn mới, câu chữ trước đây nói rằng công ty sẽ không áp dụng công nghệ AI cho vũ khí hoặc giám sát đã bị gỡ bỏ
Điều khoản hạn chế trong chính sách năm 2018
- Google đã đưa ra chính sách giới hạn phạm vi ứng dụng AI vào năm 2018
- Khi đó, chính sách này bao gồm nội dung rằng Google sẽ không áp dụng AI theo những cách “gây ra hoặc có khả năng gây ra tổn hại tổng thể”
Phần “Applications we will not pursue” đã bị xóa
- Các nguyên tắc AI trước đây có một phần mang tên “Applications we will not pursue”
- Bản sao được lưu trên Internet Archive tính đến thứ Năm vẫn còn phần này
- Phần đó bao gồm 4 danh mục mà Google tuyên bố sẽ không theo đuổi
- vũ khí
- giám sát
- công nghệ “gây ra hoặc có khả năng gây ra tổn hại tổng thể”
- các trường hợp sử dụng trái với luật pháp quốc tế và nguyên tắc nhân quyền
Điểm thay đổi trong các nguyên tắc công khai
- Trước khi thay đổi, các nguyên tắc AI đã loại trừ rõ ràng một số mục đích sử dụng cụ thể
- Sau khi thay đổi, các nguyên tắc công khai không còn câu chữ nói rằng công ty sẽ không theo đuổi vũ khí, giám sát, tổn hại tổng thể và các trường hợp sử dụng vi phạm luật pháp quốc tế hoặc nguyên tắc nhân quyền
1 bình luận
Ý kiến trên Hacker News
https://archive.ph/hfrKY
Lúc đầu tôi tưởng đây là một cam kết mới được công bố, nên đã nghĩ “rồi họ sẽ quên ngay khi thấy tiện thôi”, nhưng đọc bài xong thì thấy “à, hóa ra tình huống đã trở nên tiện rồi”
Google là một tập đoàn khổng lồ, và tập đoàn khổng lồ có thể không “ác” về bản chất, nhưng về cơ bản họ không quan tâm đến điều thiện hay đạo đức
Nếu có lúc nào trông như vậy, thì đó thuần túy là hoạt động marketing
Có thể có khác biệt giữa cái ác kiểu cảnh sát tham nhũng và cái ác kiểu sát nhân hàng loạt, nhưng thái độ sẵn sàng làm bất cứ điều gì vì tiền trong lịch sử vẫn được xếp vào hành vi ác
Còn xã hội không có tập đoàn khổng lồ sẽ tốt hơn hay tệ hơn lại là chuyện khác, nhưng một thế giới nơi công ty càng lớn thì phải đóng thuế cao hơn nhiều sẽ rất thú vị
Họ cũng phát miễn phí như trước, và chất lượng cũng ổn
Sau đó, khi bang cấm cả loại đó, Walmart bắt đầu phát túi giấy miễn phí đều đặn như đồng hồ, và loại này cũng khá ổn
Nhìn vào chuyện đó, tôi nhận ra rằng doanh nghiệp sẽ không làm điều gì tốt hơn dù chỉ một chút cho môi trường nếu không bị ép buộc
Tôi cho rằng mọi hành động của doanh nghiệp, kể cả việc ác, chỉ là chạy theo tiền, còn việc cung cấp đạo đức là nhiệm vụ của chính phủ
Nếu Google không làm thì người khác sẽ làm, nên lập luận sẽ thành: thà để Google kiếm tiền vì cổ đông còn hơn
Về mặt kỹ thuật, các cổ đông hoạt động xã hội có thể tập hợp lại và nói “nếu ban lãnh đạo không nhắm vào thị trường này thì phải thay họ”
Rốt cuộc chỉ giá cổ phiếu mới là chỉ số quan trọng duy nhất
Mệnh lệnh đi từ trên xuống, bên dưới thì chấp nhận
Vì vậy trông chúng có vẻ ác về bản chất
Tôi nghĩ điểm cốt lõi là tính ẩn danh sinh ra trong các con số và sự phức tạp
Hàng nghìn người đều muốn các con số tăng lên, và ham muốn đó rốt cuộc chi phối những quyết định như thế này
Nếu chuyện này khiến cổ phiếu Google giảm, Google đã không làm
Nhưng hành vi tập thể của con người đang chống đỡ giá cổ phiếu
Tập đoàn khổng lồ chỉ là vật tế thần, còn thực tế nó giống một chuỗi quy tắc dân chủ hơn
Doanh nghiệp là cánh cửa sổ cho ta nhìn vào diện mạo thật của bản tính con người
Về chuyện này, tôi muốn nổi giận với một nỗi bực bội hơi ngây thơ kiểu “tại sao tất cả chúng ta không thể sống hòa thuận với nhau”
Tôi biết thế giới mình mong muốn trông ra sao, nhưng với tư cách một loài, kể cả bản thân tôi, chúng ta gần như luôn tiếp tục gây thất vọng trước sự tự hủy diệt gần như được bảo đảm
Tôi muốn nổi giận, nhưng đồng thời cũng buồn bã thừa nhận thực tế vì sao chẳng ai ngạc nhiên
Trong lĩnh vực đó đã có những đối thủ sẽ làm như vậy, và còn làm những thứ tệ hơn
Chúng ta đã thấy những tiến bộ khá kinh khủng ở phía đó, và nghĩ kỹ thì đó là những thứ họ cho rằng có thể công khai trình diễn
Những chuyện thật sự thú vị đang diễn ra ngoài mạng xã hội, sau những cánh cửa đóng kín
Nếu có một loại vũ khí cụ thể chỉ có thể đối phó bằng vũ khí AI thì tôi có thể nghĩ khác, nhưng hiện tại tôi không thể tưởng tượng ra lý do vì sao robot phải quyết định giết ai
Khi người ta nói AI nguy hiểm hoặc có thể gây tận thế, tôi thường không đồng ý, nhưng vũ khí AI thì rõ ràng nguy hiểm và dễ mất kiểm soát
Bởi ngay từ đầu mục đích của nó là khiến nó nằm ngoài sự kiểm soát
Vấn đề không phải vũ khí AI là “ác”, mà là căn chỉnh giá trị chưa phải vấn đề đã được giải quyết, và vũ khí AI có thể giết những người mà chúng ta không muốn giết
Dối trá đang vận hành Trái Đất, và điều đó thật ghê tởm
Dù nhìn thế nào, chúng ta cũng sống trên một hành tinh thiếu tài nguyên, điều đó có nghĩa là có cạnh tranh, và cạnh tranh tạo ra đổi mới vũ khí
Tuy vậy, chúng ta đã sở hữu vũ khí hạt nhân trong nhiều thập kỷ mà tập thể vẫn chọn không sử dụng, nên vẫn có chút lý do để lạc quan
Không có lý do gì để tự mãn, con đường đó chỉ đẩy nhanh sự hủy diệt mà thôi
Mọi chuyện không nhất thiết phải thành ra như vậy
Việc này đạo đức hơn hay kém đạo đức hơn so với chuyện OpenAI giành được hợp đồng DoD để triển khai mô hình trên chiến trường chưa đầy một năm sau khi nói “tuyệt đối sẽ không có chuyện đó”
Lời biện hộ là kiểu “ý chúng tôi nói chỉ là một số loại chiến tranh hoặc mục đích quân sự nhất định”
Rốt cuộc câu hỏi là liệu việc công khai đảo ngược đường lối như Google có trung thực hơn so với cách duy trì hư cấu rằng họ vẫn đang cố làm điều đúng hay không
Điều đó giống như hỏi “ừ thì trông có vẻ như đang khuất phục trước một bạo chúa ngoại quốc, nhưng đạo đức hơn hay kém đạo đức hơn so với thời Vidkun Quisling lãnh đạo Na Uy?”
Tôi cho rằng OpenAI thì mờ ám, trơn tuột, và được dẫn dắt bởi một kẻ ái kỷ điên rồ
Đến mức Pichai trông như một vị thánh
Về mặt đạo đức có thể là như nhau, nhưng nếu có ai đó chĩa súng vào tôi, tôi thà có một người với chút khả năng đồng cảm phía sau cò súng, hơn là hiện thân của một công ty nơi các lãnh đạo cấp cao lần lượt bỏ đi
Một trong những điều đáng lo nhất về mô hình ngôn ngữ lớn dành cho cơ quan tình báo là khả năng mở rộng phân tích văn bản
Trước đây ít nhất cũng phải có một đặc vụ nào đó quan tâm đến tôi, nhưng giờ về lý thuyết LLM có thể đọc mọi văn bản tôi từng tiếp xúc và đánh dấu bất cứ thứ gì, từ vi phạm pháp luật cho đến khuynh hướng chính trị
Ở quy mô lọc hàng tỷ tin nhắn, chi phí sẽ tăng rất nhanh, nên cũng đáng nghi ngờ liệu LLM có phải công cụ tốt nhất cho việc đó không
Cảm giác hiện giờ giống như giai đoạn trong Downton Abbey khi mọi người đang chờ Thế chiến thứ nhất bắt đầu
Ai cũng cảm thấy nó đang đến nhưng không ai có thể ngăn lại
Trên thực tế, trong một cuộc chiến giữa phương Tây với Russia/Iran/North Korea/China, hoặc với bất kỳ ai mà cuối cùng chúng ta sẽ phải đánh, mọi việc có thể làm để nền văn minh phương Tây và binh lính sống sót và chiến thắng đều sẽ được thực hiện
Rốt cuộc Google là một công ty phương Tây, và nếu chiến tranh nổ ra, thái độ không ủng hộ nền văn minh và quân đội của chúng ta sẽ cực kỳ mất lòng người, biến Google thành kẻ bị xa lánh
Điều ngược lại ngay từ đầu đã khó có thể xảy ra
Mỹ đang tự cô lập và bắt nạt các đồng minh
Với các thế lực thay thế muốn bành trướng, chưa từng có thời điểm nào tốt hơn hiện tại
Chiến tranh không hề đang đến giữa một phương Tây thống nhất và các cường quốc khác
Chiến tranh đến vì phương Tây không còn tồn tại nữa
Không có sự phân chia giữa văn minh “của chúng ta” và “của họ”; chỉ có một nền văn minh mà thôi
Vài thế kỷ trước khái niệm đó có thể còn có cơ sở ở mức nào đó, nhưng ngày nay ý nghĩ rằng “chúng ta” khác “họ” rất nhiều là một ảo tưởng nguy hiểm đối với đa số mọi người
Nếu giờ có một quốc gia đe dọa sáp nhập Greenland và tuyên bố phải di dời hoàn toàn mọi người Palestine sang Jordan và Egypt, thì chắc chắn họ sẽ cần vũ khí kiểm soát đám đông
Những vũ khí như vậy cũng có thể hữu ích trong nước khi người dân nhận ra cả hai đảng luôn bóc lột họ
Tôi không hiểu China là mối đe dọa vì lý do gì ngoài kinh tế
China đã từng cố xâm lược Mỹ chưa? Russia đã từng cố xâm lược EU chưa? Câu trả lời là chưa
Mối đe dọa duy nhất hiện nay đối với EU đến từ người đàn ông màu cam
Người đó cũng đã hủy bỏ Hiệp ước INF
Mỹ giờ sẽ đặt tên lửa hạt nhân tầm trung ở châu Âu, còn Russia đặt ở Belarus
Vì vậy hai cường quốc sẽ có một vật hy sinh tiện lợi để hứng đòn hạt nhân trước, rồi sau đó mới nghĩ lại
Thật nực cười khi Mỹ và Russia cứ liên tục khẳng định mình đang gặp nguy hiểm, dù mọi cuộc khủng hoảng quốc tế trong 40 năm qua đều bắt nguồn từ một trong hai bên
Russia rõ ràng đã xâm lược các nước ở châu Âu, đặc biệt là Ukraine
Lý do duy nhất họ chưa xâm lược chính EU là vì làm vậy sẽ kích hoạt một cuộc chiến với liên minh NATO, gây thương vong khổng lồ và cuối cùng họ sẽ thua
Thứ giữ cho EU an toàn là sức mạnh quân sự, còn những nước không có đủ sức mạnh quân sự thì liên tục bị tham vọng quyền lực giày xéo
Ukraine đã rơi vào tình cảnh đó sau khi ngây thơ từ bỏ vũ khí hạt nhân vào thập niên 1990 để đổi lấy lời hứa Russia sẽ không xâm lược
Khó mà gọi đó là mối đe dọa tưởng tượng
Chính sách kinh tế của họ cũng rất mang tính săn mồi: thay vì hỗ trợ các nước khác, họ lấy về những thứ không thể đảo ngược
Tại sao phải xâm lược khi có thể cứ thế lấy thứ mình cần
Người đàn ông màu cam hoàn toàn bất lực trên cả hai mặt trận
Ông ta sẽ không chi tiền cho quân đội, cũng không đủ năng lực để thực hiện những thỏa thuận không gây thiệt hại về lâu dài
Cách các công ty này vận động theo chiều gió chính trị thật thú vị
Giống như Meta đã công bố vài thay đổi quanh thời điểm lễ nhậm chức, ban lãnh đạo Google hẳn cũng đã nhận ra các tuyên bố liên quan đến AI, và sẽ không muốn chính quyền hiện tại nhìn họ theo một cách nhất định
Tôi nghĩ sự thật nằm đâu đó ở giữa
Bên trong công ty chắc chắn có bất đồng rất lớn, nhưng tất nhiên họ cũng quan tâm đến việc mình được những người nắm quyền nhìn nhận ra sao
Công ty về mặt kỹ thuật có quyền lực mất cân bằng
Vì vậy tốt hơn là họ hành động theo ý chí của người dân
Phương án thay thế, tức công ty hành động theo ý chí riêng của mình, có thể còn tệ hơn nhiều
Động lực duy nhất của công ty không phải màn kịch doanh nghiệp gượng gạo kiểu “làm thế giới tốt đẹp hơn” như họ nói, mà là tạo ra lợi nhuận
Công ty được tạo ra vì mục đích đó, và luôn đi theo nó
Tôi không biết chúng ta còn mong đợi gì sau khi Google bỏ khẩu hiệu Don’t be evil
Một hệ thống tự động được xây dựng tốt có thể giúp tăng độ chính xác khi nhắm mục tiêu và giảm thương vong dân sự khá nhiều
Nếu bạn phẫn nộ với chính sự tồn tại của vũ khí, thì nên xem lại thế lưỡng nan tù nhân
Hãy giả định rằng những phản bội quy mô nhỏ được quản lý bằng chính phủ, nhưng các cường quốc lớn trên thế giới sẽ không chấp nhận quyền tài phán của một chính phủ thế giới duy nhất có thể cưỡng chế ngăn phản bội
Đặc biệt các thế lực mạnh và thịnh vượng như chúng ta càng sẽ không chấp nhận, vì nhìn chung họ có nhiều thứ để mất trong một hệ thống như vậy
Cựu CEO Google Schmidt đang phát triển drone AI cho Ukraine tại Estonia
Nếu ông ấy cần một nguồn cung AI nền tảng tốt, có thể dự đoán Google sẽ là một trong những nhà cung cấp được ưu tiên
Tất nhiên Ukraine chỉ là khởi đầu, và thị trường mục tiêu cho những thứ đã được kiểm chứng trên chiến trường, đặc biệt là trước Russia và gián tiếp là công nghệ Chinese, sẽ trở nên cực kỳ lớn
Hiện mới chỉ có một phần được triển khai trên chiến trường thực tế, nhưng cũng có sự quan tâm rất lớn đến các nền tảng mặt đất điều khiển từ xa và tự động
Google là bên dẫn đầu về các nền tảng tự động dân dụng, và con đường chuyển giao công nghệ đó sang các hệ thống quân sự có vẻ tương đối dễ dàng