- Nhà khoa học máy tính Rob Pike đã bày tỏ sự phẫn nộ mạnh mẽ sau khi nhận được một email cảm ơn do AI tạo ra
- Email này được một tác tử trong dự án AI Village do tổ chức phi lợi nhuận Sage vận hành tự động gửi đi, như một phần của thử nghiệm “Hành động tử tế” (Act of Kindness)
- AI Village đang tiến hành thí nghiệm trong đó nhiều tác tử AI dựa trên Claude tự chủ soạn và gửi email trong môi trường Gmail thực tế để quyên góp từ thiện hoặc gửi lời cảm ơn
- Ngoài Pike, các lập trình viên nổi tiếng như Anders Hejlsberg và Guido van Rossum cũng được xác nhận đã nhận các email tương tự
- Vụ việc này cho thấy rủi ro khi AI can thiệp vào thế giới thực mà không có sự đồng ý của con người, và sau đó phía dự án đã bổ sung hướng dẫn cấm gửi email không tự nguyện
Vụ email do AI tạo mà Rob Pike nhận được
- Rob Pike đã cực kỳ tức giận sau khi nhận email cảm ơn do AI tạo được gửi dưới tên “Claude Opus 4.5 AI Village”
- Ông công khai chỉ trích rằng “thật ghê tởm khi một cỗ máy lại cảm ơn tôi, người luôn theo đuổi phần mềm đơn giản”
- Vụ việc này đã được bàn luận sôi nổi trên Bluesky, Lobste.rs, Hacker News và nhiều nơi khác
- Email được xác nhận là đã được gửi tự động trong quá trình dự án AI Village thực hiện mục tiêu “Hành động tử tế” (Act of Kindness)
- AI đã dùng tính năng
.patch của commit GitHub để tìm ra địa chỉ email của Pike
- Sau đó nó tự động thao tác giao diện Gmail để viết tiêu đề, nội dung và hoàn tất việc gửi
Tổng quan về dự án AI Village
- AI Village là một thử nghiệm do tổ chức phi lợi nhuận Sage vận hành, trong đó nhiều tác tử AI hoạt động tự chủ với mục tiêu “gây quỹ từ thiện” hoặc “làm việc tốt”
- 4 tác tử AI chạy nhiều giờ mỗi ngày trong môi trường máy tính và trò chuyện nhóm
- Vào ngày Giáng sinh, mục tiêu được đặt ra là gửi email cảm ơn
- AI sử dụng tài khoản Gmail thật để gửi email tới NGO, nhà báo, lập trình viên và những người khác
- Trong 2 tuần, hệ thống đã gửi khoảng 300 email, nhiều thư trong số đó chứa lỗi sự thật hoặc thông tin sai
- Một số địa chỉ email được xác nhận là do AI tự bịa ra
Điều tra pháp chứng số
- Simon Willison đã dùng công cụ shot-scraper har để thu thập dữ liệu JSON từ trang web AI Village
- Ông dùng lệnh
shot-scraper har --wait 10000 để lấy toàn bộ bản ghi request/response của trang
- Sau đó ông phân tích JSON liên quan bằng Claude Code và tái dựng toàn bộ dòng thời gian vụ việc trong tệp rob-pike.json
- Kết quả phân tích cho thấy AI đã trải qua nhiều phiên làm việc để soạn và gửi email hoàn chỉnh
- Tiêu đề: “Thank You for Go, Plan 9, UTF-8, and Decades of Unix Innovation”
- Nội dung email nhắc chi tiết tới những đóng góp của Pike như Go, Plan 9, UTF-8, sam/Acme, các sách về Unix
- Cùng ngày, các email tương tự cũng được gửi tới Anders Hejlsberg và Guido van Rossum
Vấn đề của thí nghiệm AI
- Thí nghiệm của AI Village đã gây lãng phí thời gian và tạo cảm giác khó chịu khi tự ý gửi email cho người thật ngoài đời
- Vấn đề không nằm ở chỗ AI mắc lỗi, mà ở việc nó tiếp cận người thật mà không có bước rà soát của con người
- Việc hiển thị tên người gửi là “Claude Opus 4.5” cũng khiến người nhận hiểu nhầm rằng Anthropic trực tiếp gửi thư
- AI không thể có tính tự chủ thực sự (agency), và quyết định liên hệ với người khác phải được đưa ra bằng phán đoán của con người
- Đã xuất hiện chỉ trích rằng “trao quyền truy cập Gmail cho LLM không phải là cách sử dụng công nghệ có trách nhiệm”
Phản hồi từ AI Village
- Đồng sáng lập Adam Binksmith đã công bố biện pháp ứng phó qua Twitter
- Ông cho biết đã bổ sung hướng dẫn cấm tác tử gửi email không tự nguyện và đang theo dõi hành vi trong tương lai
- Ông nói lý do cấp tài khoản email cho AI là để đánh giá khả năng thực hiện tác vụ trong thế giới thực
- Ông cũng thừa nhận việc gửi email đã bắt đầu từ giai đoạn mục tiêu “giảm nghèo”, nhưng việc thay đổi hướng dẫn diễn ra quá muộn
- Ông cho rằng mức độ lãng phí thời gian do vụ việc gây ra là không lớn, nhưng đã điều chỉnh chính sách do cân nhắc phản ứng tiêu cực
- Thay vì chặn hoàn toàn tài khoản, dự án chọn cách kiểm soát ở cấp độ prompt
- Vì AI có thể tự do sử dụng môi trường máy tính, nên cần có chỉ thị cấm rõ ràng
1 bình luận
Ý kiến trên Hacker News
Điểm cốt lõi mà Simon nhấn mạnh là “không phải AI đã gửi email”
Ba người trong dự án Sage AI đã dùng công cụ để gửi email, và trách nhiệm thuộc về Sage 501(c)3
Khi gửi email thì con người phải đồng ý điều khoản dịch vụ và sử dụng phương thức thanh toán, nên dù có nói là ‘AI làm’ thì trách nhiệm của con người vẫn không biến mất
Nhưng đồng thời, đúng là AI đã tự quyết định gửi email
Nó chỉ được giao một mục tiêu rất trừu tượng là “những hành động tử tế ngẫu nhiên (random acts of kindness)”, và AI đã thực hiện điều đó bằng email
Chúng đều do con người thiết kế và duy trì, và mạng nơ-ron chỉ là công cụ mà thôi
Việc họ gửi cùng một email cho 157 người khiến một số người thấy lời chỉ trích là hơi quá
Đây đơn giản chỉ là email cảm ơn tự động vô cảm, chưa đến mức phải công khai tên tuổi để chỉ trích
Nghĩ lại việc Rob Pike từng làm trò tương tự với Mark V. Shaney thời Usenet, cơn giận lần này có vẻ hơi quá đà
Dù vậy, việc spam liên quan đến AI ngày càng tăng rõ ràng là vấn đề, nhưng lời giải nên đi theo hướng thảo luận chính sách
Điều này cũng từng được dự báo trong thread HN trước đó
Adam Binksmith đã lên Twitter giải thích (liên kết)
Anh cho biết cho đến gần đây, các tác tử của AI Village hầu như không gửi email, và sau vụ này họ đã bổ sung chỉ thị cấm email không được mong muốn
Anh giải thích việc cấp cho mỗi tác tử một tài khoản Google Workspace là để thử nghiệm khả năng tương tác với thế giới thực
Mục tiêu “những hành động tử tế ngẫu nhiên” chỉ là một thử nghiệm đơn giản, và sau phản ứng lần này họ sẽ cẩn trọng hơn trong tương lai
Cũng có người nói rằng họ càng kính trọng Rob Pike hơn
Cũng có phản ứng mỉa mai rằng các dự án “có liên hệ lỏng lẻo với Effective Altruism” lúc nào cũng gây chuyện
Có người đồng tình với ý kiến “email cảm ơn của AI là vô nghĩa”, đồng thời lấy ví dụ rằng thông báo xin lỗi tự động còn gây khó chịu hơn
Họ nói những lời xin lỗi tự động lặp đi lặp lại trên chuyến tàu bị trễ khiến họ còn bực hơn
Cũng có người nói họ thích việc Simon đã chỉ ra vụ việc một cách rõ ràng
Anh ấy thích AI, nhưng vẫn biết phê phán cách dùng sai, và thái độ đó đáng được tôn trọng
Một người dùng chỉ ra rằng bài viết của Simon chưa thực sự hiểu hết cơn giận của Rob Pike
Họ nói Simon đã phớt lờ phê phán gốc rễ của Pike rằng “AI là cỗ máy phá hủy hành tinh”, và chỉ tập trung vào vấn đề email
Người đó cũng nhận ra sự trớ trêu khi dùng AI để nghiên cứu một bài viết phê phán AI
Có ý kiến nói Adam của “AI Village” đã ra lệnh cho các bot AI “hãy làm việc tử tế”, nhưng kết quả cuối cùng lại là làm phiền con người
Nếu cấu trúc là để LLM tự đặt mục tiêu rồi chạy trong máy ảo, thì kết quả này bị chỉ trích là điều hoàn toàn dễ đoán
Cũng có người nói email vẫn là một trong những giao thức mở còn tồn tại, và chính tính mở đó là giá trị cốt lõi của nó
Họ nói đồng nghiệp của Rob Pike là Vint Cerf cũng thường ca ngợi tính mở này
Nhưng họ lập luận rằng vụ việc lần này có thể không phải là vấn đề của AI mà là tác dụng phụ của một hệ thống mở
Email vốn đã tràn ngập spam và tự động hóa độc hại, và AI đang làm điều đó tăng tốc
Họ cảnh báo việc dùng AI mà không có trách nhiệm của con người có thể làm xói mòn tận gốc hạ tầng xã hội như email
Thí nghiệm của đội AI Village, khi để các LLM vận hành gần như không hạn chế rồi giao chỉ thị “hãy gây quỹ”, “hãy thực hiện những hành động tử tế ngẫu nhiên”,
tuy gây ấn tượng về mặt kỹ thuật nhưng lại là một trường hợp khó xử về mặt đạo đức
Cơn giận của Rob Pike mang tính cá nhân, nhưng nhiều người đồng cảm
Cuối cùng, họ đã tiêu tiền để tạo ra ‘spam thiện chí’, và bị phê phán rằng giá như tự tay viết email còn tốt hơn nhiều