Meta giải thể nhóm Responsible AI

• Meta đã giải thể nhóm Responsible AI (RAI) và điều chuyển các thành viên của nhóm sang những đội sản phẩm AI tạo sinh khác cùng bộ phận hạ tầng AI
• Nhóm RAI đã đảm nhiệm vai trò xác định các vấn đề trong phương pháp huấn luyện AI từ năm 2019, đồng thời giám sát việc huấn luyện mô hình bằng nhiều loại thông tin khác nhau.
• Đội ngũ này đã trải qua tái cơ cấu vào đầu năm nay, và khi đó Business Insider từng đăng bài cho biết công ty sa thải nhân sự chỉ để lại "cái vỏ" của nhóm.
• Các hệ thống tự động của Meta đã gây ra nhiều vấn đề như bắt giữ nhầm do lỗi dịch trên Facebook, tạo ra hình ảnh thiên lệch khi tạo sticker AI trên WhatsApp, và thuật toán Instagram hỗ trợ việc tìm kiếm tài liệu lạm dụng tình dục trẻ em

Xu hướng quản lý AI toàn cầu

• Động thái này của Meta diễn ra trong bối cảnh các chính phủ trên khắp thế giới đang nỗ lực xây dựng quy định đối với việc phát triển trí tuệ nhân tạo, như việc chính phủ Mỹ chỉ đạo xây dựng các quy tắc an toàn AI và ký thỏa thuận với các công ty AI.
• Liên minh châu Âu (EU) đã công bố các nguyên tắc về AI và vẫn đang tiếp tục nỗ lực thông qua dự luật AI.

Ý kiến của GN⁺

• Điểm quan trọng nhất của bài viết này là Meta đã giải thể đội ngũ phụ trách phát triển AI có trách nhiệm và điều chuyển các thành viên sang các bộ phận khác.
• Sự thay đổi này là một ví dụ thú vị về cách các doanh nghiệp quản lý đạo đức và độ an toàn của AI trong bối cảnh tầm quan trọng của việc sử dụng AI có trách nhiệm ngày càng gia tăng cùng với sự phát triển nhanh chóng của công nghệ AI.
• Ngoài ra, bài viết cũng phản ánh thực trạng hiện nay khi các cuộc thảo luận về quy định AI đang diễn ra sôi nổi trên toàn cầu, nên sẽ hấp dẫn với những người quan tâm đến giao điểm giữa công nghệ và pháp luật.

[GN⁺]

Ý kiến trên Hacker News

• Meta được xem là công ty AI quy mô lớn có đạo đức nhất vì đã công khai các mô hình AI của mình.
  • Có ý kiến cho rằng việc giữ kín các mô hình AI nhân danh "đạo đức" là phi đạo đức vì khiến mọi người phụ thuộc nhiều hơn vào những quyết định tùy tiện của các tập đoàn lớn.
• Mọi nhóm AI đều պետք phải cân nhắc trách nhiệm đạo đức, và việc dồn việc này vào một nhóm duy nhất là không hiệu quả.
  • "Nhóm AI có trách nhiệm" có thể tạo ra nút thắt cổ chai khi phải rà soát toàn bộ công việc AI, hoặc dẫn đến việc các nhóm khác được tự do phát triển AI một cách vô trách nhiệm.
• An toàn AI là một nhóm sống bám vào công việc của người khác, nên Meta dọn dẹp bộ phận này là điều đáng mong muốn.
• Các nhóm đạo đức công nghệ ở giai đoạn đầu thường tập trung vào hình ảnh nhiều hơn thực tế.
  • Một số ít người quyết định hướng đi cốt lõi của công nghệ đang gánh trách nhiệm đạo đức, và nếu họ hành xử vô trách nhiệm thì có thể gây ra thiệt hại lớn.
• Không có ví dụ cụ thể nào cho thấy nhóm đạo đức của Meta đã đóng góp tích cực.
  • Cần xem lại thành tích của Meta trong vài năm qua để đánh giá họ đã hiệu quả đến mức nào trong việc giữ vững sự thật.
• Khi thiếu tiền và khủng hoảng ập đến (như ở OpenAI), phương án tốt nhất là đóng cửa những bộ phận chỉ phục vụ hình ảnh.
• Vì chi phí huấn luyện mô hình AI rất cao, khi công nghệ phát triển thì những người muốn kiểm soát nó sẽ tìm cách trục lợi, nhưng về lâu dài điều này có thể phản tác dụng.
• Việc so sánh an toàn AI với các nhóm pháp lý hay bảo mật là không thỏa đáng.
  • Vì không ai thực sự biết xây dựng AI an toàn nghĩa là gì, nên các nhóm như vậy có thể chỉ đóng vai trò làm chậm tiến độ.
• Cách tốt nhất để làm AI có trách nhiệm là biến nó thành mã nguồn mở.
  • Nhờ đó, không một công ty đơn lẻ nào nắm toàn quyền kiểm soát, và các nhà nghiên cứu có thể hiểu rõ hơn cả khả năng bị lạm dụng lẫn những cách sử dụng tích cực.
• Trách nhiệm của AI nên thuộc về người dùng, nhưng hiện tại không có công ty nào trao cho người dùng quyền định hình sản phẩm một cách có trách nhiệm.
  • Hệ thống pháp lý vốn đã xử lý các tác động ngoại biên như vậy, còn nỗ lực né tránh trách nhiệm của doanh nghiệp chỉ tạo ra những hệ thống kém năng lực và vô dụng hơn.