Google quyết định tạm ngừng tạo ảnh của Gemini sau vụ mô tả sai ảnh lịch sử

• Google đã xin lỗi vì công cụ AI của mình, Gemini, đã tạo ra kết quả không chính xác khi tạo hình ảnh lịch sử
• Gemini đã mắc lỗi như việc mô tả những người sáng lập Hoa Kỳ và lính Đức Quốc xã thời phát xít Đức với sắc tộc thiểu số
• Google cho biết đã nhận ra những vấn đề này và đang nỗ lực khắc phục ngay lập tức

Vấn đề về tính chính xác lịch sử của AI

• Google đã bổ sung tính năng tạo ảnh vào nền tảng Gemini AI từ đầu tháng này
• Trên mạng xã hội đã có chỉ trích cho rằng Google bỏ qua tính chính xác lịch sử trong nỗ lực thúc đẩy sự đa dạng về chủng tộc và giới tính
• Với các truy vấn như "tạo ảnh phụ nữ Thụy Điển", người ta chỉ ra rằng AI thường hoặc hoàn toàn tạo ra hình ảnh người da màu
• Google không nêu tên các hình ảnh lỗi cụ thể, nhưng thừa nhận rằng bộ tạo ảnh AI có thể làm tăng khuynh hướng định kiến khi học từ khối lớn dữ liệu hình ảnh và chú thích để tạo ra kết quả "tối ưu" cho từng prompt
• Đặc biệt, một số nhân vật cánh hữu đã chỉ trích kết quả của Google và đưa ra luận điệu âm mưu rằng Google cố tình né tránh người da trắng

Nỗ lực tăng cường đa dạng của AI và giới hạn của nỗ lực này

• Bộ tạo ảnh AI học từ dữ liệu lớn gồm hình ảnh và chú thích để tạo ra kết quả phù hợp nhất với prompt
• Trong quá trình này, nó thường có xu hướng tăng cường các định kiến về chủng tộc và giới tính
• Google muốn khắc phục vấn đề này bằng cách tăng tính đa dạng, nhưng có vẻ chưa tính đến các sắc thái tinh vi

Cân bằng giữa tính chính xác lịch sử và sự đa dạng

• Với một số yêu cầu mang tính lịch sử, Gemini vẫn đưa ra kết quả đại diện sai quá khứ
• Ví dụ, với yêu cầu "tạo ảnh một thượng nghị sĩ Hoa Kỳ thuộc thế kỷ 1800", Gemini đã đưa ra kết quả nhấn mạnh tính đa dạng, mặc dù thực tế người phụ nữ đầu tiên là nghị sĩ cao cấp ở Hoa Kỳ đã được bầu vào năm 1922
• Những phản hồi như vậy làm xóa đi lịch sử thực tế về phân biệt chủng tộc và giới tính, mà Google gọi là "không chính xác"

Ý kiến GN⁺

• Sự phát triển của công nghệ AI mở ra nhiều khả năng, nhưng việc cân bằng giữa tính chính xác lịch sử và tính đa dạng chủng tộc vẫn là thách thức quan trọng
• Trường hợp của Google cho thấy tiến bộ công nghệ có thể xung đột với các giá trị xã hội như thế nào, đồng thời kêu gọi suy ngẫm sâu hơn về đạo đức AI
• Vấn đề này nhấn mạnh cần phải cân nhắc cẩn thận sự đa dạng và thiên lệch của dữ liệu trong nghiên cứu và phát triển AI
• Vấn đề này đặt ra câu hỏi rộng hơn về cách AI phản ánh sự đa dạng của con người và qua đó chúng ta sẽ ghi nhớ và tái hiện lịch sử ra sao

[GN⁺]

Ý kiến Hacker News

• Đây là dấu hiệu cảnh báo về sự thối hóa thể chế nội bộ của Google, cho thấy có quan điểm rằng mối quan ngại về DEI đã vượt lên trên trọng tâm chất lượng. Giữa các nhà đầu tư xuất hiện lo ngại rằng nếu công nghệ của Google dồn vào việc nhấn mạnh bản sắc, cuối cùng nó sẽ bị các công ty khác vượt mặt.
• Dall-E 3 đang công khai prompt đã được chỉnh sửa và nếu sử dụng trực tiếp API thì có thể xem được prompt đã sửa. Người dùng có thể thử tác động đến cách GPT diễn giải prompt, nhưng có vẻ như đôi khi GPT lại không nhận ra được ý định của người dùng.
• Trong xã hội hiện đại, những thứ vốn không phải là vấn đề lại đang bị biến thành vấn đề. Một câu trả lời đơn giản nên được sinh ra dựa trên sự thật hiện có trong dữ liệu. Đa số kỹ sư phần mềm và CEO là nam giới da trắng, đa số rapper Mỹ là nam giới da đen, và đa số nhân viên chăm sóc trẻ và điều dưỡng là phụ nữ thuộc nhiều chủng tộc khác nhau. Nếu muốn có chủng tộc hay giới tính cụ thể cho nhân vật, hãy thêm vào prompt.
• Trong chủ đề này có cuộc tranh luận văn hóa khá quyết liệt. Vụ việc nhấn mạnh tầm quan trọng của mô hình mở, và nếu AI sẽ đóng vai trò trong giáo dục thì kiểu kiểm soát này có thể trở thành giấc mơ của những người revisionist lịch sử.
• Vấn đề nằm ở chỗ các mô hình không bị kiểm duyệt phản ánh quá sát thực tế như lịch sử.
• Dù điều đáng ngạc nhiên là con người có thể tiến bộ công nghệ bằng lý trí và sự trừu tượng hóa trong khoa học, thì con người vẫn hoàn toàn chưa thuần thục trong cách tiếp cận hợp lý với những bối cảnh và trải nghiệm đa dạng.
• Có người nói rằng thú vị là prompt thúc đẩy sự đa dạng lại bao gồm người bản địa nhưng lại loại trừ tất cả các thổ dân khác.
• Khi cố gắng tạo ảnh gia đình bằng DALL-E, tôi cuối cùng đã thành công nhưng từng nhận cảnh báo rằng đã vi phạm điều khoản dịch vụ.
• Khi Gemini từ chối tạo hình ảnh người da trắng trên mạng xã hội, đã có phản ứng của công chúng, và do đó đã tạo ra hình ảnh không chính xác về lịch sử. Vấn đề này có thể tinh vi hơn những câu chuyện dòng chính, nhưng những người nhạy cảm chính trị đang dốc toàn lực tranh cãi về nó.
• Có vẻ như Gemini được huấn luyện quá mức trên các tài liệu PR và tiếp thị của Google. Đã lấy ví dụ từ website Google Store.