Google chật vật gỡ thủ công các câu trả lời AI kỳ quặc khỏi kết quả tìm kiếm

• Mạng xã hội đang xôn xao với các ví dụ về việc sản phẩm AI Overview mới của Google đưa ra những câu trả lời kỳ quặc
  • Chẳng hạn như bảo người dùng bôi keo lên pizza hoặc đề xuất ăn đá
• Vì màn ra mắt gây hỗn loạn này, Google đang tất bật vô hiệu hóa thủ công AI Overview cho một số truy vấn tìm kiếm nhất định
  • Khi nhiều meme được đăng tải, người dùng chứng kiến chúng biến mất ngay sau khi được chia sẻ lên mạng xã hội

AI Overview của Google

• Google đã thử nghiệm AI Overview trong 1 năm
  • Ra mắt bản beta vào tháng 5/2023 dưới tên Search Generative Experience
  • CEO Sundar Pichai cho biết trong thời gian đó hệ thống đã xử lý hơn 1 tỷ truy vấn
• Pichai cũng cho biết chi phí cung cấp câu trả lời AI đã giảm 80%
  • Điều này đạt được nhờ phần cứng, kỹ thuật và các đột phá công nghệ
  • Tuy nhiên, cũng có khả năng những tối ưu hóa này được thực hiện quá sớm trước khi công nghệ thực sự sẵn sàng

Vấn đề về chất lượng AI

• Một nhà sáng lập startup AI nhận xét rằng giờ đây Google đã nổi tiếng vì đưa ra đầu ra chất lượng thấp
• Google khẳng định sản phẩm AI Overview chủ yếu cung cấp "thông tin chất lượng cao"
  • Người phát ngôn của Google, Meghan Farnsworth, xác nhận qua email rằng công ty đang hành động nhanh chóng để gỡ AI Overview đối với một số truy vấn
  • Đồng thời cho biết họ đang dùng các ví dụ này để phát triển những cải tiến trên diện rộng cho hệ thống

Ý kiến của chuyên gia AI

• Gary Marcus, giáo sư danh dự ngành khoa học thần kinh tại Đại học New York, cho rằng nhiều công ty AI đang bán giấc mơ rằng công nghệ sẽ đi từ mức 80% lên 100%
  • Mốc 80% ban đầu là việc xấp xỉ một lượng lớn dữ liệu do con người tạo ra, điều này tương đối đơn giản
  • 20% cuối cùng là một bài toán cực kỳ khó
  • Trên thực tế, có thể cần đến trí tuệ nhân tạo tổng quát (AGI)

Tình hình cạnh tranh của Google

• Bing đã đưa AI vào trước Google
  • OpenAI đang phát triển công cụ tìm kiếm riêng
  • Các startup tìm kiếm AI mới đã đạt mức định giá 1 tỷ USD
  • Thế hệ trẻ muốn trải nghiệm tốt nhất và đang chuyển sang TikTok
• Google đang cảm nhận áp lực cạnh tranh, và điều này dẫn tới màn ra mắt AI đầy hỗn loạn
  • Năm 2022, Meta từng ra mắt hệ thống AI mang tên Galactica nhưng nhanh chóng rút lại sau các vấn đề như khuyên người dùng ăn thủy tinh

Kế hoạch AI Overview của Google

• Google có những kế hoạch lớn cho AI Overview.
  • Tính năng hiện tại chỉ là một phần trong những gì công ty công bố vào tuần trước.
  • Bao gồm suy luận nhiều bước cho các truy vấn phức tạp, tạo trang kết quả do AI sắp xếp, và tìm kiếm video trong Google Lens
• Tuy nhiên, hiện tại danh tiếng của công ty lại phụ thuộc vào việc xử lý tốt những điều cơ bản, và tình hình có vẻ không mấy khả quan

Gary Marcus - "[Các mô hình này] về cơ bản không thể tự kiểm tra tính hợp lý trong chính công việc của mình, và đó sẽ là thứ kìm hãm cả ngành này"

Ý kiến của GN⁺

• Vấn đề độ tin cậy của AI: Các hệ thống AI có một giới hạn cấu trúc là không thể tự xác minh công việc của chính mình. Điều này làm tăng nguy cơ cung cấp thông tin sai cho người dùng.
• Áp lực cạnh tranh: Google đang chịu áp lực từ các đối thủ, và điều này có thể ảnh hưởng đến chất lượng khi ra mắt sản phẩm.
• Thách thức kỹ thuật: Quá trình đưa công nghệ AI từ 80% lên 100% là một nhiệm vụ cực kỳ khó. Điều này cho thấy rõ các giới hạn và thách thức của AI.
• Trải nghiệm người dùng: Thế hệ trẻ muốn có trải nghiệm tốt nhất, và đây là điểm Google cần tiếp tục cải thiện.
• Các lựa chọn thay thế khác: Với người dùng đang cân nhắc công cụ tìm kiếm AI, Bing hoặc các startup tìm kiếm AI mới cũng có thể là những lựa chọn tốt.

[hhcrux]

"Nhiều công ty AI đang bán giấc mơ rằng công nghệ sẽ đi từ mức 80% lên 100%."
Phần này cũng là điều tôi luôn nghĩ tới. Đây cũng là một trong những cơ sở cho suy nghĩ của tôi rằng dù thế giới AI có đến đi nữa, vẫn sẽ không phải là không còn việc cho con người làm.

[GN⁺]

Ý kiến trên Hacker News

Tóm tắt các bình luận trên Hacker News

• Cách tiếp cận gỡ thủ công các gợi ý tìm kiếm của Google

  • Gợi nhớ đến những trường hợp trước đây khi Google cố điều chỉnh chính thuật toán thay vì can thiệp thủ công vào kết quả tìm kiếm.
  • Trong đợt thử nghiệm Froogle năm 2002, khi tìm kiếm running shoes, một bức tượng tiên vườn lại xuất hiện trong nhóm kết quả hàng đầu.
  • Một kỹ sư đã mua sản phẩm đó để giải quyết vấn đề. Nhờ vậy, hệ thống trả về kết quả đúng mà không cần thay đổi thuật toán.

• Vấn đề độ chính xác của AI

  • Mức chính xác 80% ban đầu tương đối dễ đạt được, nhưng 20% cuối cùng thì rất khó.
  • Độ chính xác 100% là mục tiêu mà ngay cả con người cũng không thể đạt được.
  • Mục tiêu là giảm những câu trả lời ngớ ngẩn một cách rõ ràng.
  • LLMs (mô hình ngôn ngữ lớn) tạo ra văn bản tốt, nhưng việc loại bỏ các câu trả lời ngớ ngẩn một cách hiển nhiên không phải lúc nào cũng là điều tốt.

• Vấn đề chất lượng tìm kiếm của Google

  • Có tranh luận rằng Google đã mất phương hướng vì cuộc chiến AI.
  • Kết quả tìm kiếm hiện tại của Google ngập tràn spam, clickbait và nội dung tuyên truyền.
  • Có ý kiến cho rằng kết quả tìm kiếm ít nhất phải phản ánh những sự thật được công nhận rộng rãi.
  • Việc nhận diện hành vi troll lộ liễu, clickbait và nội dung ác ý là rất quan trọng.

• Sự khác biệt giữa công cụ tìm kiếm và công cụ hỏi đáp

  • Công cụ tìm kiếm là công cụ để tìm trên internet, không phải công cụ để đặt câu hỏi.
  • Hỏi AI một điều gì đó là một tác vụ khác với việc tìm kiếm trên internet.

• Vấn đề trong việc tích hợp AI của Google

  • Mỗi lần Google tích hợp AI thì các vấn đề tương tự lại lặp lại.
  • Khi xảy ra sự cố, lãnh đạo cấp cao tuyên bố sẽ giải quyết, nhưng rồi những vấn đề đó vẫn tái diễn.

• Vấn đề về bộ dữ liệu của Google

  • Nhiều người thấy sốc khi Google, công ty đã tinh chỉnh kết quả tìm kiếm suốt 25 năm, lại không có một bộ dữ liệu tốt.
  • Có lẽ họ cần tạo dữ liệu huấn luyện từ những đĩa CD bách khoa toàn thư cũ.

• Tạo và kiểm thử các truy vấn kỳ lạ bằng LLM

  • Có người thất vọng vì Google dường như không dùng LLM để tạo ra và kiểm thử các truy vấn kỳ lạ.
  • Có rất nhiều lợi ích có thể thu được từ một đợt triển khai sạch sẽ.
  • Cuộc đua AI hiện nay có thể là một cuộc đua xuống đáy.

• Vấn đề của các phiên bản AI ban đầu

  • AI hiện tại tệ hơn tìm kiếm truyền thống ở mọi mặt.
  • Những ngón tay trong ảnh do AI tạo ra thì quả là ấn tượng.

• Vấn đề ảo giác của LLM

  • Mọi người nghĩ rằng LLM chỉ thỉnh thoảng mới bị ảo giác, nhưng thực tế điều đó xảy ra thường xuyên hơn nhiều.

• Sự mỉa mai của việc gỡ kết quả AI thủ công

  • Việc phải thủ công gỡ bỏ các kết quả AI sai là điều đầy mỉa mai.