Wikimedia Foundation ra mắt tiện ích mở rộng Chrome thử nghiệm LLM/RAG 'Citation Needed'

Tiện ích mở rộng Chrome Wikipedia Citation Needed

• Trong khi duyệt web, người dùng có thể chọn một đoạn văn bản cụ thể để kiểm chứng phát biểu đó
• Sử dụng ChatGPT API để tìm kiếm các tài liệu liên quan trên Wikipedia và trích dẫn từ các tài liệu đó
• Cung cấp các tín hiệu về chất lượng bài viết như ngày chỉnh sửa cuối cùng, số lượng tham chiếu của bài viết, cùng với thông tin về việc phát biểu được chọn có được Wikipedia hỗ trợ hay không, giúp người dùng hiểu thêm ngữ cảnh về thông tin họ nhận được, bao gồm cả thông tin từ Wikipedia

Yêu cầu phản hồi từ người dùng

• Đây là một tính năng thử nghiệm sử dụng AI tạo sinh và tổ chức nhận thức rằng đôi khi nó có thể mắc lỗi
• Nhóm phát triển đề nghị người dùng báo cáo các vấn đề phát hiện được thông qua liên kết phản hồi của tiện ích mở rộng để họ có thể hiểu và cải thiện chất lượng kết quả
• Cũng hoan nghênh các phản hồi chung và ý tưởng về những cách khác mà Wikipedia có thể được sử dụng hữu ích trong việc duyệt web hằng ngày

Thông tin cho nhà phát triển

• Tiện ích mở rộng này được phát triển bởi nhóm Future Audiences của Wikimedia Foundation, tổ chức phi lợi nhuận hỗ trợ Wikipedia và các dự án chị em của nó

Ý kiến của GN⁺

• Tiện ích mở rộng này có thể giúp người dùng đánh giá độ tin cậy của thông tin họ gặp trên web. Tuy nhiên, bản thân các bài viết Wikipedia cũng có thể có giới hạn về chất lượng và độ chính xác, nên có vẻ khó xem đây là tiêu chuẩn tuyệt đối.
• Việc tận dụng các mô hình ngôn ngữ lớn như ChatGPT để tự động hóa tóm tắt và kiểm chứng có thể nâng cao sự tiện lợi cho người dùng, nhưng đồng thời cũng có nguy cơ tạo ra thông tin sai lệch. Có vẻ vẫn cần nỗ lực giám sát và cải thiện liên tục về vấn đề này.
• Nếu ngoài Wikipedia còn tận dụng thêm các nguồn thông tin đáng tin cậy đã được chuyên gia từng lĩnh vực kiểm chứng, thì có thể nâng cao độ chính xác và tính toàn diện của việc kiểm chứng. Về lâu dài, cũng có thể cân nhắc xây dựng một cơ sở tri thức phi tập trung dựa trên blockchain.

[GN⁺]

Ý kiến trên Hacker News

• Ứng dụng RAG (Retrieval Augmented Generation) dùng LLM ở dạng thử nghiệm xác minh các tuyên bố trên internet bằng cách đối chiếu với Wikipedia.
• Có câu hỏi liệu các trích dẫn có bị ảo giác hay không, hay hệ thống dùng thứ gì đó như "trích dẫn quyết định".
• Kho Git của Wikimedia cho tiện ích mở rộng này đã được cung cấp. Hướng dẫn build trong README chưa đầy đủ và có vẻ hot reload không hoạt động. Có thể tạo bản build chạy được bằng npm run build-dev.
• Không có tiện ích mở rộng cho Firefox. Có thể là do khác biệt giữa API sidebar/sidepanel.
• Cũng có hy vọng LLM sẽ kiểm chứng tính xác thực của các bài viết trên Wikipedia và gắn cờ chúng.
• Có thể kết hợp với trình tạo bài viết và trình kiểm tra bài viết để tạo ra 1 nghìn tỷ trang. Đây có thể là nội dung huấn luyện hữu ích cho LLM, nhưng con người cũng có thể sử dụng.
• Có vẻ chỉ hoạt động trên Chrome. Không chạy trên Arc.
• Trong giới học thuật, việc trích dẫn Wikipedia nhìn chung bị cấm. Độ tin cậy thấp hơn (tác giả có thể trích dẫn một nguồn mà chính họ có thể chỉnh sửa), và dù tốt để tìm nguồn sơ cấp, bản thân nó vẫn là nguồn thứ cấp.
• Khi hỏi về chính nó, nó trả về phản hồi rằng "Citation Needed là một tính năng thử nghiệm được phát triển vào năm 2024". Tuy nhiên, đoạn văn được cung cấp không chứa thông tin về một tính năng tên là 'Citation Needed' được phát triển vào năm 2024.