Wikimedia Foundation ra mắt tiện ích mở rộng Chrome thử nghiệm LLM/RAG 'Citation Needed'
(chromewebstore.google.com)Tiện ích mở rộng Chrome Wikipedia Citation Needed
- Trong khi duyệt web, người dùng có thể chọn một đoạn văn bản cụ thể để kiểm chứng phát biểu đó
- Sử dụng ChatGPT API để tìm kiếm các tài liệu liên quan trên Wikipedia và trích dẫn từ các tài liệu đó
- Cung cấp các tín hiệu về chất lượng bài viết như ngày chỉnh sửa cuối cùng, số lượng tham chiếu của bài viết, cùng với thông tin về việc phát biểu được chọn có được Wikipedia hỗ trợ hay không, giúp người dùng hiểu thêm ngữ cảnh về thông tin họ nhận được, bao gồm cả thông tin từ Wikipedia
Yêu cầu phản hồi từ người dùng
- Đây là một tính năng thử nghiệm sử dụng AI tạo sinh và tổ chức nhận thức rằng đôi khi nó có thể mắc lỗi
- Nhóm phát triển đề nghị người dùng báo cáo các vấn đề phát hiện được thông qua liên kết phản hồi của tiện ích mở rộng để họ có thể hiểu và cải thiện chất lượng kết quả
- Cũng hoan nghênh các phản hồi chung và ý tưởng về những cách khác mà Wikipedia có thể được sử dụng hữu ích trong việc duyệt web hằng ngày
Thông tin cho nhà phát triển
- Tiện ích mở rộng này được phát triển bởi nhóm Future Audiences của Wikimedia Foundation, tổ chức phi lợi nhuận hỗ trợ Wikipedia và các dự án chị em của nó
Ý kiến của GN⁺
- Tiện ích mở rộng này có thể giúp người dùng đánh giá độ tin cậy của thông tin họ gặp trên web. Tuy nhiên, bản thân các bài viết Wikipedia cũng có thể có giới hạn về chất lượng và độ chính xác, nên có vẻ khó xem đây là tiêu chuẩn tuyệt đối.
- Việc tận dụng các mô hình ngôn ngữ lớn như ChatGPT để tự động hóa tóm tắt và kiểm chứng có thể nâng cao sự tiện lợi cho người dùng, nhưng đồng thời cũng có nguy cơ tạo ra thông tin sai lệch. Có vẻ vẫn cần nỗ lực giám sát và cải thiện liên tục về vấn đề này.
- Nếu ngoài Wikipedia còn tận dụng thêm các nguồn thông tin đáng tin cậy đã được chuyên gia từng lĩnh vực kiểm chứng, thì có thể nâng cao độ chính xác và tính toàn diện của việc kiểm chứng. Về lâu dài, cũng có thể cân nhắc xây dựng một cơ sở tri thức phi tập trung dựa trên blockchain.
1 bình luận
Ý kiến trên Hacker News
Đây là một ứng dụng RAG dựa trên LLM thử nghiệm, dùng để đối chiếu các tuyên bố trên internet với Wikipedia
Có thể xem chi tiết tại https://meta.wikimedia.org/wiki/Future_Audiences/Experiment:...
Nhân tiện, tôi có tham gia công việc này
Trong 6 tháng gần đây, tôi đã làm khoảng 8 tiện ích mở rộng trình duyệt, đa số có vài nghìn người dùng, và một cái từng đạt 500.000 người dùng
Hiện tôi đang làm một tiện ích hỗ trợ thiết kế dựa trên LLM, có thể liên hệ qua “hello[at]papillonsoftware[dot]dev”
Có lẽ vì vậy mà nó được gọi là Citation Needed. Vì thực ra nó chẳng trích dẫn gì cả
Tôi thắc mắc liệu các đoạn trích dẫn cũng có thể bị ảo giác hay không, hay có dùng cách như deterministic quoting[1] không
Nhân tiện, tôi là tác giả của công trình đó
[1] https://mattyyeung.github.io/deterministic-quoting
Ý tôi là khi xem tài liệu, thay vì tìm bằng từ khóa hoặc biểu thức chính quy, có thể dùng tiếng Anh để tìm các khái niệm phức tạp hơn không
Nếu không, tôi cũng muốn biết cần thêm những công việc gì để đạt đến mức đó
Dù vậy, công trình deterministic quoting trông khá thú vị
Không có tiện ích mở rộng Firefox
Những dự án như thế này giúp làm suy yếu các đối thủ trình duyệt
Ý tưởng hay. Về sau sẽ tuyệt nếu LLM cũng kiểm chứng tính đúng sai của chính các bài viết Wikipedia và đánh dấu lại
Kho Git của Wikimedia cho tiện ích này ở đây
https://gitlab.wikimedia.org/repos/future-audiences/citation...
Ngoài ra, hướng dẫn build trong README chưa đầy đủ và hot reload có vẻ cũng không hoạt động. Để có bản build chạy được, dùng
npm run build-devKhông rõ điều gì ngăn việc biến nó thành tiện ích mở rộng Firefox. Có thể là khác biệt giữa API sidebar/sidepanel, nhưng tôi chưa xử lý nhiều
Nếu gắn thêm trình tạo tài liệu dựa trên tìm kiếm vào đây, ta sẽ có cả trình tạo tài liệu lẫn trình kiểm tra tài liệu, rồi cứ thế tạo ra 1 nghìn tỷ trang
Có vẻ cũng dùng được làm nội dung huấn luyện LLM và con người cũng có thể dùng
Tôi tò mò liệu cái này chỉ hoạt động trên Chrome không. Tôi không chạy được trên Arc
@wikimedia: xin hãy có phiên bản Firefox
Dù được mô tả là “tiện ích Chrome tìm trích dẫn trên Wikipedia”, trong giới học thuật, trích dẫn Wikipedia nhìn chung là điều cấm kỵ
Một lý do là độ tin cậy thấp, và người viết có thể trích dẫn nguồn mà chính họ có thể chỉnh sửa
Quan trọng hơn, Wikipedia có thể hữu ích để tìm nguồn sơ cấp, nhưng bản thân nó là nguồn thứ cấp
Giờ đây gian lận học thuật quy mô lớn đã thực sự bị phơi bày, và hầu như không có biện pháp đính chính nào để sửa lại
Trong khi đó Wikipedia đã xử lý lạm dụng khá tốt; việc dùng liên kết Wikipedia không phải là mối đe dọa với học thuật, mà gian lận học thuật mới là mối đe dọa lớn hơn với Wikipedia
Nếu tìm bằng Google, bạn sẽ thấy rất nhiều phần lặp lại cùng thông tin, nhưng đa số trang web không trích dẫn nguồn
Trước thời Wikipedia, người ta cũng không trích dẫn nguồn thứ cấp kiểu đó, nhưng chắc chắn vẫn dùng chúng để bước vào một chủ đề và tìm các nguồn liên quan
Các học giả luôn trích dẫn bài báo của chính mình hoặc các nguồn khác mà họ có quyền kiểm soát biên tập
Phần tài liệu tham khảo được mong muốn trỏ tới nguồn thứ cấp hơn là nguồn sơ cấp
“Các bài viết Wikipedia nên dựa trên các nguồn thứ cấp đáng tin cậy đã xuất bản, và ở mức độ thấp hơn, dựa trên nguồn bậc ba và nguồn sơ cấp. Nguồn thứ cấp hoặc bậc ba là cần thiết để xác lập độ nổi bật của chủ đề và tránh các diễn giải mới về nguồn sơ cấp.”
https://en.wikipedia.org/wiki/Wikipedia:No_original_research
Khi hỏi về chính nó, nó trả về như sau
Không phải tôi dùng đúng mục đích ban đầu, nhưng cũng khá buồn cười