Chunk Translator: Chia nhỏ bài dài để giao LLM dịch
(translate.winterjung.dev)Tôi muốn dịch các bài blog dài mà không bị sót câu, nên đã thử làm một công cụ HTML nhỏ có thể chia bài viết theo từng đoạn để dịch rồi ghép lại.
- Khi yêu cầu các LLM như ChatGPT dịch cả bài một lần, chúng thường làm không tốt: có khi bỏ sót từng câu hoặc tự ý tóm tắt.
- Có thể tiếp tục tinh chỉnh prompt, nhưng thay vì vậy tôi muốn chỉ với thao tác sao chép–dán và bấm nút dịch cũng có thể đạt kết quả ổn, nên đã cho phép cắt bài dài thành từng chunk và chạy dịch song song bằng các model nhỏ.
- Tùy chọn thêm: khi gửi yêu cầu tới model nhỏ, có thể đính kèm phần tóm tắt được tạo trước bởi một model thông minh hơn để bản dịch hiểu ngữ cảnh tốt hơn.
- Nếu có điểm nào cần cải thiện trong bản dịch theo từng chunk, bạn có thể thêm chỉ dẫn và dịch lại riêng từng chunk đó.
- Vì công cụ hoạt động như một trang HTML tĩnh duy nhất, không cần máy chủ riêng, nên mỗi người dùng cần tự cấu hình provider và API key của mình. Như có thể thấy qua network inspector hoặc mã nguồn, ngoài các nhà cung cấp LLM API như OpenAI, OpenRouter, công cụ không gửi thông tin nhạy cảm tới bất kỳ đâu khác. Tôi cũng không gắn công cụ analytics.
- Tôi cũng muốn cung cấp cách để mọi người có thể thử dùng ngay cả khi không có API key, ít nhất là cho mục đích demo, nhưng phần này tôi vẫn đang suy nghĩ xem nên làm thế nào.
Mã nguồn có trong github repo, bạn có thể tải về để dùng (index.html chỉ cần mở bằng trình duyệt là chạy giống hệt), và mọi đóng góp, báo lỗi issue, câu hỏi hay phản hồi đều được chào đón.
3 bình luận
Đúng là thứ tôi đang cần, cảm ơn bạn. Với phụ đề thì vì vấn đề đó nên đã có
gui-subtrans, kiểu gửi yêu cầu theo từng dòng, nhưng với văn bản thuần thì tôi không nghĩ ra dịch vụ nào thật sự phù hợp (trang dịch do OpenAI cung cấp thì gần như hỏng rồi =m =...). Nên cũng khá khó xử. Khá ổn đấy..Tôi đã tạo một ứng dụng cho mục đích cá nhân dùng Apple Translator API của SwiftUI (chạy cục bộ) và nội bộ sẽ tách từng dòng rồi gửi yêu cầu dịch. Tôi từng nghĩ rằng nếu có thể gọi API đó ngay trên trình duyệt thì cũng không tệ nếu cung cấp bản demo theo cách đó. Nhưng vì đây là API ở mức thiết bị nên có lẽ là không thể...
Có cả phiên bản web, nhưng có vẻ cũng rất phù hợp để dịch tài liệu hoặc dùng cho các mục đích khác. :)