Xin chào, tôi đang xây dựng dịch vụ báo cáo saju "Bangwooldang".
Không cần đăng nhập riêng, kể cả người dùng không phải thành viên cũng có thể xem ngay.
Vì sao tôi làm nó?
Saju là lĩnh vực tệ nhất nếu giao nguyên vẹn cho LLM. Nó viết mô tả nghe rất hợp lý, nhưng tôi nghĩ rằng ngay khoảnh khắc ảo giác xen vào ở những phần "có đáp án rõ ràng" như tính lịch vạn niên, ngũ hành, hay xác định dụng thần, thì độ tin cậy sẽ sụp đổ. Ngoài ra, cách tính dụng thần cũng có nhiều phương pháp như phương pháp dụng thần eokbu, phương pháp dụng thần johu, phương pháp dụng thần tonggwan, phương pháp dụng thần byeongyak..., vì vậy phần diễn giải có thể thay đổi; nếu chỉ đưa cho AI kiểu "dụng thần của tôi là cái này nhé~" thì vẫn có nguy cơ AI viết sai.
Khi dùng các dịch vụ AI saju hiện có, tôi thường thấy cùng một ngày tháng năm sinh nhưng mỗi lần xem lại cho ra dụng thần và cách diễn giải khác nhau, nên tôi muốn thử chặn vấn đề này từ cấp độ cấu trúc.
Tôi đã làm như thế nào — "phán định do code, chỉ diễn giải mới dùng LLM"
- Engine lịch vạn niên (deterministic): trọng số ngũ hành, thập tinh, 12 vận tinh, thần sát, tính đại vận/lưu niên đều được xử lý بالكامل bằng code. Hiệu chỉnh theo chân thái dương thời dựa trên nơi sinh cũng được xử lý toàn bộ ở lớp code.
- Lớp phán định (deterministic): code quyết định cả phần luận về tình cảm, nghề nghiệp, tài lộc, sức khỏe và cả dòng chảy theo từng tháng. LLM không thể lật ngược các kết quả này.
- LLM chỉ viết phần diễn giải cá nhân hóa: nó chỉ viết "nguồn khí này tác động lên người này như thế nào". Phần định nghĩa khái niệm ("thập tinh là ~") được render bằng từ điển hardcode, nên khu vực này có 0 token · 0 ảo giác.
- Guardrail: parsing → kiểm tra schema → kiểm tra từ cấm/giọng điệu → fact-check đối chiếu với kết quả từ engine → thử lại nếu thất bại → chia báo cáo thành 5 nhóm để tạo song song, giúp giảm độ trễ.
Những gì tôi học được khi làm
- So với việc kéo dài danh sách "đừng làm" trong prompt, cách hiệu quả hơn nhiều là ngay từ đầu thu hẹp đầu vào và vai trò để LLM không thể tự quyết định.
- Càng làm lớp deterministic dày hơn thì chi phí LLM và tỷ lệ phải thử lại càng giảm. Biện pháp chống ảo giác cũng chính là tối ưu chi phí.
- Saju không phải là sách tiên tri. Nó chỉ là big data, chỉ là nguồn khí theo thời điểm tôi sinh ra; và tôi cho rằng hiểu được điều này rồi ứng phó với nó mới là hướng thực sự giúp ích cho cuộc đời mình.
Dù là đề xuất tính năng hay góp ý phê bình, tôi đều rất cảm kích với mọi phản hồi!
Cuối cùng, mèo quá đáng yêu. 😺😺
Chưa có bình luận nào.