- System prompt là cấu hình nền tảng cho biết LLM sẽ hoạt động như thế nào, bao gồm giọng điệu, cách dùng công cụ, thiết lập tri thức bên ngoài, v.v.
- Prompt của Claude có 16.739 từ, 110KB, lớn hơn khoảng hơn 7 lần so với prompt o4-mini của ChatGPT (2.218 từ, 15,1KB)
- Phần định nghĩa công cụ là lớn nhất và được cấu thành từ thông tin lấy từ máy chủ MCP
- Ví dụ: công cụ
web_search chỉ yêu cầu một tham số "query", nhưng công cụ tìm kiếm Google Drive lại phức tạp đến mức phần mô tả dài 1.700 từ
- Ngoài định nghĩa công cụ, còn có các hướng dẫn sử dụng về trích dẫn (Citation), sản phẩm đầu ra (Artifacts), tìm kiếm (Search), và các lưu ý liên quan đến tích hợp Google
- Ví dụ: có chỉ thị lặp đi lặp lại rằng không được dùng công cụ tìm kiếm cho những thông tin đã biết sẵn
- Prompt cũng bao gồm nhiều chỉ dẫn hotfix nhằm bù đắp điểm yếu của LLM, xử lý các vấn đề như giải câu đố, ngăn nhầm lẫn thông tin, cải thiện cách diễn đạt mang tính thi ca
- Tò mò không biết Anthropic đang quản lý phiên bản prompt phức tạp này bằng phần mềm nào
- Nhìn vào việc nhiều hotfix nằm rải rác, cũng không rõ chúng được thêm vào theo thời gian thực hay được triển khai sau khi đánh giá
- Cũng tò mò không biết khi nào sẽ có quyết định bỏ toàn bộ những thứ này để reset bằng một prompt mới
- Một system prompt khổng lồ như vậy cho thấy chatbot không đơn thuần là bản thân mô hình, mà là một hệ thống phức hợp được tích lũy từ thiết kế, công cụ và phản hồi
- System prompt bị rò rỉ của Claude
- System prompt của Claude dùng hơn 24k token, bao gồm cả công cụ
1 bình luận
Anthropic công bố "system prompt" vận hành Claude
System prompt được công bố trực tiếp có dung lượng nhỏ. Có vẻ như phần liên quan đến công cụ đã bị lược bỏ.