Token Limit - Giám sát số token mà mã nguồn và tệp cấu hình tiêu thụ trong các công cụ AI.

Trong quá trình làm việc với các dự án sử dụng tệp ngữ cảnh AI (CLAUDE.md, .cursorrules, v.v.), tôi liên tục bị bất ngờ bởi hóa đơn tính phí API. Tôi nhận ra rằng chỉ dựa vào kích thước tệp thì rất khó ước tính chính xác chi phí token.

Vì vậy, tôi đã tạo ra một công cụ CLI tên là Token Limit:

• Tính toán số token thực tế bằng cách sử dụng tokenizer chính thức
• Có thể đặt ngân sách theo token hoặc đô la ("100k", "$0.50")
• Tích hợp với CI để phát hiện sớm các thay đổi có chi phí cao trước khi triển khai lên production
• Hỗ trợ mọi mô hình mới nhất (GPT-4, Claude 3.5, o1, v.v.)