- Công bố mô hình GPT-4 Turbo hỗ trợ cửa sổ ngữ cảnh 128K, GPT-4 API có Vision, Assistants API, DALL-E 3 API, GPT-3.5 Turbo mới cùng nhiều nội dung khác.
- GPT-4 Turbo
- Hỗ trợ cửa sổ ngữ cảnh (Context Window) 128K và được huấn luyện trên dữ liệu tính đến tháng 4 năm 2023.
- So với GPT-4, token đầu vào rẻ hơn 3 lần và token đầu ra rẻ hơn 2 lần.
- Tuân thủ tốt hơn các chỉ dẫn yêu cầu phản hồi theo định dạng cụ thể, đồng thời có cả chế độ JSON bảo đảm phản hồi ở dạng JSON.
- Hỗ trợ đầu ra có thể tái lập dựa trên seed và dự kiến sẽ bổ sung tính năng trả về log probability cho đầu ra.
- GPT-3.5 Turbo cũng được cập nhật cùng lúc.
- Assistants API
- AI chuyên dụng có các khả năng code interpreter, truy xuất và function calling.
- Quản lý trạng thái theo luồng (thread), nên có thể xử lý nội dung dài vô hạn.
- Code interpreter - Có thể viết và chạy mã Python trong môi trường sandbox.
- Truy xuất - Tìm kiếm và phản hồi bằng kiến thức bên ngoài mô hình, chẳng hạn như tài liệu do người dùng cung cấp.
- Function calling - Có thể gọi phù hợp các hàm do người dùng định nghĩa và đưa kết quả vào phản hồi.
- Các API mới khác
- GPT-4 Turbo được bổ sung khả năng nhận diện hình ảnh.
- DALL-E 3 được phát hành dưới dạng API, với chi phí 0.04 USD cho mỗi ảnh được tạo.
- TTS API được bổ sung.
- Tùy biến mô hình
- Mô hình fine-tuning GPT-4 sẽ được phát hành dưới dạng quyền truy cập thử nghiệm.
- Cung cấp dịch vụ mô hình tùy chỉnh để xây dựng mô hình riêng cho các tổ chức quy mô lớn.
- Bao gồm cả việc huấn luyện trên tập dữ liệu độc quyền từ hàng tỷ token trở lên.
- Giảm giá
- GPT-4 Turbo 128K có giá 0.01 USD cho mỗi token đầu vào và 0.03 USD cho mỗi token đầu ra.
- So với trước đây, token đầu vào rẻ hơn 3 lần và token đầu ra rẻ hơn 2 lần.
- GPT-3.5 Turbo 16K có giá 0.001 USD cho mỗi token đầu vào và 0.002 USD cho mỗi token đầu ra.
- So với trước đây, token đầu vào rẻ hơn 3 lần và token đầu ra rẻ hơn 2 lần, đồng thời cũng rẻ hơn 33% ở token đầu vào so với mô hình 4K.
- Mô hình fine-tuning của GPT-3.5 Turbo có giá 0.003 USD cho mỗi token đầu vào và 0.006 USD cho mỗi token đầu ra.
- So với trước đây, token đầu vào rẻ hơn 4 lần và token đầu ra rẻ hơn 2.7 lần.
8 bình luận
Từ hôm qua, GN⁺ cũng đã áp dụng GPT-4 Turbo.
Quả thực câu trả lời nhanh hơn và hiểu chỉ dẫn tốt hơn.
Nó tóm tắt rất tốt đúng như yêu cầu và cũng cho ra kết quả gọn gàng.
Trước đây tôi vốn dùng lẫn cả prompt tiếng Anh, nhưng giờ chỉ với prompt tiếng Hàn thôi cũng đã cho ra câu trả lời rất tốt.
Mình không rành lắm về AI, nhưng tốc độ giảm giá chắc sẽ còn nhanh hơn nữa nhỉ? Thật sự không thể hình dung được thế giới sau 1, 2 năm nữa sẽ như thế nào.
Mức giá trên tính theo mỗi 1.000 token. Xin lưu ý.
Và 128K token... giờ thì với những mục đích tôi đang dùng, vấn đề ngữ cảnh thường coi như sẽ biến mất rồi.
À, tôi đang sắp xếp nội dung này để đăng lên mà muộn mất rồi hu hu
Ngay cả khi Anthropic công bố mô hình 100K thì đã thấy rất ấn tượng rồi, mà giờ GPT-4 lại công bố 128K token nên có vẻ vẫn đang dẫn trước.
Giá nhìn chung cũng đã giảm xuống vài lần, đúng là không biết năng lực công nghệ của OpenAI rốt cuộc tới đâu nữa...
Dù sao thì hoàn toàn hoan nghênh.
GPT-4 vốn khá đắt một cách âm thầm đấy chứ (đặc biệt là khi dùng 16K), vậy mà kích thước token tăng mạnh nhưng giá lại thực sự giảm hẳn. +_+
Ngoài ra mình cũng khá tò mò về Assistants API, chắc phải thử một lần mới được.
Nghe nói không cần dùng embedding cho tìm kiếm nữa nên có khi còn lợi hơn...?
Tóm tắt AI của một chủ đề trên HN.
Có chỗ bị ảo giác rồi.
Giá đều đã được ghi hết rồi.