- Giờ đây có thể sử dụng các tính năng ChatGPT và Speech-To-Text ngay trong ứng dụng của mình
- Sau khi công bố ChatGPT vào tháng 12, thông qua tối ưu hóa, OpenAI đã giảm được 90% chi phí và chuyển lợi ích này cho người dùng API
API ChatGPT
- Sử dụng mô hình
gpt-3.5-turbo, cũng chính là mô hình hiện đang dùng trong sản phẩm ChatGPT
- Giá $0.002 cho mỗi 1k token, rẻ hơn 10 lần so với GPT-3.5 trước đây
- Đây cũng là mô hình tốt nhất cho các mục đích ngoài chat, có thể dễ dàng chuyển từ
text-davinci-003 sang gpt-3.5-turbo (khuyến nghị chuyển đổi)
- API nhận đầu vào là văn bản phi cấu trúc được tạo thành từ token
- Bên trong, nó được render thành một chuỗi token gọi là ChatML
gpt-3.5-turbo sẽ tiếp tục được nâng cấp lên phiên bản mới nhất. Hiện tại là gpt-3.5-turbo-0301 và sẽ được hỗ trợ đến 1/6- Dự kiến phát hành phiên bản ổn định mới vào tháng 4
- Cũng cung cấp riêng Dedicated Instance (hỗ trợ ngữ cảnh dài hơn và phù hợp với người dùng chạy hơn 450 triệu token mỗi ngày)
API Whisper
- Mô hình Speech-To-Text được công bố mã nguồn mở vào tháng 9/2022
- Được cộng đồng nhà phát triển đánh giá cao, nhưng khá khó để vận hành
- Có thể dùng mô hình
large-v2 qua API, với giá $0.006/phút
- Có thể sử dụng tại các endpoint
transcriptions / translations
- Hỗ trợ các định dạng m4a, mp3, mp4, mpeg, mpga, wav, webm
Các công ty sử dụng ban đầu
- Snap : Cung cấp chatbot dựa trên ChatGPT có tên My AI for Snapchat+. Có thể đưa ra gợi ý và viết thơ cho bạn bè (haiku)
- Quizlet : Áp dụng ChatGPT vào Q-Chat, gia sư AI thích ứng đặt câu hỏi dựa trên nội dung đã học
- Instacart : Triển khai vào tính năng Ask, nơi người dùng có thể đặt câu hỏi và nhận câu trả lời về món ăn
- Shopify : Bổ sung tính năng trợ lý mua sắm trong ứng dụng Shop
- Speak (Hàn Quốc) : Ứng dụng học ngôn ngữ sử dụng Whisper API.
4 bình luận
Trong bài gốc ghi là $0.002 cho mỗi 1k token.
Và vì tò mò về định nghĩa của token nên tôi tìm thêm một chút thì có vẻ nó được xác định theo số ký tự của phần input/output.
Ôi, có lỗi chính tả ở phần quan trọng hu hu nên mình đã sửa rồi
Mỗi tuần lại có rất nhiều tin tức AI mới đổ bộ.. vừa khiến người ta kỳ vọng, vừa khiến người ta sợ hãi.. nhưng vì không muốn bỏ lỡ xu hướng nên cảm giác mệt mỏi cũng khá lớn.
OpenAI thật sự quá tuyệt vời.