- OpenAI có mức sử dụng lớn hơn mọi nhà cung cấp mô hình khác, bao gồm Google và Anthropic
- Các công ty này thu thập lượng lớn dữ liệu, bao gồm prompt của người dùng và phản hồi tường minh lẫn ngầm định, để hỗ trợ huấn luyện các mô hình trong tương lai
- Lợi thế chính mà các công ty này sở hữu là khả năng mở rộng của hạ tầng và chất lượng dịch vụ
- Chi phí sử dụng OpenAI để tinh chỉnh GPT-3.5 rẻ hơn 3-8 lần so với việc thuê Amazon p4d.24xlarge
- Chi phí của OpenAI bao gồm việc huấn luyện và lưu trữ trọng số mô hình, xây dựng và duy trì hạ tầng tinh chỉnh, cùng chuyên môn cần thiết để quản lý hàng nghìn GPU
- Ý ở đây là với thời gian, nhân lực và nguồn vốn cần thiết, việc tự vận hành triển khai LLM mã nguồn mở riêng là không hợp lý đối với đa số tổ chức
- Các mô hình mã nguồn mở cần tiếp tục giảm thêm chi phí, độ phức tạp và thời gian cần thiết để tùy biến cũng như vận hành chúng
- Ngay cả khi giá cuối cùng có tăng lên, các công ty cung cấp LLM lớn như OpenAI vẫn sẽ thống trị thị trường nhờ khả năng cung cấp mô hình với lợi thế kinh tế theo quy mô cực lớn
5 bình luận
Tôi cứ nhìn tiêu đề thì tưởng là đánh bại OpenAI trong cạnh tranh quá dễ, nhưng đọc nguyên văn mới thấy ý là chi phí để cạnh tranh và đánh bại OpenAI lại rẻ đến mức khó tin.. haha
Tiêu đề và nội dung đều đang nói điều hoàn toàn ngược lại mà.. sao bạn có thể hiểu như vậy được?
AI dịch hơi kỳ nên tôi đã chỉnh tay nhẹ lại.
Ban đầu tiêu đề là: 'Thứ có thể đánh bại OpenAI quá rẻ'.
kkk