Ollama Turbo

• Ollama Turbo là giải pháp mới giúp chạy nhanh các mô hình mở quy mô lớn trên phần cứng trung tâm dữ liệu hiệu năng cao (20 USD/tháng)
• Cung cấp cách vận hành các mô hình lớn nhanh và hiệu quả khi vẫn giữ nguyên ứng dụng, CLI, API và thư viện JavaScript/Python của Ollama
• Hiện đang ở chế độ xem trước và hỗ trợ gpt-oss-20b cùng gpt-oss-120b của OpenAI
• Khi bật chế độ Turbo, nội dung truy vấn sẽ không được lưu trữ hoặc ghi log trên máy chủ
• Phần cứng được vận hành chỉ tại các trung tâm dữ liệu tại Mỹ, áp dụng giới hạn sử dụng theo giờ và theo ngày, và sắp tới sẽ triển khai hệ thống tính phí theo mức sử dụng