Ollama công bố thư viện Python & JavaScript

• Ollama là mã nguồn mở giúp chạy cục bộ các LLM như Llama 2, Mistral dễ dàng hơn
  • Hỗ trợ macOS/Linux, và Windows sẽ sớm có thể chạy qua WSL2
• Phiên bản thư viện Python và JavaScript đầu tiên của Ollama đã được phát hành, cho phép tích hợp ứng dụng mới và hiện có với Ollama chỉ bằng vài dòng mã
  • Có thể sử dụng đầy đủ chức năng và trải nghiệm của Ollama REST API

Bắt đầu

• Trên Python, cài đặt bằng pip install ollama, sau đó import ollama và dùng hàm ollama.chat để bắt đầu hội thoại.
• Trên JavaScript, cài đặt bằng npm install ollama, sau đó import ollama from 'ollama' và dùng hàm ollama.chat để bắt đầu hội thoại.

Trường hợp sử dụng

• Cả hai thư viện đều hỗ trợ toàn bộ bộ tính năng của Ollama.
• Ví dụ Python bao gồm streaming, đa phương thức, hoàn tất văn bản, tạo mô hình tùy chỉnh và thiết lập client tùy chỉnh.

Tài khoản GitHub mới

• Thư viện này và kho lưu trữ chính của Ollama hiện được quản lý trong tổ chức GitHub mới ollama.
• Gửi lời cảm ơn tới các thành viên cộng đồng đang duy trì các thư viện tương tác với Ollama bằng nhiều ngôn ngữ lập trình như Dart, Swift, C#, Java, PHP, Rust.

[joone]

API node cũng hoạt động rất tốt. Lần này tôi đã sử dụng nó rất hiệu quả.