2 điểm bởi GN⁺ 2024-04-06 | 1 bình luận | Chia sẻ qua WhatsApp
  • Mô hình ngôn ngữ lớn (LLM) có thể mở rộng, được tối ưu cho các tác vụ và trường hợp sử dụng quy mô lớn trong doanh nghiệp thực tế
  • Command R+ thuộc dòng LLM R-series, duy trì sự cân bằng giữa hiệu quả cao và độ chính xác mạnh mẽ
  • Hỗ trợ doanh nghiệp đưa AI vào production thay vì chỉ dừng ở giai đoạn chứng minh khái niệm

Các đặc điểm chính của Command R+

  • Sở hữu cửa sổ ngữ cảnh 128k token và cung cấp các khả năng hàng đầu như:
    • Retrieval-Augmented Generation (RAG) nâng cao kèm trích dẫn để giảm hallucination
    • Hỗ trợ đa ngôn ngữ cho 10 ngôn ngữ chính nhằm phục vụ vận hành kinh doanh toàn cầu
    • Sử dụng công cụ để tự động hóa các quy trình kinh doanh phức tạp
  • Tiếp tục cải thiện hiệu năng tổng thể dựa trên những ưu điểm cốt lõi của Command R
  • Cho hiệu năng vượt trội so với các mô hình tương tự trong phân khúc thị trường có thể mở rộng, đồng thời cạnh tranh được với các mô hình đắt hơn rất nhiều ở những năng lực cốt lõi quan trọng cho doanh nghiệp
  • Cung cấp cùng một mức cam kết về quyền riêng tư dữ liệu và bảo mật

Hợp tác với Microsoft Azure

  • Công bố quan hệ hợp tác mới với Microsoft Azure dành cho cộng đồng doanh nghiệp toàn cầu
  • Tập trung đưa các mô hình mới nhất của Cohere lên Azure AI để đẩy nhanh việc ứng dụng AI trong doanh nghiệp
  • Cung cấp bộ công cụ AI toàn diện giúp doanh nghiệp đạt được nhiều hơn trong khi vẫn tuân thủ các tiêu chuẩn cao nhất về bảo mật và tuân thủ
  • Thúc đẩy một tương lai nơi công nghệ khuếch đại năng lực và đổi mới của con người

Khả năng sẵn có của mô hình

  • Nhà phát triển và doanh nghiệp có thể truy cập các mô hình mới nhất của Cohere trên Azure ngay từ hôm nay
  • Sẽ sớm có mặt trên Oracle Cloud Infrastructure (OCI) và các nền tảng đám mây khác
  • Đồng thời có thể sử dụng ngay qua API được Cohere host

Giải pháp RAG hàng đầu trong ngành

  • RAG đang trở thành nền tảng để doanh nghiệp áp dụng LLM và tùy biến bằng dữ liệu độc quyền của riêng mình
  • Command R+ được tối ưu cho RAG nâng cao nhằm cung cấp giải pháp sẵn sàng cho doanh nghiệp, có độ tin cậy cao và có thể kiểm chứng
  • Mô hình mới cung cấp trích dẫn nội tuyến để cải thiện độ chính xác của phản hồi và giảm hallucination
  • Tính năng này giúp doanh nghiệp mở rộng với AI để nhanh chóng tìm ra thông tin phù hợp nhất, hỗ trợ các chức năng kinh doanh trong nhiều lĩnh vực khác nhau

Tự động hóa các workflow kinh doanh phức tạp bằng cách sử dụng công cụ

  • Một trong những hứa hẹn lớn của mô hình ngôn ngữ lớn không chỉ là thu thập và tạo văn bản mà còn là khả năng hoạt động như một bộ máy suy luận cốt lõi
  • Có thể tự động hóa các tác vụ khó đòi hỏi trí tuệ để đưa ra quyết định và giải quyết vấn đề bằng cách sử dụng công cụ
  • Command R+ đi kèm khả năng sử dụng công cụ có thể truy cập qua API và LangChain, cho phép tự động hóa liền mạch các workflow kinh doanh phức tạp
  • Trong Command R+ mới, nay đã hỗ trợ Multi-Step Tool Use, cho phép mô hình kết hợp nhiều công cụ qua nhiều bước để thực hiện các tác vụ khó

Hỗ trợ đa ngôn ngữ cho vận hành kinh doanh toàn cầu

  • Command R+ được thiết kế để phục vụ càng nhiều người, tổ chức và thị trường càng tốt
  • Qua các cuộc trao đổi với doanh nghiệp, nhu cầu về khả năng đa ngôn ngữ để giúp tổ chức làm việc trơn tru hơn xuyên khu vực và văn hóa là rất lớn, và mô hình này đáp ứng nhu cầu đó
  • Command R+ được xây dựng để mang lại hiệu năng xuất sắc trên 10 ngôn ngữ chính của kinh doanh toàn cầu (tiếng Anh, tiếng Pháp, tiếng Tây Ban Nha, tiếng Ý, tiếng Đức, tiếng Bồ Đào Nha, tiếng Nhật, tiếng Hàn, tiếng Ả Rập, tiếng Trung)
  • Nhờ khả năng đa ngôn ngữ này, người dùng có thể tạo ra phản hồi chính xác từ các nguồn dữ liệu khổng lồ bất kể tiếng mẹ đẻ là gì

Giá cả và khả năng sẵn có

  • Cohere hợp tác với tất cả các nhà cung cấp cloud lớn, đồng thời hỗ trợ on-premise cho các ngành được quản lý chặt chẽ và các trường hợp sử dụng nhạy cảm về quyền riêng tư để mô hình có thể được sử dụng rộng rãi
  • Mô hình Command R+ mới nhất hiện đã có trong môi trường demo của Cohere, mang đến trải nghiệm trực tiếp để thử nghiệm mô hình thông qua giao diện chat đơn giản

Cam kết về quyền riêng tư dữ liệu và bảo mật

  • Thông qua dòng sản phẩm Command R, Cohere nỗ lực bảo vệ dữ liệu khách hàng, quyền riêng tư và an toàn để khách hàng có thể yên tâm sử dụng AI
  • Công ty luôn xây dựng sản phẩm với quyền riêng tư dữ liệu là trọng tâm và cung cấp thêm lớp bảo vệ cho khách hàng bằng bảo đảm bản quyền đối với các khiếu nại vi phạm
  • Không truy cập dữ liệu khách hàng trừ khi khách hàng mong muốn
  • Cung cấp tùy chọn triển khai private LLM và từ chối chia sẻ dữ liệu

Ý kiến của GN⁺

  • Command R+ là mô hình tối ưu cho RAG mới nhất được thiết kế cho doanh nghiệp, với trọng tâm là cung cấp độ chính xác và hiệu quả cao để giúp doanh nghiệp vượt qua giai đoạn chứng minh khái niệm và bước vào production. Điểm nổi bật là các tính năng được tối ưu cho công việc doanh nghiệp thực tế như RAG tận dụng dữ liệu độc quyền của doanh nghiệp và hỗ trợ 10 ngôn ngữ.
  • Mô hình này có vẻ sẽ có sức cạnh tranh trên thị trường mô hình ngôn ngữ lớn cho doanh nghiệp, nhưng do tốc độ cải thiện hiệu năng của các mô hình cạnh tranh như dòng GPT của OpenAI hay Claude của Anthropic rất nhanh nên dự kiến cạnh tranh sẽ rất khốc liệt. Đặc biệt, việc phát triển các yếu tố khác biệt riêng của Cohere và kiểm chứng hiệu năng trong các lĩnh vực chuyên môn sẽ là then chốt.
  • Khi đưa mô hình ngôn ngữ lớn vào doanh nghiệp, ngoài độ chính xác và hiệu quả còn cần xem xét tổng thể nhiều yếu tố khác như quyền riêng tư dữ liệu, bảo mật và độ thiên lệch của mô hình. Đặc biệt có thể phát sinh các vấn đề pháp lý liên quan đến quy định xử lý dữ liệu nên cần có sự chuẩn bị. Việc Cohere nhấn mạnh nỗ lực bảo vệ quyền riêng tư dữ liệu là tín hiệu tích cực, nhưng phía khách hàng cũng sẽ cần đặc biệt quan tâm đến cách sử dụng dữ liệu nội bộ và việc xây dựng hệ thống bảo mật cho mô hình.

1 bình luận

 
GN⁺ 2024-04-06
Ý kiến trên Hacker News
  • Một plugin mới đã bổ sung hỗ trợ cho mô hình này trong công cụ CLI LLM.

    • Công cụ CLI LLM do Simon Willison phát triển là một tiện ích dòng lệnh để truy cập các mô hình ngôn ngữ lớn.
    • Công cụ này hỗ trợ cả API từ xa lẫn các mô hình có thể chạy cục bộ, đồng thời có thể thực thi prompt trên dòng lệnh và xây dựng công cụ tìm kiếm hình ảnh.
    • Một trong những tính năng thú vị của các mô hình API của Cohere là có thể thực hiện tìm kiếm web và dùng kết quả đó để trả lời prompt.
    • Plugin này được thêm vào như một lệnh riêng, cho phép người dùng đặt câu hỏi về công cụ CLI LLM.
  • Sự khác biệt giữa các mô hình Command R và Command R+ là giá.

    • Mô hình Command R có giá $0.50 cho mỗi token đầu vào và $1.50 cho mỗi token đầu ra, còn mô hình Command R+ có giá $3.00 cho mỗi token đầu vào và $15.00 cho mỗi token đầu ra.
  • Mô hình Command-R được xây dựng cho doanh nghiệp, nhưng lại mang giấy phép CC-BY-NC.

    • Giấy phép này linh hoạt hơn giấy phép của DBRX, vốn cấm việc sử dụng để cải thiện các mô hình ngôn ngữ lớn khác.
  • Có ý kiến chỉ ra rằng lựa chọn font ở phần đầu trang web không tốt, khiến văn bản trông như có các vệt trắng.

  • Có bình luận thắc mắc liệu có thể dùng công cụ này để nạp các tài liệu như thỏa thuận người dùng App Store rồi đặt câu hỏi về chúng hay không.

  • Có ý kiến cho rằng cần một thuật ngữ để phân biệt giữa việc dùng LLM nội bộ trong công ty để lấy câu trả lời và việc dùng LLM hướng đến khách hàng.