4 điểm bởi GN⁺ 2024-12-08 | 1 bình luận | Chia sẻ qua WhatsApp

Giới thiệu so sánh mô hình AI

  • So sánh mô hình AI: Đây là một dự án mã nguồn mở giúp dễ dàng so sánh nhiều mô hình AI khác nhau. Dự án được cung cấp miễn phí và cho phép so sánh độ dài đầu vào và đầu ra, giá cả của từng mô hình.

So sánh giá

  • Giá theo từng mô hình: Bao gồm các mô hình từ nhiều nhà cung cấp như OpenAI, Azure, Anthropic, Google, v.v.; giá theo độ dài đầu vào và đầu ra của mỗi mô hình được ghi rõ.

So sánh tính năng mô hình

  • Tính năng được hỗ trợ: Các tính năng mà mô hình hỗ trợ bao gồm Vision, Chat, Embedding, Image generation, Completion, Audio transcription, TTS, v.v.

Các mô hình chính và giá

  • OpenAI: Có nhiều mô hình như gpt-4, gpt-3.5-turbo, v.v., với độ dài đầu vào, đầu ra và mức giá đa dạng.
  • Azure: Có nhiều mô hình như gpt-4o, gpt-4-turbo, v.v., và một số mô hình hỗ trợ tính năng Vision.
  • Anthropic: Có các mô hình dòng Claude, hỗ trợ nhiều độ dài đầu vào và đầu ra khác nhau.
  • Google: Có nhiều mô hình như Gemini, Chat-bison, v.v., và một số mô hình hỗ trợ tính năng Vision.

Những điểm cần cân nhắc khi chọn mô hình

  • Giá: Cần cân nhắc mức giá theo độ dài đầu vào và đầu ra của mô hình.
  • Hỗ trợ tính năng: Cần chọn mô hình hỗ trợ các tính năng cần thiết.
  • Nhà cung cấp: Có thể lựa chọn giữa nhiều nhà cung cấp như OpenAI, Azure, Anthropic, Google, v.v.

1 bình luận

 
GN⁺ 2024-12-08
Ý kiến trên Hacker News
  • Tò mò không biết có lấy cảm hứng từ công cụ so sánh LLM hay không. Bảng rất giống nhau, nhưng việc thêm máy tính tùy chỉnh là một điểm hay

    • Có lẽ sẽ tốt hơn nếu thêm một ô chọn trong Versus Comparison để làm nổi bật các trường mạnh nhất của từng LLM
  • Thích ý tưởng so sánh mô hình. Tò mò không biết có kế hoạch bổ sung phân tích độc lập hay chỉ là một tập hợp các giới hạn đầu vào

    • Đang hỏi ý kiến về điểm khác biệt hoặc giá trị bổ sung so với các phân tích khác
    • Trang web dễ khám phá
  • Muốn biết giá trị “bang for buck”. Muốn biết mô hình rẻ nhất có thể tạo dữ liệu có cấu trúc từ văn bản phi cấu trúc một cách đáng tin cậy là gì

    • Đang dùng gpt4o-mini nhưng tò mò không biết có lựa chọn nào rẻ hơn không
  • Đang hỏi liệu có ứng dụng desktop nào tốt hơn client mặc định của ChatGPT hay không

    • Ưu tiên tương thích macOS/Linux
  • Thích UI và bố cục bảng. Tò mò không biết đã cân nhắc hiển thị yêu cầu VRAM của mô hình hay chưa

  • Gemini của Google tuyên bố có cửa sổ ngữ cảnh lớn hơn hơn 10 lần so với đa số đối thủ

    • Tò mò không biết có ai đã thử nghiệm xem điều đó có thực sự hữu ích không
    • Trong thử nghiệm của mình, nó có xu hướng mất mạch sau khoảng 10 lượt hội thoại
    • Tò mò không biết Gemini thực sự hoạt động khác biệt hay chỉ là phóng đại tiếp thị
  • Chỉ có hai mô hình phiên âm âm thanh. Tò mò không biết là không có mô hình phiên âm mã nguồn mở, hay chỉ vì bộ dữ liệu nhỏ

  • Đề xuất llmprices.dev. Được tự động cập nhật với thông tin mới nhất mỗi 24 giờ hằng ngày

  • Nhật ký, kết quả kiểm thử, metric được tạo trong quá trình build có thể là đầu ra của bản build

    • Đôi khi “triển khai” có nghĩa là cập nhật chuỗi phiên bản và tham chiếu hình ảnh trong một kho lưu trữ khác
    • Cần khóa SSH, nhưng thích tự xử lý thủ công hơn
  • Gửi lời khen ngợi lớn khi thấy dự án này được làm cho một hackathon