Agents.json - đặc tả OpenAI dành cho LLM

 (github.com/wild-card-ai)
5 điểm bởi GN⁺ 2025-03-06 | 1 bình luận | Chia sẻ qua WhatsApp
  • Một đặc tả mở dựa trên tiêu chuẩn OpenAPI để định nghĩa hợp đồng rõ ràng giữa LLM và API
    • Cấu trúc các lệnh gọi API thành các công cụ theo mục tiêu để LLM có thể dễ dàng sử dụng
  • Chỉ với tài liệu OpenAPI hiện có, LLM thường gặp khó khăn trong việc chọn và gọi API phù hợp
    • agents.json hỗ trợ để quá trình gọi API vẫn mang tính xác định, trong khi kết quả mà LLM muốn đạt được có thể được thực hiện theo cách phi xác định

Vì sao cần thiết?

  • Để sử dụng LLM, trong nhiều trường hợp phải tự triển khai cách tích hợp với API
  • Nhiều nhà phát triển từ bỏ hành vi phi xác định của agent và cố gắng đạt kết quả mong muốn bằng quy trình được hard-code
  • Với agents.json, LLM có thể hoạt động phi xác định trong quá trình đạt được kết quả mong muốn, trong khi bản thân việc gọi API vẫn được thực thi một cách xác định
  • Các API hiện có được thiết kế theo hướng phục vụ nhà phát triển nên LLM khó sử dụng trực tiếp
  • Ví dụ với Gmail API:
    • Cần thực hiện quá trình tìm kiếm email, lấy danh sách email trong thread và trả lời một email cụ thể
    • Khi LLM tham chiếu trực tiếp tài liệu OpenAPI, nhiều trường hợp đã không chọn được lệnh gọi API phù hợp
    • Với agents.json, có thể định nghĩa sẵn các lệnh gọi API để thực thi theo đúng thứ tự

Các thành phần của agents.json

  • Tệp agents.json
    • Đóng vai trò định nghĩa các công cụ hướng đến kết quả bằng cách liên kết các lệnh gọi API với nhau
    • Được sử dụng cùng với tệp OpenAPI hiện có
  • SDK agents.json
    • Giúp LLM tải công cụ dựa trên agents.json và thực thi một chuỗi lệnh gọi API

Khác biệt với OpenAPI hiện có

  • Nếu chỉ dùng OpenAPI, LLM thường không thể chọn đúng lệnh gọi API
  • Với agents.json, có thể tạo khuôn mẫu cho quá trình gọi API để cung cấp luồng gọi API tối ưu nhằm đạt được kết quả mong muốn

Lý do được công bố dưới dạng mã nguồn mở

  • Ban đầu đây là tệp cấu hình được dùng nội bộ, nhưng khi chức năng dần mở rộng thì đã quyết định công bố mã nguồn mở
  • Dharmesh, CTO của HubSpot, đã đề xuất khái niệm đặc tả dịch API cho LLM, và điều này đã truyền cảm hứng cho việc công khai
  • Hiện đã có 10 tích hợp API được kiểm chứng và mỗi ngày đều có API mới được bổ sung
  • Cung cấp miễn phí nền tảng tìm kiếm công cụ và bộ sưu tập tùy chỉnh để nhà phát triển dễ dàng mở rộng (https://wild-card.ai)

Bài viết liên quan

1 bình luận

 
GN⁺ 2025-03-06
Ý kiến trên Hacker News

  • Đang chú ý đến agents.json và hy vọng giao thức này sẽ thành công

    • Cho rằng MCP và agents.json có thể cùng tồn tại
    • MCP bao quát nhiều thứ hơn, nên có thể sẽ khó tạo ra một giao thức được tinh gọn

  • Để agents.json được chấp nhận ở giai đoạn đầu, tài liệu cần dễ hiểu hơn

    • Cần có ví dụ để xem ngay lập tức, và schema nên được đặt ở gần đó
    • Phần giới thiệu nên ngắn gọn, và các trường trong schema cũng cần rõ ràng
    • Có thể cần một công cụ cho phép dán OpenAPI schema vào để LLM tạo bản nháp agents.json

  • Khả năng tương thích giữa OpenAPI và agents.json là tốt nhưng có thể hơi quá mức

    • OpenAPI phổ biến, nhưng chưa hoàn toàn thống trị thị trường
    • Nếu điều này làm tăng thêm độ phức tạp cho agents.json, thì đáng để hỗ trợ đến mức nào là điều cần cân nhắc
    • Dù không tương thích 100%, vẫn có thể hỗ trợ một phần thông qua các bộ chuyển đổi tùy chỉnh

  • Nhiều người đang dùng agentic IDE, và sẽ rất tốt nếu agents.json chia sẻ các snippet giải thích cách dùng, cách tìm tài liệu và cách tìm kiếm registry

  • Câu hỏi về sự khác biệt giữa agents.json và đặc tả OpenAPI Arazzo

    • Có thắc mắc liệu nó có phù hợp hơn cho việc sử dụng với LLM hay không
    • Nhìn vào ví dụ thì thấy có những khái niệm tương tự

  • Có ý kiến cho rằng rất khó để xem các tệp agents.json thực tế

    • Tìm trong registry suốt 10 phút mà vẫn không thấy ví dụ nào

  • Câu hỏi về giấy phép của gói Python

    • Thắc mắc liệu có phải AGPL hay không

  • Đây là ý tưởng hay, nhưng vấn đề giấy phép có thể khiến việc áp dụng trở nên khó khăn

    • Mong nhóm giải thích cách các team có thể đưa gói AGPL vào sản phẩm của họ

  • Có thể làm đơn giản hơn nữa, và đó là điều tốt

    • Có thể đã phát hiện một lỗi ở tiêu đề thuộc tính thông tin trong đặc tả

  • So sánh giữa agents.json và llms.txt

    • llms.txt cũng đang nổi lên như một tiêu chuẩn giúp LLM hiểu API
    • Có vẻ agents.json làm tốt hơn trong việc cung cấp hiểu biết có cấu trúc về các endpoint khác nhau

  • Câu hỏi về lý do agents không thể sử dụng API được tài liệu hóa bằng đặc tả OpenAPI

    • Trong các thử nghiệm cá nhân thì nó hoạt động tốt, nhưng có lẽ vẫn còn điểm gì đó bị bỏ sót

  • Hy vọng agents.json và tệp LLM.txt sẽ trở thành các tiêu chuẩn đơn giản như robot.txt

    • CrewAI, Letta/MemGPT, OpenHands/OpenDevin đều có liên quan, nhưng chưa có gì thực sự vượt qua ranh giới
    • MCP là cách tiếp cận linh hoạt nhất, và hy vọng nó có thể kết hợp tốt với agents.json
    • Đội ngũ Netlify đang nghĩ ra điều gì đó thú vị về Agent Experience (AX), và team Anthropic cùng wildcard nên chú ý

  • Câu hỏi về những điểm giống/khác với MCP

    • Trông khá ấn tượng