Mastra - Framework tác nhân AI TypeScript

• Framework mang tính định hướng, dựa trên TypeScript, để nhanh chóng xây dựng ứng dụng và tính năng AI
• Cung cấp các tính năng cốt lõi cần thiết cho phát triển AI như workflow, agent, RAG, integration, evals
• Có thể chạy trên môi trường cục bộ hoặc đám mây serverless

Tính năng chính

• LLM Models : Sử dụng Vercel AI SDK để hỗ trợ nhiều nhà cung cấp LLM như OpenAI, Anthropic, Google Gemini thông qua giao diện tích hợp. Có thể tự do quyết định lựa chọn mô hình và có streaming hay không
• Agents : Agents là hệ thống hỗ trợ mô hình ngôn ngữ tự quyết định thứ tự hành động. Cung cấp tool, workflow và dữ liệu đã đồng bộ để có thể gọi hàm hoặc tận dụng knowledge base khi cần
• Tools : Tools là các hàm TypeScript mà agent hoặc workflow có thể thực thi. Mỗi tool có schema tham số, hàm executor triển khai logic, cùng quyền truy cập vào các dịch vụ tích hợp
• Workflows : Workflows là máy trạng thái chạy dài hạn dựa trên đồ thị. Có thể thực hiện lặp, phân nhánh, chờ đầu vào từ con người, bao gồm workflow khác, xử lý lỗi, retry, parsing. OpenTelemetry tracing được áp dụng cho từng bước
• RAG(Retrieval-Augmented Generation) : RAG giúp xây dựng knowledge base cho agent. Cung cấp ngữ cảnh thông qua pipeline ETL với chia nhỏ chunk, embedding, vector search, v.v.
• Integrations : Trong Mastra, Integration là client API type-safe được tạo tự động, cho phép sử dụng dịch vụ bên thứ ba như tool hoặc bước trong workflow
• Evals : Tự động đánh giá kết quả LLM bằng phương pháp dựa trên mô hình, dựa trên luật và thống kê. Trả về điểm chuẩn hóa từ 0 đến 1 để dùng cho so sánh hiệu năng và ghi log

[GN⁺]

Ý kiến trên Hacker News

• Mã ví dụ không quá thú vị

  • Thoạt nhìn, nó trông như một cách khá gượng ép để biểu diễn đồ thị trong hình ảnh
  • Nó chỉ là một "workflow" đơn giản và không phụ thuộc vào kết quả thực thi

• Rất kỳ vọng vào Mastra

  • Chúng tôi dự định thực hiện nhiều công việc liên quan đến agent tại ElectricSQL, và Mastra mang lại cảm giác như một làn gió mới
  • Đội ngũ này rất xuất sắc — Sam là đồng sáng lập tại Gatsby, tôi cũng đã hợp tác chặt chẽ với Shane và Abhi, và tôi rất tin tưởng vào năng lực sản phẩm cũng như kỹ thuật của họ

• Trông rất hay! Một câu hỏi nhỏ: không biết có kế hoạch hỗ trợ máy chủ SSE MCP không

  • Tôi thấy đã hỗ trợ Stdio, và dù có thể chạy proxy, nhưng SSE sẽ rất tuyệt

• Là người dùng Mastra, tôi khá hài lòng

  • Nó đạt được sự cân bằng phù hợp giữa việc cung cấp abstraction cấp cao và vẫn cho phép kiểm soát cấp thấp khi cần
  • Tôi đã xem qua nhiều framework trước khi bắt đầu, và sự rõ ràng cùng tính dễ dùng của Mastra thực sự nổi bật

• Tôi không thực sự hiểu agent

  • Tôi không hiểu tại sao lại phải giả vờ như có nhiều nhân cách khác nhau, nhất là khi tất cả đều dùng cùng một model
  • Tôi tự hỏi liệu có trường hợp sử dụng nào mà một API call duy nhất tới LLM hiện đại cùng một prompt phù hợp lại không giải quyết được hay không
  • Có phải ý tưởng là xây dựng prompt rồi chia thành nhiều lần gọi để cung cấp chỉ dẫn sát hơn cho LLM không
  • Tôi không hỏi về function calling

• Xin chúc mừng! Một câu hỏi bên lề - không biết website có phải cũng là OS không

  • Tôi muốn "mượn" mã của Nav Bar
  • Tôi đã thấy hơn 300 branch trên GitHub nhưng không tìm được nó trong repository

• Việc nó được tạo ra bởi các nhà phát triển Gatsby là một điểm trừ chứ không phải điểm cộng

  • Tôi nghĩ đây sẽ là phần mềm tiếp theo bị bỏ rơi

• Có hàng trăm framework tương tự đang làm ít nhiều cùng một việc

  • Vì viết một framework để điều phối model và nhiều công cụ là việc khá dễ
  • Thực ra, trong đa số trường hợp, không cần framework
  • Mọi framework đều đang tập trung vào những thứ vụn vặt, và chỉ cần nhìn phần ví dụ là thấy
  • Đó chỉ chiếm 5% công việc
  • Lập trình viên vẫn phải tự lấp đầy 95% còn lại, bao gồm rất nhiều việc nằm ngoài phạm vi framework

• Chúc mừng ra mắt

  • Tôi nhận thấy rằng nếu chuyển prompt giữa các nhà cung cấp LLM khác nhau mà không chỉnh sửa, hiệu năng sẽ giảm
  • Tôi tò mò các lập trình viên xử lý kiểu "dịch" này như thế nào, và nghĩ rằng có thể sẽ có dữ liệu về best practice trong framework đánh giá

• Tôi đã dùng framework của Mastra và học được mọi thứ về cách agent hoạt động thông qua tài liệu

  • Các nhà sáng lập cũng rất năng nổ và thích giúp đỡ