Hành trình 6 tuần xây dựng AI agent production: 3 insight cốt lõi từ Tiger Data

Đội ngũ Tiger Data đã xây dựng trong 6 tuần AI agent Slack mang tên 'Eon', hiện được 50% nhân viên công ty sử dụng hằng ngày, đồng thời công khai toàn bộ quá trình dưới dạng mã nguồn mở. Trọng tâm không phải là bản demo mà là độ ổn định production thực tế; điểm cốt lõi là họ giải quyết các vấn đề ngoài đời thực như duy trì ngữ cảnh, API bị sập, yêu cầu đồng thời, thay vì chỉ tập trung vào việc gọi LLM.

1. Bộ nhớ hiểu thời gian (Time-Based Memory)

• Slack chỉ gửi từng tin nhắn đơn lẻ nên không có ngữ cảnh từ các cuộc trò chuyện trước đó. Vì vậy rất khó xử lý những câu hỏi như "Cái đó giờ sao rồi?".
• Giải pháp: lưu toàn bộ tin nhắn Slack theo thời gian thực vào TimescaleDB kèm timestamp. Truy vấn ngữ cảnh bằng SQL → nhanh, ổn định và không bị giới hạn API.

2. Tránh cái bẫy của MCP server đa dụng (Custom MCP Servers)

• MCP(Model Context Protocol): tiêu chuẩn để agent truy cập các công cụ bên ngoài như GitHub, Linear, v.v.
• Vấn đề: server chính thức có quá nhiều công cụ không cần thiết nên lãng phí token, và lời gọi API phức tạp hơn mức cần thiết (phải gọi nhiều lần).
• Giải pháp: tự xây dựng MCP server tối ưu hóa riêng (ví dụ: tiger-linear-mcp-server). Dùng một công cụ duy nhất để lấy toàn bộ thông tin trong một lần → tối ưu hiệu quả bằng context engineering.

3. Production được thiết kế với giả định sẽ có lỗi (Failure-Resilient Design)

• Bắt buộc phải đối phó với crash, API bị sập và lưu lượng tăng đột biến.
• Giải pháp: phát triển framework tiger-agents-for-work.
  • Ghi sự kiện vào PostgreSQL trước → tránh mất dữ liệu.
  • Tự động thử lại (tối đa 3 lần, cách nhau 10 phút).
  • Worker pool cố định → giới hạn đồng thời, xử lý hàng đợi.
  • Signaling bất đồng bộ → phản hồi ở mức mili giây.

Mã nguồn mở và hướng dẫn bắt đầu

• Toàn bộ mã được công khai dưới tên tiger-eon. Có thể triển khai Slack agent bằng script cài đặt chỉ trong 10 phút.
• Thiết kế module hóa: có thể dùng độc lập bộ nhớ Slack, MCP server và framework (ví dụ: tìm kiếm tài liệu bằng tiger-docs-mcp-server).
• Thông điệp cốt lõi: AI agent không cần hạ tầng đặc biệt; có thể xây dựng trên PostgreSQL với xử lý sự kiện bền bỉ + bộ nhớ có cấu trúc + công cụ tập trung.