5 cạm bẫy trong kỹ thuật AI agent

Nội dung cho rằng các thói quen của kỹ thuật phần mềm truyền thống (tính quyết định, kiểm soát chặt) lại cản trở quá trình phát triển AI agent (mang tính xác suất, đề cao tính linh hoạt).

• Theo Philipp Schmid của Hugging Face, càng là lập trình viên kỳ cựu thì càng có xu hướng cố “loại bỏ” sự bất định của LLM bằng code, nên lại chậm hơn cả người mới.
• Phép so sánh: cần chuyển vai trò từ kiểm soát viên điều hành (truyền thống) sang điều phối viên (agent).

1. Văn bản là trạng thái (State) mới
   • Cạm bẫy: nếu ép đầu vào ngôn ngữ tự nhiên thành dữ liệu có cấu trúc (ví dụ: true/false), sẽ làm mất ngữ cảnh.
   • Cách giải quyết: giữ phản hồi (ví dụ: “phê duyệt, tập trung vào thị trường Mỹ”) ở dạng văn bản để có thể điều chỉnh động.

2. Hãy trao quyền kiểm soát
   • Cạm bẫy: nếu hardcode luồng xử lý (ví dụ: tuyến hủy đăng ký), sẽ thất bại trước các tương tác phi tuyến tính.
   • Cách giải quyết: tin tưởng agent (LLM) tự xác định ý định dựa trên ngữ cảnh.

3. Lỗi chỉ là một dạng đầu vào
   • Cạm bẫy: dừng chương trình ngay khi phát sinh lỗi (cách làm truyền thống) sẽ lãng phí các lần chạy tốn kém.
   • Cách giải quyết: cung cấp lỗi như một dạng phản hồi để agent thử tự phục hồi.

4. Từ unit test sang Eval
   • Cạm bẫy: áp dụng kiểm thử nhị phân (TDD) cho hệ thống xác suất là vô nghĩa (có vô số câu trả lời hợp lệ).
   • Cách giải quyết: quản lý biến động bằng độ tin cậy (Pass@k), chất lượng (LLM Judge) và khả năng truy vết (Eval).

5. Agent thì tiến hóa, còn API thì không
   • Cạm bẫy: khi dùng API hướng đến con người (ngữ cảnh ngầm định), agent dễ bị hallucination.
   • Cách giải quyết: làm rõ bằng semantic typing chi tiết (ví dụ: “user_email_address”) và docstring. Agent có thể thích nghi với thay đổi của công cụ.

Kết luận

Hãy chấp nhận tính xác suất và quản lý nó bằng Eval/tự sửa lỗi. “Hãy tin tưởng nhưng phải kiểm chứng” – thay vì sự cứng nhắc, cốt lõi là xây dựng một hệ thống có độ đàn hồi. (Nguồn bài gốc: “Why (Senior) Engineers Struggle to Build AI Agents” của Philipp Schmid)