Càng nhiều công cụ, AI càng trở nên kém thông minh: Chiến lược Context Engineering của đội Dropbox Dash

Đội Dash, trợ lý AI của Dropbox, đã phát hiện hiện tượng 'tê liệt vì phân tích' (analysis paralysis): khi bổ sung thêm công cụ cho tác tử AI (tìm kiếm, chỉnh sửa tài liệu, v.v.), việc ra quyết định trở nên chậm hơn và độ chính xác giảm xuống. Vấn đề này xảy ra do phần mô tả công cụ tiêu tốn quá nhiều cửa sổ ngữ cảnh, và khi AI tiến hóa từ RAG sang AI có thể hành động, nó càng trở nên nghiêm trọng hơn.

3 chiến lược giải quyết

1. Hợp nhất công cụ: Gộp nhiều API (Confluence, Google Docs, v.v.) thành một công cụ tìm kiếm phổ quát để giảm gánh nặng lựa chọn cho AI. Trên máy chủ MCP cũng tăng khả năng tương thích thông qua một giao diện duy nhất.

2. Lọc ngữ cảnh: Tận dụng knowledge graph để lập chỉ mục tích hợp dữ liệu từ nhiều nguồn và xếp hạng theo mức độ liên quan với người dùng/truy vấn. Chỉ truyền cho AI những thông tin hữu ích để nâng cao hiệu quả suy luận.

3. Tách tác tử chuyên biệt: Với các công cụ phức tạp (ví dụ: xây dựng truy vấn tìm kiếm), ủy quyền từ AI chính sang một tác tử độc lập. AI chính tập trung vào lập kế hoạch, còn tác tử chuyên biệt đảm nhiệm xử lý chi tiết.

Kết luận, không phải 'nhiều ngữ cảnh hơn' mà là 'ngữ cảnh tốt hơn' mới giúp AI thông minh hơn, và họ cũng đang mở rộng cách tiếp cận này sang hồ sơ người dùng hoặc vùng bộ nhớ. Tương lai của AI phụ thuộc vào khả năng tập trung của nó.