AI agent - Cơ hội, thách thức và tác động đến đời sống hằng ngày

• "AI agent" đã nhanh chóng phát triển từ các thử nghiệm công nghệ thành xu hướng chủ đạo trong 18 tháng gần đây, và những người dùng đầu tiên đã ghi nhận các kết quả ấn tượng như giảm chi phí, tiết kiệm thời gian và nâng cao năng suất
• Đổi mới này mang lại một sự thay đổi căn bản trong việc tự động hóa các tác vụ phức tạp, nhưng vẫn còn tồn tại những giới hạn, thách thức và các câu hỏi chưa được giải đáp

AI agent là gì?

• AI agent là các hệ thống phần mềm sử dụng công cụ, bộ nhớ và các hệ thống AI khác để lập kế hoạch, điều phối và thực thi các tác vụ phức tạp
• Chúng hoạt động theo cách giống con người: đặt ra mục tiêu rồi chia nhỏ mục tiêu đó thành các bước nhỏ để thực hiện
• Nhờ sự phát triển của mô hình ngôn ngữ lớn (LLMs) và AI tạo sinh (gen AI), chúng có thể tận dụng trí tuệ, công cụ và bộ nhớ để đạt mục tiêu thông qua quá trình lập kế hoạch, thực thi, đánh giá và lặp lại

Hệ thống AI agent đơn giản

• Câu hỏi của một người bạn: "Có thể tạo ra một ứng dụng cung cấp vé máy bay rẻ nhất đến các điểm đến có thời tiết lý tưởng không?"
  • Điều này cũng có thể làm bằng mã truyền thống, nhưng AI agent mang đến một cách tiếp cận thú vị hơn với ngôn ngữ tự nhiên
• Ví dụ gợi ý du lịch bằng ngôn ngữ tự nhiên:
  1. Thu thập sở thích của người dùng: Nhập bằng ngôn ngữ tự nhiên sở thích thời tiết và thông tin điểm khởi hành của người dùng. LLM sẽ diễn giải nội dung đầu vào, xác định các công cụ cần thiết và quyết định cách thực hiện tác vụ
  2. Tìm điểm đến: Sử dụng công cụ "find_destinations" để tìm các điểm đến phù hợp với sở thích dựa trên dữ liệu thời tiết của 200 thành phố trong 12 tháng qua
  3. Tìm chuyến bay: Tìm dữ liệu chuyến bay và thông tin giá cho các điểm đến
  4. Tạo gợi ý: Tổng hợp dữ liệu từ bước 2 và 3 để tạo ra kết quả gợi ý cuối cùng bằng ngôn ngữ tự nhiên

Hệ thống AI agent nâng cao

• Nhờ LLM ngày càng mạnh hơn, AI agent có thể xử lý các công việc phức tạp hơn
• Các trường hợp sử dụng chính:
  • Phát triển phần mềm: AI agent xây dựng và bảo trì phần mềm. Ví dụ: Devin, Cursor, Replit, GitHub Copilot (hiện có 1,8 triệu người đăng ký)
  • Dịch vụ khách hàng: AI agent xử lý yêu cầu của khách hàng. Klarna AI thay thế công việc của 700 nhân viên và tiết kiệm $40m chi phí trong năm 2024
  • Bán hàng và marketing: AI agent tự động hóa việc tìm kiếm khách hàng tiềm năng và marketing. Marketing dùng AI tạo sinh của KFC và Taco Bell đã giúp mức độ tương tác của người tiêu dùng tăng hai chữ số

Những lĩnh vực cơ hội

• Nhiều startup đang phát triển các sản phẩm đổi mới dựa trên AI agent
• Ví dụ ứng dụng:
  • Y tế: OpenClinic – hệ thống hỗ trợ bác sĩ
  • Huấn luyện robot: innate – nền tảng đào tạo robot
  • Trợ lý cá nhân: Khoj – đóng vai trò như bộ não thứ hai của người dùng
  • Thiết kế nội thất: Rastro – đóng vai trò là nhà thiết kế nội thất cá nhân hóa
  • Trường hợp thành công: HappyRobot
    • Tự động hóa các cuộc gọi điện thoại và giao tiếp tại các công ty logistics
    • Có hơn 50 khách hàng và đã thu được lợi ích rõ rệt. Thời lượng cuộc gọi trung bình giảm 50%, chi phí vận hành giảm còn 1/3
• Ví dụ về tooling
  • Xây dựng agent không cần code: Gumloop – xây dựng AI agent mà không cần viết mã
  • Hệ thống thanh toán qua điện thoại: Protegee – hỗ trợ thanh toán điện thoại an toàn thông qua agent
  • Kiểm thử bảo mật: sử dụng AI agent "red team" để tự động stress test tính bảo mật và độ căn chỉnh của hệ thống

Các giới hạn hiện tại

• Dù kỳ vọng đối với AI agent đang rất cao, điều quan trọng là phải nhận thức được các giới hạn hiện nay và đặt ra kỳ vọng thực tế
• Một số vấn đề có thể được giải quyết trong tương lai gần, nhưng cũng có khả năng sẽ còn tồn tại lâu dài
• Giới hạn kỹ thuật: vấn đề về độ tin cậy của LLM, khó khăn trong lập kế hoạch mục tiêu dài hạn, khả năng tích lũy lỗi
  • Mô hình ngôn ngữ lớn (LLMs), bộ não của AI agent, đang gặp vấn đề về độ tin cậy
  • Hiện tượng "hallucination": tạo ra thông tin không đúng sự thật
  • Thiếu năng lực lập kế hoạch và suy luận cho các mục tiêu dài hạn
  • Khi kết nối nhiều tác vụ, có nguy cơ lỗi bị tích lũy
    • Ví dụ: một quy trình 10 bước với độ chính xác 90% ở từng bước cuối cùng chỉ đạt độ tin cậy 35% (90%^10)
• Thách thức vận hành: vấn đề tích hợp dữ liệu và bảo mật, khó khăn trong quản lý thông tin nhạy cảm
  • Tương tác với phần mềm khác, quản lý thông tin nhạy cảm, và các quyết định tự chủ (ví dụ: thực hiện thanh toán) đều đòi hỏi mức độ tích hợp và bảo mật cao
  • Các vấn đề về quyền riêng tư dữ liệu và bảo mật
  • Cấu trúc kết nối và các biện pháp an toàn để hỗ trợ những hệ thống này vẫn còn chưa đầy đủ
• Niềm tin xã hội: sự thiếu tin tưởng và tác động như suy giảm việc làm có thể làm chậm quá trình phổ cập ở quy mô lớn
  • Dự kiến sẽ cần thời gian để xã hội nói chung tin tưởng và chấp nhận AI agent trên diện rộng
  • Ngoài các vấn đề về độ tin cậy và an toàn, còn có lo ngại về việc làm bị cắt giảm và sự xáo trộn trong cách thức làm việc do AI gây ra
  • Ngay cả khi có thể tự động hóa hoàn toàn ở một số lĩnh vực, điều đó chưa chắc đã là điều mong muốn

Những câu hỏi mở

• AI agent có tiềm năng chuyển đổi nền kinh tế, nhưng khi các hệ thống này trở nên thông minh hơn và được sử dụng rộng rãi hơn, chúng ta sẽ phải đối mặt với nhiều câu hỏi chưa được giải đáp
• Câu hỏi kỹ thuật
  • Tương lai sẽ xoay quanh các AI agent chuyên biệt theo từng lĩnh vực, hay sẽ có thể xuất hiện các hệ thống agent đa năng hiệu năng cao?
  • Chúng ta sẽ tiếp tục dùng LLM mang tính xác suất, hay cần những hệ thống lập kế hoạch mang tính quyết định hơn?
  • Nên dùng tiêu chí nào để đánh giá hiệu năng? Mức ngang bằng con người hay cao hơn?
• Tác động đến con người và lao động
  • Cần bao nhiêu mức độ can thiệp của con người, và ở đâu thì điều đó không còn quan trọng?
  • AI agent sẽ tác động thế nào đến việc làm và thị trường lao động toàn cầu?
• Mô hình kinh doanh và vấn đề thương mại
  • Nên định giá sản phẩm AI agent như thế nào? Theo đơn vị công việc, thời gian hay giá trị được tạo ra thì phù hợp hơn?
  • Những công việc sáng tạo nào trước đây là bất khả thi nhưng có thể trở nên khả thi nhờ AI agent?
    • Ví dụ: dùng hệ thống agent để tổng hợp hàng nghìn đánh giá sản phẩm, qua đó cho phép thực hiện những việc mà con người không thể làm được
• Quy định và quản trị rủi ro
  • Nên quản lý các hệ thống agent như thế nào? Làm sao giải quyết các vấn đề về quyền riêng tư và bảo mật?
  • Nếu hệ thống agent gặp lỗi và gây thiệt hại thì ai sẽ chịu trách nhiệm?
• Ngoài ra vẫn còn rất nhiều câu hỏi cần được khám phá
• Lúc này, điều quan trọng là trực tiếp trải nghiệm công nghệ
  • Nên hình dung cụ thể về tương lai đồng thời phân biệt giữa cường điệu và thực tế, cũng như khám phá những cách AI agent có thể cải thiện công việc và thời gian rảnh

[kipsong133]

Dạo này đúng là có rất nhiều câu chuyện xoay quanh AI Agent.