Launch HN: Human Layer (YC F24) – API đưa con người vào vòng lặp cho các hệ thống AI

• Giới thiệu về HumanLayer

  • HumanLayer là một API cho phép các tác nhân AI tương tác với con người để nhận phản hồi, đầu vào, phê duyệt, v.v.
  • Hỗ trợ triển khai các hệ thống AI tự chủ an toàn và có thể bắt đầu dễ dàng thông qua SDK Python và TypeScript.
  • Cung cấp dùng thử miễn phí và chính sách giá minh bạch dựa trên mức sử dụng.

• Quản lý rủi ro của hệ thống AI

  • Hỗ trợ các trường hợp cần có sự can thiệp của con người để giảm rủi ro của hệ thống AI.
  • Bắt đầu từ quá trình phát triển tác nhân AI cho các nhóm dữ liệu, và khách hàng đã ngần ngại để tác nhân AI truy cập trực tiếp vào các hệ thống production.
  • Xây dựng luồng phê duyệt cơ bản để AI nhận được sự phê duyệt của con người trước khi thực hiện các tác vụ quan trọng.

• Các tính năng của HumanLayer

  • Khi tích hợp SDK HumanLayer, tác nhân AI có thể yêu cầu con người phê duyệt bất cứ lúc nào trong quá trình chạy.
  • Chuyển yêu cầu đến đúng người, quản lý trạng thái trong khi chờ phản hồi và cung cấp đầy đủ audit trail.
  • Ngoài "yêu cầu phê duyệt", còn hỗ trợ tính năng "con người như một công cụ" có thể được đưa vào LLM hoặc framework tác nhân.

• Các trường hợp sử dụng của HumanLayer

  • AI SDR soạn email bán hàng được cá nhân hóa và nhận phê duyệt của con người trên Slack trước khi gửi.
  • Bản tin AI duy trì hội thoại qua email với người đăng ký, trong đó HumanLayer định tuyến email đến cho tác nhân và cung cấp công cụ phản hồi.
  • Xây dựng tác nhân DevOps hướng đến khách hàng để nhận phê duyệt của con người khi rà soát PR, lập kế hoạch migration DB và thực thi.

• Chính sách giá và hỗ trợ

  • Cung cấp gói miễn phí và chính sách giá linh hoạt dựa trên tín dụng.
  • Với các nhóm xây dựng tác nhân hướng đến khách hàng, cung cấp white-labeling, tính năng bổ sung và hỗ trợ ưu tiên.

• Thông tin bổ sung

  • Để tích hợp HumanLayer vào hệ thống, có thể tham khảo tài liệu hoặc xem qua bằng cách đặt lịch demo.
  • Sản phẩm hiện đang ở giai đoạn đầu và hoan nghênh các ý tưởng cũng như kinh nghiệm về tác nhân, độ tin cậy và cân bằng khối lượng công việc giữa con người + AI.

[GN⁺]

Ý kiến trên Hacker News

• Có ý kiến cho rằng các chủ startup muốn tận dụng AI để tự xây dựng dịch vụ nội bộ theo kiểu DIY. Dù nghĩ rằng dùng SaaS sẽ tốt hơn, nhưng chi phí cao và không hề đơn giản. Khi có cạnh tranh, giá sẽ giảm xuống

• Có lo ngại về chi phí cao của các dịch vụ AI, và cho rằng cần cung cấp credit miễn phí hoặc điều chỉnh giá

• Có lo ngại về thiên kiến tự động hóa và sự lơ là do tự động hóa, với rủi ro con người có thể phê duyệt các quyết định của AI một cách thiếu phản biện

• Có đề xuất về ý tưởng sử dụng các đại diện là con người để thay thế cho những việc mà AI agent không thể làm

• Có ý kiến chỉ ra vấn đề của các framework trong việc xử lý các lời gọi công cụ bất đồng bộ hoặc chạy dài hạn. Có ý tưởng để giải quyết việc này, nhưng sẽ được đề cập trong một bài viết khác

• Có ý kiến cho rằng cần nỗ lực để duy trì vị thế ở lớp API

• Có ý kiến cho rằng ở giai đoạn đầu của AI, con người thực hiện phần logic, sau đó khi loại bỏ con người thì chất lượng suy giảm. Có một phép so sánh rằng việc công ty bên thứ ba đưa con người trở lại chỉ là giải pháp tạm thời để xử lý vấn đề này

• Có quan điểm rằng trong startup, sự can thiệp của con người là rất quan trọng, và để chuyển tiềm năng của LLM thành giá trị thực tế thì cần có sự kiểm soát và giám sát. Vì vậy đã xây dựng các workflow tùy chỉnh và quy trình thủ công

• Có ý kiến cho rằng nhiều hệ thống hiện nay đã có thể cung cấp các chức năng input/output cơ bản. Đáng để thử trước khi tự triển khai

• Một công ty thiết bị y tế đang cân nhắc AI làm workflow agent, và có kế hoạch sử dụng LLM để hỗ trợ quy trình đảm bảo chất lượng ISO13485. Họ muốn nghe ý kiến từ những người dùng HN khác