Đừng xây dựng sản phẩm AI theo cách mà mọi người khác đang làm

Cách tiếp cận sai lầm trong phát triển sản phẩm AI

• Phần lớn sản phẩm AI được triển khai theo dạng bọc quanh một mô hình khác, ví dụ như gọi API ChatGPT.
• Cách tiếp cận này dễ triển khai và có thể thực hiện các tính năng ấn tượng, nhưng có vấn đề là không tạo khác biệt, tốn kém và chậm.
• Khi giá trị cốt lõi riêng của sản phẩm AI là điều quan trọng, việc phụ thuộc vào công nghệ dễ bị sao chép đồng nghĩa với việc bạn đang ở trong một vị thế rủi ro.

Vấn đề chi phí cao và tốc độ chậm của LLM

• Các mô hình ngôn ngữ lớn (Large Language Models, LLM) mang lại tính đa dụng, nhưng do kích thước và độ phức tạp của chúng, chi phí vận hành rất cao.
• Ví dụ, GitHub Copilot có chi phí trung bình $20 cho mỗi người dùng nhưng chỉ thu $10, nên đang chịu lỗ.
• Do tốc độ chậm, LLM có thể gây ra vấn đề đáng kể trong các ứng dụng cần phản hồi theo thời gian thực.

Giới hạn của LLM và vấn đề tùy biến

• LLM có hỗ trợ fine-tuning, nhưng vẫn có giới hạn trong việc đưa ra lời giải cho các bài toán cụ thể.
• Khi phát triển Visual Copilot của Builder.io, họ đã cố dùng LLM để chuyển thiết kế Figma thành mã, nhưng kết quả là chậm, tốn kém và chất lượng đầu ra thấp.

Giải pháp: tạo chuỗi công cụ riêng

• Builder.io đã giải quyết vấn đề bằng cách xây dựng chuỗi công cụ riêng.
• Họ kết hợp LLM đã được fine-tune, trình biên dịch tùy chỉnh và các mô hình huấn luyện chuyên biệt.
• Cách làm này có thể tạo ra sản phẩm nhanh hơn, đáng tin cậy hơn, ít tốn kém hơn và khác biệt hơn.

Những hiểu lầm phổ biến về phát triển sản phẩm AI

• Nhiều người hiểu nhầm rằng trong sản phẩm AI, mọi công nghệ cốt lõi đều được xử lý bởi một siêu mô hình duy nhất.
• Lấy ví dụ xe tự hành: người ta thường nghĩ có một AI khổng lồ xử lý mọi đầu vào để đưa ra quyết định, nhưng thực tế là sự kết hợp của nhiều mô hình chuyên biệt và mã nguồn thông thường.

Cách bắt đầu xây dựng AI trong thực tế

• Nên tìm hiểu cách tiếp cận đã được dùng trong Visual Copilot cho các giải pháp AI.
• Hãy khám phá không gian bài toán bằng các thực hành lập trình thông thường, rồi xác định những khu vực cần mô hình chuyên biệt.
• Nếu với một bài toán cụ thể mà cách viết mã tiêu chuẩn không giải quyết tốt, hãy dùng các mô hình AI đã được kiểm chứng để tạo dữ liệu và huấn luyện mô hình riêng của bạn.

Ý kiến của GN⁺

• Điều quan trọng nhất là khi phát triển sản phẩm AI, hãy tránh làm theo cách mà mọi người khác đang làm, và thay vào đó xây dựng chuỗi công cụ riêng để mang lại giá trị khác biệt.
• Bài viết này thú vị và hấp dẫn ở chỗ nó chỉ ra cách sử dụng công nghệ AI một cách sáng tạo, cũng như cách các nhà phát triển có thể tận dụng AI để tạo ra những sản phẩm độc đáo.