Đuôi dài của AI

xguru · 2024-11-18T10:21:01+09:00

Kể từ khi ChatGPT ra mắt vào tháng 11 năm 2022, các startup AI đã nhận được sự quan tâm tập trung từ giới đầu tư; đến quý 2 năm 2024, 49% tổng vốn đầu tư mạo hiểm đã được rót vào các startup AI và machine learning. Dù các nhà cung cấp mô hình như OpenAI và các công ty AI-native như Perplexity hay Jasper đang thu hút nhiều chú ý, trên thực tế số lượng các công ty “phi AI” chịu ảnh hưởng bởi AI còn nhiều hơn. Chúng tôi gọi tác động của AI lên các công ty phi AI này là “đuôi dài của AI”, và đuôi dài này có thể được chia thành bốn nhóm theo cách các công ty tích hợp AI: Xây dựng mô hình độc lập Tận dụng các mô hình sẵn có như GPT-4 của OpenAI Xây dựng trên nền các mô hình mã nguồn mở như Llama của Meta Sử dụng các công cụ AI được phát triển sẵn như ChatGPT Việc xây dựng các mô hình độc lập, sở hữu riêng là cách sử dụng AI tốn nhiều tài nguyên nhất, thường phù hợp với những công ty có nguồn dữ liệu độc đáo ở quy mô lớn, cùng đủ nguồn lực nhân sự và tài chính để huấn luyện mô hình mới. Các mô hình mã nguồn đóng như GPT của OpenAI hay Claude của Anthropic được huấn luyện với từ hàng tỷ đến hàng nghìn tỷ tham số, có thể tạo ra kết quả chính xác và chi tiết trong nhiều lĩnh vực từ lập trình đến dịch vụ khách hàng, đồng thời dễ dàng truy cập qua API. Các mô hình mã nguồn mở như Mistral hay Llama của Meta là những công cụ mạnh mẽ; Llama 3.1 được huấn luyện với 405 tỷ tham số. Khác với mô hình mã nguồn đóng, mô hình mã nguồn mở mang lại tính minh bạch và linh hoạt, cho phép tinh chỉnh trọng số mô hình để phù hợp với nhu cầu cụ thể của khách hàng. Các công cụ AI bên thứ ba như ChatGPT là lựa chọn dễ tích hợp nhất; khách hàng có thể sử dụng công cụ hoàn thiện mà không cần tự xây dựng hay tinh chỉnh mô hình nội bộ. Chiến lược AI khác nhau ở mỗi công ty, nhưng những công ty thành công đang dùng AI để bổ trợ cho hoạt động kinh doanh hiện có, học theo các trường hợp thành công trong cùng ngành và duy trì sự linh hoạt khi công nghệ AI tiếp tục phát triển. Quy luật lũy thừa của hype trong AI Phân phối chuẩn vs. quy luật lũy thừa: Phân phối chuẩn là kiểu phân phối thường thấy trong đời sống, như IQ, điểm thi hay huyết áp, nơi dữ liệu tập trung quanh giá trị trung bình. Ngược lại, nhiều hiện tượng trong thế giới lại được định hình bởi quy luật lũy thừa, nơi một số ít trường hợp cực đoan quyết định phần lớn kết quả. Ví dụ, hơn một nửa mức tăng của chỉ số S&P 500 trong năm 2023 đến từ chỉ 7 cổ phiếu, tương đương chỉ 1,4% tổng số. Trong venture capital cũng vậy, chỉ một vài khoản đầu tư thành công tạo ra phần lớn lợi nhuận của quỹ. Ví dụ: nhà sáng lập Union Square Ventures, Fred Wilson, từng nói rằng “một khoản đầu tư có thể tạo ra lợi nhuận cho cả quỹ.” Quy luật lũy thừa trong lĩnh vực AI: Tương tự như việc vốn tập trung vào các công ty internet trong thời kỳ Dot Com bubble, năm 2024 lĩnh vực AI cũng đang cho thấy một làn sóng hype tương tự. Trong cohort mùa hè 2024 của YCombinator, 75% đang phát triển sản phẩm liên quan đến AI. Trong các khoản đầu tư venture capital quý 2 năm 2024, 49% tập trung vào startup AI và machine learning (so với 29% ở quý 2 năm 2022). Vào đầu năm 2020, mức định giá trung vị của các công ty AI, SaaS và fintech lần lượt là $25M, $27M và $28M, nhưng đến năm 2024 đã tăng lên $70M, $46M và $50M. Dù đang thua lỗ, OpenAI vẫn huy động được nguồn vốn mới với mức định giá $157B vào tháng 10 năm 2024 (định giá gấp 39 lần doanh thu). Giới hạn của startup AI-native: Với sự xuất hiện của generative AI và LLM, AI đang trở thành sản phẩm cốt lõi của doanh nghiệp. Tuy nhiên, trong lúc các công ty AI-native gần như độc chiếm sự quan tâm của nhà đầu tư, các công ty phi AI cũng đang chịu tác động từ sự phát triển của công nghệ AI. Phần lớn doanh nghiệp về bản chất không phải là công ty AI, nhưng những tiến bộ của AI sẽ ảnh hưởng lớn đến mô hình kinh doanh của họ. Từ đuôi dài của internet đến đuôi dài của AI: Sau Dot Com bubble, nhiều công ty không phải công ty internet đã thích nghi theo xu hướng internet và đạt thành công lớn. Ví dụ, Walmart được thành lập năm 1962, nhưng doanh thu thương mại điện tử năm 2023 đã đạt $73B, tăng 5 lần so với năm 2017. Ngày nay, “đuôi dài của AI” đang nổi lên, bao gồm các công ty phi AI trong nhiều ngành như fintech, SaaS, healthcare, thương mại điện tử và logistics. Ảnh hưởng rộng khắp của AI: Từ việc dùng các công cụ AI dựng sẵn đến tích hợp AI vào workflow nội bộ, các công ty trong nhiều ngành đang tận dụng hoặc cố gắng tận dụng AI. Cũng như internet từng tác động đến các công ty không phải internet, AI sẽ tạo ra ảnh hưởng rộng lớn không chỉ giới hạn ở các công ty xây dựng mô hình AI. Định nghĩa đuôi dài của AI Các công ty AI chiếm phần lớn sự quan tâm và đầu tư vào AI, và có thể chia thành hai nhóm: Công ty mô hình: Các công ty như OpenAI, Anthropic, Mistral phát triển và cung cấp LLM (mô hình ngôn ngữ lớn) độc quyền hoặc mã nguồn mở cho người dùng. Công ty AI-native: Các công ty như Perplexity, Jasper cung cấp sản phẩm và dịch vụ dựa trên các mô hình AI. Ở nhóm đầu tiên, bản thân mô hình chính là sản phẩm. Ở nhóm thứ hai, mô hình AI là cốt lõi của chức năng, và nếu không có mô hình thì bản thân công ty cũng không thể tồn tại. Ví dụ, CEO của Baseten là Tuhin Srivastava giải thích rằng “nếu không có mô hình thì sẽ không tồn tại công ty AI-native.” Tuy nhiên, phần lớn công ty như Bloomberg, Walmart hay Canva không thuộc hai nhóm này. Họ thuộc về một phạm vi rộng hơn được gọi là “đuôi dài của AI.” Những câu hỏi chính của đuôi dài Sự phát triển của công nghệ AI sẽ tác động thế nào đến các mô hình kinh doanh đã tồn tại từ trước khi ChatGPT ra mắt? Nhân viên ở nhiều ngành khác nhau, từ chuyên viên phân tích tại công ty tư vấn đến kỹ sư phần mềm tại công ty công nghệ, đang sử dụng AI như thế nào và sẽ sử dụng ra sao trong tương lai? Các công ty đang định vị mình thế nào trong thị trường AI? Họ đang tự xây dựng mô hình hay sử dụng các công cụ do bên ngoài phát triển? Các ví dụ về việc doanh nghiệp sử dụng AI Ví dụ: Ramp (nền tảng quản lý chi tiêu) và Atlassian (công ty SaaS của Australia) đã bổ sung generative AI lên trên dữ liệu và workflow hiện có. Klarna (công ty fintech của Thụy Điển) đã đầu tư vào AI để cải thiện hiệu quả vận hành nội bộ, và chatbot AI của họ đạt kết quả đủ để thay thế 700 nhân viên chăm sóc khách hàng toàn thời gian. PwC đã ký thỏa thuận vào tháng 5 năm 2024 để cung cấp tính năng ChatGPT Enterprise cho 100.000 nhân viên. Ngoài ra, trong khảo sát năm 2024 của Phòng Thương mại Mỹ, 98% doanh nghiệp nhỏ và vừa cho biết đang sử dụng công cụ AI. So sánh giữa quá khứ và hiện tại Tương tự như sau làn sóng bùng nổ internet, khi các công ty không phải internet đạt thành công lớn nhờ áp dụng thương mại điện tử, “đuôi dài của AI” cũng sẽ cho thấy các công ty phi AI ở nhiều ngành khác nhau chịu tác động từ AI. Cũng như internet đã ảnh hưởng rộng khắp đến các công ty không phải internet, AI sẽ không chỉ giới hạn ở các công ty xây dựng mô hình AI mà còn tác động đến nền kinh tế rộng lớn hơn. Bốn lớp của đuôi dài AI Tự xây dựng mô hình AI nội bộ độc lập: Các công ty xây dựng mô hình AI riêng bằng cách tận dụng bộ dữ liệu độc quyền. Tận dụng mô hình mã nguồn đóng: Các công ty sử dụng mô hình mã nguồn đóng của OpenAI, Anthropic và các bên khác. Tận dụng mô hình mã nguồn mở: Các công ty sử dụng mô hình của Llama, Mistral, Hugging Face. Tích hợp công cụ AI dựng sẵn: Các công ty tích hợp các công cụ AI đã được phát triển vào workflow. Bốn lớp này không cố định, và các công ty sử dụng AI theo nhiều cách khác nhau có thể được phân loại trải rộng trên nhiều lớp. Cách doanh nghiệp tận dụng AI cũng đang tiếp tục thay đổi theo tốc độ phát triển nhanh của công nghệ AI. Lớp 1: Xây dựng mô hình riêng Chiến lược tiêu tốn tài nguyên nhất: Trong đuôi dài của AI, chiến lược tốn kém nhất là tự xây dựng một mô hình độc lập từ đầu. Những công ty phù hợp với chiến lược này là các công ty (1) có nguồn vốn dồi dào và (2) sở hữu bộ dữ liệu độc quyền có giá trị. Ví dụ: theo Sam Altman, chi phí huấn luyện GPT-4 lên tới $100M. Mô hình riêng có chi phí cao, nhưng với các công ty sở hữu bộ dữ liệu độc quyền, nó mang lại (A) kết quả chi tiết hơn và phù hợp hơn với doanh nghiệp, (B) toàn quyền kiểm soát đối với mô hình và trọng số, và (C) khả năng tiết kiệm chi phí so với mô hình nguồn đóng. Bloomberg Bloomberg là công ty dữ liệu tài chính và truyền thông có trụ sở tại New York, tạo ra doanh thu hơn $12B mỗi năm. Sản phẩm chủ lực của công ty là Bloomberg Terminal, chiếm khoảng 2/3 tổng doanh thu. Tại Bloomberg, trong số hơn 8.000 kỹ sư, có hơn 350 người thuộc đội ngũ kỹ thuật AI, và công ty công bố nhiều bài nghiên cứu AI mỗi năm. Vào tháng 3 năm 2023, Bloomberg công bố BloombergGPT, một LLM chuyên biệt cho tài chính. Mô hình này gồm tổng cộng 50B tham số, được huấn luyện bằng cách kết hợp 345B dữ liệu công khai và bộ dữ liệu 363B tài liệu tài chính được thu thập trong 40 năm. Chi phí huấn luyện được ước tính từ $2.7M đến hơn $10M. Vào tháng 1 năm 2024, Bloomberg đưa tính năng tóm tắt do AI tạo ra vào Terminal, được cho là dựa trên mô hình riêng và được huấn luyện với sự hỗ trợ của các nhà phân tích nội bộ. Replit Replit là môi trường phát triển tích hợp (IDE) trên nền web, cung cấp khả năng cộng tác, tự động hoàn thành mã và gỡ lỗi. Các tính năng AI của Replit được cung cấp bằng cách kết hợp mô hình tự phát triển, tinh chỉnh các mô hình nguồn mở, và các mô hình nguồn đóng của OpenAI và Anthropic. Vào tháng 4 và tháng 10 năm 2023, Replit đã ra mắt mô hình hoàn thành mã riêng và công khai chúng trên Hugging Face. Vào tháng 4 năm 2024, công ty tinh chỉnh mô hình nguồn mở để ra mắt tính năng gỡ lỗi tự động. Vào tháng 9 năm 2024, công ty ra mắt lập trình viên cặp đôi tự động dựa trên mô hình 7B tham số của riêng mình, nhưng một số người dùng bày tỏ không hài lòng với các tính năng ban đầu. Canva Canva là nền tảng thiết kế web có trụ sở tại Úc, được định giá $49B vào tháng 10 năm 2024. Vào tháng 10 năm 2023, Canva ra mắt studio thiết kế AI tạo sinh mang tên Magic Studio. Studio này xây dựng các “mô hình độc quyền” bằng cách sử dụng nội dung do người dùng tạo làm dữ liệu huấn luyện. Dữ liệu người dùng sẽ không được sử dụng nếu không có sự cho phép, và những người dùng tham gia sẽ được trả thù lao. Vào tháng 7 năm 2024, Canva mua lại nền tảng tạo ảnh Leonardo.Ai và có kế hoạch tích hợp nó vào Magic Studio. Walmart Walmart đã xây dựng các công cụ AI hướng tới khách hàng từ năm 2018, và đến tháng 6 năm 2024 đã chuyển sang mô hình riêng cho toàn bộ các tính năng AI tạo sinh. Vào tháng 10 năm 2024, Walmart công bố Wallaby, một LLM chuyên biệt cho bán lẻ. Mô hình này được huấn luyện trên dữ liệu của Walmart để tạo ra các phản hồi tự nhiên liên quan đến dịch vụ khách hàng. Walmart đang dùng AI để cải thiện chatbot hỗ trợ khách hàng, sắp xếp danh mục sản phẩm, trải nghiệm mua sắm thực tế tăng cường, v.v. Ngoài ra, công ty cũng cung cấp trải nghiệm mua sắm ảo trên các nền tảng trực tuyến như Roblox. Walmart ưu tiên mô hình riêng, nhưng vẫn có kế hoạch tiếp tục sử dụng mô hình của bên thứ ba tùy theo từng trường hợp sử dụng cụ thể. Lớp 2: Sử dụng các mô hình nguồn đóng hiện có Thay vì tự xây dựng mô hình độc lập, các công ty có thể xây dựng giải pháp riêng bằng cách truy cập các mô hình AI nguồn đóng như OpenAI và Anthropic thông qua API. Mô hình nguồn đóng có thể cung cấp đầu ra chính xác trong nhiều lĩnh vực khác nhau, nên hữu ích cho các tác vụ phổ biến như phiên âm, dịch vụ khách hàng và trích xuất dữ liệu. Các mô hình GPT của OpenAI và Claude của Anthropic cung cấp đầu ra chất lượng rất cao. Nhờ sự dễ dàng trong truy cập API, đây được xem là một trong những cách dễ nhất để triển khai AI về mặt kỹ thuật. Gần đây, các mô hình nhỏ như GPT-4o mini cũng đã được ra mắt để mang lại hiệu quả chi phí và hiệu năng suy luận nhanh. Zapier Zapier là nền tảng tự động hóa quy trình làm việc, được thành lập năm 2011 và được định giá $5B tính đến tháng 8 năm 2023. Công ty sử dụng mô hình của OpenAI để cải thiện các quy trình tự động hóa nội bộ, chẳng hạn như tạo và tóm tắt biên bản cuộc họp và tóm tắt bài viết trên web. Công cụ Copilot của Zapier cho phép tạo workflow bằng các câu lệnh ngôn ngữ tự nhiên. Klarna Klarna là công ty fintech của Thụy Điển cung cấp dịch vụ “Buy Now, Pay Later”, và vào tháng 9 năm 2024 đã công bố thay thế Salesforce và Workday bằng AI. Thông qua trợ lý AI dịch vụ khách hàng sử dụng mô hình OpenAI, công ty xử lý 2/3 số yêu cầu hỗ trợ khách hàng, tương đương khối lượng công việc của 700 nhân sự toàn thời gian. Trong nội bộ, công ty sử dụng trợ lý AI Kiki để giúp nhân viên trả lời hơn 2.000 câu hỏi mỗi ngày. Ramp Ramp là startup fintech B2B được thành lập năm 2019, cung cấp nhiều sản phẩm phần mềm tài chính khác nhau. Công ty sử dụng các mô hình GPT-4 và Claude để tự động hóa phân tích dữ liệu hợp đồng, phân loại giao dịch và viết ghi chú biên lai. Trong nội bộ, công ty cũng dùng AI để cung cấp chức năng tóm tắt cuộc gọi khách hàng và hỏi đáp, được tích hợp với Slack. Atlassian Atlassian là công ty được định giá $50B cung cấp phần mềm cộng tác nhóm như Jira, Trello và Confluence. Vào tháng 4 năm 2023, công ty công bố tính năng AI tạo sinh có tên Atlassian Intelligence. Tính năng này sử dụng kết hợp các mô hình của OpenAI và mô hình riêng của Atlassian. Trợ lý AI Rovo tăng cường khả năng tìm kiếm của Jira và tự động hóa việc tạo nội dung marketing, thu thập phản hồi, v.v. thông qua các agent No-Code. Canva Canva sử dụng mô hình độc quyền trong Magic Studio, nhưng cũng tận dụng mô hình nguồn đóng cho một số tính năng. Ví dụ: trình biên tập viết dùng mô hình OpenAI tạo nội dung phù hợp với tông giọng của mẫu được tải lên. Canva cũng vận hành một chợ ứng dụng AI đa dạng, trong đó có các ứng dụng như DALL-E của OpenAI và Imagen của Google. Lớp 3: Phát triển dựa trên mô hình mã nguồn mở Thay vì tự xây dựng mô hình hoặc sử dụng các mô hình mã nguồn đóng như GPT-4o của OpenAI, nhiều công ty đang tận dụng các mô hình mã nguồn mở như Llama của Meta, Mistral, Hugging Face để xây dựng công cụ riêng. Mô hình mã nguồn mở mang lại lợi ích về mức độ tùy biến cao, tính minh bạch, tăng cường quyền riêng tư dữ liệu và tiết kiệm chi phí. Theo báo cáo năm 2024 của Databricks, 76% doanh nghiệp sử dụng LLM đang chọn mã nguồn mở. Mô hình mã nguồn mở không có phí cấp phép riêng và có thể tự lưu trữ, giúp tránh được chi phí cloud quy mô lớn. Với khách hàng doanh nghiệp, việc giảm rủi ro vấn đề bản quyền và rò rỉ dữ liệu cũng là yếu tố quan trọng. VMware VMware là nhà cung cấp phần mềm ảo hóa, được Broadcom mua lại với giá $69B vào năm 2023. VMware đã hợp tác với Hugging Face để phát triển một trợ lý lập trình dựa trên mã nguồn mở có tên SafeCoder. Công ty đã sử dụng mô hình 15.5B tham số có tên StarCoder; mô hình này thu thập dữ liệu từ các dự án mã nguồn mở để giảm thiểu vấn đề bản quyền. Khách hàng doanh nghiệp có thể fine-tune mô hình StarCoder bằng chính mã nguồn của họ, giúp ích cho các công việc nội bộ đòi hỏi kiến thức theo lĩnh vực. Mathpresso Mathpresso là một công ty edtech của Hàn Quốc; thông qua ứng dụng tiêu biểu QANDA, học sinh có thể tải lên ảnh chụp màn hình bài toán và tự động nhận lời giải. Năm 2023, công ty đã phát triển một LLM chuyên về toán học mang tên MathGPT bằng mô hình Llama 2 của Meta. MathGPT sử dụng các lời giải toán của QANDA làm dữ liệu huấn luyện, đồng thời cung cấp mức độ tùy biến cao hơn và độ chính xác phù hợp hơn với môi trường giáo dục so với các mô hình thương mại hiện có. MathGPT vượt qua Microsoft Tora trên các benchmark MATH và GSM8K, đồng thời đứng số 1 trong nhóm mô hình có từ 13B tham số trở xuống. Brave Brave là trình duyệt web ưu tiên quyền riêng tư, cung cấp các tính năng như chặn quảng cáo và chặn trình theo dõi. Vào tháng 8 năm 2023, công ty ra mắt trợ lý AI Leo, sử dụng các mô hình mã nguồn mở Llama 2 của Meta và Mixtral 8x7B của Mistral. Brave không lưu trữ dữ liệu người dùng và sử dụng các mô hình tự lưu trữ để bảo vệ quyền riêng tư của người dùng. Công ty cũng hỗ trợ mô hình Claude của Anthropic, nhưng mặc định được thiết lập là mô hình mã nguồn mở. Replit Ngoài mô hình hoàn thành mã tùy chỉnh, vào tháng 4 năm 2024, Replit đã fine-tune mô hình 7B tham số của Hugging Face để ra mắt AI agent Code Repair. Người dùng trả phí có thể chuyển đổi giữa mô hình mã nguồn mở của Replit và các mô hình mã nguồn đóng khác, qua đó cung cấp giải pháp tùy chỉnh theo nhiều nhu cầu khách hàng khác nhau. Lớp 4: Sử dụng công cụ AI dựng sẵn Đây là trường hợp doanh nghiệp không tự xây dựng mô hình AI mà mua và sử dụng các công cụ AI tạo sinh hoàn chỉnh. Lợi thế lớn nhất của công cụ bên ngoài là tiết kiệm chi phí. Việc mua một công cụ cụ thể rẻ hơn so với huấn luyện hoặc fine-tune mô hình. Ba lý do chính khiến các công ty chọn công cụ AI bên ngoài: Khi cần công cụ cho nghiên cứu kiến thức tổng quát và brainstorming - Ví dụ: theo nghiên cứu của BCG, các công cụ AI tạo sinh giúp tăng năng suất công việc và đặc biệt hữu ích khi thiếu chuyên môn kỹ thuật. Khi cần công cụ kinh doanh phổ thông (ví dụ: chatbot hỗ trợ khách hàng) - Sử dụng công cụ của bên thứ ba để nhanh chóng nhận được lợi ích sẽ hiệu quả về chi phí hơn so với tự xây dựng mô hình. Khi đã có sẵn công cụ tùy chỉnh cho một ngành cụ thể - Ví dụ: Kira, công cụ rà soát hợp đồng pháp lý, đang được nhiều công ty luật sử dụng. Boston Consulting Group (BCG) BCG là công ty tư vấn toàn cầu có 32K nhân viên trên toàn thế giới và doanh thu $12.3B. Năm 2023, BCG đã tiến hành thử nghiệm nội bộ bằng ChatGPT của OpenAI, và AI tạo sinh cho thấy cải thiện hiệu quả 40% trong các công việc sáng tạo. Ví dụ: cải thiện hiệu quả trong việc giải quyết vấn đề sáng tạo như tạo ý tưởng cho sản phẩm giày mới và viết slogan marketing. Năm 2024, BCG triển khai ChatGPT Enterprise cho toàn bộ nhân viên, qua đó thừa nhận mức độ hữu ích rất cao của công cụ AI. Dollar Shave Club Dollar Shave Club là nhà cung cấp sản phẩm cạo râu từng được Unilever mua lại với giá $1B, sau đó được bán cho Nexus Capital Management. Thay vì chatbot tự phát triển, công ty sử dụng Answer Bot của Zendesk để tự động hóa hỗ trợ khách hàng. Answer Bot được huấn luyện trên dữ liệu 12M tương tác khách hàng, và có thể trả lời các câu hỏi đơn giản của khách hàng chỉ trong vài giây. Mỗi tháng, công cụ này xử lý 4.5K ticket, chiếm 10% tổng lượng ticket của công ty. Law Firms (công ty luật) Việc rà soát hợp đồng pháp lý chứa đầy các thuật ngữ và điều khoản phức tạp. Nhiều công ty luật thiếu nguồn lực để phát triển công cụ AI nội bộ, nên sử dụng các công cụ AI bên ngoài như Kira. Ví dụ: các công ty luật lớn như Skadden, Hogan Lovells, Paul, Weiss sử dụng Kira để rút ngắn tối đa 60% thời gian rà soát hợp đồng. Kira có thể nhanh chóng phân tích hơn 1K điều khoản và điểm dữ liệu phổ biến, nên được dùng cho thẩm định M&A, rà soát hợp đồng vay và các công việc tương tự. Ba cách các doanh nghiệp Long Tail ứng dụng AI Các công ty thuộc Long Tail đang ứng dụng AI tạo sinh theo nhiều cách khác nhau, chẳng hạn Bloomberg phát triển các công cụ tùy chỉnh cho chuyên gia tài chính, còn các tư vấn viên của BCG sử dụng ChatGPT như một công cụ nâng cao năng suất. Các mô hình vận hành những công cụ này cũng rất đa dạng, từ mô hình tạo ảnh của Canva đến mô hình tích hợp GPT của Ramp. Khi xem xét các mô thức của những công ty áp dụng AI, có thể thấy rằng bất chấp tốc độ phát triển công nghệ hiện nay, ba xu hướng lớn sau đây đang nổi bật. Sử dụng AI như công cụ bổ trợ cho hoạt động kinh doanh hiện có Phần lớn các công ty Long Tail đã cung cấp những sản phẩm và dịch vụ được thiết lập vững chắc, và AI đóng vai trò bổ sung và cải thiện chúng. Ví dụ: Replit đã thành công ngay cả trước khi ra mắt các công cụ AI, và AI được dùng để cải thiện sản phẩm như phần mở rộng của bộ công cụ dành cho nhà phát triển hiện có. Leo AI của Brave là một công cụ AI tạo sinh mở rộng chính sách ưu tiên quyền riêng tư của trình duyệt. Brave đã nỗ lực bảo vệ quyền riêng tư suốt 8 năm, và Leo là công cụ tiếp nối nguyên tắc đó. Với Walmart, giá rẻ và chính sách đổi trả linh hoạt là cốt lõi, còn AI chỉ đóng vai trò hỗ trợ chứ không thay thế chiến lược trọng tâm. Tóm lại, các công ty triển khai AI nội bộ để nâng cao hiệu quả quy trình, nhưng trải nghiệm người dùng cốt lõi vẫn được ưu tiên. Sao chép chiến lược AI trong cùng ngành Các công ty nhanh chóng áp dụng những chiến lược AI thành công để duy trì năng lực cạnh tranh. Ví dụ: BCG đã sử dụng ChatGPT để cải thiện đáng kể hiệu suất trong các công việc sáng tạo và lập trình. Kết quả này có thể gây áp lực buộc các công ty tư vấn khác như McKinsey và Bain phải áp dụng những công cụ AI tương tự. Brave và VMware cung cấp các sản phẩm cốt lõi khác nhau, nhưng cả hai đều coi trọng quyền riêng tư dữ liệu và vì vậy đã chọn mô hình mã nguồn mở. Nếu các công ty dẫn đầu thiết lập được lợi thế cạnh tranh bền vững nhờ áp dụng AI, những công ty khác cũng được dự đoán sẽ phải áp dụng các chiến lược AI tương tự. Duy trì chiến lược AI linh hoạt Cách thức sử dụng AI không cố định, và các công ty có thể áp dụng hoặc điều chỉnh nhiều chiến lược khác nhau. Ví dụ: OpenAI ban đầu xây dựng các mô hình ngày càng lớn hơn, nhưng đến năm 2024 đã phát hành các mô hình nhỏ và hiệu quả như GPT-4o mini. Điều này giúp giảm chi phí và tăng tốc độ suy luận. CTO của Ramp cho biết GPT-4o mini đáp ứng 90% nhu cầu, đồng thời đánh giá rằng mô hình nhỏ có thể hiệu quả hơn mô hình lớn. Tuhin Srivastava, CEO của Baseten, chỉ ra rằng các công ty có xu hướng muốn tự xây dựng mô hình riêng, nhưng điều đó có thể tiêu tốn quá nhiều tài nguyên và thời gian. Lời khuyên của Srivastava: "Trước tiên hãy dùng công cụ đã được kiểm chứng, rồi dần dần thay thế bằng mô hình riêng" là một chiến lược quan trọng. Các công ty cần ở vị thế có thể phản ứng linh hoạt khi công nghệ AI mới xuất hiện để nhanh chóng tận dụng những cải tiến công nghệ đó. Mục tiêu cuối cùng của các công ty Long Tail Dù sự quan tâm và hào hứng với AI hiện nay đang tập trung vào các mô hình và các công ty AI-native, các trường hợp sử dụng AI trong những công ty không phải AI-native cũng ngày càng nổi bật. Những công ty này đang triển khai nhiều giải pháp AI đa dạng, từ chatbot dịch vụ khách hàng đến trải nghiệm mua sắm thực tế tăng cường. Xét đến tốc độ đổi mới của AI, cách dễ nhất để hiểu các công ty Long Tail đang sử dụng AI như thế nào là phân loại theo bốn lớp được trình bày trong bài phân tích chuyên sâu này: mô hình tùy chỉnh, mô hình mã đóng, mô hình mã nguồn mở, công cụ AI của bên thứ ba Các ví dụ đa dạng được đề cập trong bài phân tích chuyên sâu này cho thấy cách các công ty xây dựng và áp dụng những công cụ AI khác nhau, giúp độc giả hiểu cách nên tiếp cận việc tích hợp AI trong tổ chức của mình. Bốn lớp này mỗi lớp đều đưa ra những đánh đổi liên quan đến thời gian học hỏi, chi phí, khả năng tùy chỉnh, quyền riêng tư, chất lượng, nhưng do chi phí chuyển đổi giữa các mô hình thấp, khách hàng có thể linh hoạt thử nghiệm nhiều giải pháp khác nhau. Mục tiêu cuối cùng của các công ty Long Tail không phải là trở thành công ty AI, mà là tận dụng các công cụ AI để bổ trợ và tăng tốc hoạt động kinh doanh cốt lõi.

(research.contrary.com)

12 điểm bởi xguru 2024-11-18 | Chưa có bình luận nào. | Chia sẻ qua WhatsApp

Kể từ khi ChatGPT ra mắt vào tháng 11 năm 2022, các startup AI đã nhận được sự quan tâm tập trung từ giới đầu tư; đến quý 2 năm 2024, 49% tổng vốn đầu tư mạo hiểm đã được rót vào các startup AI và machine learning.
Dù các nhà cung cấp mô hình như OpenAI và các công ty AI-native như Perplexity hay Jasper đang thu hút nhiều chú ý, trên thực tế số lượng các công ty “phi AI” chịu ảnh hưởng bởi AI còn nhiều hơn.
Chúng tôi gọi tác động của AI lên các công ty phi AI này là “đuôi dài của AI”, và đuôi dài này có thể được chia thành bốn nhóm theo cách các công ty tích hợp AI:
- Xây dựng mô hình độc lập
- Tận dụng các mô hình sẵn có như GPT-4 của OpenAI
- Xây dựng trên nền các mô hình mã nguồn mở như Llama của Meta
- Sử dụng các công cụ AI được phát triển sẵn như ChatGPT
Việc xây dựng các mô hình độc lập, sở hữu riêng là cách sử dụng AI tốn nhiều tài nguyên nhất, thường phù hợp với những công ty có nguồn dữ liệu độc đáo ở quy mô lớn, cùng đủ nguồn lực nhân sự và tài chính để huấn luyện mô hình mới.
Các mô hình mã nguồn đóng như GPT của OpenAI hay Claude của Anthropic được huấn luyện với từ hàng tỷ đến hàng nghìn tỷ tham số, có thể tạo ra kết quả chính xác và chi tiết trong nhiều lĩnh vực từ lập trình đến dịch vụ khách hàng, đồng thời dễ dàng truy cập qua API.
Các mô hình mã nguồn mở như Mistral hay Llama của Meta là những công cụ mạnh mẽ; Llama 3.1 được huấn luyện với 405 tỷ tham số. Khác với mô hình mã nguồn đóng, mô hình mã nguồn mở mang lại tính minh bạch và linh hoạt, cho phép tinh chỉnh trọng số mô hình để phù hợp với nhu cầu cụ thể của khách hàng.
Các công cụ AI bên thứ ba như ChatGPT là lựa chọn dễ tích hợp nhất; khách hàng có thể sử dụng công cụ hoàn thiện mà không cần tự xây dựng hay tinh chỉnh mô hình nội bộ.
Chiến lược AI khác nhau ở mỗi công ty, nhưng những công ty thành công đang dùng AI để bổ trợ cho hoạt động kinh doanh hiện có, học theo các trường hợp thành công trong cùng ngành và duy trì sự linh hoạt khi công nghệ AI tiếp tục phát triển.

Quy luật lũy thừa của hype trong AI

Phân phối chuẩn vs. quy luật lũy thừa: Phân phối chuẩn là kiểu phân phối thường thấy trong đời sống, như IQ, điểm thi hay huyết áp, nơi dữ liệu tập trung quanh giá trị trung bình. Ngược lại, nhiều hiện tượng trong thế giới lại được định hình bởi quy luật lũy thừa, nơi một số ít trường hợp cực đoan quyết định phần lớn kết quả.
- Ví dụ, hơn một nửa mức tăng của chỉ số S&P 500 trong năm 2023 đến từ chỉ 7 cổ phiếu, tương đương chỉ 1,4% tổng số.
- Trong venture capital cũng vậy, chỉ một vài khoản đầu tư thành công tạo ra phần lớn lợi nhuận của quỹ. Ví dụ: nhà sáng lập Union Square Ventures, Fred Wilson, từng nói rằng “một khoản đầu tư có thể tạo ra lợi nhuận cho cả quỹ.”
Quy luật lũy thừa trong lĩnh vực AI: Tương tự như việc vốn tập trung vào các công ty internet trong thời kỳ Dot Com bubble, năm 2024 lĩnh vực AI cũng đang cho thấy một làn sóng hype tương tự.
- Trong cohort mùa hè 2024 của YCombinator, 75% đang phát triển sản phẩm liên quan đến AI.
- Trong các khoản đầu tư venture capital quý 2 năm 2024, 49% tập trung vào startup AI và machine learning (so với 29% ở quý 2 năm 2022).
- Vào đầu năm 2020, mức định giá trung vị của các công ty AI, SaaS và fintech lần lượt là $25M, $27M và $28M, nhưng đến năm 2024 đã tăng lên $70M, $46M và $50M.
- Dù đang thua lỗ, OpenAI vẫn huy động được nguồn vốn mới với mức định giá $157B vào tháng 10 năm 2024 (định giá gấp 39 lần doanh thu).
Giới hạn của startup AI-native: Với sự xuất hiện của generative AI và LLM, AI đang trở thành sản phẩm cốt lõi của doanh nghiệp. Tuy nhiên, trong lúc các công ty AI-native gần như độc chiếm sự quan tâm của nhà đầu tư, các công ty phi AI cũng đang chịu tác động từ sự phát triển của công nghệ AI. Phần lớn doanh nghiệp về bản chất không phải là công ty AI, nhưng những tiến bộ của AI sẽ ảnh hưởng lớn đến mô hình kinh doanh của họ.
Từ đuôi dài của internet đến đuôi dài của AI: Sau Dot Com bubble, nhiều công ty không phải công ty internet đã thích nghi theo xu hướng internet và đạt thành công lớn. Ví dụ, Walmart được thành lập năm 1962, nhưng doanh thu thương mại điện tử năm 2023 đã đạt $73B, tăng 5 lần so với năm 2017.
- Ngày nay, “đuôi dài của AI” đang nổi lên, bao gồm các công ty phi AI trong nhiều ngành như fintech, SaaS, healthcare, thương mại điện tử và logistics.
Ảnh hưởng rộng khắp của AI: Từ việc dùng các công cụ AI dựng sẵn đến tích hợp AI vào workflow nội bộ, các công ty trong nhiều ngành đang tận dụng hoặc cố gắng tận dụng AI. Cũng như internet từng tác động đến các công ty không phải internet, AI sẽ tạo ra ảnh hưởng rộng lớn không chỉ giới hạn ở các công ty xây dựng mô hình AI.

Định nghĩa đuôi dài của AI

Các công ty AI chiếm phần lớn sự quan tâm và đầu tư vào AI, và có thể chia thành hai nhóm:
- Công ty mô hình: Các công ty như OpenAI, Anthropic, Mistral phát triển và cung cấp LLM (mô hình ngôn ngữ lớn) độc quyền hoặc mã nguồn mở cho người dùng.
- Công ty AI-native: Các công ty như Perplexity, Jasper cung cấp sản phẩm và dịch vụ dựa trên các mô hình AI.
Ở nhóm đầu tiên, bản thân mô hình chính là sản phẩm. Ở nhóm thứ hai, mô hình AI là cốt lõi của chức năng, và nếu không có mô hình thì bản thân công ty cũng không thể tồn tại. Ví dụ, CEO của Baseten là Tuhin Srivastava giải thích rằng “nếu không có mô hình thì sẽ không tồn tại công ty AI-native.”
Tuy nhiên, phần lớn công ty như Bloomberg, Walmart hay Canva không thuộc hai nhóm này. Họ thuộc về một phạm vi rộng hơn được gọi là “đuôi dài của AI.”
Những câu hỏi chính của đuôi dài
- Sự phát triển của công nghệ AI sẽ tác động thế nào đến các mô hình kinh doanh đã tồn tại từ trước khi ChatGPT ra mắt?
- Nhân viên ở nhiều ngành khác nhau, từ chuyên viên phân tích tại công ty tư vấn đến kỹ sư phần mềm tại công ty công nghệ, đang sử dụng AI như thế nào và sẽ sử dụng ra sao trong tương lai?
- Các công ty đang định vị mình thế nào trong thị trường AI? Họ đang tự xây dựng mô hình hay sử dụng các công cụ do bên ngoài phát triển?
Các ví dụ về việc doanh nghiệp sử dụng AI
- Ví dụ: Ramp (nền tảng quản lý chi tiêu) và Atlassian (công ty SaaS của Australia) đã bổ sung generative AI lên trên dữ liệu và workflow hiện có.
- Klarna (công ty fintech của Thụy Điển) đã đầu tư vào AI để cải thiện hiệu quả vận hành nội bộ, và chatbot AI của họ đạt kết quả đủ để thay thế 700 nhân viên chăm sóc khách hàng toàn thời gian.
- PwC đã ký thỏa thuận vào tháng 5 năm 2024 để cung cấp tính năng ChatGPT Enterprise cho 100.000 nhân viên. Ngoài ra, trong khảo sát năm 2024 của Phòng Thương mại Mỹ, 98% doanh nghiệp nhỏ và vừa cho biết đang sử dụng công cụ AI.
So sánh giữa quá khứ và hiện tại
- Tương tự như sau làn sóng bùng nổ internet, khi các công ty không phải internet đạt thành công lớn nhờ áp dụng thương mại điện tử, “đuôi dài của AI” cũng sẽ cho thấy các công ty phi AI ở nhiều ngành khác nhau chịu tác động từ AI.
- Cũng như internet đã ảnh hưởng rộng khắp đến các công ty không phải internet, AI sẽ không chỉ giới hạn ở các công ty xây dựng mô hình AI mà còn tác động đến nền kinh tế rộng lớn hơn.
Bốn lớp của đuôi dài AI
- Tự xây dựng mô hình AI nội bộ độc lập: Các công ty xây dựng mô hình AI riêng bằng cách tận dụng bộ dữ liệu độc quyền.
- Tận dụng mô hình mã nguồn đóng: Các công ty sử dụng mô hình mã nguồn đóng của OpenAI, Anthropic và các bên khác.
- Tận dụng mô hình mã nguồn mở: Các công ty sử dụng mô hình của Llama, Mistral, Hugging Face.
- Tích hợp công cụ AI dựng sẵn: Các công ty tích hợp các công cụ AI đã được phát triển vào workflow.
Bốn lớp này không cố định, và các công ty sử dụng AI theo nhiều cách khác nhau có thể được phân loại trải rộng trên nhiều lớp. Cách doanh nghiệp tận dụng AI cũng đang tiếp tục thay đổi theo tốc độ phát triển nhanh của công nghệ AI.

Lớp 1: Xây dựng mô hình riêng

Chiến lược tiêu tốn tài nguyên nhất: Trong đuôi dài của AI, chiến lược tốn kém nhất là tự xây dựng một mô hình độc lập từ đầu. Những công ty phù hợp với chiến lược này là các công ty (1) có nguồn vốn dồi dào và (2) sở hữu bộ dữ liệu độc quyền có giá trị.
- Ví dụ: theo Sam Altman, chi phí huấn luyện GPT-4 lên tới $100M.
- Mô hình riêng có chi phí cao, nhưng với các công ty sở hữu bộ dữ liệu độc quyền, nó mang lại (A) kết quả chi tiết hơn và phù hợp hơn với doanh nghiệp, (B) toàn quyền kiểm soát đối với mô hình và trọng số, và (C) khả năng tiết kiệm chi phí so với mô hình nguồn đóng.
Bloomberg
- Bloomberg là công ty dữ liệu tài chính và truyền thông có trụ sở tại New York, tạo ra doanh thu hơn $12B mỗi năm. Sản phẩm chủ lực của công ty là Bloomberg Terminal, chiếm khoảng 2/3 tổng doanh thu.
- Tại Bloomberg, trong số hơn 8.000 kỹ sư, có hơn 350 người thuộc đội ngũ kỹ thuật AI, và công ty công bố nhiều bài nghiên cứu AI mỗi năm.
- Vào tháng 3 năm 2023, Bloomberg công bố BloombergGPT, một LLM chuyên biệt cho tài chính. Mô hình này gồm tổng cộng 50B tham số, được huấn luyện bằng cách kết hợp 345B dữ liệu công khai và bộ dữ liệu 363B tài liệu tài chính được thu thập trong 40 năm.
- Chi phí huấn luyện được ước tính từ $2.7M đến hơn $10M.
- Vào tháng 1 năm 2024, Bloomberg đưa tính năng tóm tắt do AI tạo ra vào Terminal, được cho là dựa trên mô hình riêng và được huấn luyện với sự hỗ trợ của các nhà phân tích nội bộ.
Replit
- Replit là môi trường phát triển tích hợp (IDE) trên nền web, cung cấp khả năng cộng tác, tự động hoàn thành mã và gỡ lỗi.
- Các tính năng AI của Replit được cung cấp bằng cách kết hợp mô hình tự phát triển, tinh chỉnh các mô hình nguồn mở, và các mô hình nguồn đóng của OpenAI và Anthropic.
  - Vào tháng 4 và tháng 10 năm 2023, Replit đã ra mắt mô hình hoàn thành mã riêng và công khai chúng trên Hugging Face.
  - Vào tháng 4 năm 2024, công ty tinh chỉnh mô hình nguồn mở để ra mắt tính năng gỡ lỗi tự động.
  - Vào tháng 9 năm 2024, công ty ra mắt lập trình viên cặp đôi tự động dựa trên mô hình 7B tham số của riêng mình, nhưng một số người dùng bày tỏ không hài lòng với các tính năng ban đầu.
Canva
- Canva là nền tảng thiết kế web có trụ sở tại Úc, được định giá $49B vào tháng 10 năm 2024.
- Vào tháng 10 năm 2023, Canva ra mắt studio thiết kế AI tạo sinh mang tên Magic Studio. Studio này xây dựng các “mô hình độc quyền” bằng cách sử dụng nội dung do người dùng tạo làm dữ liệu huấn luyện.
  - Dữ liệu người dùng sẽ không được sử dụng nếu không có sự cho phép, và những người dùng tham gia sẽ được trả thù lao.
- Vào tháng 7 năm 2024, Canva mua lại nền tảng tạo ảnh Leonardo.Ai và có kế hoạch tích hợp nó vào Magic Studio.
Walmart
- Walmart đã xây dựng các công cụ AI hướng tới khách hàng từ năm 2018, và đến tháng 6 năm 2024 đã chuyển sang mô hình riêng cho toàn bộ các tính năng AI tạo sinh.
  - Vào tháng 10 năm 2024, Walmart công bố Wallaby, một LLM chuyên biệt cho bán lẻ. Mô hình này được huấn luyện trên dữ liệu của Walmart để tạo ra các phản hồi tự nhiên liên quan đến dịch vụ khách hàng.
- Walmart đang dùng AI để cải thiện chatbot hỗ trợ khách hàng, sắp xếp danh mục sản phẩm, trải nghiệm mua sắm thực tế tăng cường, v.v. Ngoài ra, công ty cũng cung cấp trải nghiệm mua sắm ảo trên các nền tảng trực tuyến như Roblox.
- Walmart ưu tiên mô hình riêng, nhưng vẫn có kế hoạch tiếp tục sử dụng mô hình của bên thứ ba tùy theo từng trường hợp sử dụng cụ thể.

Lớp 2: Sử dụng các mô hình nguồn đóng hiện có

Thay vì tự xây dựng mô hình độc lập, các công ty có thể xây dựng giải pháp riêng bằng cách truy cập các mô hình AI nguồn đóng như OpenAI và Anthropic thông qua API.
Mô hình nguồn đóng có thể cung cấp đầu ra chính xác trong nhiều lĩnh vực khác nhau, nên hữu ích cho các tác vụ phổ biến như phiên âm, dịch vụ khách hàng và trích xuất dữ liệu.
- Các mô hình GPT của OpenAI và Claude của Anthropic cung cấp đầu ra chất lượng rất cao.
Nhờ sự dễ dàng trong truy cập API, đây được xem là một trong những cách dễ nhất để triển khai AI về mặt kỹ thuật.
Gần đây, các mô hình nhỏ như GPT-4o mini cũng đã được ra mắt để mang lại hiệu quả chi phí và hiệu năng suy luận nhanh.
Zapier
- Zapier là nền tảng tự động hóa quy trình làm việc, được thành lập năm 2011 và được định giá $5B tính đến tháng 8 năm 2023.
- Công ty sử dụng mô hình của OpenAI để cải thiện các quy trình tự động hóa nội bộ, chẳng hạn như tạo và tóm tắt biên bản cuộc họp và tóm tắt bài viết trên web.
- Công cụ Copilot của Zapier cho phép tạo workflow bằng các câu lệnh ngôn ngữ tự nhiên.
Klarna
- Klarna là công ty fintech của Thụy Điển cung cấp dịch vụ “Buy Now, Pay Later”, và vào tháng 9 năm 2024 đã công bố thay thế Salesforce và Workday bằng AI.
- Thông qua trợ lý AI dịch vụ khách hàng sử dụng mô hình OpenAI, công ty xử lý 2/3 số yêu cầu hỗ trợ khách hàng, tương đương khối lượng công việc của 700 nhân sự toàn thời gian.
- Trong nội bộ, công ty sử dụng trợ lý AI Kiki để giúp nhân viên trả lời hơn 2.000 câu hỏi mỗi ngày.
Ramp
- Ramp là startup fintech B2B được thành lập năm 2019, cung cấp nhiều sản phẩm phần mềm tài chính khác nhau.
- Công ty sử dụng các mô hình GPT-4 và Claude để tự động hóa phân tích dữ liệu hợp đồng, phân loại giao dịch và viết ghi chú biên lai.
- Trong nội bộ, công ty cũng dùng AI để cung cấp chức năng tóm tắt cuộc gọi khách hàng và hỏi đáp, được tích hợp với Slack.
Atlassian
- Atlassian là công ty được định giá $50B cung cấp phần mềm cộng tác nhóm như Jira, Trello và Confluence.
- Vào tháng 4 năm 2023, công ty công bố tính năng AI tạo sinh có tên Atlassian Intelligence.
- Tính năng này sử dụng kết hợp các mô hình của OpenAI và mô hình riêng của Atlassian.
- Trợ lý AI Rovo tăng cường khả năng tìm kiếm của Jira và tự động hóa việc tạo nội dung marketing, thu thập phản hồi, v.v. thông qua các agent No-Code.
Canva
- Canva sử dụng mô hình độc quyền trong Magic Studio, nhưng cũng tận dụng mô hình nguồn đóng cho một số tính năng.
  - Ví dụ: trình biên tập viết dùng mô hình OpenAI tạo nội dung phù hợp với tông giọng của mẫu được tải lên.
- Canva cũng vận hành một chợ ứng dụng AI đa dạng, trong đó có các ứng dụng như DALL-E của OpenAI và Imagen của Google.

Lớp 3: Phát triển dựa trên mô hình mã nguồn mở

Thay vì tự xây dựng mô hình hoặc sử dụng các mô hình mã nguồn đóng như GPT-4o của OpenAI, nhiều công ty đang tận dụng các mô hình mã nguồn mở như Llama của Meta, Mistral, Hugging Face để xây dựng công cụ riêng.
Mô hình mã nguồn mở mang lại lợi ích về mức độ tùy biến cao, tính minh bạch, tăng cường quyền riêng tư dữ liệu và tiết kiệm chi phí.
- Theo báo cáo năm 2024 của Databricks, 76% doanh nghiệp sử dụng LLM đang chọn mã nguồn mở.
Mô hình mã nguồn mở không có phí cấp phép riêng và có thể tự lưu trữ, giúp tránh được chi phí cloud quy mô lớn.
Với khách hàng doanh nghiệp, việc giảm rủi ro vấn đề bản quyền và rò rỉ dữ liệu cũng là yếu tố quan trọng.
VMware
- VMware là nhà cung cấp phần mềm ảo hóa, được Broadcom mua lại với giá $69B vào năm 2023.
- VMware đã hợp tác với Hugging Face để phát triển một trợ lý lập trình dựa trên mã nguồn mở có tên SafeCoder.
- Công ty đã sử dụng mô hình 15.5B tham số có tên StarCoder; mô hình này thu thập dữ liệu từ các dự án mã nguồn mở để giảm thiểu vấn đề bản quyền.
- Khách hàng doanh nghiệp có thể fine-tune mô hình StarCoder bằng chính mã nguồn của họ, giúp ích cho các công việc nội bộ đòi hỏi kiến thức theo lĩnh vực.
Mathpresso
- Mathpresso là một công ty edtech của Hàn Quốc; thông qua ứng dụng tiêu biểu QANDA, học sinh có thể tải lên ảnh chụp màn hình bài toán và tự động nhận lời giải.
- Năm 2023, công ty đã phát triển một LLM chuyên về toán học mang tên MathGPT bằng mô hình Llama 2 của Meta.
- MathGPT sử dụng các lời giải toán của QANDA làm dữ liệu huấn luyện, đồng thời cung cấp mức độ tùy biến cao hơn và độ chính xác phù hợp hơn với môi trường giáo dục so với các mô hình thương mại hiện có.
- MathGPT vượt qua Microsoft Tora trên các benchmark MATH và GSM8K, đồng thời đứng số 1 trong nhóm mô hình có từ 13B tham số trở xuống.
Brave
- Brave là trình duyệt web ưu tiên quyền riêng tư, cung cấp các tính năng như chặn quảng cáo và chặn trình theo dõi.
- Vào tháng 8 năm 2023, công ty ra mắt trợ lý AI Leo, sử dụng các mô hình mã nguồn mở Llama 2 của Meta và Mixtral 8x7B của Mistral.
- Brave không lưu trữ dữ liệu người dùng và sử dụng các mô hình tự lưu trữ để bảo vệ quyền riêng tư của người dùng.
- Công ty cũng hỗ trợ mô hình Claude của Anthropic, nhưng mặc định được thiết lập là mô hình mã nguồn mở.
Replit
- Ngoài mô hình hoàn thành mã tùy chỉnh, vào tháng 4 năm 2024, Replit đã fine-tune mô hình 7B tham số của Hugging Face để ra mắt AI agent Code Repair.
- Người dùng trả phí có thể chuyển đổi giữa mô hình mã nguồn mở của Replit và các mô hình mã nguồn đóng khác, qua đó cung cấp giải pháp tùy chỉnh theo nhiều nhu cầu khách hàng khác nhau.

Lớp 4: Sử dụng công cụ AI dựng sẵn

Đây là trường hợp doanh nghiệp không tự xây dựng mô hình AI mà mua và sử dụng các công cụ AI tạo sinh hoàn chỉnh.
Lợi thế lớn nhất của công cụ bên ngoài là tiết kiệm chi phí. Việc mua một công cụ cụ thể rẻ hơn so với huấn luyện hoặc fine-tune mô hình.
Ba lý do chính khiến các công ty chọn công cụ AI bên ngoài:
- Khi cần công cụ cho nghiên cứu kiến thức tổng quát và brainstorming
  - Ví dụ: theo nghiên cứu của BCG, các công cụ AI tạo sinh giúp tăng năng suất công việc và đặc biệt hữu ích khi thiếu chuyên môn kỹ thuật.
- Khi cần công cụ kinh doanh phổ thông (ví dụ: chatbot hỗ trợ khách hàng)
  - Sử dụng công cụ của bên thứ ba để nhanh chóng nhận được lợi ích sẽ hiệu quả về chi phí hơn so với tự xây dựng mô hình.
- Khi đã có sẵn công cụ tùy chỉnh cho một ngành cụ thể
  - Ví dụ: Kira, công cụ rà soát hợp đồng pháp lý, đang được nhiều công ty luật sử dụng.
Boston Consulting Group (BCG)
- BCG là công ty tư vấn toàn cầu có 32K nhân viên trên toàn thế giới và doanh thu $12.3B.
- Năm 2023, BCG đã tiến hành thử nghiệm nội bộ bằng ChatGPT của OpenAI, và AI tạo sinh cho thấy cải thiện hiệu quả 40% trong các công việc sáng tạo.
- Ví dụ: cải thiện hiệu quả trong việc giải quyết vấn đề sáng tạo như tạo ý tưởng cho sản phẩm giày mới và viết slogan marketing.
- Năm 2024, BCG triển khai ChatGPT Enterprise cho toàn bộ nhân viên, qua đó thừa nhận mức độ hữu ích rất cao của công cụ AI.
Dollar Shave Club
- Dollar Shave Club là nhà cung cấp sản phẩm cạo râu từng được Unilever mua lại với giá $1B, sau đó được bán cho Nexus Capital Management.
- Thay vì chatbot tự phát triển, công ty sử dụng Answer Bot của Zendesk để tự động hóa hỗ trợ khách hàng.
  - Answer Bot được huấn luyện trên dữ liệu 12M tương tác khách hàng, và có thể trả lời các câu hỏi đơn giản của khách hàng chỉ trong vài giây.
- Mỗi tháng, công cụ này xử lý 4.5K ticket, chiếm 10% tổng lượng ticket của công ty.
Law Firms (công ty luật)
- Việc rà soát hợp đồng pháp lý chứa đầy các thuật ngữ và điều khoản phức tạp.
- Nhiều công ty luật thiếu nguồn lực để phát triển công cụ AI nội bộ, nên sử dụng các công cụ AI bên ngoài như Kira.
  - Ví dụ: các công ty luật lớn như Skadden, Hogan Lovells, Paul, Weiss sử dụng Kira để rút ngắn tối đa 60% thời gian rà soát hợp đồng.
- Kira có thể nhanh chóng phân tích hơn 1K điều khoản và điểm dữ liệu phổ biến, nên được dùng cho thẩm định M&A, rà soát hợp đồng vay và các công việc tương tự.

Ba cách các doanh nghiệp Long Tail ứng dụng AI

Các công ty thuộc Long Tail đang ứng dụng AI tạo sinh theo nhiều cách khác nhau, chẳng hạn Bloomberg phát triển các công cụ tùy chỉnh cho chuyên gia tài chính, còn các tư vấn viên của BCG sử dụng ChatGPT như một công cụ nâng cao năng suất.
Các mô hình vận hành những công cụ này cũng rất đa dạng, từ mô hình tạo ảnh của Canva đến mô hình tích hợp GPT của Ramp.
Khi xem xét các mô thức của những công ty áp dụng AI, có thể thấy rằng bất chấp tốc độ phát triển công nghệ hiện nay, ba xu hướng lớn sau đây đang nổi bật.
- Sử dụng AI như công cụ bổ trợ cho hoạt động kinh doanh hiện có
  - Phần lớn các công ty Long Tail đã cung cấp những sản phẩm và dịch vụ được thiết lập vững chắc, và AI đóng vai trò bổ sung và cải thiện chúng.
    - Ví dụ: Replit đã thành công ngay cả trước khi ra mắt các công cụ AI, và AI được dùng để cải thiện sản phẩm như phần mở rộng của bộ công cụ dành cho nhà phát triển hiện có.
    - Leo AI của Brave là một công cụ AI tạo sinh mở rộng chính sách ưu tiên quyền riêng tư của trình duyệt. Brave đã nỗ lực bảo vệ quyền riêng tư suốt 8 năm, và Leo là công cụ tiếp nối nguyên tắc đó.
    - Với Walmart, giá rẻ và chính sách đổi trả linh hoạt là cốt lõi, còn AI chỉ đóng vai trò hỗ trợ chứ không thay thế chiến lược trọng tâm.
  - Tóm lại, các công ty triển khai AI nội bộ để nâng cao hiệu quả quy trình, nhưng trải nghiệm người dùng cốt lõi vẫn được ưu tiên.
- Sao chép chiến lược AI trong cùng ngành
  - Các công ty nhanh chóng áp dụng những chiến lược AI thành công để duy trì năng lực cạnh tranh.
    - Ví dụ: BCG đã sử dụng ChatGPT để cải thiện đáng kể hiệu suất trong các công việc sáng tạo và lập trình. Kết quả này có thể gây áp lực buộc các công ty tư vấn khác như McKinsey và Bain phải áp dụng những công cụ AI tương tự.
    - Brave và VMware cung cấp các sản phẩm cốt lõi khác nhau, nhưng cả hai đều coi trọng quyền riêng tư dữ liệu và vì vậy đã chọn mô hình mã nguồn mở.
  - Nếu các công ty dẫn đầu thiết lập được lợi thế cạnh tranh bền vững nhờ áp dụng AI, những công ty khác cũng được dự đoán sẽ phải áp dụng các chiến lược AI tương tự.
- Duy trì chiến lược AI linh hoạt
  - Cách thức sử dụng AI không cố định, và các công ty có thể áp dụng hoặc điều chỉnh nhiều chiến lược khác nhau.
  - Ví dụ: OpenAI ban đầu xây dựng các mô hình ngày càng lớn hơn, nhưng đến năm 2024 đã phát hành các mô hình nhỏ và hiệu quả như GPT-4o mini. Điều này giúp giảm chi phí và tăng tốc độ suy luận.
  - CTO của Ramp cho biết GPT-4o mini đáp ứng 90% nhu cầu, đồng thời đánh giá rằng mô hình nhỏ có thể hiệu quả hơn mô hình lớn.
    - Tuhin Srivastava, CEO của Baseten, chỉ ra rằng các công ty có xu hướng muốn tự xây dựng mô hình riêng, nhưng điều đó có thể tiêu tốn quá nhiều tài nguyên và thời gian.
    - Lời khuyên của Srivastava: "Trước tiên hãy dùng công cụ đã được kiểm chứng, rồi dần dần thay thế bằng mô hình riêng" là một chiến lược quan trọng.
    - Các công ty cần ở vị thế có thể phản ứng linh hoạt khi công nghệ AI mới xuất hiện để nhanh chóng tận dụng những cải tiến công nghệ đó.

Mục tiêu cuối cùng của các công ty Long Tail

Dù sự quan tâm và hào hứng với AI hiện nay đang tập trung vào các mô hình và các công ty AI-native, các trường hợp sử dụng AI trong những công ty không phải AI-native cũng ngày càng nổi bật.
- Những công ty này đang triển khai nhiều giải pháp AI đa dạng, từ chatbot dịch vụ khách hàng đến trải nghiệm mua sắm thực tế tăng cường.
  - Xét đến tốc độ đổi mới của AI, cách dễ nhất để hiểu các công ty Long Tail đang sử dụng AI như thế nào là phân loại theo bốn lớp được trình bày trong bài phân tích chuyên sâu này:
    - mô hình tùy chỉnh, mô hình mã đóng, mô hình mã nguồn mở, công cụ AI của bên thứ ba
Các ví dụ đa dạng được đề cập trong bài phân tích chuyên sâu này cho thấy cách các công ty xây dựng và áp dụng những công cụ AI khác nhau, giúp độc giả hiểu cách nên tiếp cận việc tích hợp AI trong tổ chức của mình.
- Bốn lớp này mỗi lớp đều đưa ra những đánh đổi liên quan đến thời gian học hỏi, chi phí, khả năng tùy chỉnh, quyền riêng tư, chất lượng, nhưng do chi phí chuyển đổi giữa các mô hình thấp, khách hàng có thể linh hoạt thử nghiệm nhiều giải pháp khác nhau.
Mục tiêu cuối cùng của các công ty Long Tail không phải là trở thành công ty AI, mà là tận dụng các công cụ AI để bổ trợ và tăng tốc hoạt động kinh doanh cốt lõi.