5 xu hướng định hình AI cloud năm 2024

# Mô hình nền tảng AI mở ra chiến trường mới của Big Tech

• Mọi thay đổi công nghệ đều khơi mào cuộc cạnh tranh nhằm kiểm soát tầng nền tảng, và kỷ nguyên AI cũng không ngoại lệ
• Mô hình nền tảng là “dầu mỏ” mới thúc đẩy các ứng dụng và công cụ AI ở lớp hạ nguồn
• Trong năm 2023, các công ty mô hình nền tảng chiếm hơn 60% vốn đầu tư mạo hiểm vào AI
  • OpenAI, Anthropic, Mistral, Cohere và các công ty khác đã huy động 23 tỷ USD với tổng vốn hóa thị trường 124 tỷ USD
  • Đặc biệt, dòng vốn này chủ yếu do VC doanh nghiệp dẫn dắt, chiếm 90% hoạt động gọi vốn GenAI tư nhân năm 2023 theo Morgan Stanley, tăng từ 40% năm 2022
  • Các ông lớn công nghệ như Microsoft, Google, Amazon, NVIDIA và Oracle hiện đều nắm giữ cổ phần đáng kể tại các công ty mô hình nền tảng
  • Những khoản đầu tư này đang được điều phối một cách chiến lược để tăng cường năng lực AI của các tập đoàn công nghệ này và thúc đẩy mức tiêu thụ các dịch vụ cloud và điện toán cốt lõi của họ
  • Ngoài ra cũng có những công ty Big Tech đang theo đuổi sáng kiến mô hình nền tảng riêng, như Gemini của Google và Llama của Meta AI
• Với lượng tiền khổng lồ đổ vào tầng nền tảng này, cạnh tranh đang leo thang với tốc độ chưa từng có, thúc đẩy một khối lượng đổi mới khổng lồ trong hệ sinh thái
• Những xu hướng chính quan sát được trong năm 2023:
  • Mô hình cơ sở đang cải thiện rất nhanh:
    • Các LLM đa dụng ngày càng tốt hơn không chỉ ở các đặc tính hiệu năng cốt lõi như độ chính xác và độ trễ mà còn ở các năng lực biên, bao gồm cả khả năng đa phương thức
    • Việc ra mắt GPT-4o đã khiến tất cả chúng ta bất ngờ, và bản phát hành mới cho thấy khả năng xem và hiểu video cùng âm thanh trong các tệp được tải lên, cũng như khả năng tạo video ngắn
    • Tốc độ cải tiến chóng mặt của mô hình làm dấy lên nghi vấn về chiến lược đầu tư vào những mô hình có “chu kỳ bán rã” tính bằng vài tháng
  • Cuộc chiến giữa nguồn mở và nguồn đóng ngày càng gay gắt:
    • Với đợt phát hành gần đây của Llama 3, khi các bên dẫn đầu nguồn mở gần như bắt kịp hiệu năng của mô hình nguồn đóng, tranh luận nguồn mở với nguồn đóng vẫn là chủ đề nóng trong năm 2024
    • Điều này đặt ra những câu hỏi mới về việc liệu tác động từ quy định có buộc các bên chơi nguồn đóng phải công bố các mô hình cũ hơn như một phần trong chiến lược thương mại hóa mới hay không, hoặc liệu các bên dẫn đầu nguồn mở có thể lần đầu tiên trong lịch sử trở thành kẻ chiến thắng của thị trường này hay không
  • Phong trào mô hình nhỏ đang lớn mạnh:
    • Clem Delangue, CEO và đồng sáng lập HuggingFace, tuyên bố năm 2024 sẽ là năm của SLM
    • Những ví dụ như Mistral 8x22b ra mắt năm nay cho thấy mô hình lớn hơn không phải lúc nào cũng tốt hơn về hiệu năng, và mô hình nhỏ có thể có lợi thế đáng kể về chi phí và độ trễ
  • Sự xuất hiện của kiến trúc mới và các mô hình nền tảng chuyên dụng:
    • Sự hào hứng đang gia tăng quanh việc xuất hiện các kiến trúc mô hình mới vượt ra ngoài transformer
    • Ví dụ, state space model và geometric deep learning đang đẩy xa ranh giới của mô hình nền tảng có thể ít tiêu tốn tính toán hơn, xử lý được ngữ cảnh dài hơn hoặc thể hiện suy luận có cấu trúc
    • Đồng thời, số lượng nhóm huấn luyện các mô hình chuyên dụng cho sinh mã, sinh học, video, hình ảnh, giọng nói, robotics, âm nhạc, vật lý, sóng não và nhiều lĩnh vực khác cũng đang bùng nổ
    • Điều này bổ sung thêm một trục đa dạng nữa cho tầng mô hình
• Có quá nhiều thứ đang diễn ra ở tầng nền tảng đến mức có cảm giác như mặt đất đang chuyển động
• Nhưng bất chấp lượng vốn khổng lồ đã được đầu tư vào đây, người chiến thắng hiện vẫn chưa rõ ràng

Dự đoán: Cuộc chiến mô hình AI sẽ còn tiếp tục nóng bỏng trong tương lai gần, bởi đây là một “cuộc tranh giành lãnh thổ” quan trọng quyết định công ty Big Tech nào sẽ dẫn đầu thị trường cloud và điện toán trong vài năm tới

• Dự báo thực tế trong tương lai gần về bên sẽ nắm giữ nhiều giá trị nhất trong cuộc chiến tầng mô hình này:
  • Kịch bản 1: Tầng mô hình trở thành hàng hóa phổ thông
    • Liệu hàng trăm triệu USD vốn sẽ bị lãng phí khi VC và Big Tech tài trợ cho cuộc đua tìm người dẫn đầu AI?
    • Điều đó không có nghĩa mô hình có nhiều vốn nhất sẽ là người chiến thắng
    • Vì các mô hình nguồn mở sẽ tiếp tục thách thức những người chơi lớn trên thị trường
    • Tuy nhiên, một tương lai nơi mô hình AI bị hàng hóa hóa không nhất thiết đồng nghĩa giá trị của mô hình suy giảm
    • Mô hình AI như một loại hàng hóa sẽ tương tự điện toán như một hàng hóa hoặc dầu mỏ như một hàng hóa
    • Đến một thời điểm nào đó, chúng sẽ trở thành tài sản thiết yếu cho hoạt động kinh doanh toàn cầu
    • Trong kịch bản này, giá trị tối hậu của hệ sinh thái AI sẽ không nằm ở bản thân mô hình mà sẽ được nắm giữ bởi các nhà cung cấp dịch vụ điện toán và cloud, marketplace và ứng dụng
    • Tuy nhiên, trong một thế giới nơi mô hình AI bị hàng hóa hóa, cũng có thể xuất hiện một hoặc hai công ty cực kỳ giá trị bán loại “hàng hóa” này, giống như những gì đã thấy ở thị trường dầu mỏ
  • Kịch bản 2: Các đại gia mô hình AI chia nhau chiếc bánh
    • Tương tự cuộc chiến cloud, một vài công ty mô hình mới đáng chú ý được hậu thuẫn mạnh mẽ bởi các nhà đầu tư chiến lược Big Tech hoặc VC doanh nghiệp sẽ sở hữu hệ sinh thái mô hình nền tảng và trở thành những gã khổng lồ
    • Mỗi bên chiến thắng sẽ tìm ra một nêm khác biệt riêng mà họ có thể kết hợp với khác biệt công nghệ, thông qua phân phối, hiệu quả giá/chi phí, tác động quy định và các yếu tố khác
    • Dù vẫn có thể tồn tại nhiều người chơi khác nhau, đặc biệt là nguồn mở, giá trị sẽ chảy về một vài người chơi mô hình hàng đầu
    • Điều quyết định những gã khổng lồ AI của ngày mai không chỉ là công nghệ vượt trội mà còn là các kênh phân phối đã được thiết lập của họ
  • Kịch bản 3: Mô hình AI trở nên đa dạng và phổ biến như thị trường snack khoai tây lát
    • Cũng như khoai tây lát có vô số hương vị, tương lai của nền kinh tế mô hình AI có thể trông rất giống quầy snack trong cửa hàng tạp hóa địa phương
    • Nhiều công ty mô hình có thể phát triển mạnh, vì có đủ các trường hợp sử dụng được phân biệt rõ để những công ty khác nhau cùng tồn tại, chẳng hạn về dạng thức, hiệu năng, độ trễ, chi phí, bảo mật và hơn thế nữa
    • Ngoài ra, khi các cân nhắc địa chính trị đi vào lãnh địa mô hình AI, địa lý và quy định cũng có thể đóng vai trò ở đây, vì các vấn đề quy định và chủ quyền sẽ hỗ trợ sự lan rộng về đa dạng của tầng này

Dự đoán: Dù chưa đạt được đồng thuận, khoảng gần một nửa đối tác của chúng tôi dự đoán các mô hình nguồn đóng sẽ thúc đẩy phần lớn chu kỳ tính toán LLM và các gã khổng lồ mô hình AI cuối cùng sẽ chia nhau chiếc bánh kinh tế (kịch bản #2 ở trên).

• Chúng tôi kỳ vọng các gã khổng lồ cloud sẽ tận dụng khả năng tiếp cận điện toán, chip và vốn để tác động cuộc chiến theo hướng có lợi cho họ
• Và các bên dẫn đầu đã sớm nhập cuộc
  • Microsoft/OpenAI, AWS/Anthropic, Google/Gemini và Meta/Llama là phương án OSS tương đương với Linux, cùng với Mistral, bên dẫn đầu châu Âu

# AI đang biến tất cả chúng ta thành lập trình viên gấp 10 lần

• Ngày nay, kỹ sư luôn vừa là builder vừa là người học, phải liên tục học ngôn ngữ, framework, hạ tầng mới và nhiều thứ khác ngay cả khi vẫn làm công việc chính
• Với sự xuất hiện của AI, developer nay phải làm quen với một bộ toolchain và best practice hoàn toàn mới để tận dụng các LLM luôn tiến hóa, bao gồm một loạt sản phẩm hạ tầng mới cho quản lý dữ liệu, tuyển chọn dữ liệu, prompt, pre-training và fine-tuning
• Trong thời đại AI, mỗi năm chúng ta phải nhanh chóng tiếp thu lượng kiến thức developer mới tương đương 10 năm
• Nhưng AI cũng có thể đưa ra lời giải cho chính sự phức tạp đó
  • Trong năm 2023, code copilot đã được áp dụng rộng rãi,
  • và đầu năm 2024, các phiên bản đầu tiên của công cụ agent đã xuất hiện, gợi mở khả năng tự động hóa end-to-end cho các tác vụ code đơn giản

Dự đoán: Dưới tác động của AI, vai trò của developer sẽ thay đổi mạnh mẽ hơn bất kỳ nghề nào khác. Trong 10 năm tới, mọi người có máy tính đều sẽ có năng lực phát triển phần mềm đáng kể, điều này sẽ đẩy tốc độ phát triển phần mềm tăng vọt và làm giảm mạnh độ tuổi trung bình của các nhà sáng lập startup công nghệ.

• Ba lĩnh vực chính đang thúc đẩy sự tiến hóa nhanh chóng của nền kinh tế nhà phát triển AI:
  • 1. Ngành code copilot đã trở thành tâm điểm của đổi mới và cạnh tranh, với 3,9 tỷ USD vốn VC được đầu tư vào công nghệ và công cụ GenAI trong năm 2023.
    • Sản phẩm Copilot hiện có của GitHub, dựa trên các mô hình GPT-4 và Codex của OpenAI, đã được cài đặt hơn 14 triệu lần
    • Nhiều đối thủ startup được rót vốn mạnh và đang tăng trưởng như Tabnine, Magic.dev, Augment, Poolside, Cursor AI, OpenDevin, Devin của Cognition và Supermaven đang cùng các nhà phát triển xây dựng và lặp lại sản phẩm
  • 2. “Graduation Motion” của copilot, với các khả năng tìm kiếm và tạo sinh tác tử được tích hợp sẵn, sẽ tạo ra giá trị khổng lồ trong những năm tới.
    • Devin, SWE-agent và OpenDevin cho thấy tiềm năng của các công cụ tác tử end-to-end có thể tương tác với môi trường phát triển của nhà phát triển (ví dụ: trình chỉnh sửa tệp, bash shell) và Internet để hoàn thành các tác vụ lập trình
  • 3. Suy luận code-ngôn ngữ sẽ tiếp tục là trung tâm của hoạt động AI, hưởng lợi cả từ đổi mới ở lớp mô hình (ví dụ: GPT-4, Claude 3 Opus) lẫn các mô hình suy luận/tác tử mới (ví dụ: Devin của Cognition, SWE-agent, OpenDevin).
    • Những cải tiến ở lớp mô hình sẽ dẫn tới chất lượng chỉnh sửa và hoàn thiện mã tốt hơn, qua đó cuối cùng mang lại giá trị cho nhà phát triển và các tổ chức phần mềm
    • Các hệ thống mở rộng giới hạn về độ trễ, kích thước ngữ cảnh và mở rộng miền ngôn ngữ/tập tiền huấn luyện cũng sẽ mang lại giá trị rất lớn cho nhà phát triển
• AI đang đồng thời thúc đẩy cả đổi mới lẫn biến động, tăng tốc độ phát triển, năng suất và đòn bẩy của các tổ chức phần mềm
• Các tổ chức phần mềm có tư duy hướng tới tương lai đang thường xuyên khảo sát các công cụ và nhà cung cấp mới nổi, đồng thời nhanh chóng ưu tiên và áp dụng phần mềm dành cho nhà phát triển có giá trị cao
• Ngân sách cho nhà phát triển đang quay trở lại, và mức sẵn sàng chi trả cho các công cụ tạo ra tác động rõ rệt đang cao
• Đây là thời điểm thú vị để các doanh nhân trong lĩnh vực nhà phát triển xây dựng một thứ gì đó. Không chỉ copilot mà còn có rất nhiều cơ hội trong hạ tầng, công cụ phát triển, QA, cấu hình và cấp phát IT, giám sát vận hành bảo mật, kiểm thử xâm nhập, v.v.
• Copilot có thể là cơ hội rõ ràng nhất hiện nay, nhưng cũng rất có thể là lĩnh vực cạnh tranh khốc liệt nhất
  • Đã chứng kiến sự bùng nổ công cụ ở các mảng nhà phát triển cụ thể hơn, từ SecOps trong bảo mật đến SRE, QA và pentest
  • Những công cụ này dùng LLM để trừu tượng hóa độ phức tạp ở tầng thấp và tự động hóa các công việc kỹ thuật tốn thời gian, đau đầu, qua đó giải phóng nguồn lực kỹ thuật cho các nhiệm vụ cấp cao hơn
  • Việc tích hợp AI vào quy trình DevOps sẽ cải thiện pipeline CI/CD, kiểm thử tự động và chiến lược triển khai, cho phép cung cấp phần mềm nhanh hơn và ổn định hơn
• Refactor code là một ví dụ tuyệt vời khác cho thấy tác động của AI lên quy trình làm việc và hệ sinh thái nhà phát triển
  • Nhiều đội ngũ kỹ thuật hiện đại chỉ dành một phần thời gian FTE cho việc viết mã hoàn toàn mới
  • Đặc biệt ở các tổ chức lớn, phần lớn thời gian của SWE được dành cho những phần “kém hấp dẫn” của vai trò kỹ sư phần mềm như bảo trì mã, bảo mật và kiểm thử
  • Nhiều tác vụ như refactor code đòi hỏi hiểu biết sâu về stack và thường là các dự án khó nhằn mà ngay cả kỹ sư cấp cao cũng e ngại khi thực hiện
• AI có tiềm năng rõ ràng để giải quyết các thách thức này
  • Các startup như Gitar, Grit và ModelCode tận dụng mô hình sinh mã, phân tích tĩnh và AST parser để diễn giải cấu trúc mã và di chuyển mã giữa các ngôn ngữ, thư viện package và framework
  • Một số nỗ lực này tập trung vào các web framework hiện đại, trong khi số khác hoạt động trên những stack kỹ thuật legacy mong manh (ví dụ: COBALT, PEARL, v.v.) nơi theo thời gian các kỹ sư thành thạo ngày càng trở nên lỗi thời
  • Nhiều workflow liền kề với các chức năng kỹ thuật phần mềm cốt lõi cũng tốn thời gian, lặp đi lặp lại và phù hợp để tự động hóa

Dự đoán: Đến năm 2030, phần lớn các nhà phát triển phần mềm doanh nghiệp sẽ đảm nhiệm vai trò gần giống như người kiểm duyệt phần mềm. Khi chi phí phát triển giảm xuống và năng suất của các nhà phát triển giàu kinh nghiệm tăng lên, mức lương sẽ tăng

• AI sẽ ảnh hưởng đến phạm vi và kỹ năng cần thiết của mọi thị trường việc làm, nhưng có lẽ không lĩnh vực nào chịu tác động mạnh như nhà phát triển
• Các cải tiến AI sẽ không chỉ nâng cao mạnh mẽ năng suất của nghề này mà còn mở rộng ranh giới của thế giới nhà phát triển
• Trong 10 năm tới, năng lực phát triển phần mềm sẽ trở thành một kỹ năng mà phần lớn dân số toàn cầu có thể tiếp cận

# Các mô hình đa phương thức và tác tử AI sẽ thay đổi mối quan hệ của con người với phần mềm

• Sự trỗi dậy của các mô hình đa phương thức và tác tử AI đang thúc đẩy làn sóng đổi mới AI thế hệ tiếp theo
• Mở rộng mạnh mẽ phạm vi ứng dụng tiềm năng của AI sang các use case rộng hơn nhiều so với các mô hình dựa trên văn bản ban đầu
• Với các doanh nhân AI, những cơ hội mới đang mở ra để đổi mới không chỉ trong workflow tác tử mà còn trên các modality mới như giọng nói, hình ảnh và video
• Những modality này trao cho AI các năng lực tương đương với khả năng của con người như thị giác, thính giác và ngôn ngữ, mở ra cơ hội để AI đóng vai trò hỗ trợ một phần lớn công việc của con người vốn phụ thuộc vào các giác quan này

Giọng nói

• Làn sóng đầu tiên của các công ty voice AI chủ yếu đang tận dụng những tiến bộ trong Automatic Speech Recognition (ASR)
  • Abridge ghi lại ghi chú về các cuộc trò chuyện giữa bác sĩ và bệnh nhân
  • Rillavoice thu thập các cuộc hội thoại giữa nhân viên bán hàng hiện trường và khách hàng để hỗ trợ đào tạo bán hàng
• Các công ty voice AI mới đang xuất hiện để phát triển những sản phẩm giọng nói mang tính hội thoại có thể xử lý các workflow nhàm chán và lặp đi lặp lại
  • Qua đó cho phép con người tập trung vào công việc có giá trị cao hơn trong các use case về bán hàng, tuyển dụng, customer success và quản trị
  • Ada gần đây đã tận dụng các đổi mới mới nhất về giọng nói để tích hợp giọng nói hội thoại vào sản phẩm hỗ trợ khách hàng dựa trên chat
• Nền tảng cho những tiến bộ này là các kiến trúc giọng nói mới
  • Có thể xử lý và suy luận trực tiếp trên dữ liệu âm thanh thô mà không cần phiên âm giọng nói thành văn bản
    • Sự chuyển dịch từ kiến trúc cascade sang kiến trúc voice-native như được thể hiện trong các mô hình mới như GPT-4o
  • Sự chuyển dịch này sẽ cho phép các sản phẩm giọng nói hội thoại có độ trễ thấp hơn nhiều và khả năng hiểu tốt hơn nhiều đối với thông tin phi văn bản như cảm xúc, tông giọng và sắc thái tình cảm
• Các ứng dụng voice AI đang xuất hiện trong nhiều ngành như đại lý ô tô, bán lẻ, nhà hàng và dịch vụ gia đình
  • Một phần đáng kể hoặc thậm chí phần lớn các cuộc gọi bán hàng đến ngoài giờ làm việc thường bị bỏ lỡ, và trong những trường hợp như vậy AI rất phù hợp để lấp đầy khoảng trống đó
  • Các ứng dụng voice AI trong bán hàng là use case có ROI rất cao vì về bản chất AI đang thu hồi doanh thu bị mất cho các doanh nghiệp này
• Các doanh nhân xây dựng ở tuyến đầu của voice AI hiện có thể cung cấp những giao diện tự nhiên, mang tính hội thoại và đạt hiệu năng gần như ở mức con người hơn bao giờ hết

Hình ảnh / Video

• Các mô hình computer vision đã tồn tại nhiều năm, nhưng điều thú vị ở thế hệ LLM đa phương thức mới là chúng có thể kết hợp khả năng hiểu hình ảnh và dữ liệu văn bản (cùng các modality khác)
  • Sự kết hợp này rất hữu ích cho nhiều tác vụ
• Làn sóng đầu tiên của các ứng dụng hình ảnh trong doanh nghiệp chủ yếu tập trung vào các use case trích xuất dữ liệu
  • Các công ty như Raft thu thập tài liệu vận chuyển hàng hóa để trích xuất thông tin quan trọng, điền vào ERP của khách hàng và tự động hóa workflow đối soát hóa đơn
• Khi các foundation model tiếp tục được cải thiện, dự kiến sẽ xuất hiện các ứng dụng xử lý hình ảnh và video theo ngành dọc có thể thu thập ngày càng nhiều dữ liệu để cung cấp đầu vào cho ứng dụng
• Cũng có các ứng dụng trong kỹ thuật và thiết kế như Flux.ai, tận dụng các mô hình thị giác và mô hình tạo ảnh để hỗ trợ suy luận trên dữ liệu đồ họa nhằm tạo ra các bản dựng sơ đồ hoặc thiết kế tòa nhà

Tác tử AI tự chủ

• Một trong những chủ đề mới thú vị nhất của AI là phát triển các tác nhân AI có thể xử lý hoàn toàn tự chủ những tác vụ phức tạp nhiều bước
• Phần lớn tác nhân AI vẫn chưa vận hành ổn định trong các trường hợp sử dụng phức tạp, nhưng tiến bộ trong quy trình làm việc của tác nhân đang diễn ra rất nhanh và chúng ta đang thấy những lát cắt về những gì là khả thi
  • Devin của Cognition AI (kỹ sư phần mềm AI) cho thấy điều gì là có thể khi năng lực lập kế hoạch và suy luận của AI tiếp tục mở rộng
• Ngày càng nhiều ứng dụng bắt đầu triển khai tác nhân AI trong các trường hợp sử dụng rất hạn chế, nơi có thể giới hạn tác động của lỗi cộng dồn trong quy trình nhiều bước
  • Các doanh nghiệp đang tận dụng những giải pháp như Leena AI để cung cấp tác nhân AI hỗ trợ các công việc liên quan đến IT, HR và tài chính, giúp các nhóm này thoát khỏi những tác vụ phiền toái và cải thiện trải nghiệm nhân viên
• Đồng thời, các mô hình mới với khả năng suy luận mạnh mẽ đang xuất hiện để giúp tác nhân thực thi những quy trình làm việc phức tạp hơn
  • Điều thú vị hơn là đang có nhiều nghiên cứu tích cực tập trung vào các cách tiếp cận kiến trúc mới nhằm cải thiện việc triển khai tác nhân thông qua nhiều phương pháp khác nhau, bao gồm suy luận chuỗi suy nghĩ, tự phản tư, sử dụng công cụ, lập kế hoạch và cộng tác đa tác nhân

# Vertical AI cho thấy tiềm năng vượt qua SaaS legacy

• Vertical SaaS đã chứng tỏ là một gã khổng lồ thầm lặng làm thay đổi các ngành trong làn sóng cách mạng cloud đầu tiên
  • Tổng vốn hóa thị trường của 20 công ty Vertical SaaS niêm yết hàng đầu tại Mỹ vào khoảng 300 tỷ USD, trong đó hơn một nửa đã IPO trong 10 năm qua
• Giờ đây, với sự xuất hiện của mô hình ngôn ngữ lớn (LLM), làn sóng tiếp theo của Vertical SaaS đang bắt đầu khi chúng ta chứng kiến sự ra đời của các công ty mới dựa trên LLM, nhắm tới những ngành nằm giữa các khả năng mới và ranh giới của Vertical SaaS legacy
  • Các ứng dụng Vertical AI nhắm tới những công việc ngôn ngữ lặp lại có chi phí cao vốn chiếm tỷ trọng lớn trong nhiều lĩnh vực công nghiệp và phần lớn nền kinh tế
• Theo Cục Thống kê Lao động Mỹ, ngành dịch vụ kinh doanh và chuyên môn chiếm 13% GDP của Mỹ
  • Chỉ riêng trong lĩnh vực này, nơi công việc ngôn ngữ lặp lại chiếm ưu thế, quy mô đã lớn gấp khoảng 10 lần ngành phần mềm
  • Vượt ra ngoài mảng dịch vụ chuyên môn, các công việc ngôn ngữ lặp lại theo chiều dọc trong mọi ngành đều chiếm tỷ trọng đáng kể
  • Chúng tôi tin rằng Vertical AI sẽ cạnh tranh để chiếm một phần có ý nghĩa của các khoản chi phí này, đồng thời thúc đẩy hoạt động ở những lĩnh vực trước đây thiếu hụt lao động con người
  • Ví dụ, EvenUp tự động hóa các dịch vụ pháp lý bên thứ ba và quy trình làm việc của trợ lý pháp lý nội bộ, mở ra những khả năng mới cho các mảng công việc trước đây khó áp dụng do chi phí nhân công quá cao hoặc thiếu tính nhất quán

> Dự đoán: Vốn hóa thị trường của Vertical AI sẽ đạt quy mô ít nhất gấp 10 lần Vertical SaaS hiện có, khi Vertical AI dẫn dắt nền kinh tế dịch vụ và giới thiệu các mô hình kinh doanh mới

Ba mô hình kinh doanh mới của Copilot, Autopilot và dịch vụ hỗ trợ bởi AI

• Ba mô hình kinh doanh mới của nền kinh tế Vertical AI gồm Copilot, Autopilot và dịch vụ hỗ trợ bởi AI
• Vertical AI cũng có thể được cung cấp thông qua nhiều mô hình kinh doanh khác nhau khác, làm tăng khả năng gắn các tính năng AI với nhu cầu cụ thể của từng ngành
• Copilot
  • Tăng hiệu quả của người lao động bằng cách tận dụng LLM để tự động hóa công việc
  • Sixfold hỗ trợ các chuyên viên thẩm định bảo hiểm phân tích dữ liệu tốt hơn và hiểu rủi ro rõ hơn
  • Trong mô hình Copilot, ứng dụng AI ngồi cạnh người dùng và hỗ trợ để người dùng thành công hơn
• Agent
  • Trong khi Copilot giúp nhân viên hoàn thành công việc, Agent tự động hóa hoàn toàn quy trình làm việc và thay thế người dùng
  • Agent tập trung vào những chức năng cụ thể trong doanh nghiệp theo chiều dọc, như bán hàng outbound hoặc tiếp nhận cuộc gọi inbound
  • Slang AI xử lý các cuộc gọi đến của nhà hàng để nhận đặt chỗ và trả lời câu hỏi, cùng các tác vụ khác
• Dịch vụ dựa trên AI
  • Thường là các dịch vụ được outsource cho nhà cung cấp bên thứ ba như kế toán, dịch vụ pháp lý, thanh toán yêu cầu bồi hoàn y tế
  • Do các doanh nghiệp này mang tính thâm dụng lao động, chúng vốn có biên lợi nhuận thấp, khó mở rộng, khó khác biệt hóa hơn doanh nghiệp công nghệ và có định giá thấp hơn
  • Bằng cách dùng phần mềm để tự động hóa công việc, các công ty dịch vụ dựa trên AI này hướng tới việc cung cấp cho thị trường dịch vụ tốt hơn với chi phí thấp hơn và nhanh hơn, đồng thời giành thị phần từ các doanh nghiệp truyền thống định hướng dịch vụ
  • SmarterDx sử dụng AI để kiểm toán các hóa đơn nhập viện thay cho hệ thống y tế và bệnh viện trước khi gửi hóa đơn và tài liệu lâm sàng liên quan tới bên thanh toán
    • Trước đây công việc kiểm toán này được outsource cho các nhà cung cấp thực hiện

Tín hiệu ban đầu về sức mạnh của mô hình kinh doanh Vertical AI

• Chúng tôi (Bessemer) đã may mắn hỗ trợ các công ty dẫn đầu SaaS legacy trong nhiều ngành và hiện sở hữu một trong những danh mục Vertical AI lớn nhất
• Nhờ đó, chúng tôi đã có dữ liệu đủ ý nghĩa để so sánh các công ty Vertical AI với các công ty Vertical SaaS legacy tương đồng
• Ba phân tích về danh mục Vertical AI của chúng tôi cho thấy sức mạnh của lớp ứng dụng mới này
  • Các công ty Vertical AI đang dẫn đầu thị trường bằng những chức năng không cạnh tranh trực tiếp với SaaS legacy
    • Tính hữu dụng của các ứng dụng này thường là bổ sung cho sản phẩm SaaS legacy chứ không cần thay thế/nhân bản sản phẩm hiện có
    • Các startup Vertical AI này đã đạt khoảng 80% ACV của các hệ thống Vertical SaaS cốt lõi truyền thống
    • Điều này chứng minh năng lực của Vertical AI khi thay thế chi tiêu cho dịch vụ để tạo ra mức chi tiêu đáng kể trong thị trường dọc cuối cùng, từ đó mang lại TAM có thể cuối cùng lớn hơn đáng kể so với SaaS hiện có
  • Hồ sơ hiệu quả và tăng trưởng của các công ty Vertical AI ở quy mô đáng kể (ARR trên 4 triệu USD) cũng rất đáng khích lệ
    • Họ đang tăng trưởng khoảng 400% mỗi năm, là tốc độ tăng trưởng nhanh nhất mà chúng tôi từng thấy cho tới nay
    • Họ cũng cho thấy hiệu quả lành mạnh với biên lợi nhuận gộp trung bình khoảng 65% và tỷ lệ hiệu quả BVP khoảng 1,1x (CARR ròng mới/nỗ lực lỗ ròng)
  • Phân tích tỷ trọng doanh thu mà các công ty Vertical AI chi cho chi phí mô hình giúp xóa bỏ lo ngại rằng các ứng dụng này chỉ là những wrapper mỏng
  • Trung bình, các công ty này hiện chỉ chi khoảng 10% doanh thu hoặc khoảng 25% tổng COGS cho chi phí mô hình
  • Vì vậy, các ứng dụng dọc xây trên LLM này đã tạo ra biên lợi nhuận gấp khoảng 6 lần chi phí mô hình nền tảng
• Nhìn chung, dù dự kiến sẽ có giá trị khổng lồ được tạo ra ở tầng mô hình, dữ liệu này cho thấy cũng như các cuộc cách mạng hạ tầng trước đây, phần lớn giá trị doanh nghiệp sẽ một lần nữa được nắm giữ ở tầng ứng dụng
• Các công ty incumbent trong phần mềm dọc cũng không hoàn toàn ngủ quên
  • Những công ty như Thomson Reuters (mua lại CaseText với giá 650 triệu USD) và DocuSign (mua lại Lexion với giá 165 triệu USD) đã thực hiện các thương vụ mua lại Vertical AI đáng chú ý đầu tiên
• Tuy nhiên, chúng tôi cho rằng thị trường vẫn còn rất gần vạch xuất phát của cuộc marathon Vertical AI
  • Chúng tôi kỳ vọng trong vài năm tới sẽ xuất hiện những công ty Vertical AI niêm yết bền vững mới
  • Xét theo tốc độ tăng trưởng, chúng tôi dự đoán trong 2–3 năm tới sẽ có ít nhất 5 Vertical AI Centaur (ARR trên 100 triệu USD) xuất hiện
    > Dự đoán: IPO Vertical AI đầu tiên sẽ diễn ra trong vòng 3 năm tới

# Cloud tiêu dùng đang hồi sinh nhờ AI

• Việc cloud cho người tiêu dùng tăng trưởng chậm trong 10 năm qua là một thực tế ai cũng biết
  • Cloud cho người tiêu dùng được định nghĩa là các công ty cung cấp trực tiếp lưu trữ, điện toán và ứng dụng số dựa trên đám mây cho người dùng cá nhân (đồng thời cũng bao gồm các sản phẩm B2B và "prosumer")
• Phân tích dữ liệu Cloud 100 bắt đầu từ 9 năm trước cho thấy chỉ 4% trong danh sách lũy kế là các công ty có sản phẩm cho người tiêu dùng
  • Có thể xem như kể từ Dropbox IPO vào năm 2018, đã không còn thương vụ exit nào của các công ty cloud thuần túy cho người tiêu dùng
• Các kỳ lân cloud cho người tiêu dùng đã ra đời nhờ tác động lan tỏa từ những thay đổi công nghệ quy mô lớn
• Nhưng kể từ khi iPhone ra mắt 15 năm trước và sau đó là sự phát triển của các nền tảng mạng xã hội, đã không có biến chuyển địa chấn trên diện rộng nào trong công nghệ hướng tới người tiêu dùng
• Tuy nhiên, 2 năm trước người tiêu dùng đã chứng kiến một biến động lớn
  • Nhờ các khả năng đa phương thức đang tiến hóa nhanh chóng của LLM, vốn cho phép mở rộng và tăng cường cảm nhận văn bản, hình ảnh và âm thanh theo những cách trước đây không thể, khả năng gây xáo trộn đã mở ra ở mọi danh mục của cloud tiêu dùng hiện hữu
• Thước đo về năng lực thu hút người dùng của AI là các ứng dụng này chiếm bao nhiêu thời gian và sự chú ý của chúng ta
  • ChatGPT hiện đang cạnh tranh với những tên tuổi dẫn đầu của nền kinh tế chú ý như Reddit, và các trợ lý AI đa năng khác gồm Claude và Gemini cũng đang nhanh chóng giành được sức kéo
• Ngoài các trợ lý đa năng, chúng ta đã có thể thấy những ví dụ về các công ty AI tiêu dùng đang dẫn dắt đổi mới trong từng danh mục, như Perplexity cho tìm kiếm, Character.ai cho bạn đồng hành, Midjourney cho sáng tạo hình ảnh, Suno và Udio cho tạo nhạc, cùng Luma, Viggle, Pika cho tạo video
  • Những công ty này đang thu hút và giữ chân được tập người dùng trung thành, đồng thời trong một số trường hợp cho thấy tiềm năng của các ứng dụng dựa trên LLM có thể thay thế hiệu quả các doanh nghiệp đương nhiệm hiện đại
• Khi AI thay đổi cách chúng ta tương tác với công nghệ và tận hưởng nó, đây là một trong những thời điểm thú vị nhất đối với các nhà xây dựng và nhà đầu tư cloud tiêu dùng
• Dự kiến sẽ có nhiều đợt IPO cloud tiêu dùng trong 5 năm tới

Dự đoán: Do sự trỗi dậy đầy bất ngờ của media tổng hợp, các ứng dụng tiêu dùng mới và các AI agent đàm thoại, đến năm 2030, 3 doanh nghiệp hàng đầu thống trị nền kinh tế chú ý sẽ dựa trên nội dung hoặc sản phẩm do AI tạo ra

• Hoạt động giai đoạn đầu đáng kể đang xuất hiện trong phần đuôi dài của các ứng dụng AI tiêu dùng cho các chức năng cụ thể (ví dụ: tạo và chỉnh sửa nội dung, giáo dục)
  • Tin tốt là đây là dấu hiệu ban đầu cho thấy người tiêu dùng đang tìm đến AI để cải thiện cuộc sống
  • Tin xấu là số ứng dụng native AI cho người tiêu dùng theo từng danh mục, có thể cho thấy độ sâu sản phẩm vượt lên trên kiểu Wrapper hoặc chứng minh được tình yêu bền vững của khách hàng bằng khả năng giữ chân mạnh, vẫn chưa vượt quá 10
  • Vẫn có cơ hội rõ ràng để xây dựng các công ty cloud bền vững nhằm giải quyết nhiều nhu cầu tiêu dùng chưa được đáp ứng
• Hai câu hỏi then chốt về nhu cầu của người tiêu dùng:
  • Hiện trạng gây ra nỗi đau nghiêm trọng hoặc đòi hỏi nhiều công sức thủ công đến mức nào đối với người tiêu dùng?
  • Cần mức độ nỗ lực về ngôn ngữ/thị giác/thính giác lặp đi lặp lại và có thể dự đoán nhiều đến đâu?
• AI sẽ không chỉ tái tạo những sở thích chúng ta yêu thích như mạng xã hội, giải trí, mua sắm, du lịch, mà còn giúp con người khám phá và hình dung ra những cách mới để kết nối với thế giới, vui chơi, mua sắm và khám phá

# Kết luận - AI cloud: thực tế vs. cường điệu (Hype)

• Roy Amara từng nói rằng "chúng ta có xu hướng đánh giá quá cao tác động của công nghệ trong ngắn hạn và đánh giá quá thấp trong dài hạn"
  • Điều này đã phản ánh khá chính xác các con số của VC trong nhiều làn sóng công nghệ trước đây như dot-com, nanotech, cleantech và blockchain
  • Ngay cả SaaS kiểu cũ nhàm chán cũng đã tăng trưởng quá nóng vào năm 2021
• Vậy có phải sự cường điệu về AI cloud đang vượt xa thực tế?
  • Liệu trong 1-2 năm tới chúng ta có buộc phải thừa nhận rằng lời hứa của AI đã lấn át cloud VC?
  • Hay AI đang đe dọa phá vỡ "định luật Amara"?
  • Liệu đây có phải là làn sóng công nghệ đầu tiên mà thực tế vượt qua cả sự cường điệu điên cuồng?
• Kết quả khảo sát các nhà đầu tư của Bessemer trên toàn thế giới đưa ra một câu trả lời rõ ràng
  • Cho đến nay, Hype hoàn toàn xứng đáng
  • Dù nhìn ở đâu cũng có thể thấy bằng chứng về tác động của AI ở mức độ chưa từng có tiền lệ lịch sử
• Phần lớn các công ty trong danh mục đầu tư của chúng tôi đã nội bộ hóa việc áp dụng công nghệ AI và đang cập nhật roadmap sản phẩm để tích hợp AI
• Các công ty trong danh mục đầu tư dựa trên AI đang cho thấy sức kéo thương mại có ý nghĩa và tăng trưởng nhanh hơn, hiệu quả hơn bất kỳ nhóm nào mà chúng tôi từng chứng kiến
• Nhìn lại dự đoán năm ngoái, ngay cả với mức độ lạc quan và phấn khích rất lớn, chúng tôi vẫn không thể dự đoán đầy đủ tốc độ và quy mô của sự thay đổi này
  • Cụ thể, chúng tôi từng dự đoán rằng các công ty dựa trên AI sẽ đạt doanh thu 1 tỷ USD nhanh hơn 50% so với các công ty cloud truyền thống
  • OpenAI đã ghi nhận doanh thu 2 tỷ USD vào tháng 2 năm nay và chỉ vài tháng sau được cho là đã vượt mức doanh thu thường niên hóa 3,4 tỷ USD
  • Anthropic được kỳ vọng sẽ đạt doanh thu 850 triệu USD mỗi năm vào cuối năm 2024
  • Theo các báo cáo khác, Midjourney đang đạt doanh thu 200 triệu USD và Character.ai cũng được ước tính ở quy mô tương tự
• Dự đoán cuối cùng của chúng tôi có lẽ là khi nhìn lại một năm trong State of the Cloud 2025, AI sẽ hoàn toàn không đánh mất sự chú ý mà nó đang nhận được hiện nay