Llama của Meta đã tăng trưởng gấp 10 lần kể từ năm 2023 - Cập nhật tình hình áp dụng Llama

Tóm tắt những điểm chính

• Các mô hình Llama hiện đã ghi nhận khoảng 350 triệu lượt tải xuống, tăng hơn 10 lần so với cùng kỳ năm ngoái. Chỉ trong tháng vừa qua đã có hơn 20 triệu lượt tải, cho thấy Llama đã trở thành một họ mô hình nguồn mở chủ chốt
• Lượng sử dụng theo token của Llama trên các đối tác nhà cung cấp dịch vụ đám mây lớn đã tăng hơn gấp đôi chỉ trong 3 tháng, từ tháng 5 đến tháng 7 năm 2024, sau khi ra mắt Llama 3.1
• Với một số nhà cung cấp dịch vụ đám mây lớn, mức sử dụng hằng tháng của Llama theo lượng token đã tăng gấp 10 lần từ tháng 1 đến tháng 7 năm 2024

Tăng trưởng hệ sinh thái sau khi ra mắt Llama 3.1

• Cùng với việc ra mắt Llama 3.1, độ dài ngữ cảnh đã được mở rộng lên 128K, hỗ trợ 8 ngôn ngữ và giới thiệu Llama 3.1 405B như mô hình AI nguồn mở cấp frontier đầu tiên
• Thành công của Llama với tư cách là mô hình nguồn mở đang thúc đẩy đổi mới ở nhiều quy mô doanh nghiệp khác nhau. Từ startup đến tập đoàn lớn, các công ty đang dùng Llama để xây dựng giải pháp on-premise hoặc thông qua dịch vụ đám mây
• Việc cung cấp công khai các mô hình Llama đã tạo ra một hệ sinh thái AI sôi động và đa dạng, giúp các nhà phát triển có nhiều lựa chọn và năng lực hơn bao giờ hết
• Chỉ trong 18 tháng, Llama đã phát triển từ một mô hình nền tảng đơn lẻ thành một hệ thống tham chiếu hoàn chỉnh cho nhà phát triển. Llama 3.1 bao gồm các công cụ bảo mật và an toàn giúp nhà phát triển dễ dàng xây dựng tác nhân tùy chỉnh

Tầm nhìn và cam kết của Meta đối với nguồn mở

• Cùng với việc ra mắt Llama 3.1, Mark Zuckerberg đã chia sẻ một bức thư ngỏ về lợi ích của AI nguồn mở, qua đó củng cố thêm tầm nhìn và cam kết với cách tiếp cận mở
• Nguồn mở là một phần ăn sâu trong DNA của Meta, và Llama đang hiện thực hóa cũng như củng cố cam kết chia sẻ kết quả nghiên cứu theo cách có trách nhiệm
• Nguồn mở thúc đẩy một hệ sinh thái cạnh tranh hơn, mang lại lợi ích cho người dùng, doanh nghiệp (bao gồm cả Meta) và cuối cùng là cho thế giới

Phát triển thành mô hình nguồn mở hàng đầu

• Hệ sinh thái Llama đang tăng trưởng rất nhanh. Các mô hình Llama hiện đã ghi nhận khoảng 350 triệu lượt tải xuống trên Hugging Face, tăng hơn 10 lần so với khoảng một năm trước
• Chỉ riêng tháng trước đã có hơn 20 triệu lượt tải xuống trên Hugging Face. Đây mới chỉ là một phần trong câu chuyện thành công của Llama, vì mô hình này còn được tải xuống thông qua dịch vụ của các đối tác
• Mức sử dụng Llama được lưu trữ trên các đối tác cung cấp dịch vụ đám mây lớn theo lượng token đã tăng hơn gấp đôi từ tháng 5 đến tháng 7 năm 2024, sau khi ra mắt Llama 3.1

Mở rộng quan hệ đối tác và nhu cầu tăng mạnh

• Cùng với Llama 3.1, số lượng đối tác trong chương trình truy cập sớm đã tăng gấp 5 lần, và công ty dự kiến sẽ nỗ lực hơn nữa để đáp ứng nhu cầu tăng mạnh từ các đối tác
• Nhiều công ty như Wipro, Cerebras, Lambda đang mong muốn trở thành đối tác tích hợp LEAP và Llama trong tương lai

Các trường hợp ứng dụng đa dạng của Llama

• Accenture: sử dụng Llama 3.1 để xây dựng LLM tùy chỉnh cho báo cáo ESG, kỳ vọng cải thiện năng suất 70% và chất lượng 20-30% so với phương pháp hiện có
• AT&T: cải thiện quản lý khách hàng thông qua fine-tuning mô hình Llama. Việc áp dụng GenAI đã cải thiện khoảng 33% phản hồi tìm kiếm liên quan đến quản lý khách hàng của AT&T, đồng thời giảm chi phí và rút ngắn thời gian phản hồi
• DoorDash: sử dụng Llama để đơn giản hóa và tăng tốc công việc hằng ngày của kỹ sư phần mềm
• Goldman Sachs: thông qua GS AI Platform, các kỹ sư sử dụng mô hình Llama một cách an toàn và có trách nhiệm cho nhiều trường hợp sử dụng khác nhau
• Niantic: tích hợp Llama để hiện thực hóa thế giới ảo trong game AR Peridot. Việc tạo phản hồi theo thời gian thực mang lại các tương tác năng động và độc đáo
• Nomura: sử dụng Llama trên AWS để tăng tốc đổi mới, đạt được các lợi ích chính như minh bạch, giảm thiên lệch và hiệu năng mạnh mẽ
• Shopify: tiếp tục thử nghiệm các mô hình nguồn mở hàng đầu như Llama dựa trên LLaVA. Hiện đang thực hiện 40 đến 60 triệu suy luận LLaVA mỗi ngày để hỗ trợ siêu dữ liệu sản phẩm và các tác vụ cải tiến
• Zoom: vận hành AI Companion bằng các mô hình riêng cùng với Llama và các LLM nguồn mở, đóng khác. Cung cấp cho người dùng tóm tắt cuộc họp, ghi âm thông minh, tác vụ theo dõi tiếp theo và nhiều tính năng khác

Hệ thống mở đang được kích hoạt

• Llama đang giữ vai trò dẫn đầu về tính mở, khả năng chỉnh sửa và hiệu quả chi phí
• Meta cam kết xây dựng bằng nguồn mở để mở rộng lợi ích của AI đến với tất cả mọi người
• LLM có thể giúp trả lời các câu hỏi khó, nâng cao năng suất và khơi dậy sáng tạo. Khi hệ sinh thái Llama tiếp tục mở rộng, năng lực và khả năng tiếp cận của Meta AI cũng được mở rộng theo

Ý kiến của GN⁺

• Sự tăng trưởng và mức độ áp dụng nhanh chóng của Llama cho thấy nhu cầu với các mô hình AI nguồn mở đang gia tăng. Doanh nghiệp muốn các mô hình AI vừa hiệu quả về chi phí vừa có chất lượng cao, và Llama đang đáp ứng được điều đó
• Tuy vậy, khi sử dụng mô hình nguồn mở vẫn cần cân nhắc các vấn đề như thiên lệch, đạo đức và bảo mật. Doanh nghiệp cần thiết lập khung quản trị cho việc này và xây dựng hướng dẫn sử dụng mô hình
• Trong thị trường mô hình AI cạnh tranh khốc liệt, cách tiếp cận mở của Llama đang chứng minh rằng nó không hề thua kém các mô hình thương mại về mặt chất lượng
• Việc Llama được áp dụng nhanh chóng và được ưa chuộng rộng rãi một lần nữa khẳng định giá trị và ảnh hưởng của nguồn mở trong cộng đồng AI và phát triển. Điều này có thể tác động quan trọng đến hướng phát triển AI trong tương lai
• Trong thời gian tới, các mô hình nguồn mở như Llama và các mô hình dựa trên API được kỳ vọng sẽ phát triển theo hướng bổ trợ cho nhau. Điều quan trọng với doanh nghiệp là lựa chọn mô hình phù hợp với nhu cầu của mình và xây dựng năng lực để tận dụng chúng hiệu quả