Meta dự kiến ra mắt phiên bản nhỏ của Llama 3 vào tuần tới

• Phiên bản lớn nhất của Llama 3 dự kiến ra mắt vào mùa hè này, còn hai mô hình nhỏ sẽ được phát hành vào tuần tới
• Việc phát hành các mô hình nhỏ sẽ làm tăng kỳ vọng đối với Llama 3
• Llama 3 được kỳ vọng sẽ có khả năng hỏi đáp dựa trên hình ảnh giống như GPT-4 của OpenAI
• Phiên bản lớn nhất sẽ là mô hình đa phương thức có thể hiểu và tạo ra cả văn bản lẫn hình ảnh
• Trong khi đó, hai mô hình nhỏ ra mắt vào tuần tới sẽ không phải là mô hình đa phương thức

Ưu và nhược điểm theo kích thước mô hình

• Các mô hình nhỏ thường có chi phí vận hành thấp hơn và tốc độ nhanh hơn so với mô hình lớn
• Điều này ngày càng được coi trọng khi xét đến chi phí chạy các mô hình lớn
• Các mô hình nhỏ cũng hữu ích cho những nhà phát triển muốn xây dựng phần mềm AI trên thiết bị di động

Tình hình phát triển các mô hình Llama của Meta

• Trước đây Meta đã phát hành ba mô hình của Llama 2
  • Mô hình lớn nhất có 70 tỷ tham số
  • Hai mô hình còn lại lần lượt có 13 tỷ và 7 tỷ tham số
• Phiên bản lớn nhất của Llama 3 được dự đoán sẽ có hơn 140 tỷ tham số
• Meta đang sử dụng Llama 2 để cung cấp các tính năng trợ lý AI trong các ứng dụng của mình
• Trong vài tháng gần đây, nhân viên của bộ phận AI tạo sinh tại Meta đã nỗ lực làm cho Llama 3 cởi mở hơn, vì họ cho rằng Llama 2 phản hồi quá thận trọng trước các câu hỏi gây tranh cãi

Ý kiến của GN⁺

• Việc Meta Platforms ra mắt phiên bản nhỏ của Llama 3 cho thấy cạnh tranh trong lĩnh vực mô hình ngôn ngữ AI đang ngày càng gay gắt. Trong bối cảnh các tên tuổi lớn như Google và xAI của Elon Musk đã tung ra các mô hình mã nguồn mở, động thái lần này của Meta có thể được xem là chiến lược nhằm giành thị phần và duy trì vị thế dẫn đầu công nghệ.
• Việc phát hành các mô hình phiên bản nhỏ có thể là một chiến lược tiếp thị nhằm cung cấp công cụ mới cho các nhà phát triển và nhà nghiên cứu, đồng thời nâng cao sự quan tâm và kỳ vọng đối với phiên bản mô hình lớn hơn. Điều này cũng tạo cơ hội để người dùng thử nghiệm và làm quen với mô hình nhỏ trước khi thực sự sử dụng mô hình lớn.
• Việc phát hành các mô hình ngôn ngữ lớn là một công việc cực kỳ phức tạp về mặt kỹ thuật, đòi hỏi nguồn lực tính toán đáng kể và chuyên môn sâu để huấn luyện cũng như duy trì hiệu quả. Dù Meta có những nguồn lực này, vấn đề sử dụng mô hình một cách có đạo đức và bài toán thiên lệch vẫn là những yếu tố cần được cân nhắc nghiêm túc.
• Hiện vẫn chưa rõ mô hình Llama 3 của Meta sẽ khác biệt với các mô hình mã nguồn mở khác như thế nào, cũng như nó sẽ mang lại những tính năng hay đổi mới gì. Đây có thể trở thành một chủ đề thảo luận thú vị trong cộng đồng công nghệ.
• Việc phát hành các mô hình mã nguồn mở thúc đẩy dân chủ hóa công nghệ và mở ra nhiều khả năng đổi mới hơn. Tuy nhiên, khi ảnh hưởng của các mô hình này ngày càng lớn, những lo ngại về phát tán thông tin sai lệch, vi phạm bản quyền và quyền riêng tư cũng đồng thời gia tăng.