Chúc “cơn thiếu GPU” sống thọ - Trợ cấp AI mã nguồn mở

• Các mô hình AI mã nguồn mở đang trở nên cạnh tranh hơn với những lựa chọn thay thế mã nguồn đóng.
• Nhiều nhóm nhỏ và cá nhân đang nỗ lực cải thiện và tối ưu hóa các mô hình này.
• Tuy nhiên, các dự án như vậy thường thiếu nguồn lực để tiếp tục công việc hoặc duy trì nó trong dài hạn.
• Để giải quyết vấn đề này, chương trình a16z Open Source AI Grant đã được khởi động, hỗ trợ các nhà phát triển mã nguồn mở thông qua nguồn tài trợ grant.
• Chương trình này hướng tới việc mang lại cho các nhà phát triển cơ hội tiếp tục công việc mà không cần phải tạo ra lợi ích tài chính từ đó.
• Những người nhận grant đầu tiên và các dự án được hỗ trợ đã được công bố; trong đó có các dự án tập trung vào instruction tuning cho LLM, fine-tuning các LLM không kiểm duyệt, và phát triển các công cụ mới cho suy luận mô hình.
• Chương trình này hướng tới việc thúc đẩy hợp tác mở, học hỏi và sự phát triển trong lĩnh vực AI.
• Những quan điểm được nêu trong bài viết này là ý kiến của các cá nhân được trích dẫn và không nhất thiết phản ánh quan điểm của a16z hoặc các công ty liên kết của họ.
• Nội dung này được cung cấp nhằm mục đích thông tin và không nên được xem là lời khuyên pháp lý, kinh doanh, đầu tư hoặc thuế.

[GN⁺]

Ý kiến trên Hacker News

• Chương trình tài trợ AI hỗ trợ các cá nhân, nhóm và hacker trong lĩnh vực AI mã nguồn mở.
• Chương trình này không hỗ trợ các công ty thương mại.
• Những người nhận tài trợ bày tỏ sự cảm kích đối với khoản hỗ trợ và khen ngợi tính minh bạch cũng như công bằng của quy trình.
• Tài trợ bao gồm việc mua phần cứng như GPU để hỗ trợ các dự án AI.
• Chương trình này nỗ lực thúc đẩy trình độ tiên tiến của AI mã nguồn mở và góp phần mang lại sự hiểu biết tốt hơn về công nghệ.
• Oobabooga được khen là một cổng tuyệt vời để thử nhiều mô hình tạo văn bản khác nhau.
• Những người nhận tài trợ hiện tại được xem là các cá nhân/nhóm có ảnh hưởng và được lựa chọn một cách sáng suốt.
• Có người hỏi liệu họ có thể thiết lập GPU của mình để hỗ trợ nỗ lực "thiếu hụt GPU" hay không.
• Sáng kiến này được xem là rất tuyệt và được đánh giá là cách tận dụng phí quản lý rất hiệu quả.
• Các đề xuất về những người nhận tài trợ trong tương lai được đưa ra, chẳng hạn như MLC LLM, ExLlama và các nhánh fork mã nguồn mở của text-generation inference.
• A16z được khen ngợi vì cách tiếp cận tập trung vào việc giải quyết các điểm đau thực tế, và có kỳ vọng rằng các nhà tư tưởng dẫn dắt/nhà đầu tư mạo hiểm khác sẽ làm theo cách tương tự.
• Những người nhận tài trợ đầu tiên được xem là quan trọng và vững chắc cho các thử nghiệm mang tính tự nhiên.
• Có sự tò mò về việc vì sao các dự án AI hình ảnh không nhận được tài trợ.