OpenAI hợp tác với Broadcom & TSMC để phát triển con chip đầu tiên và thu hẹp kế hoạch foundry

• OpenAI đang phát triển chip suy luận AI và từ bỏ kế hoạch xây dựng mạng lưới foundry
• Broadcom hỗ trợ OpenAI thiết kế chip và giúp chip này có thể được sản xuất tại TSMC
• OpenAI bổ sung chip AI của AMD để đa dạng hóa nguồn cung chip

Nỗ lực thiết kế chip nội bộ của OpenAI và việc tận dụng các quan hệ đối tác trong ngành

• OpenAI đang xem xét nhiều phương án nhằm đa dạng hóa nguồn cung chip và cắt giảm chi phí
• Công ty dự định tạm dừng kế hoạch foundry đầy tham vọng trong thời gian tới và tập trung vào nỗ lực thiết kế chip nội bộ
• Chiến lược của OpenAI cho thấy cách các đối thủ quy mô lớn như Amazon, Meta, Google và Microsoft đang tận dụng quan hệ đối tác trong ngành cùng cách tiếp cận kết hợp nội bộ và bên ngoài để bảo đảm nguồn cung chip và kiểm soát chi phí
• OpenAI là một trong những bên mua chip lớn nhất, và quyết định vừa phát triển chip tùy biến vừa tìm nguồn cung từ nhiều nhà sản xuất chip khác nhau có thể tạo ra tác động rộng khắp trong lĩnh vực công nghệ
• Broadcom giúp các công ty như Google tinh chỉnh thiết kế chip cho quá trình sản xuất và cung cấp các thành phần thiết kế giúp di chuyển thông tin nhanh trong chip
• Thông qua Broadcom, OpenAI đã đảm bảo năng lực sản xuất với TSMC để có thể chế tạo con chip thiết kế tùy biến đầu tiên vào năm 2026
• Hiện tại, GPU của Nvidia đang nắm hơn 80% thị phần
• Tuy nhiên, tình trạng thiếu nguồn cung và chi phí gia tăng đang khiến các khách hàng lớn như Microsoft, Meta và giờ là OpenAI tìm kiếm các lựa chọn thay thế nội bộ hoặc bên ngoài
• Việc OpenAI quyết định sử dụng chip AMD thông qua Azure của Microsoft cho thấy chip MI300X mới của AMD đang cố gắng giành một phần thị trường do Nvidia thống trị
• Việc huấn luyện các mô hình AI và vận hành các dịch vụ như ChatGPT tiêu tốn rất nhiều chi phí
• OpenAI dự kiến năm nay lỗ 5 tỷ USD trên doanh thu 3,7 tỷ USD
• Chi phí tính toán là khoản chi lớn nhất của công ty, thúc đẩy nỗ lực tối ưu mức sử dụng và đa dạng hóa nhà cung cấp

Ý kiến của GN⁺

• Nỗ lực thiết kế chip nội bộ của OpenAI và việc hợp tác với nhiều nhà sản xuất chip khác nhau cho thấy một thay đổi quan trọng trong ngành AI. Điều này có thể tạo ra những lựa chọn mới đủ sức thách thức sự thống trị của Nvidia và thúc đẩy nhanh hơn sự phát triển của công nghệ AI
• Tuy nhiên, có thể xuất hiện những lo ngại liên quan đến cấu trúc chi phí của OpenAI. Trong bối cảnh phát triển mô hình AI và vận hành dịch vụ đòi hỏi chi phí khổng lồ, vẫn còn câu hỏi về khả năng sinh lời và tính bền vững trong dài hạn
• Trong khi đó, sự xuất hiện của các chip AI mới như MI300X của AMD sẽ thúc đẩy cạnh tranh trên thị trường và mang lại cho khách hàng nhiều lựa chọn hơn. Điều này có thể góp phần vào việc phổ cập và thương mại hóa công nghệ AI
• Khi cạnh tranh trên thị trường chip AI ngày càng gay gắt, đổi mới công nghệ được kỳ vọng sẽ tăng tốc, đồng thời nhu cầu đối với các chip hiệu năng cao, tiêu thụ điện năng thấp cũng sẽ gia tăng. Theo đó, đầu tư vào thiết kế và sản xuất chip cùng cuộc cạnh tranh thu hút nhân tài cũng được dự báo sẽ trở nên khốc liệt hơn
• Khi doanh nghiệp triển khai chip AI, cần cân nhắc tổng hợp nhiều yếu tố như hiệu năng, chi phí, khả năng tương thích và khả năng mở rộng. Việc lựa chọn con chip tối ưu phù hợp với lộ trình công nghệ và chiến lược kinh doanh dài hạn là rất quan trọng

[GN⁺]

Ý kiến Hacker News

• OpenAI đã từ bỏ kế hoạch xây dựng một mạng lưới nhà máy "foundries" để sản xuất chip. Lý do là chi phí và thời gian

  • Kế hoạch của OpenAI là huy động 7 nghìn tỷ USD để xây 36 nhà máy sản xuất silicon AI
  • Có tin nói rằng ban lãnh đạo TSMC đã bật cười khi nghe về kế hoạch này

• OpenAI đang tuyển dụng rất nhiều kỹ sư phần cứng từ Google

  • Nếu xem hồ sơ kỹ sư phần cứng của OpenAI trên LinkedIn, có thể thấy nhiều người trước đây từng làm ở Google
  • Đội TPU của Google đã yếu hơn trước, và trong tương lai TPU của Google thậm chí có thể kém hơn chip của OpenAI

• Việc phát triển TPU của Google có sự hỗ trợ từ Broadcom

  • Xét việc Broadcom đã đóng góp cho quá trình phát triển TPU của Google, việc các cựu nhân viên Google tiếp tục duy trì mối quan hệ này ở công ty mới là điều dễ hiểu

• Có động thái bổ sung chip AMD và NVIDIA để đáp ứng nhu cầu hạ tầng

  • Nhu cầu đang tăng "điên cuồng", và điều này có thể dẫn đến vấn đề nguồn cung
  • Các công ty trong Fortune 500 không dồn mọi nguồn lực vào một chỗ, và việc đa dạng hóa nguồn cung phần cứng lẫn phần mềm AI là điều khôn ngoan

• Có vẻ OpenAI đang xây dựng trung tâm dữ liệu riêng, nhưng bài báo không nói rõ điều này

  • Không rõ ngoài TSMC còn có nơi nào ở phương Tây sản xuất chip AI/nhân ma trận hay không
  • NVIDIA, AMD, Google và OpenAI đều đang dùng TSMC
  • Tò mò không biết Samsung có thiếu sức cạnh tranh hay không

• Tò mò không biết sẽ mất bao lâu để sản xuất chip mới và đưa chúng vào dùng cho huấn luyện/suy luận

• Ngoài GH Copilot, vẫn chưa thấy tác động xã hội/văn hóa của các LLMs

  • Hy vọng sẽ có những tác động văn hóa tích cực, bền vững và lan rộng trong xã hội

• OpenAI đã muốn giành lợi thế cạnh tranh thông qua việc tự thiết kế và sản xuất chip

  • Chip tự phát triển có thể mang lại lợi thế rất lớn về chi phí
  • Có lẽ họ đã đánh giá rằng bắt đầu từ việc tự thiết kế chip thôi là đủ

• Việc bỏ ra 7 nghìn tỷ USD để tự xây nhà máy là một kế hoạch vừa tham vọng vừa liều lĩnh

  • Có vẻ họ đã nhìn thẳng vào thực tế và thu hẹp kế hoạch
  • Mong rằng chất lượng vẫn được giữ vững

• Điều thú vị là việc tự làm chip cùng TSMC lại được xem là kế hoạch "thu gọn"