OpenAI hợp tác với Broadcom & TSMC để phát triển con chip đầu tiên và thu hẹp kế hoạch foundry
(reuters.com)- OpenAI đang phát triển chip suy luận AI và từ bỏ kế hoạch xây dựng mạng lưới foundry
- Broadcom hỗ trợ OpenAI thiết kế chip và giúp chip này có thể được sản xuất tại TSMC
- OpenAI bổ sung chip AI của AMD để đa dạng hóa nguồn cung chip
Nỗ lực thiết kế chip nội bộ của OpenAI và việc tận dụng các quan hệ đối tác trong ngành
- OpenAI đang xem xét nhiều phương án nhằm đa dạng hóa nguồn cung chip và cắt giảm chi phí
- Công ty dự định tạm dừng kế hoạch foundry đầy tham vọng trong thời gian tới và tập trung vào nỗ lực thiết kế chip nội bộ
- Chiến lược của OpenAI cho thấy cách các đối thủ quy mô lớn như Amazon, Meta, Google và Microsoft đang tận dụng quan hệ đối tác trong ngành cùng cách tiếp cận kết hợp nội bộ và bên ngoài để bảo đảm nguồn cung chip và kiểm soát chi phí
- OpenAI là một trong những bên mua chip lớn nhất, và quyết định vừa phát triển chip tùy biến vừa tìm nguồn cung từ nhiều nhà sản xuất chip khác nhau có thể tạo ra tác động rộng khắp trong lĩnh vực công nghệ
- Broadcom giúp các công ty như Google tinh chỉnh thiết kế chip cho quá trình sản xuất và cung cấp các thành phần thiết kế giúp di chuyển thông tin nhanh trong chip
- Thông qua Broadcom, OpenAI đã đảm bảo năng lực sản xuất với TSMC để có thể chế tạo con chip thiết kế tùy biến đầu tiên vào năm 2026
- Hiện tại, GPU của Nvidia đang nắm hơn 80% thị phần
- Tuy nhiên, tình trạng thiếu nguồn cung và chi phí gia tăng đang khiến các khách hàng lớn như Microsoft, Meta và giờ là OpenAI tìm kiếm các lựa chọn thay thế nội bộ hoặc bên ngoài
- Việc OpenAI quyết định sử dụng chip AMD thông qua Azure của Microsoft cho thấy chip MI300X mới của AMD đang cố gắng giành một phần thị trường do Nvidia thống trị
- Việc huấn luyện các mô hình AI và vận hành các dịch vụ như ChatGPT tiêu tốn rất nhiều chi phí
- OpenAI dự kiến năm nay lỗ 5 tỷ USD trên doanh thu 3,7 tỷ USD
- Chi phí tính toán là khoản chi lớn nhất của công ty, thúc đẩy nỗ lực tối ưu mức sử dụng và đa dạng hóa nhà cung cấp
Ý kiến của GN⁺
- Nỗ lực thiết kế chip nội bộ của OpenAI và việc hợp tác với nhiều nhà sản xuất chip khác nhau cho thấy một thay đổi quan trọng trong ngành AI. Điều này có thể tạo ra những lựa chọn mới đủ sức thách thức sự thống trị của Nvidia và thúc đẩy nhanh hơn sự phát triển của công nghệ AI
- Tuy nhiên, có thể xuất hiện những lo ngại liên quan đến cấu trúc chi phí của OpenAI. Trong bối cảnh phát triển mô hình AI và vận hành dịch vụ đòi hỏi chi phí khổng lồ, vẫn còn câu hỏi về khả năng sinh lời và tính bền vững trong dài hạn
- Trong khi đó, sự xuất hiện của các chip AI mới như MI300X của AMD sẽ thúc đẩy cạnh tranh trên thị trường và mang lại cho khách hàng nhiều lựa chọn hơn. Điều này có thể góp phần vào việc phổ cập và thương mại hóa công nghệ AI
- Khi cạnh tranh trên thị trường chip AI ngày càng gay gắt, đổi mới công nghệ được kỳ vọng sẽ tăng tốc, đồng thời nhu cầu đối với các chip hiệu năng cao, tiêu thụ điện năng thấp cũng sẽ gia tăng. Theo đó, đầu tư vào thiết kế và sản xuất chip cùng cuộc cạnh tranh thu hút nhân tài cũng được dự báo sẽ trở nên khốc liệt hơn
- Khi doanh nghiệp triển khai chip AI, cần cân nhắc tổng hợp nhiều yếu tố như hiệu năng, chi phí, khả năng tương thích và khả năng mở rộng. Việc lựa chọn con chip tối ưu phù hợp với lộ trình công nghệ và chiến lược kinh doanh dài hạn là rất quan trọng
1 bình luận
Ý kiến trên Hacker News
Từ góc nhìn của một cựu nhân viên Google, điều này hoàn toàn không gây ngạc nhiên. Tôi vẫn giữ liên lạc với bạn bè còn ở Google, và trong vài tháng gần đây, số lượng kỹ sư phần cứng xuất thân từ Google mà OpenAI tuyển về đã tăng mạnh
Chỉ cần xem các hồ sơ kỹ sư phần cứng của OpenAI trên LinkedIn cũng dễ thấy có rất nhiều người đến từ Google. Đội TPU của Google giờ chỉ còn là cái bóng của ngày xưa, nên cũng không ngạc nhiên nếu TPU tương lai của Google thua chip mới của OpenAI
Công việc TPU trước đây của Google cũng dựa vào sự hỗ trợ của Broadcom: https://www.theregister.com/AMP/2023/09/22/google_broadcom_t...
Vì Broadcom đã hỗ trợ Google TPU rất tốt, việc những người cũ của Google mang mối quan hệ nhà cung cấp đó sang công ty mới là điều rất tự nhiên
BRCM, cùng với Marvell và các hãng khác, là bên dẫn đầu về SerDes; IP của Synopsys và Cadence cũng được các công ty chip kiểu này dùng nhiều. Sẽ không có công ty nào tích hợp dọc hoàn toàn mọi IP, nên có vẻ không có gì đáng ầm ĩ
Việc này không dễ như nhốt một đống tiến sĩ vào một phòng rồi bắt họ tạo ra LLM. Phát triển phần cứng rất khó, chậm, mất nhiều thời gian để kiểm chứng, và cực kỳ tốn kém
Jensen đã nói nhu cầu đang “điên rồ”, và cũng có tin đồn rằng tỷ lệ yield thấp. Điều này có thể dẫn đến vấn đề nguồn cung trong vài tháng hoặc vài năm tới
Sẽ không có doanh nghiệp Fortune 500 nào đặt toàn bộ phần cứng và phần mềm AI vào một nguồn cung duy nhất. Tránh phụ thuộc một nguồn và đa dạng hóa là lựa chọn khôn ngoan
Vì không mua được Nvidia nên chúng tôi dùng Trainium
Ngay cả thỏa thuận OpenAI/Oracle cũng yêu cầu Oracle chạy stack Azure trong datacenter của họ, để MSFT có thể đứng ra điều phối mối quan hệ. Các chip AMD được nhắc trong bài cũng do MSFT mua
Tôi tự hỏi liệu điều này có nghĩa là OpenAI gánh rủi ro và chi tiêu vốn để cung cấp phần cứng đa dạng cho Microsoft, hay còn điều khoản nào khác
Cách diễn đạt kiểu OpenAI từng cân nhắc tự xây mọi thứ và huy động vốn để dựng mạng lưới foundry sản xuất chip đã giảm nhẹ rất nhiều mức độ phi lý trong tham vọng của Sam
Ông ấy đã nêu ý tưởng bằng cách nào đó huy động 7 nghìn tỷ USD để xây 36 fab chuyên cho silicon AI, và nghe nói các lãnh đạo TSMC gần như đã cười thẳng vào mặt ông ấy khi nghe chuyện đó
Tổng đầu tư ròng trong nước của toàn nước Mỹ còn chưa tới 1 nghìn tỷ USD: https://fred.stlouisfed.org/series/W790RC1Q027SBEA
Tổng hình thành vốn cố định, tức đầu tư ròng cộng khấu hao, cũng không lớn hơn quá nhiều: https://fred.stlouisfed.org/series/NFIRSAXDCUSQ
Google, Apple, Microsoft cộng lại cũng chưa tới 100 tỷ USD chi tiêu vốn hằng năm. Dù tổng vốn hóa thị trường của ba công ty này gần 10 nghìn tỷ USD
Một công ty trị giá 100 tỷ USD đòi 7 nghìn tỷ USD là điều phi lý đến khó tin
Nhìn vào phân tích tài chính thuyết phục trong “The Subprime AI Crisis”, tôi chẳng còn gì để thêm ngoài câu thoại trong phim “Dodgeball”
“Chiến lược táo bạo đấy, Cotton. Để xem có hiệu quả không.”
0 - https://www.wheresyoured.at/subprimeai/
1 - https://www.imdb.com/title/tt0364725/quotes/
Trước đây, mô hình miễn phí cũng từng trả lời benchmark của tôi chính xác hơn tùy từng ngày. Vì vậy tôi có cảm giác họ đã nới rộng khoảng cách giữa hai bên để khiến o1 trông hữu ích hơn
OpenAI muốn làm gì với sản phẩm của họ cũng được, nhưng với tôi thì có vẻ họ đã nerf sản phẩm miễn phí để khiến o1 trông tốt hơn tương đối
Mất bao lâu để đưa một chip mới vào sản xuất rồi dùng cho huấn luyện hoặc suy luận?
Đổ thêm tiền vào có thể khiến tiến độ nhanh hơn, nhưng cũng có thể làm hỏng việc và khiến mất nhiều thời gian hơn
Nếu làm đúng, họ có thể nới rộng khoảng cách với các nhà cung cấp LLM khác
Có lẽ họ đang xây trung tâm dữ liệu riêng để dùng con chip này, nhưng lạ là bài viết thực sự không nói vậy.
Có chip AI/nhân ma trận nào của phương Tây không được sản xuất tại TSMC không? Amazon hay Meta có khác không? NVIDIA, AMD, Google TPU cũng dùng TSMC với sự hợp tác thiết kế của Broadcom, và giờ OpenAI cũng vậy.
Tôi tò mò liệu Samsung có không đủ sức cạnh tranh hay không. Tôi cũng tò mò liệu giới hạn về tổng sản lượng chip hoặc chipset là do năng lực sản xuất của TSMC, hay do bộ nhớ hoặc đóng gói
Có vẻ OpenAI nhận ra rằng ngoài độ nhận diện thương hiệu thì về cơ bản họ không có hào lũy, nên đã cố tạo hào lũy bằng fab và thiết kế chip.
Nếu fab và chip độc quyền ưu việt như phép màu, lại có thể sản xuất rẻ mà không phải trả “thuế đội xanh”, thì họ đã có lợi thế khổng lồ về chi phí suy luận.
Có lẽ họ cũng đã kết luận rằng chỉ cần bắt đầu từ chip độc quyền là đủ
Tôi cứ có cảm giác rằng trong AI, transistor đang bị lãng phí. Chúng ta dùng trạng thái nhị phân để loại bỏ entropy khỏi hệ thống, nhưng trong AI thì có thể chấp nhận nhiều entropy hơn rất nhiều.
Với mục đích này, hẳn phải có cách tốt hơn nhiều so với cổng NAND
Nó giảm chi phí kỹ thuật không lặp lại và tăng tốc phát triển. Nếu bỏ nó, ta có thể cũng vứt bỏ cả hệ công cụ đã tạo nên hiệu quả hiện nay
Những thứ như GH Copilot thì rất ấn tượng, nhưng ngoài ra tôi vẫn chưa thấy tác động xã hội và văn hóa của LLM. Tôi đang loại trừ các bài đăng mạng xã hội quá nóng của những influencer khoe ví dụ hay ho hoặc ra mắt mô hình.
Tôi không thấy hiện tượng công nghệ này thấm vào toàn xã hội, nên tự hỏi có phải mình miễn nhiễm, hay nó đang ẩn sâu trong các sản phẩm SaaS/doanh nghiệp.
Nó không nên chỉ dừng ở mức “ồ, hay đấy” như TV 3D hay VR, mà phải có tác động văn hóa mang tính sản xuất lan rộng, bám dính và có tỷ lệ duy trì cao.
Nhất là khi nghĩ đến số tiền khổng lồ đã bị đốt vào tản nhiệt GPU
Ngoài lĩnh vực giáo dục, một ngành SEO đã lớn lên quanh LLM, và họ rất thích năng lực mới để sản xuất spam ở quy mô lớn.
Trong doanh nghiệp và chính phủ, LLM đang được đưa vào một cách thận trọng để tăng năng suất cho các công việc giao tiếp nơi có thể chấp nhận một chút ảo giác hoặc văn phong doanh nghiệp như robot. Câu cuối cùng vẫn do con người viết.
Ở mảng hỗ trợ khách hàng và bán hàng, người ta đang chi tiền cho phiên bản “AI” của các cây menu điện thoại cũ, và rốt cuộc vẫn khiến bạn phải hét “tôi muốn nói chuyện với nhân viên tư vấn” trước khi được nối với người thật.
Ở những nơi khác, việc áp dụng chậm hơn. Vì chúng ta kỳ vọng kết quả mang tính xác định, nhưng rất khó kỳ vọng điều đó ở các mô hình này. Khi xây phần mềm tương tác với LLM API, đầu ra có thể ngẫu nhiên đi chệch khỏi cấu trúc đã yêu cầu, nên phải triển khai lại các kỹ thuật lập trình phòng thủ đã không dùng hơn 10 năm. Vì vậy việc dùng đầu ra có cấu trúc hay gọi hàm cũng trở nên rắc rối
Thấy một người bạn làm kế toán và một người bạn làm marketing dùng nó cho phân tích cơ bản hoặc viết bài quảng bá, tôi nhận ra rằng người không phải lập trình viên cũng đã dùng thường xuyên.
Việc sử dụng trong các ngành nghề phi kỹ thuật là quan trọng trong lĩnh vực này. Một ví dụ phản chứng cho cơn sốt là tiền mã hóa: những người không chuyên kỹ thuật mà tôi biết chỉ “nắm giữ” qua sàn giao dịch, chứ không hiện thực hóa các trường hợp sử dụng từng được tuyên bố
Đặc biệt o1-preview khá tốt trong việc viết các bài mini-review phác họa tổng quan về những câu hỏi tôi quan tâm.
Nó hoạt động tốt khi đã có nhiều văn bản về chủ đề đó và cần tái tổ hợp chúng theo câu hỏi của tôi.
Định dạng chat hiệu quả hơn nhiều so với tìm kiếm web hay đọc vài bài Wikipedia liên quan. Thật sự đây là vấn đề nhìn ly nước vơi một nửa hay đầy một nửa. Tôi rất ấn tượng và kỳ vọng về tính hữu ích, nhưng đồng thời rõ ràng nó không phải AGI
Tôi đã thấy những người không ngờ tới dùng LLM cho đủ loại mục đích. Trong nhiều trường hợp, họ thậm chí không muốn cho sếp biết mình dùng công cụ, vì nó trao cho họ siêu năng lực.
Ý tôi là những người như nhân viên ngân hàng, quản lý cửa hàng, chính trị gia địa phương, chủ doanh nghiệp nhỏ. Trước đây chính tôi cũng khó tin, nhưng ngày càng thấy nhiều người ngoài dự đoán dùng LLM và còn xây dựng prompt khá bài bản
Khi mọi người dùng Outlook đều có nút tóm tắt, trích xuất và cải thiện email, hàng trăm triệu người sẽ dùng LLM mỗi ngày
Ý tưởng chi 7 nghìn tỷ USD cho fab riêng vừa tham vọng vừa điên rồ. Có vẻ cuối cùng thực tế đã chen vào. Nếu đã tỉnh khỏi giấc mơ lớn, hy vọng họ vẫn duy trì chất lượng