CEO Intel: "Toàn bộ ngành đều có động lực xóa bỏ thị trường CUDA"

CEO Intel công kích công nghệ CUDA của Nvidia trong lĩnh vực AI

• CEO Intel Pat Gelsinger đã công bố Intel Core Ultra và chip trung tâm dữ liệu Xeon thế hệ 5 tại một sự kiện ở New York, đồng thời khẳng định công nghệ suy luận của AI sẽ quan trọng hơn huấn luyện.
• Gelsinger cho biết CUDA của Nvidia hiện đang thống trị lĩnh vực huấn luyện, nhưng sẽ không tồn tại mãi mãi; ông giải thích rằng MLIR, Google, OpenAI và các bên khác đang chuyển sang một 'lớp lập trình kiểu Python' để làm cho việc huấn luyện AI trở nên cởi mở hơn.
• Intel nhấn mạnh rằng họ có năng lực cạnh tranh không chỉ ở mảng huấn luyện mà cả suy luận, và điều quan trọng là có thể chạy mô hình tốt đến mức nào.

Chiến lược AI của Intel và tiêu chuẩn OpenVINO

• Gelsinger đang thúc đẩy các nỗ lực AI của Intel thông qua tiêu chuẩn OpenVINO, đồng thời dự đoán tương lai của điện toán lai diễn ra trên đám mây và PC.
• Sandra Rivera, phó chủ tịch nhóm trung tâm dữ liệu và AI của Intel, nói thêm rằng Intel có thể có lợi thế trong việc được lựa chọn làm đối tác nhờ quy mô trải dài từ trung tâm dữ liệu đến PC.
• Gelsinger cho biết Intel sẽ cạnh tranh cho 100% thị trường AI trung tâm dữ liệu bằng CPU dẫn đầu, bộ gia tốc và mảng đúc chip, đồng thời cũng sẽ theo đuổi các cơ hội thương mại với Nvidia, AMD và các hãng khác.

Ý kiến của GN⁺

• Phát biểu của CEO Intel Pat Gelsinger cho thấy một nỗ lực mới nhằm thách thức sự thống trị của công nghệ CUDA của Nvidia trong lĩnh vực AI. Điều này có thể được xem là một phần của xu hướng hướng tới cách tiếp cận cởi mở và tiêu chuẩn hóa hơn trong ngành công nghệ.
• Chiến lược tập trung vào công nghệ suy luận AI của Intel báo hiệu một cục diện cạnh tranh mới trên thị trường AI. Điều này gợi ý sự chuyển dịch theo hướng đề cao hơn giá trị của việc vận hành và khai thác hiệu quả các mô hình AI.
• Nội dung này mang lại góc nhìn về cách Intel đang tìm cách củng cố vị thế của mình trong lĩnh vực AI thông qua các tiêu chuẩn như OpenVINO. Điều này có thể góp phần thúc đẩy dân chủ hóa công nghệ và đổi mới sáng tạo.

[GN⁺]

Ý kiến Hacker News

• Thảo luận về tầm quan trọng của CUDA

  • CUDA không chỉ là vấn đề tốc độ sản xuất chip mà còn là vấn đề phần mềm và hệ sinh thái. Các đối thủ phải cạnh tranh với cả hệ sinh thái.
  • Mi100 cũ trên eBay cho hiệu năng gần tương đương A100 với mức giá rẻ hơn 5 lần, nhưng do phần mềm không tương thích nên mất rất nhiều thời gian để vận hành so với GPU Nvidia.
  • Google cung cấp khả năng tương thích với PyTorch thông qua giao diện XLA, và Intel cũng ở trong tình huống tương tự.
  • Các đối thủ cần kiểm thử mọi mô hình và xây dựng các bộ kiểm thử quy mô lớn để khắc phục vấn đề.
  • Intel có xu hướng công bố các sáng kiến công khai nhưng chỉ cung cấp mức hỗ trợ tối thiểu, và OpenVino nhiều khả năng sẽ không thành công. Trong khi đó, Triton của OpenAI có vẻ được ưa chuộng hơn.

• Chiến lược kỹ thuật phần mềm của NVIDIA

  • Hơn một nửa số kỹ sư của NVIDIA là kỹ sư phần mềm. Jensen đã xây dựng một software stack mạnh mẽ trong suốt nhiều thập kỷ.
  • Cho đến khi Intel tìm được một CEO vừa giỏi kỹ thuật vừa giỏi chiến lược, họ sẽ khó có thể tổ chức một phản ứng thành công trước CUDA.

• Kỳ vọng và thực tế về các lựa chọn thay thế CUDA

  • Nếu có thể cung cấp công cụ, hệ sinh thái và trải nghiệm lập trình tốt hơn CUDA thì mọi người đều sẽ được hưởng lợi.
  • Tuy nhiên ở thời điểm hiện tại, xét đến những nỗ lực trước đây như thất bại của OpenCL, những tuyên bố như vậy có phần buồn cười.
  • Intel và AMD đã bỏ ra ít công sức hơn rất nhiều so với mức đầu tư vào CUDA, và kết quả là đáng thất vọng.

• Câu hỏi về lợi thế thực sự của CUDA

  • Lợi thế của CUDA nằm ở hệ sinh thái phần mềm chứ không phải phần cứng.
  • Với phần lớn người dùng, chi phí di chuyển có thể không quá lớn, nhưng với các nhà nghiên cứu và những người đang đẩy xa ranh giới thì có thể không như vậy.

• Chỉ trích các nỗ lực ứng phó dựa trên OpenCL

  • Intel và AMD đã có nhiều năm để cung cấp các tính năng tương tự dựa trên OpenCL nhưng vẫn thất bại.

• Thiếu động lực để rời bỏ CUDA

  • Hầu hết mô hình và công cụ vẫn đang sử dụng CUDA, và hầu như không thấy việc dùng middleware NN của AMD.

• Thất bại trong chiến lược phần mềm của Intel và AMD

  • Intel đã không làm được gì trong 10 năm qua và lãng phí hàng tỷ USD vào các GPU gần như không hoạt động.
  • Nvidia đã đầu tư thành công vào việc hỗ trợ sự phát triển của AI.

• Chỉ trích chiến lược phần mềm của Intel và AMD

  • Pat Gelsinger và Lisa Su thiếu hiểu biết về phần mềm và đang trông chờ cộng đồng gánh phần mềm cho phần cứng phức tạp.
  • Nvidia đã phát triển phần cứng và phần mềm cùng nhau, và mô hình lập trình CUDA từ lâu đã là một canh bạc lớn.
  • Nếu Intel và AMD không thay đổi một cách căn bản, họ sẽ thua ARM và Nvidia.

• Kỳ vọng đối với GPU Intel

  • Nếu có một GPU Intel cho hiệu năng tốt với cùng mức chi phí như GPU Nvidia và có thể chạy PyTorch ổn định, tôi sẵn sàng mua GPU Intel.

• Chỉ trích thế độc quyền của CUDA

  • Có thể hiểu được động cơ của NVIDIA trong việc duy trì thế độc quyền CUDA, nhưng AMD/Intel/các công ty khác cũng đã bỏ lỡ cơ hội.
  • Khi các rào cản kỹ thuật/năng lực duy trì thế độc quyền trên thực tế đối với một số trường hợp sử dụng nhất định, người tiêu dùng sẽ là bên chịu thiệt.