1 điểm bởi GN⁺ 2024-10-21 | 1 bình luận | Chia sẻ qua WhatsApp
  • Nhu cầu AI đang kéo tăng đầu tư vào máy tính, trung tâm dữ liệu và hạ tầng điện tại Mỹ; việc Microsoft chịu chi phí khởi động lại lò phản ứng số 1 của nhà máy điện hạt nhân Three Mile Island cho thấy tình trạng thiếu điện cho trung tâm dữ liệu đang lan sang đầu tư hạ tầng vật lý
  • Chi tiêu xây dựng trung tâm dữ liệu tại Mỹ đạt mức cao kỷ lục, 28,6 tỷ USD tính theo năm; tăng 57% so với cùng kỳ và 114% so với hai năm trước, đạt quy mô tương đương tổng chi tiêu xây dựng nhà hàng, quán bar và cửa hàng bán lẻ
  • Chi tiêu xây dựng không bao gồm rack máy chủ và linh kiện; nhập khẩu ròng máy tính cỡ lớn cùng linh kiện, phụ kiện máy tính trong một năm gần đây đã vượt 65 tỷ USD, còn nhập khẩu chip, máy tính và linh kiện liên quan từ Đài Loan cũng tăng vọt lên hơn 38 tỷ USD
  • Hiệu ứng lan tỏa của cơn bùng nổ AI lần này thể hiện rõ hơn ở phần cứng, sản xuất, xây dựng và hạ tầng điện so với việc làm phần mềm truyền thống; số việc làm công nghệ tại Mỹ trong một năm qua chỉ tăng 32.000
  • Khi cuộc đua đầu tư tiếp diễn trên giả định các mô hình lớn hơn và ứng dụng thực tế sẽ lan rộng, nhu cầu bán dẫn cao cấp, sự phụ thuộc vào Đài Loan và hạn chế tiếp cận của Trung Quốc càng nổi lên như những vấn đề trung tâm của Chip War

Nhu cầu AI dẫn đến đầu tư vào hạ tầng vật lý

  • Để đáp ứng nhu cầu điện ngày càng tăng của trung tâm dữ liệu, Microsoft đã quyết định chịu chi phí khởi động lại lò phản ứng số 1 của nhà máy điện hạt nhân Three Mile Island, trở thành công ty công nghệ lớn thứ hai của Mỹ sau Amazon tận dụng cơ sở hạt nhân hiện có để ứng phó nhu cầu năng lượng
  • Microsoft là nhà đầu tư lớn và nhà cung cấp năng lực tính toán chính của OpenAI; khi chưa đầy hai năm trôi qua kể từ lúc ChatGPT ra mắt, việc phát triển và sử dụng AI đã lan rộng nhanh chóng
  • Sản phẩm AI đang được dùng để tạo mã, văn bản, hình ảnh, phân tích dữ liệu, tự động hóa công việc và tăng cường nền tảng trực tuyến; mức sử dụng được dự báo sẽ tiếp tục tăng
  • Các mô hình AI mới nhất đòi hỏi tài nguyên tính toán quy mô lớn cho huấn luyện và suy luận; để vận hành chúng cần phần cứng hiệu năng cao, cơ sở ở quy mô công nghiệp, cùng hạ tầng điện, nước và băng rộng

Đầu tư vào trung tâm dữ liệu và máy tính tăng vọt

  • Xây dựng trung tâm dữ liệu tại Mỹ đạt mức cao kỷ lục 28,6 tỷ USD tính theo năm
    • Tăng 57% so với cùng kỳ năm trước
    • Tăng 114% so với hai năm trước
    • Quy mô tương đương tổng chi tiêu xây dựng nhà hàng, quán bar và cửa hàng bán lẻ tại Mỹ
  • Con số này chỉ bao gồm bản thân tòa nhà, không tính các rack máy tính hiệu năng cao, cáp, quạt và các linh kiện khác đóng vai trò như bộ não của trung tâm dữ liệu
  • Tháng 8, nhập khẩu ròng máy tính cỡ lớn của Mỹ đạt mức cao nhất mọi thời đại; nhập khẩu ròng linh kiện, phụ kiện máy tính và các cấu phần khác cũng lập kỷ lục vào tháng trước đó
  • Trong một năm gần đây, Mỹ đã nhập khẩu hơn 65 tỷ USD ở hai nhóm này, đồng thời sản xuất trong nước cũng tăng

Cấu trúc đầu tư của các công ty công nghệ đang thay đổi

  • Phần lớn trung tâm dữ liệu, máy tính và thiết bị mới được các doanh nghiệp trong lĩnh vực công nghệ thông tin mua sắm
    • Các nhà cung cấp hạ tầng tính toán như Amazon
    • Các công ty tìm kiếm web như Google
    • Các nhà phát hành phần mềm như Microsoft
  • Trong một năm qua, các công ty này đã tăng giá trị nắm giữ ròng bất động sản, nhà xưởng và thiết bị thêm hơn 95 tỷ USD, mức cao kỷ lục
  • Hơn 10 năm trước, Facebook mua Instagram với giá 1,2 tỷ USD, rồi hai năm sau mua WhatsApp với giá 15 tỷ USD
    • Khi đó Instagram chỉ có 13 nhân viên, WhatsApp chỉ có 55 nhân viên, còn nền tảng vật lý chỉ ở mức văn phòng và workstation cho lập trình viên
  • Chỉ trong nửa đầu năm 2024, Meta đã chi 15,2 tỷ USD vốn đầu tư, phần lớn dùng cho hạ tầng tính toán quy mô lớn hỗ trợ mô hình AI Llama
  • Cơn bùng nổ AI hiện nay thâm dụng phần cứng hơn nhiều so với các làn sóng công nghệ trước và đang nhanh chóng kéo tăng xây dựng cũng như đầu tư tại Mỹ

Máy tính hiệu năng cao và nhập khẩu từ Đài Loan trở thành trục cốt lõi

  • Trong cơn bùng nổ AI, đầu tư của doanh nghiệp Mỹ vào máy tính và thiết bị liên quan đã tăng 16,6% trong một năm qua sau khi điều chỉnh theo giá, đạt mức cao nhất mọi thời đại
  • Trong thập niên 2010, đầu tư vào máy tính gần như trì trệ tương đối suốt gần 10 năm; nhu cầu làm việc từ xa trong đại dịch đã phá vỡ xu hướng này
  • Năm 2022, khi mức độ làm việc tại nhà và sử dụng Internet ổn định, đầu tư vào máy tính giảm; nhưng từ cuối năm 2023, cùng với cơn bùng nổ AI, xu hướng này lại tăng vọt
  • Tốc độ tăng trưởng của các hệ thống máy tính cao cấp còn nhanh hơn đầu tư máy tính nói chung
    • TSMC là nhà sản xuất bán dẫn tiên tiến hàng đầu thế giới
    • Nhập khẩu chip, máy tính và linh kiện liên quan từ Đài Loan của Mỹ trong một năm gần đây vượt 38 tỷ USD, tăng hơn 140% so với cùng kỳ
    • Nhập khẩu trực tiếp chip logic của Mỹ tăng từ mức thấp lên khoảng 5 tỷ USD tính theo năm
    • Linh kiện và cấu phần máy tính vẫn là nhóm nhập khẩu lớn nhất

Doanh nghiệp phần mềm cũng bước vào cuộc đua phần cứng

  • Dữ liệu đầu tư chi tiết theo ngành đến năm 2023 cho thấy các công ty xử lý dữ liệu và tìm kiếm web như Amazon, Google vẫn duy trì quy mô đầu tư lớn nhất trong lĩnh vực công nghệ
  • Tăng trưởng đầu tư nhanh nhất xuất hiện ở các nhà phát triển phần mềm
    • Đầu tư thực vào tài sản trí tuệ của các nhà phát hành phần mềm đã tăng 40% kể từ năm 2021
    • Nhóm này bao gồm bản thân các mô hình AI và hoạt động R&D liên quan
    • Đầu tư thực vào thiết bị như máy tính tăng 96%
  • Thời kỳ các nhà phát triển phần mềm dẫn đầu có cấu trúc phần cứng nhẹ đã chuyển thành cuộc cạnh tranh nhằm nhanh chóng xây dựng năng lực phần cứng

Vị trí trung tâm dữ liệu khác biệt lớn theo khu vực

  • Trung tâm dữ liệu cần được phân tán ở mức độ nhất định vì nhu cầu kết nối mạng và để tránh ràng buộc hạ tầng, nhưng việc tập trung thành các cụm lớn có thể nâng hiệu quả, giảm chi phí và độ trễ
  • Trong AI, hiệu ứng tập trung này đặc biệt quan trọng; các công ty đang đẩy giới hạn về quy mô trung tâm dữ liệu và kết nối mạng để đưa càng nhiều năng lực tính toán càng tốt vào phát triển mô hình
  • Thống kê xây dựng chính thức chỉ chia chi tiêu trung tâm dữ liệu ở cấp vùng, nên không có dữ liệu xây dựng chi tiết hơn
  • Việc mở rộng trung tâm dữ liệu tại Mỹ vẫn mạnh nhất ở miền Nam, nơi có các cụm hình thành từ trước
  • Tốc độ tăng trưởng nhanh hơn ở thị trường Trung Tây và Bờ Tây, trong khi vùng Đông Bắc hầu như không bị ảnh hưởng

Nhu cầu điện và tác động lên lưới điện khu vực

  • Energy Information Administration đã nhiều lần nâng dự báo tăng trưởng phụ tải điện để phản ánh nhu cầu từ trung tâm dữ liệu
  • Dự báo hiện tại cho rằng tiêu thụ điện của khu vực thương mại sẽ tăng 3% trong năm nay và 1% trong năm sau
  • Ngay cả trong dự báo này, người dùng thương mại vẫn là yếu tố làm tăng tiêu thụ điện nhỏ hơn so với điện khí hóa khu dân cư và đưa công nghiệp hồi hương, nhưng đây là mức tăng nhu cầu nhanh nhất trong nhiều năm của khu vực thương mại
    • Từ năm 2007 đến 2023, tiêu thụ điện thương mại chỉ tăng tổng cộng 5%
    • Trong ước tính chính thức trước cơn bùng nổ AI, máy tính và thiết bị văn phòng chiếm 11,4% tiêu thụ điện thương mại
  • Ở một số khu vực, tiêu thụ điện của trung tâm dữ liệu trở thành yếu tố chính làm tăng phụ tải điện
    • North Dakota có tiêu thụ điện thương mại tăng hơn 45% sau khi một trung tâm dữ liệu lớn mở cửa vào năm 2022
    • Do thị trường điện và tính toán của North Dakota có quy mô nhỏ, mức tăng nhu cầu điện thô ở các cụm trung tâm dữ liệu lớn như Virginia và Texas vẫn lớn hơn

Nhu cầu điện cho trung tâm dữ liệu ở Virginia và Texas

  • Byteway tại vùng ngoại ô Virginia phía bắc Washington DC là cụm sức mạnh tính toán lớn nhất thế giới
  • Cụm này khiến tiêu thụ năng lượng thương mại của Virginia tăng 30% kể từ năm 2019, là mức tăng thô lớn nhất về nhu cầu điện thương mại tại Mỹ
  • Texas đã thu hút các trung tâm dữ liệu và thợ đào tiền mã hóa như một phần của chương trình quản lý phụ tải năng lượng
  • Tiêu thụ điện thương mại của Texas đã tăng 10% kể từ năm 2019 và được dự báo sẽ còn tăng mạnh hơn
  • Mức tăng phụ tải trung tâm dữ liệu góp phần vào kết quả vượt trội của Texas trong đầu tư năng lượng tái tạo
    • ERCOT và PJM được dự báo sẽ dẫn trước toàn nước Mỹ về tăng trưởng năng lượng tái tạo trong năm nay và năm 2025
    • Do lợi thế tập trung trung tâm dữ liệu, các công ty AI ngày càng có xu hướng tập trung gần các nguồn điện quy mô lớn
    • Điều này trở thành bối cảnh cho sự quan tâm ngày càng lớn đến năng lượng hạt nhân và ý chí đầu tư trực tiếp của các công ty công nghệ vào hạ tầng phát điện

Doanh thu đã phục hồi nhưng việc làm công nghệ còn yếu

  • Trong cơn bùng nổ AI, doanh thu lĩnh vực công nghệ thông tin đã phục hồi sau giai đoạn chững lại 2022–2023
  • Các nhà phát hành phần mềm, cổng tìm kiếm web và nhà cung cấp hạ tầng tính toán đều tăng doanh thu 12–15% trong một năm qua
  • Mức này chưa bằng năm 2021, nhưng vẫn là tăng trưởng doanh thu mạnh nếu so với giai đoạn trước COVID
  • Dù đầu tư vật lý tăng vọt và doanh thu phục hồi, tăng trưởng việc làm trong ngành công nghệ vẫn rất yếu
    • Mỹ đã thêm 32.000 việc làm công nghệ trong một năm qua
    • Con số này thấp hơn bất kỳ thời điểm nào trong năm 2021, 2022 và 9 năm trước đại dịch
    • Các nhà phát hành phần mềm và ngành hạ tầng tính toán, vốn nằm ở trung tâm cơn bùng nổ AI, gần như không có tăng trưởng việc làm ròng trong một năm qua
  • Thị trường việc làm công nghệ gây khó khăn cho các sinh viên mới tốt nghiệp ngành khoa học máy tính gần đây vẫn chưa cải thiện đáng kể

Tác động lên thị trường lao động rõ hơn bên ngoài các vị trí công nghệ truyền thống

  • Không phải cơn bùng nổ đầu tư AI không có tác động lên thị trường lao động, nhưng tác động tập trung nhiều hơn bên ngoài lĩnh vực công nghệ thông tin truyền thống
  • Tổng thù lao trong ngành sản xuất bán dẫn tăng 25% từ quý 1/2023 đến quý 1/2024
    • Nhân viên tại các công ty như NVIDIA chịu ảnh hưởng từ các quyền chọn cổ phiếu trở nên có giá trị hơn
  • Trong một năm qua, việc làm xây dựng thương mại tăng 30.000, một phần là hiệu ứng gián tiếp từ nhu cầu trung tâm dữ liệu
  • Cùng lúc đó cũng diễn ra bùng nổ việc làm xây dựng công nghiệp trong các fab chip và các ngành sản xuất khác, cũng như tăng việc làm liên quan đến mở rộng điện lực và hạ tầng rộng hơn
  • Động lực việc làm của cơn bùng nổ AI rất khác với thị trường lao động công nghệ trong thập niên qua, tập trung nhiều hơn vào đầu tư phần cứng, doanh nghiệp sản xuất/thiết kế và nhà thầu xây dựng hạ tầng thay vì lập trình viên truyền thống

Cuộc đua đầu tư và sự mở rộng sang Chip War

  • Các nhà phát triển AI đang cạnh tranh quyết liệt vì tin rằng cải thiện sản phẩm và mở rộng thương mại hóa sẽ biện minh cho quy mô đầu tư mang tính lịch sử hiện nay
  • Trong ngắn hạn, đầu tư được dự báo sẽ còn tăng hơn nữa theo việc phát triển các mô hình cao cấp hơn và sự lan rộng của các ứng dụng thực tế như xe tự hành
  • Các nhà hoạch định chính sách xem AI là lĩnh vực cốt lõi cho tương lai kinh tế Mỹ
    • Nhờ vị thế thống trị của Silicon Valley và các tập đoàn công nghệ lớn của Mỹ, Mỹ đã xây dựng được lợi thế đáng kể về phát triển AI và năng lực trung tâm dữ liệu
    • Cơn bùng nổ AI được đánh giá là mang lại lợi ích cho đầu tư tại Mỹ nhiều hơn bất kỳ quốc gia nào khác
  • Cạnh tranh địa chính trị quanh năng lực phần cứng nhiều khả năng sẽ ngày càng sâu sắc
    • CHIPS Act được xây dựng trước thời ChatGPT, và một số lãnh đạo ngành phàn nàn rằng nó có vẻ đã lỗi thời về ưu tiên và quy mô
    • Nhu cầu bán dẫn cao cấp tăng làm gia tăng sự phụ thuộc của Mỹ vào nhập khẩu từ Đài Loan, điều mà CHIPS Act từng muốn giảm nhẹ
    • Với nhiều linh kiện cần thiết để đáp ứng nguồn cung ở quy mô trung tâm dữ liệu, Mỹ vẫn phụ thuộc vào Trung Quốc
  • Mỹ nhiều khả năng sẽ tiếp tục hạn chế quyền tiếp cận các chip cao cấp nhất nhằm làm chậm phát triển AI của Trung Quốc, còn Trung Quốc tiếp tục mở rộng năng lực sản xuất chip để giảm phụ thuộc vào nhập khẩu
  • Cơn bùng nổ đầu tư AI càng diễn tiến thì càng dịch chuyển ra tuyến đầu của Chip War hiện hữu

1 bình luận

 
GN⁺ 2024-10-21
Ý kiến trên Hacker News
  • Sau khi đọc bài này, tôi muốn đặt cược rằng làn sóng đầu tư thâm dụng vốn lần này cũng sẽ diễn ra tương tự những làn sóng đầu tư khổng lồ trong lịch sử Mỹ
    Giống như việc xây dựng đường sắt trong thập niên 1800, sự nở rộ hỗn loạn của các hãng ô tô đầu thập niên 1900, hay cơn sốt cáp quang viễn thông cuối thập niên 1990: sau giai đoạn xây dựng hạ tầng quá mức trên quy mô lớn là cú sụp đổ khiến phần lớn ngành phá sản, nhưng về sau hạ tầng đó được hấp thụ và mang lại lợi ích lớn cho kinh tế và xã hội
    Tôi nhớ đến ví dụ dark fiber được đặt sẵn sau làn sóng đầu tư và phá sản viễn thông cuối thập niên 90~đầu 2000, cuối cùng được bật lên và giúp các dịch vụ đa phương tiện chất lượng cao như Netflix phát triển
    Ở đây cũng vậy, nhà đầu tư trung bình sẽ rót tiền vào chip cao cấp, trung tâm dữ liệu và nguồn cung năng lượng rồi thất vọng nặng nề, nhưng về dài hạn tôi nghĩ nó sẽ đem lại lợi tức lớn
    Đặc biệt chỉ riêng đầu tư vào năng lượng thôi, dù AI bị mô tả như một con hà mã khổng lồ ngốn năng lượng làm nóng khí hậu, tôi tin rằng nhu cầu vốn khổng lồ này sẽ thúc đẩy nhanh quá trình chuyển đổi thoát khỏi nhiên liệu hóa thạch, khi năng lượng tái tạo hiện đã trở thành nguồn điện rẻ nhất

    • Nghe có vẻ đúng, và một lúc nào đó bong bóng sẽ vỡ
      Nhưng vấn đề là khi nào. Nếu hiện tại tương ứng với năm 1995 của cơn sốt dot-com chứ không phải 1999, thì vẫn còn 4 năm tăng trưởng cao phía trước, và ngay cả sau khi sụp đổ, thị trường năm 2029 vẫn có thể lớn hơn rất nhiều so với năm 2024. Cisco năm 2001 vẫn lớn gấp 4 lần so với năm 1995
      Điểm hơi khác so với các bong bóng trước đây là AI càng có nhiều lượng tính toán thì càng thông minh và có năng lực hơn
      Một tiêu chí để ước đoán liệu chúng ta có còn ở giai đoạn đầu của cơn sốt hay không là xem Slack đã bán chatbot LLM có thể đưa ra câu trả lời đáng tin cậy về các quyết định công việc/kỹ thuật được đưa ra trong chat trong 2 năm qua hay chưa. Hiện vẫn chưa có sản phẩm như vậy, có lẽ vì chi phí chạy chừng đó suy luận với cửa sổ ngữ cảnh lớn vẫn còn quá đắt
      Vì vậy tôi nghiêng về quan điểm hiện nay gần với điểm bắt đầu của bong bóng hơn là đoạn cuối
      Một điều nữa cần theo dõi là liệu quy luật mở rộng của LLM có nhanh chóng sụp đổ, khiến việc thêm tính toán không còn tạo ra trí thông minh cao hơn một cách kinh tế hay không. Nếu vậy thì bong bóng có vẻ sẽ vỡ, và mọi người đang chờ xem các mô hình cỡ GPT-5 có cho thấy tín hiệu đó hay không
    • Tôi không hiểu vì sao có thể nhìn nhận như vậy. Mạng đường sắt, mạng đường bộ và mạng cáp quang vẫn có thể dùng trong hàng chục năm sau khi nhà đầu tư ban đầu phá sản
      Nhưng vấn đề là trung tâm dữ liệu cho tính toán AI hiện nay gần như khó dùng vào mục đích khác nếu các công ty AI phá sản
      Vấn đề của đầu tư hạ tầng tính toán là phải có kế hoạch sử dụng hết trong vòng 5 năm tới. Sau thời gian đó, có thể người ta cũng không muốn nhận dù được cho miễn phí
    • Năng lượng tái tạo vốn đã quá rẻ nên dù sao có lẽ cũng sẽ được xây dựng với cùng tốc độ
      Ngược lại, điện hạt nhân đắt đỏ có lẽ đã không được xây nếu không có bong bóng này, nhưng kỳ lạ là tiền dường như cũng đang chảy vào hướng hạt nhân
    • Trong bong bóng viễn thông, tài sản còn giữ giá trị về sau chỉ là cáp quang chôn dưới đất. Thiết bị đầu cuối thì lỗi thời trong vài năm và phải thay thế, còn cáp quang là tài sản cốt lõi vì có thể tái sử dụng và chi phí lắp đặt đắt đỏ
      Trong bong bóng AI, tài sản nào sẽ còn giá trị sau 5 năm? Khả năng cao không phải là một nhà kho đầy GPU 5 năm tuổi. Có thể là nhà máy điện hạt nhân
    • Đường sắt và mạng máy tính tạo ra hiệu ứng mạng, nhưng không chắc điều tương tự có áp dụng cho các trung tâm dữ liệu chứa đầy phần cứng lỗi thời rất nhanh hay không
  • Có người nói nó giống đường sắt, nhưng ngoài việc tốn nhiều tiền thì hoàn toàn không giống đường sắt
    Đường sắt đã tồn tại hàng chục năm và sẽ còn có ý nghĩa trong nhiều chục năm nữa. Nó hao mòn từ từ và là hình thức vận tải mặt đất hiệu quả nhất
    Ngược lại, các khoản đầu tư phần cứng kiểu này sau 6 năm sẽ được khấu hao hết, và có khả năng bị loại bỏ vì không còn đáng vận hành xét theo sản lượng so với chi phí điện
    Ngoài ra còn có rủi ro bổ sung là vì lý do nào đó, các hệ thống AI tương lai có thể không chạy hiệu quả trên thế hệ phần cứng hiện tại

    • Có thể như vậy, cũng có thể không. GPU Nvidia P40 ra mắt 8 năm trước và tỏa nhiệt nhiều, nhưng giá của nó đã tăng gấp đôi trong năm qua
      Sẽ không có thứ gì bị khấu hao hết toàn bộ trong vòng 6 năm. Có khả năng 15 năm nữa người ta vẫn dùng A100. Card GPU V100 32GB đã 7 năm tuổi vẫn đang được giao dịch trên eBay với giá 1.500 USD
      Có vẻ khả năng phát minh ra kiến trúc phần mềm hiệu quả hơn lớn hơn so với việc phát minh một loại phần cứng mới tốt hơn để thay thế toàn bộ phần cứng hiện có
    • Trong phép so sánh này, hàng hóa công không phải là phần cứng AI mà là mô hình AI
    • Một số tài sản như tòa nhà và nguồn cung điện có lẽ vẫn sẽ tiếp tục dùng được. Dù vậy, chip có khả năng sẽ sớm được thay bằng chip mới
    • Hạ tầng IT có vòng đời ngắn hơn nhiều so với ngành đường sắt, nhưng biên lợi nhuận cũng cao đến đáng kinh ngạc
      Đầu tư đường sắt thường mất hàng chục năm để thu hồi vốn, trong khi trong ngành IT thường thu hồi trong vài năm
  • Tôi có cảm giác cuộc thảo luận này có một khoảng trống lớn. Gần như tất cả đều tập trung vào GPU và đầu tư phần cứng, và đúng là điều này đang thúc đẩy mạnh cơn sốt AI hiện tại, nhưng lại thiếu khía cạnh phần mềm
    Cũng cần nói đến lượng đầu tư mạo hiểm đáng kể vào các nền tảng, công cụ và ứng dụng dựa trên AI. Bài này quá nghiêng về phần cứng, nên có lẽ gọi là “cơn sốt đầu tư GPU” thì chính xác hơn
    Đầu tư phần mềm cũng cần được chú ý với cùng mức độ

    • Tôi xem GPU và trung tâm dữ liệu đóng vai trò tương tự cáp quang của cơn sốt dot-com trong AI
      Lý do nhiều phần mềm dựa trên LLM không có tính kinh tế là vì lượng tính toán và điện năng để làm những việc chúng muốn làm vẫn chưa đủ
    • Có tài liệu nào ước tính tốt tỷ trọng đó không? Nhìn vào các startup AI mà tôi biết ở mức độ nào đó, dù không phải startup phần cứng, tôi có ấn tượng rằng phần lớn vốn mạo hiểm họ huy động được trực tiếp hoặc gián tiếp lại chảy về chi phí phần cứng
      Tuy nhiên tôi không có con số chắc chắn
    • Nhìn YC và Product Hunt dạo này, gần như toàn bộ phần mềm đang được quảng bá quá mức hiện nay đều là “thứ gì đó AI Powered”
      Cứ có một công ty thực sự dùng AI để làm việc hữu ích thì lại có khoảng mười công ty nhồi nhét AI một cách gượng ép vào đâu đó trong ứng dụng sẵn có rồi đóng gói là “AI Powered”, khá là khó chịu
      Gần đây công ty chúng tôi đánh giá Zenhub, và đội sales nhấn mạnh rất nhiều rằng ứng dụng có dùng AI. Xem kỹ thì chỉ là tích hợp AI cơ bản nhất: tạo mô tả story bằng prompt
      AI rất hữu ích, nhưng không cần nhét vào mọi thứ
    • Người ta nói nhiều về trung tâm dữ liệu và tính toán đám mây, nhưng không nhắc đến chip cho suy luận trên thiết bị
      Nghĩ đến vị trí của di động ở lớp giao diện, nếu là nhà đầu tư mạo hiểm tôi sẽ đặt cược vào suy luận on-device
  • Tôi không hiểu vì sao mọi bài viết phóng đại đều bắt đầu bằng những câu kiểu “Sản phẩm AI đang được dùng rộng rãi trong nhiều lĩnh vực hơn rất nhiều, như tạo mã, văn bản, hình ảnh, phân tích dữ liệu, tự động hóa công việc, cải thiện nền tảng trực tuyến, và dự kiến mức sử dụng sẽ còn tăng”
    Cá nhân tôi thì mức dùng Copilot khi lập trình đã giảm. Tôi đã thử liên tục, nhưng nó nhanh chóng lạc hướng và nhả ra các lỗi tinh vi, khiến tôi tốn thời gian debug hơn so với tự viết
    Vì có thể tôi chưa kiểm tra mã đủ kỹ, nên lúc nào tôi cũng có cảm giác “thứ này có thể nổ trong production theo một cách nào đó không biết trước”. Đồng nghiệp và bạn bè tôi cũng nói họ cảm thấy tương tự
    Tôi cũng đã thử các mô hình ‘chuỗi suy nghĩ’ mới, nhưng kỳ lạ là chúng có vẻ còn tệ hơn

    • Bình luận này làm tôi nhớ ra là mình đang đăng ký Copilot
      Nó không đưa ra được gợi ý mã hữu ích trong vài tháng liền, đến mức tôi quên bẵng. Vừa đăng nhập vào và hủy rồi
      Giờ tôi phải xem các gói đăng ký khác có thể hủy hoặc hạ xuống gói rẻ hơn không
    • Trải nghiệm của tôi cũng tương tự. Gần đây tôi dùng Claude cho công việc lập trình, nhưng nó cứ kéo tôi xuống hang thỏ vô tận, và lần nào cũng có cảm giác kết quả tệ hơn trước
      Vậy mà nó vẫn không thể dừng lại và nói “Xin lỗi, thực ra tôi không biết cách giúp bạn”
    • Tôi cảm thấy AI hiện tại giống giáo viên hơn là người triển khai. Khi học điều mới hoặc lấy ý tưởng xem nên đi theo hướng nào thì nó thật sự hữu ích
      Nhưng mã thực tế thì có vẻ phần lớn vẫn phải do con người viết
      AI là một công cụ tuyệt vời và giúp tăng tốc đáng kể, nhưng nó không khớp với ý nghĩ màu nhiệm rằng chỉ cần ta đưa ý tưởng là AI sẽ làm hết mọi việc vặt
      Nói chung, xây dựng mô hình tư duy dựa trên bằng chứng thực tế thay vì ảo tưởng luôn tốt hơn, và hiện giờ có rất nhiều ảo tưởng lẫn vào. Điều đó không có nghĩa là phải bi quan về khả năng phát triển trong tương lai, nhưng rất khó dự đoán những cải thiện đó sẽ có hình dạng như thế nào
    • Theo trải nghiệm của tôi, nó đang tốt lên theo thời gian, và đặc biệt tôi nghĩ vẫn còn khá nhiều cải tiến dễ đạt được trong việc tích hợp LLM với Language Server Protocol và các công cụ khác
      Dù vậy, ở thời điểm hiện tại nó vẫn chưa đủ để làm việc độc lập, nên tốt nhất là dùng như khi pair programming với một lập trình viên con người trình độ trung cấp, người không có nhiều bối cảnh dự án và thời gian tập trung ngắn
      Đặc biệt, tôi đang nhận được rất nhiều giá trị khi chỉ giao cho AI một hàm hoặc một lần refactor tại một thời điểm, và làm sao để có thể dễ dàng kiểm thử trong quá trình thực hiện
    • Vì tất cả các bài báo đó cũng đều do AI viết
  • Mỗi khi thấy những bài viết và cuộc thảo luận như thế này, tôi luôn ngạc nhiên là người ta không nhận ra tình huống phi lý đến mức nào khi một mặt nói rằng chúng ta đã phá hỏng hành tinh và có thể chỉ còn 5–6 năm nữa là đến thiệt hại căn bản, nhưng mặt khác lại đầu tư những tài nguyên khó tưởng tượng vào LLM
    Rốt cuộc hoặc phải từ bỏ hy vọng rằng LLM được đầu tư đủ mức có thể mang lại điều gì đó, hoặc phải từ bỏ lập luận rất ồn ào nhưng thực chất có vẻ rỗng tuếch về thiệt hại chúng ta gây ra cho Trái Đất

    • Tôi không biết “chúng ta” ở đây là ai. Một phía của xã hội đang gióng hồi chuông cảnh báo rằng môi trường sẽ chịu thiệt hại không thể đảo ngược, còn phía kia dường như muốn đẩy các con số lên nhanh nhất có thể mà không xét đến, hoặc cố tình phớt lờ, tác động lên đời sống con người rộng hơn
      Những người thúc đẩy đầu tư AI sẽ không chịu nhiều ảnh hưởng từ biến đổi khí hậu. Dù hàng trăm triệu người ở vùng nhiệt đới chết đi và một phần đáng kể hoạt động có tổ chức của con người sụp đổ, họ vẫn không bận tâm vì đến tận phút cuối họ sẽ được che chắn khỏi hậu quả
    • Có lẽ, thật sự có lẽ, khi giờ đây cần nhiều năng lượng hơn, cuối cùng chúng ta cũng có thể tìm ra cách phát triển bền vững hơn
    • Tôi tò mò “lập luận rỗng tuếch” là đang nói đến điều gì
    • Hẳn bạn đã nghe về cơn bùng nổ năng lượng mặt trời. Nó đang tăng trưởng theo cấp số nhân
      Và cũng không phải cả thế giới do một người chỉ huy để quyết định điều gì sẽ xảy ra
  • Bong bóng AI sẽ vỡ vào năm sau. Hiện tại giống khoảng năm 1998 của bong bóng dot-com, và một mùa đông AI nữa đang đến
    LLM và AI tạo sinh là kiểu kế hoạch kinh doanh “kinh doanh trên Internet” của năm nay, hoặc “Uber cho X”

    • Liệu sự sụp đổ của bong bóng AI có kéo cả phần còn lại của ngành startup đi xuống, hay sẽ giúp có thêm đầu tư cho công nghệ không phải AI?
      Công nghệ liên quan đến khí hậu cần nhiều tiền hơn
    • Tôi không nghĩ sẽ như vậy
      Bong bóng kinh tế sẽ vỡ sau bầu cử, và ta sẽ biết khi Fed bắt đầu tăng lãi suất trở lại. Tuy nhiên, chất xúc tác lần này nhiều khả năng sẽ là bất động sản thương mại
      Trong bất động sản thương mại, trung tâm dữ liệu là hạng mục duy nhất trông ổn trong mắt nhà đầu tư, và càng như vậy hơn vì cơn sốt AI. Tôi nghĩ các nhà đầu tư đó sẽ đổ nhiều tiền hơn trước vào điện lực và các mảng khác liên quan đến AI để tránh cú sụp đổ đã được dự báo
      Biến số lớn nhất là liệu giới tài phiệt xuyên quốc gia có muốn lợi dụng cú sụp đổ này cho một chuyển đổi chính sách tiền tệ lớn hơn nhiều, như tiền kỹ thuật số của ngân hàng trung ương, hay không
    • Tỷ lệ P/E của thị trường đang rất cao, và đã cao một thời gian. Cổ phiếu công nghệ và AI đang chống đỡ phần đáng kể trong đó
      Cứ nhìn chuyện gì đã xảy ra với Tesla khi nền tảng cơ bản bắt đầu hơi lung lay là thấy. Dù vậy, tôi vẫn thận trọng khi dự đoán “bong bóng AI” sẽ vỡ vào năm sau
  • Tôi mong bong bóng AI kết thúc để HN có thể nói chuyện khác

    • Bong bóng AI lúc nào cũng tốt hơn bong bóng tiền mã hóa
    • Nếu thấy mệt, bạn có thể tham gia thảo luận về mớ hỗn độn WordPress. Dạo này ở đây nó đang nổi khá mạnh
    • Tôi nghĩ nó sẽ vỡ nếu Fed kết luận lạm phát chưa kết thúc và bắt đầu tăng lãi suất trở lại trong vòng 6 tháng
      Chỉ có thể tiếp tục nuôi bong bóng cho đến trước khi người dân bình thường không chịu nổi giá cả tăng nữa
    • Trong 30 bài đứng đầu HN tháng qua (https://hn.algolia.com/?dateRange=pastMonth&page=0&prefix=fa...), chỉ có 6 bài về AI
      Bài AI cao nhất là “OpenAI to become for-profit” ở vị trí thứ 10, còn vị trí số 1 là “Bop Spotter”, tiếp theo là Starship và hủy đăng ký bằng một cú nhấp
    • Mọi người sẽ nói về AI trong suốt phần đời còn lại. Nếu muốn, bạn có thể gia nhập cộng đồng Amish hoặc sống trong rừng và làm việc kiểu Firewatch
  • Tôi tò mò chuyện này sẽ ảnh hưởng thế nào đến chi phí cloud của những người như chúng ta
    Một mặt có thể xuất hiện lợi thế kinh tế theo quy mô, nhưng mặt khác những người khác tiêu thụ tài nguyên cloud có thể đẩy giá lên. Không biết mọi người đoán sẽ ra sao

    • Tôi không nghĩ nó sẽ làm tăng chi phí cloud truyền thống dựa trên CPU
      Chỉ cần nhìn Ampere 192 lõiCPU AMD 196 lõi là đủ. Hiệu suất tiếp tục cải thiện sẽ khiến tỷ lệ giá/hiệu năng của cloud truyền thống giảm xuống
  • Một cách tự nhiên, tôi vẫn chưa tìm thấy “AI” không ảo giác, và cũng không rõ một “AI” hay ảo giác thì có thể hữu ích thế nào ngoài các mục đích ngách

    • Ở các mô hình mới, việc bịa đặt đang giảm đi. Tôi đã thử nghiệm ở đây một trường hợp quan trọng với việc bịa đặt dựa trên tài liệu được cung cấp, tức RAG: https://github.com/lechmazur/confabulations/
      Sự khác biệt giữa GPT-4 TurboGPT-4o là khá lớn
    • Với các chủ đề được tập trung rất hẹp, tôi cảm thấy LLM thân thiện hơn nhiều và nhìn chung là chính xác. Nội dung được tạo ra chỉ cần kiểm chứng bằng mã nguồn liên quan hoặc tài liệu chính thức là được
      Về lý thuyết, khi có việc đơn giản cần hỏi, trò chuyện với Claude hoặc 4o giúp tiết kiệm một lượng thời gian khổng lồ mỗi ngày. Trước đây việc phải lục lọi bốn công cụ tìm kiếm trở lên và băng qua quá nhiều rác SEO thật sự rất nản
      Chức năng tóm tắt giờ cũng đã thành meme, nhưng cực kỳ hữu ích. Nếu trong ngày tôi đưa toàn bộ các liên kết trông thú vị vào cơ sở dữ liệu, một tác vụ cron của Cloudflare sẽ lấy phần nội dung chính của từng liên kết, tạo tóm tắt bằng 4o rồi lưu lại
      Cuối tuần, tôi lướt qua các bản tóm tắt của những liên kết đã lưu, nếu thấy có vẻ khá thú vị thì tự mình kiểm tra và tìm hiểu thêm
      Thực tế là tôi đã biết đến SolidJS từ một bài viết ngẫu nhiên chỉ có vài phiếu ở trang 4 của HN, và chỉ riêng bản tóm tắt đã cung cấp đủ thông tin để tôi đi xem thử SolidJS mà không cần đọc hết một bài than phiền về ReactJS
    • Tôi nghĩ mục tiêu tối thiểu hóa ảo giác cần được điều chỉnh. Khi con người “nói dối”, họ có những cách quen thuộc. Như “quán đó chắc ở khoảng đây”, “người đó có phải từng xuất hiện trong Inception không nhỉ?”; con người truyền đạt khá tốt việc mình chắc chắn về thông tin nào và không chắc điều gì qua giọng nói, cử chỉ, phong cách viết
      Tôi đã hỏi Gemini một câu đơn giản và những ảo giác của nó thật sự gây khó chịu. Nó nói điều sai với vẻ tự tin, khiến phần não bản năng của tôi xem nó là không đáng tin và không muốn hỏi tiếp nữa
      Do đặc tính xác suất trong cách LLM hoạt động, việc loại bỏ ảo giác có lẽ là bất khả thi, nhưng cách trình bày điều đó cho con người thì có thể được điều chỉnh tốt hơn
    • Không cần phải tưởng tượng đâu. AI tạo sinh đã rất hữu ích trong nhiều ứng dụng không hề ngách
    • Tôi cũng nghĩ có rất nhiều hoạt động tạo nội dung mà chất lượng thật sự không quan trọng. Trong những trường hợp đó, ảo giác cũng không mấy quan trọng
      Miễn là không rơi vào các trường hợp có thể vướng pháp lý, chẳng hạn phát ngôn thù ghét hay phỉ báng
      Khi rải hàng loạt bài viết, bài đăng mạng xã hội, thậm chí video, thì ở quy mô đó ảo giác không quá quan trọng. Đã có đủ nội dung tạo ra đủ lượt xem, khiến nó trở thành một chiến lược khả thi ở mức nào đó
  • Tôi nhớ từng nghe Tiến sĩ Robert Martin, người lãnh đạo Bell Labs vào cuối thập niên 90, nói rằng dung lượng băng thông sẽ tiến tới vô hạn và chi phí trên mỗi bit sẽ tiến về 0
    Tất cả chúng ta đều biết các công ty xây dựng dung lượng quang thời đó đã kết thúc ra sao trước khi bong bóng vỡ
    Có cơ sở nào để cho rằng nhu cầu về trí tuệ sẽ không cạn kiệt không? Có cơ sở nào để cho rằng, như Sama nói, chi phí của trí tuệ với tư cách đầu vào hệ thống sẽ hội tụ về giá điện để vận hành GPU trong trung tâm dữ liệu không? Cả hai đều có thể xảy ra
    Nhưng khi đó, người ta cũng có thể nói điều tương tự về một bit băng thông

    • Tôi rất hoài nghi rằng trí tuệ vô hạn sẽ có tác động tích cực đến mức sống của lao động tri thức
      Theo kịch bản bi quan hơn, AI sẽ thay thế chúng ta và chúng ta sẽ bị gửi xuống mỏ than
      Ngay cả theo cách nhìn lạc quan nhất, mức sống là tổng hợp của nhiều yếu tố bắt rễ trong thực tế, nên tôi cho rằng giới hạn thực tế chỉ là chất lượng sống tăng gấp đôi. Điều đó không có nghĩa là chẳng đáng kể, nhưng nhìn vào 150 năm qua thì cũng không phải mức chưa từng có tiền lệ
    • Văn bản được tạo ra không phải là trí tuệ