1 bình luận

 
GN⁺ 2024-05-06
Bình luận Hacker News
  • Ngân sách của Dự án Manhattan và chương trình Apollo, theo chuẩn giá trị hiện tại, hóa ra lại “rẻ” hơn nhiều người tưởng; ngân sách cho việc đổ bộ lên Mặt trăng vào những năm 1960 có mức tương đương với chương trình mua lại cổ phiếu tự thân của Apple gần đây.
  • Cả Dự án Manhattan và chương trình Apollo đều sử dụng 0,4% GDP thời điểm đó. Với mức GDP hiện tại là 27 nghìn tỷ USD thì tương đương khoảng 108 tỷ USD. Meta vẫn chưa chi tới 1/3 số đó cho GPU.
  • Độ phức tạp áp đảo của các GPU, CPU, SoC hiện đại không làm chúng ta bị choáng ngợp. Nếu so với quy trình sản xuất chip 3nm chứa 3 tỷ transistor thì Dự án Manhattan thật sự mang tính cách mạng, nhưng không phải quá lớn về quy mô.
  • Tôi tò mò là tại sao Meta đầu tư rất nhiều mà vẫn chưa thể bắt kịp OpenAI. Làm sao OpenAI có thể đạt được hiệu năng ấn tượng đến vậy?
  • Mình luôn ngỡ ngàng trước chất lượng và kỹ năng của các tác phẩm được tạo ra trước những năm 1960. Mình không biết nguyên nhân cốt lõi khiến xã hội hiện đại trở nên lãng phí, chậm chạp, đắt đỏ và thiếu tham vọng sâu xa là gì, nhưng tôi ước gì nó có thể quay trở lại.
  • Tôi tò mò liệu Meta có công bố được mức độ sử dụng những GPU này cho hoạt động nội bộ của họ và hiệu quả tiết kiệm chi phí nào từ đó hay không. Ngoài chatbot "Meta AI" gây thất vọng, có vẻ còn nhiều lĩnh vực khác có thể triển khai H100 như động cơ đề xuất nội dung, ngăn chặn lạm dụng, tối ưu hóa băng thông mạng.
  • Có vẻ như Dự án Manhattan đã đem lại hiệu quả đầu tư tốt hơn.
  • Điều này chịu ảnh hưởng lớn từ mối liên quan của khu vườn khép kín (walled garden) và giá trị sở hữu trí tuệ. Nếu luật thay đổi khiến IP và dữ liệu không thể được bảo vệ, thì năm tới sẽ có rất nhiều người sao chép/biến tấu các bản sao của Facebook. Tương tự, cũng sẽ có rất nhiều người lấy thiết kế GPU của Nvidia để biến tấu. Sự cạnh tranh sẽ kéo giá cả và biên lợi nhuận gần về 0.
  • Tò mò về mức độ khả thi việc chỉ trong 10 năm nữa, theo luật Moore, đạt được hiệu năng như hiện tại bằng GPU trị giá 1 triệu USD. Với số tiền đó, dường như ta có thể mua lại một nhà sản xuất GPU.
  • Nó không ấn tượng như nghe vậy. Bởi vì GDP thực tế (đã điều chỉnh lạm phát) của Hoa Kỳ cao gần 9 lần so với năm 1945.