Yêu LLM nhưng ghét sự thổi phồng

 (geohot.github.io)
2 điểm bởi GN⁺ 5 giờ trước | 1 bình luận | Chia sẻ qua WhatsApp
  • LLM, xe tự lái, mô hình tạo video và coding agent thực sự hữu ích và thú vị, nhưng không đồng tình với nỗi sợ hãi và sự thổi phồng kiểu tận thế xoay quanh chúng
  • Lập luận rằng khi cửa sổ cơ hội đóng lại, bạn sẽ vĩnh viễn trở thành tầng lớp dưới là thứ gần với sự thổi phồng kéo người ta đến San Francisco bằng cách khiến họ bất an hơn là sự thật
  • Bác bỏ viễn cảnh nhảy vọt từ LLM như tự động hoàn thành cao cấp, trình biên dịch thông minh, công cụ tìm kiếm được cải tiến thành siêu trí tuệ sẽ thống trị vũ trụ; cho rằng tiến bộ AI chủ yếu đến từ Định luật Moore và tiến bộ chung của điện toán hơn là từ một nhóm cụ thể
  • Coding agent đang thay đổi cách lập trình và tăng năng suất ở một mức độ nào đó, nhưng cũng có thể làm tăng mệt mỏi nhận thức, và sản phẩm từ vibe coding vẫn còn nhiều mã chất lượng thấp
  • AI nằm trên đường tiếp nối của cuộc cách mạng máy tính, còn LLM là công cụ hỗ trợ lập trình viên giống như find/replace, Stack Overflow, biểu thức chính quy; nhưng tính hữu ích đó không đồng nghĩa với việc các phòng thí nghiệm AI frontier sẽ thu giữ được giá trị

Giữa tiến bộ và sự thổi phồng của AI

  • Sau khi tập trung vào hacking trong giai đoạn 2007–2014, tác giả đã đầu tư toàn bộ sự nghiệp vào AI và hoan nghênh những tiến bộ của LLM mới, xe tự lái, mô hình tạo video, coding agent
  • Khi chạy opencode trên GLM-5.2 cục bộ và ra lệnh install tmux with the geohot configuration, quá trình cài đặt đã hoạt động; tác giả xem đây là ví dụ cho thấy năm của Linux desktop cuối cùng cũng đã đến
  • Sự thổi phồng mà tác giả phản đối được chia làm hai nhánh
    • Lập luận rằng cửa sổ cơ hội sẽ đóng lại, khiến bạn trở thành tầng lớp dưới vĩnh viễn hoặc tụt hậu đến mức không thể phục hồi, là sự thổi phồng tiêu cực khiến con người bất an
    • Lập luận chuyển từ tự động hoàn thành cao cấp, trình biên dịch thông minh, công cụ tìm kiếm được cải tiến sang kịch bản siêu trí tuệ nơi mọi thứ đột ngột thay đổi là một bước nhảy kiểu dựng người rơm, và tác giả khẳng định sự kiện như vậy sẽ không xảy ra
  • Bài trình bày năm 2016 về siêu trí tuệ và bộ phim Terminator 2 năm 1991, trong đó máy móc chiếm lĩnh thế giới, cho thấy ý tưởng này không phải là thứ mới được một nhóm cụ thể gần đây tạo ra
  • Tác giả thừa nhận AI có khả năng tạo ra giá trị khổng lồ, nhưng cho rằng các phòng thí nghiệm frontier sẽ không trực tiếp thu giữ được giá trị đó đủ để biện minh cho định giá doanh nghiệp của các phòng thí nghiệm frontier
  • Tác giả đánh giá rằng cốt lõi của lập luận phản đối mã nguồn mở không phải là an toàn hay vấn đề Trung Quốc, mà là nỗi sợ bị hàng hóa hóa thành hàng phổ thông
    • Tiến bộ AI chủ yếu bắt nguồn từ Định luật Moore và tiến bộ chung của điện toán hơn là từ một phòng thí nghiệm cụ thể
    • Nếu sự thật này được biết đến, nhà đầu tư có thể không cấp hàng chục tỷ USD, nên tác giả cho rằng các phòng thí nghiệm có động cơ mạnh để che giấu điều đó

Thực chất năng suất mà coding agent mang lại

  • Trong bài trước đây The Eternal Sloptember, tác giả có thể đã đánh giá quá khắt khe năng lực lập trình của mô hình, và giờ thừa nhận rằng bản thân cách lập trình đang thay đổi
  • Phát biểu của Linus Torvalds so sánh rằng agent làm tăng năng suất lập trình lên 10 lần, còn trình biên dịch tăng lên 1.000 lần
    • Tác giả xem cả 10 lần và 1.000 lần đều là những ước tính cực đoan
    • Khi khả năng tận dụng mô hình được cải thiện, tác giả tin chắc rằng mình thực sự đang đạt được một mức tăng năng suất nhất định
    • Tận dụng mô hình là một kỹ năng mới cần học riêng, và tác giả đã liên tục thử nghiệm nhiều mô hình khác nhau từ trước
  • Coding agent vẫn còn những hạn chế rõ ràng
    • Mô hình có thể làm tăng mệt mỏi nhận thức, nên cần được sử dụng cẩn trọng
    • Sản phẩm của vibe coding vẫn còn chất lượng thấp, và cũng chưa rõ phần mềm mới tương ứng với mức tăng năng suất được tuyên bố thực sự đang ở đâu
  • Dù vậy, mô hình là công cụ hữu ích hỗ trợ phát triển giống như find/replace, Stack Overflow, biểu thức chính quy, và AI cũng nằm trên đường tiếp nối của cuộc cách mạng máy tính

Bài viết liên quan

1 bình luận

 
GN⁺ 5 giờ trước
Ý kiến trên Hacker News

  • Câu “không phải AI không tạo ra giá trị lớn, mà là các phòng thí nghiệm frontier không thể thu về giá trị đó” giải thích ngắn gọn hành vi của họ và lý do họ muốn khiến người dùng dùng các mô hình tốt nhất theo đơn giá token
    Với mức thuê bao hiện tại 100–200 USD/tháng, cho lượng token rộng rãi nhưng có giới hạn, phần lớn cá nhân và doanh nghiệp sẽ dễ dàng chọn mô hình frontier. Nhưng nếu đơn giá token đắt gấp 10–100 lần so với các mô hình mở hoặc mô hình frontier của một tháng trước, câu chuyện sẽ khác. Tôi sẽ không chi 1.000 USD/tháng, chứ đừng nói 10.000 USD, cho mô hình tốt nhất; và chủ lao động của tôi có thể còn cân nhắc 1.000 USD, nhưng chắc chắn sẽ không trả 10.000 USD
    Để biện minh cho định giá hiện tại, mọi người phải trả chi phí cao gấp 100 lần so với bây giờ, nhưng chừng nào ai cũng có thể tạo ra các mô hình như vậy thì điều đó sẽ không xảy ra. Cả OpenAI lẫn Anthropic đều đang tìm lời giải, đặc biệt Anthropic muốn chuyển Fable sang tính phí theo mức sử dụng. Nhưng Sol 5.6 của OpenAI đủ tốt để cạnh tranh với Fable và vẫn dùng được trong gói thuê bao 20 USD/tháng, nên không có con hào nào ngăn người dùng chuyển đổi. Nếu Anthropic thực sự chấm dứt quyền truy cập Fable trong các gói thuê bao vài ngày tới, tôi nghĩ thị trường sẽ quay mạnh về OpenAI
    Thị trường sẽ không chấp nhận mức chi phí đủ cao để làm cho kinh tế học của đầu tư frontier trở nên hợp lý

    • Tôi cũng bắt đầu tìm đến mô hình chạy cục bộ thường xuyên hơn. Với những tác vụ mô hình cục bộ chưa làm tốt, tôi sẽ dùng mô hình frontier ở mức giá hiện tại, nhưng nếu cuối cùng họ đảo ngược điều kiện giá và đòi 1.000–2.000 USD/tháng thì nó không đáng
      Với nhu cầu của tôi, mô hình cũng không cần tiến bộ hơn nhiều. Tôi đã thử Fable vài lần nhưng không có nhiều lý do để cố chọn nó, còn Opus làm cùng việc đó rẻ hơn nhiều. Nếu mô hình trở thành hàng hóa phổ thông, câu hỏi thú vị là ai sẽ muốn gánh chi phí huấn luyện khổng lồ. Chi phí một ngày nào đó sẽ giảm, nhưng có vẻ sẽ không giảm đủ nhanh để các công ty này trụ được
    • Điều buồn cười là Fable rất có thể sẽ lỗi thời trong một, hai tháng nữa. Họ đã gây ra một màn cấm công bố lẽ ra có thể tránh được nếu không giả vờ rằng nó nguy hiểm, rồi vẫn tiếp tục cho truy cập, về cơ bản là lãng phí lợi thế ít ỏi đó
      Sẽ thú vị hơn nếu ngay từ đầu họ thu phí cao hơn và thử xem thị trường chịu được đến đâu, thay vì sốt ruột chờ bị mô hình tiếp theo vượt qua
    • Không thể xem nhẹ sức mạnh của một mô hình đủ tốt. Dù GLM5.2 không xuất sắc như các mô hình tối tân nhất, nó vẫn có thể đủ để đáp ứng phần lớn, thậm chí toàn bộ, yêu cầu của chúng tôi
    • Tôi nghi ngờ liệu họ có thật sự là những mô hình tốt nhất không. Nếu không có mythos thì Anthropic chẳng phải chỉ khoảng thứ ba sao
      OpenAI gần đây lại vượt lên, nhưng để làm vậy họ dùng một mô hình khổng lồ có chi phí trên mỗi token cao đến phi lý. Không ai cần mô hình như thế. Nó giống như NVIDIA hay Intel quảng bá hiệu năng chơi game tốt nhất trong khi dùng điện trên mỗi khung hình nhiều hơn hẳn đối thủ
    • Nói chính xác thì thời gian sử dụng theo thuê bao của Fable đã được gia hạn lại đến ngày 19 tháng 7

  • Phần mềm mới kỳ diệu nhờ năng suất tăng đang chạy riêng tư trong homelab của tôi
    Có vẻ chúng ta đã bước vào kỷ nguyên “tạo ra đúng thứ mình muốn”. Nếu một dự án mã nguồn mở không hoạt động theo ý muốn, bạn có thể fork hoặc làm phiên bản mới, và việc đó đã trở nên quá dễ
    Tuy nhiên, tôi hơi lo về tương lai của mã nguồn mở. Trước đây, việc duy trì fork cũng tốn công, nên đáng để đưa thay đổi ngược lên upstream. Giờ cán cân đó đã thay đổi rất nhiều. Nhiều dự án siết chặt điều kiện đóng góp, một số còn công khai thù địch với AI, và điều đó cũng không khó hiểu. Nhưng khi việc dùng AI tăng lên, khả năng các cải tiến được trả lại cho cộng đồng có vẻ sẽ giảm

    • Cần nhớ rằng code là miễn phí theo nghĩa “chó con miễn phí”. Giá trị của cộng đồng phần mềm tự do/mã nguồn mở không nằm ở bản thân code, mà ở tài liệu dùng chung và tri thức truyền miệng giúp phần mềm trở nên hữu ích, dùng được và luôn cập nhật
    • Rất có khả năng sớm rơi vào địa ngục bảo trì. Phần khó và phiền không phải là viết code, mà là mỗi khi cần sửa nhỏ lại phải lôi từng dự án nhỏ ra chỉnh; về lâu dài đó là một núi việc vặt khổng lồ. Dù có AI thì chuyện này cũng không dễ hơn nhiều
    • Lý do để fork một dự án đang hoạt động tích cực chỉ nên là người dùng của fork đó chỉ có mình bạn, và bản sửa bạn hằng mơ thật sự là điều bắt buộc. Tôi đã thấy quá nhiều fork không cần thiết của các dự án phổ biến, nên tôi nghĩ dù không hoàn hảo thì giữ bản gốc vẫn tốt hơn
    • Bạn vẫn phải theo dõi thay đổi upstream và xử lý xung đột merge. Nếu không, bạn sẽ phải bắt LLM sửa mọi CVE trong fork của mình
    • Dù các công cụ mới đã cho phép viết toàn bộ lượng code này, lời giải thích rằng mọi cá nhân và công ty, như thể có một âm mưu khổng lồ, đều chỉ biến kết quả thành phần mềm đóng và không công khai chúng, nghe không thuyết phục lắm

  • Ít nhất, phần năng suất tăng của tôi đã được dùng để tạo phần mềm một lần gọn nhẹ cho các mục đích rất cụ thể
    Với LLM, bạn có thể tạo ra bất cứ thứ gì, nhưng bạn phải tự biết mình đang tạo gì và phải suy nghĩ kỹ mọi hành vi. Nếu không, LLM sẽ nhồi vào trong một mớ tạp nham như xúc xích. Chỉ cần nhìn chất lượng thất thường của phần mềm do các công ty có định giá hàng nghìn tỷ USD tung ra cũng đủ thấy các mô hình vẫn không đồng đều và còn hạn chế. Tương lai là xúc xích

    • Dù có thể làm bánh mì ở nhà, nếu chi phí gấp 10 lần và vị lại dở tệ thì tôi không muốn dành thời gian rèn kỹ năng làm ra ổ bánh ăn hằng ngày. Thỉnh thoảng như một hoạt động giúp thư giãn thì ổn, nhưng tôi sẵn lòng ủng hộ người đã dành cả đời, bỏ nhiều thời gian và công sức hơn tôi, để hoàn thiện giải pháp
      Nhờ vậy tôi không phải lo về vấn đề đó nữa và có thể tập trung vào việc mình muốn làm

  • Trong giai đoạn 2024–2025, tôi cũng cảm thấy tương tự. Nhưng sau khi Sonnet 4 ra mắt, mọi thứ bắt đầu thay đổi, và Opus 4.5 lại là một bước nhảy nữa
    Tôi có cảm giác mọi thứ đang tăng tốc và các mốc thời gian dự kiến cũng bị rút ngắn. Ở một khía cạnh nào đó, tôi ghen tị với tác giả bài gốc khi ông ấy “đặt cược tất cả” để chống lại ASI. Sự thật là tôi cũng không biết chuyện sẽ kết thúc ở đâu, và tôi không nghĩ có ai biết

    • Tác giả bài gốc không nói rằng ông ấy đặt cược tất cả vào việc ASI sẽ không xuất hiện. Ông ấy nói mình đặt cược ngược lại với viễn cảnh ASI xuất hiện như một tia chớp trên bầu trời và phá hủy cơ hội để chúng ta tiếp cận khối tài sản mà nó tạo ra

  • Tôi cũng thích LLM, nhưng lo về chi phí. Hiện tất cả vẫn đang được trợ giá lớn, liệu có gì đảm bảo rằng ta sẽ chạy được một mô hình cỡ Opus 4.8 trên máy tính cá nhân trước khi các phòng thí nghiệm AI lớn tăng giá không?

    • Ngược lại, tôi cho rằng các phòng thí nghiệm frontier đang kiếm được biên lợi nhuận đáng kể so với chi phí trên mỗi đơn vị suy luận.
      Chi phí vận hành các mô hình có kích thước gần frontier đã có thể kiểm chứng. Các đơn vị độc lập đã chuyển sang kinh doanh cung cấp những mô hình như vậy với giá hợp lý, và trên OpenRouter họ cạnh tranh với mức giá thấp hơn rất nhiều so với các phòng thí nghiệm frontier.
      Nếu có thể chạy một mô hình cỡ Opus 4.8 trên máy tính cá nhân, thì trong trung tâm dữ liệu, họ có thể cung cấp dịch vụ rẻ hơn nhiều bằng phần cứng của chính mình. Vì vậy tôi sẽ đặt cược rằng giá nhiều khả năng sẽ giảm mạnh, chứ không tăng.
    • Ngay cả trong tình hình giá RAM nhanh hiện đang bị thổi phồng mạnh, vẫn có thể chạy một mô hình local xấp xỉ cỡ Sonnet 4.5 với chi phí thấp hơn một chiếc xe mới. Có thể đó không phải câu trả lời bạn mong đợi, nhưng đó là một lựa chọn khả thi; cũng có thể lập một hợp tác xã AI nhỏ, nơi nhiều lập trình viên cùng chia sẻ một máy chủ có hai card RTX Pro 6000.
      DeepSeek V4 Pro rẻ ở hầu hết các API phổ biến, còn DeepSeek V4 Flash ở mức 0,09 USD cho mỗi 1 triệu token đầu vào và 0,18 USD cho mỗi 1 triệu token đầu ra, gần như miễn phí. Đây cũng không phải kiểu giá thường được tạo ra bằng trợ giá.
      Với cấu hình local thực tế hơn, Qwen3.6 27B chạy trên một hoặc hai Nvidia 3090 cũ tốt đến đáng ngạc nhiên. Nó cần chỉ dẫn rõ ràng và không thể dùng cho vibe coding hoàn toàn tự động, nhưng với lập trình viên trực tiếp can thiệp thì khá thực dụng.
    • Khó mà đòi hỏi một sự bảo đảm, nhưng nếu cạnh tranh lành mạnh tiếp tục, khả năng rất cao là đường cung và cầu sẽ gặp nhau ở một điểm hợp lý. Điều luôn chắc chắn là ta có thể lưu giữ riêng các mô hình mở.
    • Nghe nói 2 năm nữa sẽ có Mac Studio RAM 1,5TB, đủ để chạy mô hình cỡ Opus. Tất nhiên giá rất có thể khoảng 50.000 USD.
      Nếu AI local thực sự phổ biến rộng rãi, nó cũng có thể trở thành một trong những thứ được mua trả góp như ô tô.
    • Hiện nay, do trợ giá cho các mô hình frontier, nhu cầu chủ yếu dồn vào mức trí tuệ cao hơn. Nếu trợ giá kết thúc, nhu cầu về hiệu quả giá trên mỗi đơn vị trí tuệ sẽ tăng mạnh, và vì có nhiều bên tham gia thị trường, một số công ty sẽ đáp ứng nhu cầu đó.

  • Tôi muốn đồng ý với lập luận “một công cụ mới được nghệ nhân phần mềm chuyên nghiệp thêm vào hộp đồ nghề”, nhưng cần nghĩ đến tăm bông.
    Dù trên đó ghi “không dùng để ngoáy tai”, phần lớn mọi người vẫn chỉ muốn dùng nó đúng vào việc đó. Thực tế thường kết thúc bằng “dùng tăm bông một cách vô trách nhiệm” hoặc “không dùng gì cả”, còn “dùng đúng cách” chỉ chiếm một tỷ lệ cực nhỏ trong tổng thể.

    • Tăm bông thực ra được tạo ra để làm sạch tai. Lý do họ ghi là không được làm vậy là để tránh bị kiện mỗi khi ai đó làm tai mình bị thương.

  • Anh ấy nói bài “eternal sloptember” hồi tháng 5 có thể đã quá khắc nghiệt: https://geohot.github.io/blog/jekyll/update/2026/05/24/the-e...
    Tôi tò mò không biết anh ấy cho phần nào là khắc nghiệt. Nó vẫn có vẻ khá chính xác, và có lẽ sẽ còn được đánh giá tốt theo thời gian.

    • Khác với câu “đưa AI agent vào phát triển phần mềm sẽ trở thành một trong những sai lầm tốn kém nhất trong lịch sử lĩnh vực này. Agent không thể lập trình, và người ta đang mất ngày càng nhiều thời gian để nhận ra điều đó”, có vẻ giờ anh ấy nghĩ rằng agent có thể lập trình được phần nào.

  • Không ai nói đến, nhưng Terminator 2 không phải câu chuyện về việc máy móc chiếm lĩnh thế giới. Chuyện đó đã xảy ra hoặc sẽ xảy ra, nhưng cuối cùng con người đánh bại máy móc. Skynet cố giết John Connor để ngăn điều đó, và đó là nội dung trung tâm của bộ phim.
    Đây cũng là câu chuyện John tìm thấy ở T800 một người có thể đóng vai trò cha mẹ. Cậu không có được điều đó từ cha mẹ nuôi hay người mẹ đã xa cách. Thật tiếc là người này có vẻ chưa thật sự xem bộ phim. Dù sao đó cũng là một tác phẩm kinh điển.

    • Đây là dân nhập vai nặng nhất từ trước đến nay.

  • Có đủ lý do chính đáng để ghét giới buôn bán và marketing của họ, nhưng người làm ra sản phẩm không phải là thương nhân. Người làm ra sản phẩm dùng bất kỳ công cụ nào có thể dùng được.

    • Geohot cũng từng là một trong những người muốn trở thành thương nhân. Có thể vì công việc kinh doanh không suôn sẻ nên anh ấy đổi thái độ.

  • Bạn không cần phải vào Twitter để dùng LLM rồi bị phơi nhiễm với những người lảm nhảm về “tầng lớp hạ lưu vĩnh viễn”. Tôi thích Internet, nhưng giờ hơn bao giờ hết, tôi cảm thấy phải chủ động lựa chọn các trang mình ghé thăm.

    • Những người như vậy không chỉ có trên Twitter. Họ cũng ở đây, ở nơi làm việc, và sẽ xuất hiện trong buổi gặp gỡ xã giao tiếp theo. Ở một mức độ nào đó, tôi cảm thấy họ là những sự hiện diện không thể tránh khỏi.
    • Bầu không khí thổi phồng ngược một cách ác ý thấy ở đây khá khó chịu. Tôi cho rằng hiện tượng này xảy ra vì nhiều người cố tình đi tìm những quan điểm mà tôi không tiếp xúc.
      Những thuyết âm mưu lố bịch về tình hình tài chính của các trung tâm dữ liệu và các công ty liên quan bắt đầu từ Bluesky hoặc Instagram, rồi đôi khi đi qua đây và đến cả tôi. Nhưng làn sóng thổi phồng không thể ngăn cản mà họ nói là đang chống lại thì tôi chưa từng thấy trực tiếp. Tôi cũng đọc Scott Alexander, nhưng ông ấy thận trọng hơn rất nhiều so với cách mọi người mô tả.
    • Tôi tự hỏi liệu trên Xitter vẫn còn những người than phiền về chia rẽ giai cấp không. Dạo này tôi hầu như không vào, nhưng trước đây tôi cũng chưa từng thấy điều đó ở đó.