GLM 5.2 và sự sụp đổ biên lợi nhuận suy luận AI sắp tới
(martinalderson.com)- GLM 5.2 cho thấy các mô hình open weights đã tiến gần tới các tác vụ agent cấp Opus·GPT, qua đó có thể gây áp lực lên biên lợi nhuận suy luận vốn rất cao của các mô hình frontier khép kín
- Tranh cãi về chi phí AI không nằm ở chi phí huấn luyện dùng một lần mà ở chi phí suy luận tăng theo nhu cầu, và mức giá API khoảng $25/MTok rất có thể đang bao gồm biên lợi nhuận gộp cao
- Chất lượng ở mức khó phân biệt với Opus, nhưng do đặc tính “suy nghĩ” nhiều hơn nên tốc độ và lượng token sử dụng tăng lên, trong khi việc không hỗ trợ vision và tìm kiếm web yếu vẫn là nhược điểm
- Nhờ các endpoint tương thích OpenAI·Anthropic của Z.ai và Fireworks, có thể thử nghiệm trong Claude Code và Codex chỉ bằng cách thay base URL và API key
- Giá GLM 5.2 vào khoảng $4.40/MTok, chưa tới 20% giá bán lẻ của Opus và khoảng 15% mức của GPT5.5, và còn có thể giảm thêm nhờ tối ưu stack serving và tận dụng AMD
Cấu trúc chi phí: biên lợi nhuận bị chi phối bởi chi phí suy luận hơn là chi phí huấn luyện
- Khi DeepSeek R1 xuất hiện, thị trường đã phản ứng với thông tin rằng chi phí huấn luyện mô hình V3 dưới 6 triệu USD và diễn giải điều đó như dấu hiệu cho thấy làn sóng đầu tư hạ tầng quy mô lớn để huấn luyện mô hình đã kết thúc, nhưng đây gần như là một cách đọc sai cấu trúc chi phí AI
- Chi phí huấn luyện đòi hỏi vốn lớn nhưng về cơ bản mang tính chi phí cố định trả trước
- Các frontier lab vẫn phải tiếp tục huấn luyện mô hình mới để duy trì năng lực cạnh tranh, nên đây không hoàn toàn là chi phí một lần
- Dù vậy, bản chất của nó vẫn khác với chi phí suy luận tăng theo mức sử dụng của khách hàng
- Chi phí suy luận tăng cùng nhu cầu và tạo ra chi phí cận biên thực tế
- Có những tính toán cho rằng khi Anthropic và OpenAI tính $25/MTok cho suy luận, biên lợi nhuận gộp so với chi phí compute có thể vào khoảng 90%
- Tài liệu tài chính bị rò rỉ của OpenAI gợi ý biên lợi nhuận gộp khoảng 60% theo doanh thu, nhưng con số này có thể đã bao gồm hỗ trợ, xử lý thanh toán và các chi phí dịch vụ khác
- Mô hình kinh doanh của các frontier AI lab là huấn luyện mô hình bằng nhân lực đắt đỏ và compute tốn kém, rồi khấu hao các chi phí đó bằng khối lượng suy luận lớn có biên lợi nhuận cao
Chất lượng và trải nghiệm sử dụng của GLM 5.2
- GLM 5.2 của Z.ai có thể được xem là mô hình cạnh tranh open weights thực sự đầu tiên đối đầu với Opus và GPT
- Tại thời điểm bài viết, GPT mới nhất được nhắc tới là GPT 5.5
- Đồng thời cũng có hàm ý rằng các mô hình tương lai có thể vượt qua mức này
- Trong sử dụng thực tế, chất lượng cao tới mức gần như khó phân biệt với Opus được dùng hằng ngày
- Nhược điểm lớn nhất là tốc độ cảm nhận chậm
- Với các tác vụ agent không tương tác, ít nhạy cảm về thời gian như review PR chạy nền, đây không phải vấn đề lớn
- Trong sử dụng tương tác, nó hơi chậm để duy trì sự tập trung
- Sự chậm này chủ yếu đến từ việc mô hình “suy nghĩ” nhiều hơn chứ không hẳn do serving
- GLM 5.2 trên Fireworks được phát hành với tốc độ tokens/sec cao, nhưng tốc độ thực tế đôi lúc vẫn dao động
- Do đặc tính suy nghĩ nhiều hơn, lượng token sử dụng tăng lên và phần nào làm giảm hiệu quả chi phí
Điểm yếu về vision và tìm kiếm web
- GLM 5.2 không có hỗ trợ vision
- Sau các tính năng vision độ phân giải cao của Opus 4.7, việc đọc PDF dựa trên hình ảnh, ảnh chụp màn hình và file thiết kế đã trở nên phổ biến hơn, nên đây là điểm yếu dễ cảm nhận
- So với các frontier lab, đây vẫn là một nhược điểm quan trọng
- Việc thiếu hoặc có chất lượng thấp ở tính năng tìm kiếm web cũng hạn chế các tác vụ agent
- Gần như mọi phiên agent đều thực hiện nhiều truy vấn web để tra cứu các mục cần thiết
- Z.ai có cung cấp MCP thay thế cho tìm kiếm web nhưng chậm và chất lượng thấp
- Fireworks không cung cấp tính năng tìm kiếm web
- Một cách lách tạm thời là hướng dẫn agent dùng tìm kiếm web dựa trên CLI như ddgr
- Một API tìm kiếm web bên thứ ba tốt có thể lấp đầy khoảng trống lớn mà các nhà cung cấp mô hình open weights vẫn chưa giải quyết được
- Năng lực tìm kiếm web là thiết yếu cho nhiều tác vụ agent, và vấn đề này có thể được giải quyết dần theo thời gian khi bên xây dựng chỉ mục tìm kiếm cùng các quan hệ đối tác và tích hợp phù hợp xuất hiện
Mô hình open weights với chi phí chuyển đổi thấp
- Điều đe dọa các frontier lab hơn là việc độ khó di chuyển sang mô hình open weights thấp
- Cả Z.ai và Fireworks đều cung cấp endpoint tương thích OpenAI và Anthropic
- Trong Claude Code và Codex, chỉ cần đổi base URL sang nhà cung cấp suy luận
- Thiết lập API key
- Chỉ định mô hình sử dụng là GLM 5.2
- Trong bối cảnh Anthropic từng công bố rồi rút lại việc tính phí API cho cách dùng agent không tương tác của
claude -p, nhiều trường hợp sử dụng có thể được thay bằng GLM - Ngay cả trong sử dụng tương tác, ngoài việc thiếu vision và tốc độ chậm hơn, gần như rất khó nhận ra rằng trong Claude Code đang dùng một mô hình khác thay vì Opus
- Sự chuyển đổi này không phải kiểu migration phải lập kế hoạch nhiều năm như lock-in kiểu Microsoft hay Salesforce
- Chi phí chuyển đổi thấp
- Thậm chí có thể thấp hơn chi phí phải chạy theo các thay đổi chính sách và điều khoản của frontier lab
- Claude Code trong tương lai có thể khiến việc dùng nhà cung cấp bên thứ ba trở nên khó hơn
- Nhưng vẫn có nhiều lựa chọn mã nguồn mở tốt, bao gồm Codex và OpenCode
Triển khai trong doanh nghiệp: bảo vệ dữ liệu và lựa chọn triển khai
- Mối lo thường gặp trong doanh nghiệp là quyền riêng tư và bảo mật dữ liệu
- API và gói thuê bao chính thức của Z.ai bị cho là khó trở thành lựa chọn cho doanh nghiệp vì điều khoản yếu và mối liên hệ sâu với Trung Quốc đại lục
- Mô hình open weights cho phép chọn nhà cung cấp khác
- Trên thị trường có nhiều nhà cung cấp với điều khoản hợp đồng phù hợp hơn
- Nếu cần, cũng có thể host on-premises
- Triển khai on-premises cho phép dùng ngay cả dữ liệu nhạy cảm hơn, vốn trước đây không thể gửi cho bất kỳ bên thứ ba nào, vào các workflow agent ở cấp độ Opus
Giá cả và áp lực lên biên lợi nhuận
- Mức giá hiện tại của GLM 5.2 vào khoảng $4.40/MTok
- Chưa tới 20% giá bán lẻ của Opus
- Khoảng 15% chi phí của GPT5.5
- Đây không phải so sánh apples-to-apples hoàn toàn vì GLM 5.2 dùng nhiều token hơn trong cùng một tác vụ
- Dù vậy, trong gần như mọi workflow, nó vẫn nhiều khả năng cung cấp chất lượng tương tự với chi phí rẻ hơn trên 50%
- Z.ai cung cấp gói thuê bao “coding plan” tương tự các gói của Anthropic và OpenAI, với hạn mức sử dụng cao hơn
- Tuy vậy, các điều khoản lỏng lẻo về huấn luyện và lưu giữ dữ liệu có thể khiến việc bán cho người dùng chuyên nghiệp trở nên khó khăn
- Nếu frontier lab tăng giá mạnh, đây có thể trở thành lựa chọn đáng tin cậy cho những người dùng coi trọng ngân sách
- Chi phí của GLM 5.2 được dự báo sẽ còn giảm mạnh trong vài tháng tới nhờ tối ưu stack serving
- Wafer đã tổng hợp việc chạy GLM 5.2 trên phần cứng AMD
- Theo đó, chạy suy luận trên AMD có chi phí mỗi token rẻ hơn 2,75 lần so với Nvidia Blackwell
- Fireworks từng cung cấp credit miễn phí để thử nghiệm GLM
1 bình luận
Các ý kiến trên Hacker News
Tôi không chắc bản thân chi phí gốc quan trọng đến vậy
Tôi hiểu lập luận về sụp đổ biên lợi nhuận, nhưng khó thấy các tiền lệ lịch sử tương tự. Doanh nghiệp có vẻ sẽ trả giá cao cho bảo đảm dịch vụ, tích hợp, và một đối tượng có thể kiện được; cuối cùng câu “chưa ai từng bị sa thải vì mua IBM” dường như cứ lặp lại
Thứ ba, chiến lược của Mỹ có vẻ đang đi theo hướng hạn chế một cách nhân tạo quyền tiếp cận các mô hình mạnh; nếu Trung Quốc tiếp tục đà hiện tại, trong vòng 6 tháng họ sẽ đưa ra một mô hình tốt ngang Fable và cũng sẽ không khóa nó lại. Khi có một mô hình rẻ hơn và tốt hơn được mở ra, động lực chuyển đổi sẽ cực lớn; nếu Trung Quốc đang giành thị phần, họ cũng có ít động cơ tăng giá hơn nhiều. Chiến lược AI của David Sacks và chính phủ Mỹ rất thiển cận, và có vẻ sẽ phản tác dụng
Biên lợi nhuận chip nhớ trong thập niên 1980 đã sụp đổ, khiến Intel rút hoàn toàn khỏi mảng chip nhớ; khi đó Intel còn được biết đến như một công ty chip nhớ hơn là công ty vi xử lý. Biên lợi nhuận của workstation cao cấp cũng sụp đổ trước sự bùng nổ của các máy tương thích IBM PC giá rẻ và phần mềm MS Windows, trực tiếp dẫn đến sự biến mất của SGI, Sun, Symbolics, Lucid, LMI, v.v.
Các biến thể UNIX độc quyền như HP-UX, IRIX, AIX, SCO Unix về cơ bản đã biến mất, bị thay thế bởi các hệ điều hành độc quyền rẻ hơn như Windows và MacOS, hoặc các hậu duệ mã nguồn mở của Linux và BSD. Các hãng cơ sở dữ liệu thương mại như Oracle, dBase, Sybase, FoxPro, SQL Server và Access của Microsoft cũng chịu áp lực biên lợi nhuận mạnh từ PostGres, MySQL, SQLite; Oracle sống sót nhờ nền tảng cài đặt khổng lồ và đội pháp lý, Microsoft sống sót vì có thể trợ giá chéo từ thế độc quyền OS và Office, nhưng dBase, Sybase, FoxPro thì biến mất
Dù nhà cung cấp khác nhau, trải nghiệm người dùng vẫn như nhau: gửi prompt thì nhận câu trả lời. Các trường hợp khác phải chịu việc mất hỗ trợ hoặc giai đoạn chuyển đổi khó khăn, nhưng LLM vốn gần như chẳng có hỗ trợ, và việc chuyển đổi cũng chỉ ở mức cập nhật harness hiện tại để biết thêm mô hình khác
So sánh phù hợp hơn có lẽ là sự trỗi dậy của AMD. Có thể AMD không thống trị thị trường, nhưng đã gây tác động lớn; yếu tố quan trọng là AMD x86 khá gần và tương thích với Intel x86, đồng thời rẻ hơn nhiều
Hyperscaler có đất sống vì có giá trị thực so với phương án miễn phí, và chi phí chuyển đổi nhà cung cấp cực lớn. Windows và macOS cũng có chi phí chuyển sang thứ khác rất cao, nhiều khi còn không khả thi. Office cũng có chi phí chuyển đổi lớn do vấn đề tương thích và đào tạo lại nhân viên
Rốt cuộc điểm cốt lõi là hiệu ứng khóa chặt, mà cho đến nay LLM dường như không có điều đó. Vì vậy tôi nghĩ các luận điểm ở trên không thật sự phù hợp ở đây
Mac OS cũng miễn phí. Theo nghĩa miễn phí như bia miễn phí
Đúng là doanh nghiệp trả giá cao cho bảo đảm dịch vụ, tích hợp và một đối tượng có thể kiện được, nhưng nhìn rộng hơn, các công ty Mỹ giàu khủng khiếp nên có lẽ không phải ví dụ tốt về những người chi tiêu hợp lý
Tháng trước tôi đã hủy gói Claude Pro và dùng 20 USD đó mua credit Openrouter. Phần lớn câu hỏi khám phá kiến thức có thể được Gemma4 trả lời, chỉnh sửa code cơ bản thì Qwen3.6 27b là đủ, còn các tác vụ thật sự khó thì GLM5.2 cũng gánh được
Tôi cũng không phải người dùng AI quá nhiều, nên với cách dùng credit API và chọn mô hình nhỏ nhất có thể tùy theo độ phức tạp của tác vụ, tôi lại tiết kiệm được tiền
Đồng ý nhưng theo hướng ngược lại. AI đang tiếp tục hấp thụ công việc của tôi, một kỹ sư phần mềm hệ thống C/C++ senior, vậy mà trong vài tháng tôi chỉ tốn vài trăm đô để dùng gpt-5.5/5.6 và codex
Tôi không biết mọi người làm gì mà đốt nhiều token đến vậy, nhưng với tôi thì nó rẻ đến mức buồn cười và ngày nào tôi cũng khám phá ra tính năng mới. Chi phí tăng hay giảm tôi cũng không quan tâm, vì so với những gì nhận được thì quá rẻ
Nếu dùng LLM làm trợ lý cho công việc của mình thì không dùng nhiều token đến vậy, nhưng nếu để nhiều agent làm việc độc lập và review công việc của nhau thì ngân sách thật sự cháy rất nhanh
Các model ngu ngốc bắt đầu sụp ở điểm đó, còn dự án thì dùng tạm được cho nhu cầu của tôi nên tôi dừng lại. Sau đó có agent coding và các model đủ thông minh để sửa vấn đề, nhưng codebase quá bừa bộn nên chúng xử lý cực kỳ kém hiệu quả. Chỉ vài prompt đã dùng hết hạn mức 5 giờ
Sau khi dành vài ngày tạo một agent.md ổn và refactor codebase, giờ nó chỉ dùng token từng chút một. Tôi nghĩ vẫn còn nhiều người đang ở trên con thuyền đó. Rất nhiều người trong chúng tôi hoàn toàn không biết best practice, cũng không biết phải bảo agent hành xử thế nào
Nhìn lại thì lẽ ra tôi nên học các kiến thức cơ bản trong vài ngày, nhưng vấn đề là mình không biết điều mình không biết. Tôi không mấy tin rằng các công ty đang prompt agent hành xử chu đáo khi onboarding người dùng mới; với họ, khiến những người như tôi nghiện và dùng càng nhiều token càng tốt mới có lợi. Tôi đã tốn thêm vài trăm đô cho các gói thuê bao và tier không cần thiết, nhưng lúc đó so với mức tăng năng suất từ 0 lên 1 thì đó là số tiền nhỏ
Vì bản thân model không có khả năng vision native nên có vision MCP để bù vào: https://docs.z.ai/devpack/mcp/vision-mcp-server
Tìm kiếm web nhìn chung cũng khá ổn. Nếu dùng harness ZCode thì quota Coding Plan lớn hơn: https://zcode.z.ai/en
Tôi dùng thử một lúc, nó nằm đâu đó giữa OpenCode Desktop và Claude Desktop. OpenCode Desktop còn mới nhưng ổn, còn các phiên bản gần đây của Claude Desktop thì tốt
Với tư cách là một model, GLM 5.2 nhìn chung khá hài lòng ở chế độ suy nghĩ tối đa, nằm đâu đó giữa Sonnet 5 và Opus 4.8, và chắc chắn tốt hơn DeepSeek V4 Pro
Về giá, gói thuê bao trông không tốt như kỳ vọng. Tôi đã dùng khoảng 60% giới hạn hằng tuần của gói Pro 50 đô chỉ trong một ngày; sở dĩ chỉ vậy là vì mỗi giới hạn 5 giờ chỉ cho dùng 20%, nếu không thì chắc đã là 80–100%. Tôi cũng không làm gì đặc biệt điên rồ, chỉ chạy song song các tác vụ dài trên 2 dự án với cache hit rate khoảng 96% và tối đa 3 sub-agent review code song song
Gói Max 100 đô thì có thể trụ cả tuần, nhưng Anthropic cũng làm được vậy với cùng số tiền, OpenAI chắc cũng thế. Giờ thấp điểm thì tốt hơn, nhưng tôi không thể ngồi không từ 9 giờ sáng đến 1 giờ chiều giờ địa phương
Muốn tiết kiệm thật sự thì phải gắn thanh toán hằng năm với gói Max, nhưng điều đó còn khó thuyết phục hơn
Điều quan trọng là các công ty này không thể thông đồng để cố định giá. Việc có Trung Quốc là đối thủ cạnh tranh bảo đảm điều đó
Cách dễ nhất để hiểu kinh tế token vẫn là kinh tế vi mô cơ bản. Làm sao đây lại không phải là một thị trường cạnh tranh, tức thị trường mà lợi nhuận tiến về 0?
Bất cứ điều gì A hay O làm để giữ biên lợi nhuận cao hơn đều có thể bị đối thủ sao chép hoặc định giá thấp hơn, và việc hạ giá còn có lợi thế là thu thập được dữ liệu huấn luyện. Ngoài thông đồng hay cố định giá, còn gì có thể ngăn lợi nhuận gộp của token tiến về 0?
Dù vậy, tôi cũng từng nghĩ y như thế về GPU, nhưng Nvidia dường như đến giờ vẫn chưa có đối thủ đúng nghĩa trong datacenter
Phép ví von tôi thích là AI sẽ rẻ như điện
Khi dùng điện, bạn có biết ai cung cấp, nó đến từ nhà máy điện nào không? Có lẽ là không. Điện là hàng hóa phổ dụng, phần lớn đã được ổn định, và có rất nhiều nguồn năng lượng. Cũng có năng lượng thay thế và mỏ than. Tất cả cạnh tranh trong các giao dịch cung cầu năng lượng diễn ra theo thời gian thực. Ở đây bạn có thể nghĩ đến OpenRouter
Cuối cùng, người tiêu dùng thắng nhờ sự dồi dào
Ví dụ lớn nhất cho sự dồi dào của trí tuệ rẻ và vô hạn có lẽ không phải GLM5.2, mà là DeepSeek V4 Pro max với giá 0,435 đô cho mỗi 1 triệu token đầu vào và 0,87 đô cho mỗi 1 triệu token đầu ra
Tôi không hiểu luận điểm rằng “huấn luyện tuy tốn nhiều chi phí vốn, nhưng là một khoản chi phí trả trước cố định; bỏ ra hàng trăm triệu đô để huấn luyện mô hình rồi thì thế là xong”
Nếu có đối thủ cạnh tranh và người dùng liên tục kỳ vọng nhiều hơn, nên cứ phải huấn luyện mô hình mới, và nếu chi phí huấn luyện dường như ngày càng lớn so với mức cải thiện đạt được, thì đây chẳng phải là chi phí thường trực phải liên tục gánh sao? Chú thích có ám chỉ điểm này, nhưng rốt cuộc có vẻ như chỉ lướt qua
Tôi cũng tò mò liệu có chi phí huấn luyện gia tăng để giữ cho mô hình luôn còn phù hợp hay không. Hay mô hình chỉ biết các sự kiện cho đến ngày nó được huấn luyện?
Tất nhiên cũng có thể đưa vào cửa sổ ngữ cảnh, nhưng cách đó có những vấn đề riêng
Trừ khi một số nghiên cứu mới trông có triển vọng đem lại phương pháp mới, chi phí huấn luyện sẽ tiếp tục là một cái lỗ rò tiền
Hơn nữa, nếu ngừng huấn luyện, 6 tháng sau sẽ có ai đó tung ra một mô hình open-weight, và khi đó bạn sẽ phải cạnh tranh để cung cấp cùng một sản phẩm với giá thấp nhất
Cũng đừng quên rằng ngành kinh doanh này không chỉ là một công cụ kỹ thuật đơn thuần, mà là thứ bắt buộc phải len vào thị trường lao động toàn cầu. Để biện minh cho mức định giá 1 nghìn tỷ đô la, mô hình phải tốt hơn rất nhiều
Nói là “sự thay đổi sắp tới ít được hiểu nhất trong nền kinh tế AI” rồi lại nói chuyện xuất hiện hằng ngày trên tin AI. Cảm giác như: chưa từng nghe rằng mô hình mã nguồn mở ngày càng rẻ hơn và chất lượng cao hơn à?
Trước hết, xét theo bất kỳ tiêu chí nào thì GLM5.2 cũng không tốt bằng Opus
Thứ hai, đúng là các mô hình mã nguồn mở cuối cùng sẽ gây áp lực lên biên lợi nhuận, và ai cũng biết điều đó. Nhưng liệu mô hình kinh doanh AI hôm nay có vẫn y nguyên vào ngày mai không?
Tính cách của nó cũng trung lập hơn và ít đối đầu hơn Opus. Opus lúc nào cũng có cảm giác kiểu “nếu phản biện điều đó thì...”, còn GLM thì gần với “vâng, tôi hiểu rồi!” hơn. Tôi dùng cả hai và đều đánh giá cao cả hai, nhưng nếu ngày mai Opus biến mất thì tôi cũng không khóc. Chỉ với GLM-5.2, tôi cũng có thể thích nghi rất nhanh
Có ý kiến nói khả năng tìm kiếm web của GLM 5.2 tệ, nhưng tôi cho rằng đó là trách nhiệm của harness
Tôi tự dựng một instance SearXNG trên VPS và tích hợp vào Pi cùng công cụ webfetch; đến giờ GLM 5.2 tìm đồ khá tốt. Khi tôi yêu cầu tin mới nhất từ một tờ báo online của Áo vốn khó parse vì các lớp quảng cáo phủ lên rất hung hãn, cả ứng dụng chat mặc định của ChatGPT lẫn Claude đều thất bại. GLM 5.2 trong Pi thì đủ thông minh để tìm RSS feed và đưa ra một phần tổng quan chi tiết
Việc không có vision thật sự đáng tiếc. Tôi đã triển khai một cách обход trong Pi và cũng tạm ổn, nhưng không tốt lắm và toàn bộ trải nghiệm khá gượng gạo
Trông như một bài viết khá vô nghĩa khi chỉ nhìn vào token đầu ra
Trong coding bằng agent, token đầu vào được cache chiếm 90% “chi phí” API. Nó không cần tính toán GPU, và DeepSeek đã cho thấy có thể xử lý rẻ hơn 50–100 lần bằng MLA/CSA/HCA cùng nhiều ổ đĩa. Đây mới là thứ sẽ làm biên lợi nhuận sụp đổ
Nội dung đại ý là: “Với gói 100 đô/tháng, bạn nhận được lượng sử dụng API tương đương 3600 đô. Điều này hẳn là vì Anthropic đã tìm ra cách thông minh trong định tuyến mô hình và cache đầu vào, đồng thời trợ giá bằng tiền nhà đầu tư và chấp nhận lỗ biên lợi nhuận vận hành”
Cách hiểu của tôi là đây chính là bức tranh mà Anthropic muốn mọi người tin. Trên thực tế, 90% của con số 3600 đô đó là token đầu vào được cache, và như DeepSeek đã cho thấy, có thể làm cho nó gần như miễn phí