Inkling: mô hình open weight của Thinking Machines Lab
(thinkingmachines.ai)- Inkling, được huấn luyện từ đầu và công bố toàn bộ trọng số, là MoE Transformer với tổng 975B tham số, 41B tham số hoạt động, hỗ trợ ngữ cảnh tối đa 1M token và suy luận dựa trên văn bản, hình ảnh, âm thanh
- Được tiền huấn luyện trên 45 nghìn tỷ token gồm văn bản, hình ảnh, âm thanh và video; ưu tiên tính đa dụng và khả năng tùy biến trên các tác vụ agent, suy luận, lập trình, làm theo chỉ dẫn và độ xác thực nói chung hơn là các benchmark cụ thể
- Có thể điều chỉnh mức nỗ lực suy luận trong khoảng 0.2~0.99 để cân bằng chi phí, độ trễ và hiệu năng; trên Terminal Bench 2.1, mô hình dùng khoảng một phần ba số token để đạt hiệu năng ngang Nemotron 3 Ultra
- Hiện chưa phải mô hình mở hoặc đóng mạnh nhất, nhưng hướng tới một nền tảng open weight kết hợp năng lực đa phương thức, suy luận hiệu quả, tinh chỉnh Tinker, cùng nhiều công cụ suy luận và triển khai
- Bản preview Inkling-Small ra mắt cùng lúc có tổng 276B tham số, 12B tham số hoạt động, đạt kết quả tương đương hoặc cao hơn mô hình lớn trong nhiều đánh giá; toàn bộ trọng số sẽ được công bố sau khi hoàn tất kiểm thử
Mô hình đa dụng công bố toàn bộ trọng số
- Thinking Machines Lab công bố toàn bộ trọng số của Inkling, được huấn luyện từ đầu để con người có thể trực tiếp tùy biến mô hình AI
- Inkling là Mixture-of-Experts Transformer với 975B tham số tổng cộng, trong đó 41B được kích hoạt trên mỗi token
- Cửa sổ ngữ cảnh tối đa là 1M token
- Được tiền huấn luyện trên 45 nghìn tỷ token gồm văn bản, hình ảnh, âm thanh và video
- Suy luận cùng lúc với văn bản, hình ảnh và âm thanh làm đầu vào gốc
- Thay vì tập trung vào một lĩnh vực cụ thể, mô hình được huấn luyện như một mô hình nền tảng cân bằng, bao quát tác vụ agent, suy luận, lập trình, làm theo chỉ dẫn, độ xác thực, thị giác và âm thanh
- Đây không phải mô hình mạnh nhất trong toàn bộ các mô hình mở và đóng; mục tiêu là một mô hình nền tảng có thể tùy biến, kết hợp năng lực đa phương thức, suy luận hiệu quả và tinh chỉnh Tinker
- Đây là bản phát hành đầu tiên của một họ mô hình sẽ mở rộng ra nhiều kích cỡ; Inkling-Small nhẹ hơn cũng được công bố dưới dạng preview
- Có thể trực tiếp tinh chỉnh Inkling trên Tinker và trò chuyện trong Inkling Playground của console Tinker để kiểm tra đặc tính mô hình
- Trong demo tùy biến, Inkling đã dùng Tinker để tự viết, chạy và đánh giá tác vụ tinh chỉnh của chính nó, hoạt động bên trong harness OpenCode
Agent đa dụng và tạo sản phẩm đầu ra
- Để có thể tinh chỉnh cho các quy trình làm việc và sản phẩm khác nhau, mô hình ưu tiên hiệu năng trên phạm vi tác vụ rộng hơn là hiệu năng tốt nhất trong một lĩnh vực
- Trong quá trình huấn luyện lập trình và harness agent, tập công cụ và schema được ngẫu nhiên hóa để giảm độ nhạy với một harness cụ thể
- Mức nỗ lực suy luận cũng có thể được đặt bên trong harness
- Trên hầu hết benchmark agent, mô hình đạt điểm cạnh tranh trong nhóm mô hình open weight
- Chỉ với một prompt, mô hình tạo một web app nộp đơn xin việc và nhúng vào app một agent dùng trình duyệt có thể điền biểu mẫu bằng hồ sơ đã lưu theo chỉ dẫn ngôn ngữ tự nhiên
- Trên leaderboard Agentic Web Dev của Design Arena, nơi so sánh trực tiếp mù các web app được tạo ra, mô hình thuộc nhóm open weight mạnh
- Mô hình duy trì khả năng làm theo chỉ dẫn chính xác và phong cách nhất quán khi tạo sản phẩm nhiều trang, như một tạp chí PDF 9 trang về ẩm thực và du lịch
- Mô hình cải thiện game Snake multiplayer trực tuyến có server thời gian thực, bot và leaderboard bằng cách phản hồi 40 vòng feedback do GPT Codex cung cấp với vai trò người đánh giá
- Khả năng duy trì quá trình cải tiến lặp dài và phát triển sản phẩm đầu ra dựa trên feedback được xem là cốt lõi của công việc cộng tác
Mức nỗ lực suy luận để điều chỉnh chi phí và hiệu năng
- Trong ứng dụng thực tế, không chỉ hiệu năng tối đa mà cả chi phí token và độ trễ cũng là ràng buộc; đặc biệt độ trễ thấp quan trọng cho cộng tác và cải tiến lặp
- Có thể điều chỉnh mức nỗ lực suy luận trong khoảng 0.2~0.99 để chọn điểm cân bằng giữa hiệu năng và số token sinh ra
- So sánh hiệu năng và số token sinh trung bình theo từng mức nỗ lực trên Terminal Bench 2.1, Humanity’s Last Exam(HLE) và IFBench
- Trên Terminal Bench 2.1, mô hình đạt hiệu năng ngang Nemotron 3 Ultra với khoảng một phần ba số token
- Kết quả HLE được đo trên checkpoint trước bản phát hành cuối, nên thấp hơn đôi chút so với mô hình cuối cùng
- Khi gọi mô hình hàng triệu lần hoặc đưa vào các quy trình dài, có thể chọn cấu hình theo từng use case dựa trên toàn bộ đường cong chi phí-hiệu năng thay vì chỉ một điểm số cao nhất
Kiến trúc đa phương thức native không dùng encoder
- Mô hình được huấn luyện đa phương thức từ đầu để có thể dùng làm mô hình suy luận nền cho interaction models system hỗ trợ cộng tác giọng nói và thị giác thời gian thực
- Cả thị giác và âm thanh đều dùng kiến trúc không có encoder riêng
- Âm thanh được đưa vào bằng dMel spectrogram
- Hình ảnh được mã hóa thành patch 40×40 pixel bằng hMLP 4 tầng, theo thiết kế từ nghiên cứu liên quan đến Vision Transformer
- Hai loại đầu vào đi qua lớp embedding nhẹ rồi được xử lý cùng token văn bản
- Với âm thanh, mô hình hỗ trợ chuyển giọng nói thành văn bản, làm theo chỉ dẫn bằng giọng nói, hỏi đáp trên bản ghi và suy luận âm thanh dài
- Ở effort=0.99, đạt Audio MC 56.6%, MMAU 77.2%, VoiceBench 91.4%
- Theo VoiceBench, MMAU và Audio MC, mô hình thuộc nhóm open weight audio mạnh
- Với thị giác, mô hình không chỉ mô tả hình ảnh và hỏi đáp mà còn suy luận trực quan trên biểu đồ, sơ đồ và toán học
- MMMU Pro Standard 10 đạt 73.5%, Charxiv RQ đạt 78.1%
- Nếu dùng thao tác ảnh bằng Python như phóng to và cắt, Charxiv RQ tăng lên 82.0%
- Nhóm dự định tiếp tục mở rộng năng lực đa phương thức trong các mô hình tiếp theo và pipeline huấn luyện
Hiệu chỉnh độ tự tin và xử lý bất định
- Đặc tính nhận thức luận (epistemics) của Inkling là khái niệm xử lý đồng thời độ tự tin đã được hiệu chỉnh, khả năng làm theo chỉ dẫn và khả năng chống kiểm duyệt
- Nếu mô hình luôn trả lời quá tự tin, người dùng phải kiểm chứng mỗi lần ngay cả khi thiếu thông tin hoặc mô hình bịa nội dung; vì vậy mô hình học hiệu chỉnh xác suất bằng học tăng cường với quy tắc chấm điểm phù hợp trên các câu hỏi thực tế đã được giải
- Kết quả đánh giá dự báo thực hiện từ ngày 30/6/2026 đến 13/7/2026 bằng checkpoint khác với bản công khai như sau
- ForecastBench Brier Index không tìm kiếm là 61.1±0.79, khi dùng tìm kiếm là 63.7±0.82
- Prophet Arena Brier Score là 0.1617, càng thấp càng tốt
- Với việc làm theo chỉ dẫn trong các câu hỏi phức tạp và khó xác minh, mô hình dùng hai bộ đánh giá tự động: rubric grader và claims grader
- rubric grader đánh giá theo checklist các mục cần có trong câu trả lời tốt, nhưng dễ bị khai thác bằng cách xuất ra thật nhiều sự kiện có vẻ liên quan để lấy điểm
- claims grader kiểm chứng từng tuyên bố thực tế bằng tìm kiếm web agent và trừ điểm các tuyên bố chưa được xác nhận
- Hai bộ đánh giá được dùng cùng nhau để huấn luyện nhằm tăng tính hữu ích và giảm ảo giác
- Để trực tiếp học sự bất định đã hiệu chỉnh trong câu trả lời dài, nhóm cũng dùng dữ liệu hỏi đáp sự kiện ngắn có áp dụng phần thưởng có xét đến việc từ chối trả lời(abstention-aware rewards)
- Câu trả lời chỉ được thưởng khi khả năng đúng cao; nếu không chắc, trả lời “không biết” hoặc đưa ra phỏng đoán có điều kiện sẽ có lợi hơn
- Một số prompt khuyến khích hoặc cấm cách diễn đạt dè dặt, để mô hình theo sở thích người dùng giữa việc buộc phải đoán và không trả lời khi đã hiệu chỉnh
- Mô hình cũng được huấn luyện để trả lời trực tiếp các chủ đề có thể bị kiểm duyệt; trong Propaganda and Censorship Eval của Cognition, mô hình cho thấy mẫu hành vi mạnh là không tuân theo kiểm duyệt
Đánh giá năng lực rủi ro và hành vi an toàn
- Sau khi huấn luyện bằng đặc tả hành vi an toàn nội bộ áp dụng cho mọi định dạng đầu vào, kết quả được xác minh thông qua bên đánh giá an toàn bên ngoài
- Đánh giá năng lực rủi ro bao gồm CBRN, an ninh mạng và mất kiểm soát; các mối đe dọa giữa con người và AI gồm xu hướng nịnh bợ, người dùng dễ tổn thương và thao túng gây hại
- Các kết quả đánh giá an toàn chính ở effort=0.99 như sau
- FORTRESS Adversarial 78.0%
- FORTRESS Benign 95.9%
- StrongREJECT 98.6%
- Trong số các mô hình open weight được so sánh, mô hình cho thấy cơ chế bảo vệ tích hợp mạnh nhất trên FORTRESS: từ chối nhiều hơn các yêu cầu độc hại liên quan đến vũ khí và bạo lực, đồng thời giảm từ chối quá mức đối với các yêu cầu bình thường trông tương tự
- Trên StrongREJECT, thước đo việc từ chối các yêu cầu độc hại rõ ràng, mô hình đạt trên 98%, tương đương các mô hình mở và đóng khác
- Với các mô hình tùy chỉnh, nhóm tiếp tục nghiên cứu tác động của tinh chỉnh lên hành vi an toàn và mức tăng năng lực
Benchmark đầy đủ và điều kiện đo
- Mọi đánh giá cơ bản được chạy với effort=0.99, temperature=1.0; đánh giá lập trình áp dụng giới hạn đường tác vụ tối đa 256K token
- Với HLE, GPQA Diamond, GDPVal, Tau 3 Banking, AA Omniscience và MMMU Pro, nhóm dùng điểm do Artificial Analysis báo cáo bên ngoài khi có thể
- Các điểm tiêu biểu của Inkling như sau
- Suy luận: HLE chỉ văn bản 29.7%, dùng công cụ 46.0%, AIME 2026 97.1%, GPQA Diamond 87.2%
- Lập trình agent: SWEBench Verified 77.6%, SWEBench Pro Public 54.3%, Terminal Bench 2.1 63.8%
- Agent tổng quát: GDPVal-AA v2 1238, MCP Atlas 74.1%, Tau 3 Banking 23.7%, BrowseComp có quản lý ngữ cảnh 77.1%
- Độ xác thực và hội thoại: SimpleQA Verified 43.9%, AA Omniscience 2.1, IFBench 79.8%, Global-MMLU-Lite 88.7%
- Thị giác và âm thanh: MMMU Pro 73.5%, Charxiv RQ dùng Python 82.0%, Audio MC 56.6%, MMAU 77.2%, VoiceBench 91.4%
- Khi diễn giải kết quả, cần cân nhắc các khác biệt về điều kiện đánh giá sau
- Kết quả Inkling trên SWEBench Verified được đo bằng harness chỉ dùng bash; với mô hình bên ngoài, nhóm dùng điểm tự báo cáo
- Terminal Bench 2.1 được đo bằng harness lập trình nội bộ; một số ít kết quả được xác nhận là nhiễm đáp án từ tìm kiếm web bị tính 0 điểm
- VoiceBench dùng cơ chế khớp chuỗi hardcode nhạy với định dạng đầu ra, nên nhóm thêm system message yêu cầu tuân theo định dạng câu trả lời kỳ vọng
- Một số mô hình so sánh trong Audio MC không có trên leaderboard chính thức nên được đánh giá nội bộ
- Claude Fable 5 và GPT 5.6 Sol trong CharXiv RQ dùng Python được đo bằng harness Python nội bộ
Kiến trúc MoE cho ngữ cảnh dài
- Kiến trúc MoE của Inkling nhìn chung theo DeepSeek-V3, đồng thời áp dụng thay đổi để cải thiện hiệu quả và hiệu năng ngữ cảnh dài
- Mỗi tầng MoE có 256 chuyên gia định tuyến và 2 chuyên gia dùng chung, mỗi token kích hoạt 6 chuyên gia định tuyến
- Dùng router dựa trên sigmoid và bias cân bằng tải không có auxiliary loss
- Điểm của các chuyên gia định tuyến được chọn và chuyên gia dùng chung được chuẩn hóa cùng nhau để dùng làm trọng số kết hợp đầu ra
- Attention bố trí xen kẽ các tầng sliding window và tầng global theo tỷ lệ 5:1, dùng 8 KV head
- Với mã hóa vị trí, mô hình dùng relative positional embedding thay vì RoPE vốn được dùng rộng rãi
- Biểu diễn vị trí tương đối thuộc họ Music Transformer cho hiệu năng và khả năng ngoại suy tốt hơn trên chuỗi dài hơn
- Tích chập ngắn được áp dụng ở hai điểm
- Sau key và value projection của mỗi tầng attention
- Trước khi các nhánh residual của attention và MLP được nhập vào residual stream chính
Tiền huấn luyện 45 nghìn tỷ token và học tăng cường quy mô lớn
- Mô hình được huấn luyện trên hệ thống NVIDIA GB300 NVL72 bằng 45 nghìn tỷ token gồm văn bản, hình ảnh, âm thanh và video
- Tối ưu hóa kết hợp Muon cho trọng số ma trận lớn và Adam cho các tham số còn lại
- Lịch hyperparameter lấy từ nghiên cứu modular manifolds
- Cường độ weight decay được liên kết với bình phương learning rate để giữ ổn định kích thước trọng số tổng thể dù thời lượng huấn luyện khác nhau
- Huấn luyện tiếp theo bao quát toán học, lập trình agent và dùng công cụ, âm thanh, hình ảnh, hội thoại và an toàn
- SFT ban đầu dùng dữ liệu tổng hợp do các mô hình open weight như Kimi K2.5 tạo ra
- SFT ban đầu chỉ chiếm một phần nhỏ tổng compute; phần lớn được dành cho học tăng cường quy mô lớn trong môi trường tổng hợp và do con người tạo
- Học tăng cường bất đồng bộ được mở rộng lên hơn 30 triệu rollout và huấn luyện ổn định qua hai lần chạy liên tục dài
- Điểm đánh giá suy luận riêng, gộp AIME, HLE, GPQA và các bài khác, cải thiện theo log tuyến tính trong toàn bộ quá trình
- Bằng cách thay đổi system message và chi phí trên mỗi token, mô hình chỉ định mức nỗ lực theo từng mẫu và học dùng lượng token khác nhau, từ đó có khả năng điều khiển mức nỗ lực suy luận
- Khi học tăng cường diễn ra, chuỗi suy nghĩ chuyển sang dạng nén, giảm các liên từ và mạo từ ngữ pháp, nhưng vẫn giữ được khả năng hiểu và câu trả lời cuối
- Đây không phải kết quả do phần thưởng trực tiếp nhắm tới, mà là thay đổi xuất hiện từ áp lực hiệu quả
- Hiện tượng tương tự cũng được quan sát trong huấn luyện SWE-1.7 của Cognition
- Ở các mô hình tiếp theo, nhóm dự định tiếp tục mở rộng quy mô compute trên toàn bộ tiền huấn luyện, huấn luyện tiếp theo và học tăng cường
Bản preview Inkling-Small nhỏ hơn và nhanh hơn
- Inkling-Small là mô hình MoE có tổng 276B tham số, 12B tham số hoạt động, với chi phí và độ trễ thấp hơn Inkling 41B tham số hoạt động
- Nhờ dữ liệu tiền huấn luyện và phương pháp huấn luyện được cải thiện, mô hình đạt kết quả tương đương hoặc cao hơn Inkling lớn trên nhiều benchmark; hai mô hình dùng cùng stack huấn luyện tiếp theo có khả năng mở rộng
- Các kết quả chính ở effort=0.99 so với mô hình lớn như sau
- HLE dùng công cụ 46.6% so với 46.0%, GPQA Diamond 88.3% so với 87.2%
- MCP-Atlas 74.9% so với 74.1%, IFBench 83.4% so với 79.8%
- Charxiv RQ dùng Python 83.4% so với 82.0%, MMAU 77.5% so với 77.2%, StrongREJECT 98.8% so với 98.6%
- Cũng có các kết quả thấp hơn mô hình lớn
- Terminal Bench 2.1 là 52.7% so với 63.8%, Tau 3 Banking là 13.6% so với 23.7%
- SimpleQA Verified là 20.9% so với 43.9%, Audio MC là 49.6% so với 56.6%
- Phù hợp với các tác vụ mà chi phí và độ trễ quan trọng, như lập trình, chấm điểm dựa trên LLM và tạo dữ liệu tổng hợp cho mô hình khác
- Hiện nhóm đang hoàn tất kiểm thử và sẽ công bố toàn bộ trọng số sau khi hoàn thành
Hệ sinh thái tinh chỉnh và triển khai
- Với các vấn đề chuyên biệt theo từng tổ chức mà mô hình đa dụng khó giải quyết, tinh chỉnh bằng kiến thức chuyên môn có thể thu hẹp khoảng cách; Inkling được thiết kế để học nhanh khi tinh chỉnh
- Trên Tinker, có thể dùng Inkling với độ dài ngữ cảnh 64K và 256K
- Áp dụng giá giảm 50% trong thời gian giới hạn
- Có thể xem giá chi tiết trong tài liệu mô hình Tinker
- Tinker cookbook hỗ trợ Inkling mặc định và bổ sung 3 recipe tận dụng tính năng âm thanh
- tml-renderer cung cấp chức năng sampling và huấn luyện tiếp theo ổn định cho lời gọi công cụ, nội dung suy luận và đầu vào đa phương thức
- Inkling Playground là giao diện trò chuyện tích hợp tìm kiếm web agent và miễn phí trong thời gian giới hạn
- Checkpoint được tinh chỉnh trên Tinker có thể triển khai qua API của TogetherAI, Fireworks, Modal, Databricks và Baseten
- Hệ sinh thái suy luận và học tăng cường mã nguồn mở cũng được hỗ trợ
- Hợp tác với RadixArk để hỗ trợ SGLang và Miles
- Tích hợp Inferact với vLLM, Lightseek với TokenSpeed, Unsloth với llama.cpp
- Hỗ trợ tích hợp transformers với Hugging Face
- Có thể tải checkpoint gốc và checkpoint NVFP4 cho suy luận hiệu quả trên NVIDIA Blackwell từ kho Inkling trên Hugging Face
1 bình luận
Ý kiến trên Hacker News
Rất vui khi đây là mô hình đa phương thức open-weight lớn nhất hỗ trợ audio, và cũng tò mò không biết hiệu năng audio thực tế tốt đến mức nào
Nếu muốn chạy cục bộ thì có thể tham khảo các tài liệu sau
https://github.com/danielhanchen/llama.cpp/tree/add-inkling
https://unsloth.ai/docs/models/inkling
https://huggingface.co/unsloth/inkling-GGUF
https://huggingface.co/unsloth/inkling-NVFP4
Có người nói nó tốt hơn KimiK2.7, nhưng dù GLM5.2 đang thu hút nhiều chú ý thì tôi vẫn dùng KimiK2.7 khoảng một nửa thời gian. Nếu benchmark là thật thì nó hoàn toàn đáng để cân nhắc, và tôi kỳ vọng ở một số mảng nó sẽ vượt mọi mô hình open-weight khác
Mỹ cũng cần một DeepSeek hay Z.ai của riêng mình. Nhiều người, trong đó có tôi, cổ vũ cho thành công của các mô hình mở từ Trung Quốc vì không có lựa chọn nào khác, và Thinking Machines có thể đảm nhận vai trò đó
Danh sách mô hình open-weight hiện tại có thể xem tại https://www.arcee.ai/open-source-catalog
Dù vậy, tổ hợp API fine-tuning và mô hình open-weight ít nhất trông có vẻ là một mô hình kinh doanh khả thi. Nếu chỉ dùng QLoRA hay LoRA thì tôi vẫn chưa rõ vì sao đơn vị sở hữu mô hình mở lại có thể fine-tune tốt hơn, nhưng đây vẫn là điều đáng theo dõi
Tôi cho rằng mô hình nền tảng mở có thể fine-tune trong Tinker là một mô hình kinh doanh rất tốt. Doanh nghiệp vừa có thể sở hữu mô hình của riêng mình, vừa đạt hiệu năng vượt các mô hình tối tân trong những tác vụ cụ thể với chi phí thấp hơn nhiều, còn Thinking Machines có thể trở thành nhà cung cấp hạ tầng và dịch vụ cốt lõi của hệ sinh thái đó
Cũng rất ấn tượng khi Inkling-Small nhỏ hơn lại đạt hiệu năng ngang hoặc cao hơn mô hình lớn trên nhiều benchmark nhờ dữ liệu tiền huấn luyện và phương pháp huấn luyện được cải thiện. Rất mong chờ thế hệ mô hình Thinky tiếp theo
Việc phát triển mô hình hiện đại đòi hỏi số lượng công việc đa dạng đến đáng kinh ngạc. Trước đây chỉ cần tạo ra một hàm mất mát mới hoặc một thay đổi nhỏ trong kiến trúc, chạy vòng lặp huấn luyện và đánh giá rồi công bố kết quả; còn giờ đây nó đã trở thành một cuộc đua Red Queen nơi chỉ riêng việc bắt kịp cũng đã là khối lượng công việc khổng lồ
Thật đáng kinh ngạc khi khoảng 500 bước trong đó, mỗi bước lại là một vòng tối ưu nhỏ. Vì thế quy luật cũ cho rằng nhóm nhỏ sẽ nhanh hơn nhóm lớn đã bị đảo ngược, và AI cần những đội ngũ lớn. Quán tính tổ chức chỉ bắt đầu thành vấn đề khi quy mô vượt quá hàng nghìn người; trước đó, rất khó để chỉ 12 nhân sự xuất sắc gánh nổi số lượng thành phần khổng lồ này
Thật vui khi thấy một mô hình open-weight đa phương thức mạnh về ngữ cảnh dài xuất hiện. Có rất nhiều ứng dụng sẽ hưởng lợi từ hiệu năng audio, và cho đến khi z.ai phát triển xong năng lực thị giác thì nó cũng có thể rất mạnh cho các ứng dụng agent đa dụng
Tuy vậy, nó vẫn bộc lộ điểm yếu ở một số benchmark liên quan. Cuối cùng thì cũng như các mô hình khác, bạn phải tự đưa nó vào harness và đánh giá đúng các tác vụ mình coi trọng
Xét đây là mô hình đầu tiên mà lại được công khai, tôi bắt đầu lấy lại niềm tin vào các viện nghiên cứu AI mở của Mỹ. Nó vẫn chưa có trên OpenRouter nên tôi chưa thử được, nhưng nếu chỉ đạt cỡ GLM5.1 thì với lần ra mắt đầu tiên như vậy cũng đã là quá tốt
Có vẻ sắp tới sẽ có thêm nhiều viện nghiên cứu bắt kịp tới gần trình độ tối tân, và ở bất kỳ lĩnh vực nào, cạnh tranh nhiều hơn luôn là điều đáng hoan nghênh
Mới chỉ thử nghiệm rất sớm, nhưng nó có tiềm năng vượt xa những gì benchmark thể hiện. Ngoài các mô hình của Anthropic ra, tôi gần như chưa từng thấy mô hình nào cho kết quả trong bài đánh giá riêng của tôi vượt trội đến vậy so với đánh giá công khai; còn quá sớm để kết luận, nhưng có lẽ tôi sẽ đầu tư khá nhiều thời gian cho nó trong vài tuần tới
Trong các mô hình open-weight, trước giờ tôi chỉ thấy các mô hình của Moonshot AI là đáng để chấp nhận dùng, còn Z.AI thì không làm tốt đến mức đó trên nhóm tác vụ của tôi; mô hình này có tiềm năng trở thành lựa chọn thứ hai. Nếu Mistral phát hành một mô hình như thế, có lẽ những người đam mê châu Âu như tôi sẽ còn bàn tán mãi
Không mô hình nào của các viện nghiên cứu khác, kể cả Fable 5 hay GPT-5.6 Sol, có thể trả lời chính xác nếu không dùng web, dù với người rất am hiểu lĩnh vực đó thì đây là kiến thức phổ thông và cũng có đáp án khách quan rõ ràng. Việc nó vượt Fable 5 ở những tác vụ không có trong benchmark công khai nên khó bị overfit là điều rất ấn tượng
Có vẻ năng lực tuân thủ chỉ dẫn đặc biệt tốt, nhưng coding thì có lẽ yếu hơn các mô hình khác. Dù vậy, việc hệ sinh thái open-weight ngày càng đa dạng luôn là tin đáng mừng, và tôi sẽ tự thử để xem tính cách của nó ra sao
Đây là kết quả khi yêu cầu: “Hãy xem trang nhất Hacker News hôm nay rồi tạo một bản daily briefing tóm tắt tin công nghệ trong ngày để tôi đọc sau”
https://chat.home.jake.town/artifacts/019f679d-99e5-7000-b02...
Nhìn chung nó tốt hơn Nemotron nhưng kém GLM, nên hiện tại có vẻ là mô hình open-weight tốt nhất của Mỹ
Hôm nay tôi đã thử Hy3, thấy khá ưng, và nó chỉ nhỉnh hơn DSV4P một chút. Nếu đạt mức đó mà còn hỗ trợ đa phương thức nữa thì có vẻ sẽ khá ổn