Điểm Chính
- Ra mắt kỹ thuật: Thinking Machines Lab phát hành Inkling, mô hình trọng số mở với tổng cộng 975 tỷ tham số, nhưng chỉ có 41 tỷ tham số kích hoạt khi suy luận nhờ kiến trúc MoE.
- Vị thế cạnh tranh: Đứng thứ 41 trong Artificial Analysis Intelligence Index, đứng đầu trong nhóm mô hình trọng số mở của Hoa Kỳ, vượt qua Nvidia Nemotron 3 Ultra.
- Hiệu suất vận hành: Tiêu thụ trung bình 25.000 token đầu ra, so với mức 37.000-43.000 của các mô hình đối thủ, sử dụng giấy phép Apache 2.0 không ràng buộc thương mại.
Bước vào thị trường với quy mô tham số chưa từng có
Thinking Machines Lab, dẫn dắt bởi cựu CTO của OpenAI Mira Murati, đã đưa ra thị trường vào ngày 15 tháng 7 năm 2026 Inkling, mô hình trọng số mở có số lượng tham số cao nhất từng được sản xuất trên lãnh thổ Hoa Kỳ. Con số 975 tỷ tham số tổng cộng đặt hệ thống này vào một cấp độ quy mô đòi hỏi hạ tầng tính toán chuyên biệt, nhưng điểm đáng chú ý không nằm ở quy mô thô mà ở hiệu suất kích hoạt.
Kiến trúc MoE: mối quan hệ giữa quy mô và chi phí tính toán
Bộ chuyển đổi decoder-only của Inkling vận hành trên 66 tầng với cơ chế định tuyến lựa chọn 6 chuyên gia trong số 256 cho mỗi token, kết hợp cùng 2 chuyên gia chung luôn được kích hoạt. Kết quả vận hành là hệ thống chỉ huy động 41 tỷ tham số kích hoạt cho mỗi yêu cầu, một tỷ lệ thưa giúp giảm tải tính toán trong khi vẫn giữ được khả năng biểu diễn của quy mô tổng thể. Cửa sổ ngữ cảnh đạt 1 triệu token, trong khi việc lượng tử hóa bằng NVFP4 cho phép thực thi trên tám bộ tăng tốc Nvidia B300 hoặc mười sáu H200, thông số này xác định yêu cầu phần cứng tối thiểu cho việc triển khai.
Tiếp nhận đa phương thức, đầu ra đơn phương thức
Quá trình huấn luyện đã xử lý 45 nghìn tỷ token bao gồm văn bản, hình ảnh, âm thanh và video. Hình ảnh và video được xử lý thông qua bộ mã hóa phân đoạn theo cấu trúc phân cấp, âm thanh thông qua mã hóa token rời rạc, với việc chiếu tất cả các phương thức vào một không gian ẩn chung được xử lý bởi decoder. Ràng buộc kiến trúc quy định đầu ra chỉ có thể là văn bản: mã nguồn, tài liệu có cấu trúc, dữ liệu. Giấy phép Apache 2.0 loại bỏ mọi hạn chế về tải xuống, thực thi và tùy chỉnh, điều kiện này cho phép áp dụng ở cấp độ doanh nghiệp mà không cần đàm phán giấy phép.
Chỉ số đo lường: nơi mô hình vượt qua các đối thủ trực tiếp
Vị trí thứ 41 trong Artificial Analysis Intelligence Index đưa Inkling trở thành mô hình trọng số mở của Hoa Kỳ có điểm số cao nhất, vượt qua Nemotron 3 Ultra chỉ đạt 38 điểm. Trên SWE-bench Verified, điểm số là 77,6% so với 71,9% của đối thủ Nvidia. Trên VoiceBench, mô hình đạt 91,4%. Trong chỉ số GDPval-AA v2, điểm Elo 1238 vượt qua cả Kimi K2.6 (1190) lẫn DeepSeek v4 Flash (1189), thiết lập một lợi thế có thể định lượng trên hai chỉ số suy luận ứng dụng khác nhau.
Hiệu suất token như một chỉ số chi phí vận hành
Mức tiêu thụ trung bình 25.000 token đầu ra cho mỗi tác vụ trong Intelligence Index được so sánh với 43.000 của GLM-5.2, 38.000 của Kimi K2.6 và 37.000 của DeepSeek v4 Pro. Trên Terminal Bench 2.1, Inkling đạt kết quả ngang bằng Nemotron 3 Ultra nhưng chỉ sử dụng khoảng một phần ba số token, một dữ liệu tác động trực tiếp đến chi phí suy luận ở quy mô sản xuất. Cơ chế "controllable thinking effort" cho phép điều chỉnh sự cân bằng giữa tốc độ và độ chính xác, trong khi cơ chế báo hiệu sự không chắc chắn giúp giảm tỷ lệ đầu ra sai lệch.
Kế thừa kỹ thuật từ nghiên cứu bên ngoài
Thinking Machines đã xác nhận rằng kiến trúc của Inkling bắt nguồn từ DeepSeek-V3, và giai đoạn hậu huấn luyện đã sử dụng dữ liệu được tạo ra bởi Kimi K2.5 của Moonshot AI. Dữ liệu này ghi nhận sự lưu chuyển phương pháp luận giữa các phòng thí nghiệm bất kể xuất xứ địa lý, một yếu tố kỹ thuật mà chính công ty công khai thừa nhận trong tài liệu phát hành.
Định hướng: nền tảng tùy chỉnh, không phải mô hình đỉnh cao tuyệt đối
Tuyên bố chính thức của Thinking Machines giới hạn tham vọng của đợt phát hành này: "Inkling không phải là mô hình mạnh nhất hiện có hiện nay, dù mở hay đóng. Thay vào đó, đây là một nền tảng trọng số mở tuyệt vời để tùy chỉnh". Định hướng chiến lược không nhắm đến vị trí đứng đầu tuyệt đối trên bảng xếp hạng, mà hướng đến việc tạo ra một hạ tầng nền tảng mô-đun với giấy phép cho phép sử dụng rộng rãi. Tác động tức thời lên thị trường mô hình trọng số mở của Hoa Kỳ là sự xuất hiện của một tiêu chuẩn kỹ thuật với tỷ lệ hiệu suất/năng lực vượt trội so với những gì từng có sẵn, điều kiện này định hình lại chuẩn mực cạnh tranh cho các đợt phát hành tiếp theo trong lĩnh vực này.
