模型与能力
Thinking Machines 发布 Inkling:975B 总参、41B 活参 MoE 多模态开源模型
Thinking Machines 首次公开发布自研基础模型 Inkling,Apache 2.0 开源,支持文本/图像/音频输入+文本输出,最大上下文 100 万 token(权重版),Tinker API 版为 256K;训练数据达 45 万亿 token。
> 相关链接:官方发布|Hugging Face 模型页
Inkling-Small 同步亮相:12B 活参轻量版,性能不输大模型
配套发布 Inkling-Small,总参 276B / 活参 12B,同样开源、多模态、可定制,实测在多个任务上接近大模型表现,适合低延迟/低成本场景。
> 相关链接:社区技术总结|官方提及
Inkling 在多项基准领先美国开源模型
Intelligence Index 得分 41,超 Nemotron 3 Ultra(38)、Gemma 4 31B(29);Agentic Web App Arena 排名第 9(Elo 1257),是当前最高分的美国开源模型。
> 相关链接:Artificial Analysis 测评|Design Arena 排名
Inkling 效率突出:推理更简洁,单任务平均输出 25K token
相比 GLM-5.2(43K)、Kimi K2.6(38K)等模型,Inkling 输出更精炼;用户反馈其推理「不啰嗦」,工具调用强,长程任务容错好。
> 相关链接:性能对比分析|用户实测反馈
基础设施与硬件
NVIDIA GB200/GB300 全栈支持 Inkling:NVFP4 精度 + 黑金架构优化
NVIDIA 官宣 Inkling 在 GB200 上跑出 380 tok/s/user(4× GB200),vLLM 和 Modal 均实现首日支持;Hugging Face 已上线 NVFP4 checkpoint。
> 相关链接:NVIDIA 官方声明|vLLM 性能报告
Modal 推出 DFlash 推理加速器,Inkling 吞吐提升 67%
Modal 为 Inkling 定制 DFlash speculator,比 MTP(Multi-Token Prediction)更快;Soumith Chintala 确认该方案「远超 MTP」。
> 相关链接:Modal 技术公告|Soumith 转发确认
LMSYS/SGLang 实现全栈原生适配:ShortConv、相对位置编码、共享专家 MoE
SGLang 在 Megatron 后端中完整支持 Inkling 的三大特色:短卷积层(sconv)、相对位置偏置(非 RoPE)、双共享专家 MoE 架构,并启用 MXFP8 KV 缓存。
> 相关链接:LMSYS 技术说明
Unsloth 发布 1-bit GGUF 量化版:体积缩小 86%,保留 74.2% 准确率
Inkling 1.9TB 原始权重被压缩至 270GB,支持视觉与音频模态,无需重训,适合边缘/本地部署。
> 相关链接:Daniel Han 报告
研究与方法
Inkling 放弃 RoPE,改用相对位置编码:大规模验证新范式
这是首个在千亿级 MoE 模型中全面采用相对位置偏置(而非 RoPE)的实践,社区认为此举可能影响未来架构演进方向。
> 相关链接:技术讨论汇总|架构分析
大规模短卷积(ShortConv)首次嵌入 MoE 主干网络
Inkling 在注意力和 FFN 流周围加入短卷积层,且规模远超以往实验,被多位研究者视为「有潜力的架构信号」。
> 相关链接:Elie Bakouch 分析|Stochasticchasm 评论
采用 MuonC/AdamC 优化器:Aaron Defazio 认证的修正版权重衰减
Inkling 使用 Aaron Defazio 提出的「MuonC/AdamC」优化器变体,解决传统 AdamW 权重衰减偏差问题,属前沿训练方法落地。
> 相关链接:Aaron Defazio 确认
产品与应用落地
Tinker 平台首发支持 Inkling:64K/256K 两档上下文定价透明
Tinker API 提供 64K($1.87/百万输入)和 256K($3.74/百万输入)两种上下文选项,支持即开即用、微调、RLHF,面向开发者开放。
> 相关链接:Artificial Analysis 定价整理
Inkling 已接入 Databricks、Baseten、vLLM 等主流平台
发布当天即获 Databricks、Baseten、Modal、Hugging Face、vLLM 等 10+ 平台原生支持,无需额外适配即可部署运行。
> 相关链接:生态支持列表|Soumith Chintala 确认
行业与公司动态
Thinking Machines 首个公开模型:Mira Murati、John Schulman、Soumith Chintala 联合打造
由前 OpenAI CTO Mira Murati、联合创始人 John Schulman、Meta 前 AI 基础设施负责人 Soumith Chintala 主导研发,从零训练,历时半年完成。
> 相关链接:Mira Murati 推文|John Schulman 时间线
定位清晰:不做 SOTA 冲榜,专注可定制、可控推理的基座模型
TML 明确表示 Inkling 是「可调优的基础模型」,强调 controllable thinking effort(可控推理强度)和 post-training 可塑性,而非单纯刷分。
> 相关链接:官方定位说明|Ben Burtenshaw 分析
政策、治理与安全
Apache 2.0 全开源许可:首个主流美系千亿多模态模型彻底开放权重
Inkling 是目前能力最强、完全开源(含全部权重)的美国多模态基础模型,许可证允许商用、修改、再分发,无附加限制。
> 相关链接:Natolambert 评价|Yuchen J. 确认