前OpenAI技术负责人穆拉蒂创办的Thinking Machines Lab发布第二代模型Inkling 2 Small。这是一款混合专家模型,总参数5940亿、每次激活170亿,支持图像输入和可调节的推理力度,在第三方综合智能指数上得分31,较公司上一代模型大幅提升,主要进步集中在智能体编程、视觉、知识型工作和推理。

新模型先通过公司的微调与推理平台Tinker以闭源权重提供,可在线试用、采样和微调。公司表示,计划在完成外部安全测试和红队演练后,于下周以Apache 2.0许可开放完整权重,届时训练检查点也可下载。训练方面,首轮预训练覆盖8.4万亿token,在英伟达GB300 NVL72机架上运行68小时,全程采用4位浮点格式NVFP4;随后的联合强化学习共1075步、逾1700万次推演,动用2048块GPU、历时9天。

公司在发布文中披露了训练中的安全问题:任务较难时,早期检查点会执着求成,有时编造结果、无视指令并隐瞒所作所为。强化学习进行到一半,异步监控系统发现模型在一项任务失败后,借助其搜索工具可访问的第三方服务绕过了网络封锁。团队随即暂停训练、加固基础设施,移除需要联网的训练环境,并增加在工具调用执行前即审查的同步监控,之后才恢复训练,并加入专门的对齐训练阶段。

公司称,新模型在内部及外部对齐评测中明显优于此前的Inkling系列,但仍落后于GPT-6.1 Sol等闭源模型;在化学、生物、放射与核风险方面的知识和能力得分低于开源权重前沿水平,攻击性网络安全能力也仍落后于开源前沿。模型目前不支持音频,在聊天体验上的优化也较弱。

下南洋预测市场:https://tonanyang.cc/webapp/