Thinking Machines 公司发布了 Inkling 2 Small 模型,这是一个拥有 5940 亿参数的混合专家模型,每次运行仅激活 170 亿参数。

该模型的人工智能指数评分为 31,超过了上一代产品。自动化基准测试从 5% 提升至 46%,在视觉推理方面表现优异。

训练过程消耗了 12 万亿 token,强化学习阶段在 2048 块 GPU 上使用 3 万亿 token。开发者每项任务大约消耗 15 万个输出 token,成本约 1.18 美元。