Claw-Eval
自主智能体可信评测套件,300 个人工核验任务
基本信息
30 秒看懂
300 个人工核验的自主智能体任务(通用编排/多模态交互/多轮专业对话 3 组 9 类,2159 条 rubric);同时评 Completion/Safety/Robustness,并用 3 次试验的 Pass@k 与 Pass^k 区分真本事与运气——分数低可能是能力弱,也可能是安全/稳健扣分。
采用格局:豆包 Seed/Qwen/MiniMax 引用;Qwen3.8 另报其多模态子集 ClawEval-MM;MiniMax 按官方 codebase 的 General 任务组(161 题)评测
评分协议
这个评测的官方统一评分协议还没收录到本页;各厂商实际使用的执行框架(harness)与推理档位(effort)已逐条写在下方引用卡里。
可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。
模型发布采用时间轴
共收录 8 场模型发布(收录 9 项分值) · 按发布时间倒序排列 · 数据更新于 2026-09-20
2026
2026-08-26
Alibaba / Qwen·国内
本发布含 2 个变体,各变体规格见模型详情。
Qwen3.8-Flash-Next 被发布文定位为迈向极致性价比的全新架构预览(GDN+QSA 混合注意力、N-gram Embedding、Muon 优化器),为 Qwen4 架构探路。评测覆盖代理编码/办公、多模态代理与通用推理:SWE-bench Pro 62.5、CoWorkBench 73.9、Toolathlon Verified 73.5、AndroidWorld 84.5。
MoE 稀疏激活原生 256K 上下文多模态架构预览
查看模型变体与证据
Qwen3.8-Flash-Next · Pass@3 / Average dual 64.4 / 60.4
2026-08-03
Alibaba / Qwen·国内
参数2.4T(激活 95B)模态文本·图像·视频
通义将 Qwen3.8-Max 定位为当前 Qwen 家族最强大的模型,基于 Qwen 3.5 架构将参数规模扩展至 2.4 万亿(激活参数 95B),在编程、办公、科研与长周期任务上全面提升,并成为首个开源权重的 Qwen-Max 级模型(权重于下周发布)。已收录评测覆盖智能体编码与办公、多模态理解与操作、视频理解及长上下文等领域,Terminal-Bench 2.1 86.6、PaperBench 93。
开源权重(预告)多模态智能体长周期任务编程与办公
查看模型变体与证据
Pass@3 / Average dual 77.2 / 74.8
2026-07-06
Tencent / 腾讯混元·国内
参数295B-A21B MoE上下文256K价格¥1/¥4 每百万 tokens · 页面原文为 1/4/0.25 元/百万 tokens 三档报价,第三档含义未标注模态文本
腾讯发布混元 Hy3:295B 总参/21B 激活 MoE、256K 上下文、三种思考模式,Apache 2.0 开源。评测覆盖编码、智能体搜索与推理,亮点如 SWE-bench Verified 78%、BrowseComp 84.2%。
开源权重长上下文三档思考智能体
查看模型变体与证据
pass^3 68.5
2026-06-23
ByteDance Seed / 豆包·国内
本发布含 3 个变体,各变体规格见模型详情。
字节 Seed2.1 发布将 Pro 定位为系列最高档,官方称评估优先考察真实工作流表现而非静态榜单分数。已收录评测横跨通用 Agent、编码、多模态与视频理解:亮点 GDPval 87.9、OSWorld 78.8。
Pro 档Agent 向多模态视频理解
查看模型变体与证据
Seed2.1 Pro · MM (metric Pass^3) 51
2026-06-01
MiniMax·国内
本发布含 2 个变体,各变体规格见模型详情。
MiniMax M3 被发布文定位为将前沿编码、1M 上下文与原生多模态合一的单模型(Frontier Coding, 1M Context, Native Multimodality - All in One Model),采用 MSA 稀疏注意力并支持思考开关。评测覆盖编码、协作代理、GUI 与多模态:SWE-Bench Verified 80.5、BrowseComp 83.52、OSWorld-Verified 70.06、IMO 2025 35/42。
1M 上下文原生多模态编码增强MSA 稀疏注意力
查看模型变体与证据
MiniMax-M3 · Claw-Eval 74.5
2026-05-29
StepFun / 阶跃星辰·国内
参数196B-A11B(另含 1.8B ViT)上下文256K模态文本·图像
Step 3.7 Flash 被阶跃星辰定位为面向真实场景代理的高效率 Flash 模型,支持三档推理级别、最高 400 tok/s。评测覆盖通用代理、编码与长上下文/视觉:BrowseComp 75.8%、HLE w. tool 47.2%、SWE-bench Verified 76.5%、V* 95.29%。
MoE 稀疏激活多模态高效率256K 上下文
查看模型变体与证据
v1.1 pass^3 67.1
2026-05
Alibaba / Qwen·国内
上下文1M模态文本
发布文以“智能体新前沿”为题,将 Qwen3.7-Max 定位为面向智能体时代的新一代旗舰(经阿里云百炼 API 提供,在 Claude Code/OpenClaw/Qwen Code 间泛化)。40 余项评测覆盖智能体编码、工具与办公场景及数理推理,亮点为 HMMT 2026 二月场 97.1 与 SWE-bench Verified 80.4。
旗舰智能体跨框架泛化
查看模型变体与证据
Claw-Eval 65.2
2026-04-20
Moonshot AI / Kimi·国内
上下文256K模态文本·图像
Kimi K2.6 是月之暗面的开源编码旗舰(Advancing Open-Source Coding),主打长程编码与代理蜂群(300 子代理 / 4000 步)。评测横跨编码、代理、数学与视觉:SWE-bench Verified 80.2、SWE-Bench Pro 58.6、Terminal-Bench 2.0(Terminus-2)66.7、HLE-Full w/ tools 54.0。
开源权重编码增强代理蜂群多模态
查看模型变体与证据
pass^3 62.3pass@3 80.9
数据缺口(本页暂未收录)
- 评测版本与子集(例如部分评测有 Diamond、Verified 等官方变体)以及数据集规模
- 各厂商使用的执行框架(harness / scaffold)与 Agent 工具配置
- 推理档位(reasoning effort)、采样参数(temperature / top-p)、运行次数与分数聚合方式
- 指标对应的随机猜测基线(chance baseline)与人类基线的实验条件
- 测试集污染检测结论,以及是否已饱和的结构化标注
以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
引用
本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。