VitaBench
美团 VitaBench 多轮工具调用交互评测
基本信息
30 秒看懂
美团出品的生活服务智能体评测（外卖/到店/在线旅游，66 工具），100 个跨场景 + 300 个单场景任务，rubric 滑窗评估计任务成功率；跨场景最佳仅 32.5%，远未饱和。
采用格局：Qwen 引用；美团 LongCat 开源
评分协议
这个评测的官方统一评分协议还没收录到本页；各厂商实际使用的执行框架（harness）与推理档位（effort）已逐条写在下方引用卡里。
可比性提示：同一评测的分数是「实验配置」的产物：只要评测版本（variant）、执行框架（harness）、推理档位（reasoning effort）、工具、采样参数、运行次数或聚合方式有任何一项不同，数字就不能直接横向比较。下方各厂商的分数如未写明协议细节，请只当作方向参考。
模型发布采用时间轴
共收录 1 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20
2026
2026-05
Alibaba / Qwen·国内
上下文1M模态文本
发布文以“智能体新前沿”为题，将 Qwen3.7-Max 定位为面向智能体时代的新一代旗舰（经阿里云百炼 API 提供，在 Claude Code/OpenClaw/Qwen Code 间泛化）。40 余项评测覆盖智能体编码、工具与办公场景及数理推理，亮点为 HMMT 2026 二月场 97.1 与 SWE-bench Verified 80.4。
旗舰智能体跨框架泛化
查看模型变体与证据
VitaBench 47.9
数据缺口（本页暂未收录）
- 评测版本与子集（例如部分评测有 Diamond、Verified 等官方变体）以及数据集规模
- 各厂商使用的执行框架（harness / scaffold）与 Agent 工具配置
- 推理档位（reasoning effort）、采样参数（temperature / top-p）、运行次数与分数聚合方式
- 指标对应的随机猜测基线（chance baseline）与人类基线的实验条件
- 测试集污染检测结论，以及是否已饱和的结构化标注
以上字段暂缺时，本页不虚构数字；后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
引用
本页数据更新于 2026-09-20，依据厂商发布材料真实抓取；发现数据问题欢迎在 GitHub 提 Issue。