MCPMark
真实 MCP 服务的 CRUD 压力测试(127 任务)
基本信息
30 秒看懂
127 个真实 MCP 服务 CRUD 压力任务,pass@1 口径(0-100,越高越好);最强 gpt-5-medium 仅 52.56%,平均每任务 16+ 轮交互、17+ 次工具调用——分数低是压力测试设计使然。
采用格局:DeepSeek/Qwen 引用;NUS/LobeHub 等发布
评分协议
这个评测的官方统一评分协议还没收录到本页;各厂商实际使用的执行框架(harness)与推理档位(effort)已逐条写在下方引用卡里。
可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。
模型发布采用时间轴
共收录 2 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20
2026
2026-05
Alibaba / Qwen·国内
上下文1M模态文本
发布文以“智能体新前沿”为题,将 Qwen3.7-Max 定位为面向智能体时代的新一代旗舰(经阿里云百炼 API 提供,在 Claude Code/OpenClaw/Qwen Code 间泛化)。40 余项评测覆盖智能体编码、工具与办公场景及数理推理,亮点为 HMMT 2026 二月场 97.1 与 SWE-bench Verified 80.4。
旗舰智能体跨框架泛化
查看模型变体与证据
MCPMark 60.8
2025
2025-12-01
DeepSeek·国内
本发布含 2 个变体,各变体规格见模型详情。
DeepSeek 官方将 V3.2 正式版定位为「强化 Agent 能力、融入思考推理」,是 DeepSeek 首个将思考与工具调用融合的模型。已收录 26 项评测覆盖数学竞赛、代码、知识与工具/Agent 使用:亮点 AIME 2025(Thinking)93.1、Codeforces(Thinking)2386。
开源权重思考融合工具调用Agent 增强
查看模型变体与证据
DeepSeek-V3.2 · MCPMark 38.0
数据缺口(本页暂未收录)
- 评测版本与子集(例如部分评测有 Diamond、Verified 等官方变体)以及数据集规模
- 各厂商使用的执行框架(harness / scaffold)与 Agent 工具配置
- 推理档位(reasoning effort)、采样参数(temperature / top-p)、运行次数与分数聚合方式
- 指标对应的随机猜测基线(chance baseline)与人类基线的实验条件
- 测试集污染检测结论,以及是否已饱和的结构化标注
以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
引用
本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。