MADQA

800 份真实异构 PDF 上的 2,250 道人工出题文档 QA:考 agent 的检索-导航-推理策略,并用 accuracy-effort 权衡刻画搜索成本

基本信息

类别
Agent 与环境
官网 / 数据集
https://www.snowflake.com/en/blog/engineering/madqa-multimodal-agent-reasoning-benchmark/
论文
https://arxiv.org/abs/2603.12180

30 秒看懂

论文结论值得注意:最佳 agent 的准确率能追平人类检索员,但答对的题 largely 不同,且靠暴力试错弥补策略不足——与 oracle 差近 20%。Qwen3.8-Max 91.8 为其表内最高。

采用格局:Qwen3.8-Max 表 2 出现(91.8 vs GPT5.6-Sol 87.8 / Opus4.8 86.8)

评分协议

agentic 检索协议(论文以 accuracy-effort tradeoff 评估)

可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。

模型发布采用时间轴

共收录 1 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20

2026
2026-08-03 Alibaba / Qwen·国内

Qwen3.8-Max

参数2.4T(激活 95B)模态文本·图像·视频

通义将 Qwen3.8-Max 定位为当前 Qwen 家族最强大的模型,基于 Qwen 3.5 架构将参数规模扩展至 2.4 万亿(激活参数 95B),在编程、办公、科研与长周期任务上全面提升,并成为首个开源权重的 Qwen-Max 级模型(权重于下周发布)。已收录评测覆盖智能体编码与办公、多模态理解与操作、视频理解及长上下文等领域,Terminal-Bench 2.1 86.6、PaperBench 93。

开源权重(预告)多模态智能体长周期任务编程与办公

查看模型变体与证据

MADQA 91.8

数据缺口(本页暂未收录)

以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

引用

本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。