CountQA
1,500+ 道高密度真实场景计数问答:杂乱、遮挡、目标密集;发布时 15 个 MLLM 最佳仅 42.9%(Google Research)
基本信息
30 秒看懂
计数是『最基础的认知短板』探针:不是模型不会认物体,而是数不过来。两年内旗舰从 42.9 爬到 72-82 分段(Qwen3.8-Max 82.4),进步真实可测。
采用格局:Qwen3.8-Max 表 2 Visual Perception & Grounding 组出现(82.4 vs Gemini3.1-Pro 72.8 / Opus4.8 41.3)
评分协议
这个评测的官方统一评分协议还没收录到本页;各厂商实际使用的执行框架(harness)与推理档位(effort)已逐条写在下方引用卡里。
可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。
模型发布采用时间轴
共收录 1 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20
2026
2026-08-03
Alibaba / Qwen·国内
参数2.4T(激活 95B)模态文本·图像·视频
通义将 Qwen3.8-Max 定位为当前 Qwen 家族最强大的模型,基于 Qwen 3.5 架构将参数规模扩展至 2.4 万亿(激活参数 95B),在编程、办公、科研与长周期任务上全面提升,并成为首个开源权重的 Qwen-Max 级模型(权重于下周发布)。已收录评测覆盖智能体编码与办公、多模态理解与操作、视频理解及长上下文等领域,Terminal-Bench 2.1 86.6、PaperBench 93。
开源权重(预告)多模态智能体长周期任务编程与办公
查看模型变体与证据
CountQA 82.4
数据缺口(本页暂未收录)
- 评测版本与子集(例如部分评测有 Diamond、Verified 等官方变体)以及数据集规模
- 各厂商使用的执行框架(harness / scaffold)与 Agent 工具配置
- 推理档位(reasoning effort)、采样参数(temperature / top-p)、运行次数与分数聚合方式
- 指标对应的随机猜测基线(chance baseline)与人类基线的实验条件
- 测试集污染检测结论,以及是否已饱和的结构化标注
以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
引用
本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。