SimpleQA Verified
Google 校订版 SimpleQA(1000 题短事实问答)
基本信息
30 秒看懂
1,000 道短事实问答题,按参考答案判正确率,越高越好;是 OpenAI SimpleQA 的 Google 校订版(清理了噪声与含糊标注),数值不可与原版 SimpleQA 直接混比。
采用格局:DeepSeek 引用;Google 发布以修正原 SimpleQA 噪声
评分协议
这个评测的官方统一评分协议还没收录到本页;各厂商实际使用的执行框架(harness)与推理档位(effort)已逐条写在下方引用卡里。
可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。
模型发布采用时间轴
共收录 2 场模型发布(收录 3 项分值) · 按发布时间倒序排列 · 数据更新于 2026-09-20
2026
2026-04-24
DeepSeek·国内
本发布含 2 个变体,各变体规格见模型详情。
DeepSeek 发布 V4 预览版「迈入百万上下文普惠时代」,V4-Pro 为旗舰:1M 上下文、思考/非思考双模式、reasoning_effort high/max。评测覆盖推理、编码、智能体与百万级长上下文,亮点如 GPQA Diamond 90.1%、Codeforces 3206。
开源权重长上下文推理增强预览版
查看模型变体与证据
DeepSeek-V4-Pro · Pro, max effort 57.9DeepSeek-V4-Flash · Flash, max effort 34.1
2025
2025-12-17
Google DeepMind / Gemini·国际
上下文1M价格$0.5/$3 每百万 tokens模态文本·图像·视频
Gemini 3 Flash 以「为速度打造的前沿智能」为定位发布,上线即为 Gemini 应用与搜索 AI Mode 默认模型(发布时为 preview)。已收录 25 项评测横跨推理、代码、多模态与 Agent:亮点 AIME 2025(带代码执行)99.7%、SWE-bench Verified 78%。
速度优先多模态1M 长上下文编码与 Agent
查看模型变体与证据
SimpleQA Verified 68.7%
数据缺口(本页暂未收录)
- 评测版本与子集(例如部分评测有 Diamond、Verified 等官方变体)以及数据集规模
- 各厂商使用的执行框架(harness / scaffold)与 Agent 工具配置
- 推理档位(reasoning effort)、采样参数(temperature / top-p)、运行次数与分数聚合方式
- 指标对应的随机猜测基线(chance baseline)与人类基线的实验条件
- 测试集污染检测结论,以及是否已饱和的结构化标注
以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
引用
本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。