SimpleQA

OpenAI 出的短事实问答,测知识边界与幻觉率

基本信息

类别
安全与事实
官网 / 数据集
https://github.com/openai/simple-evals
论文
https://arxiv.org/abs/2411.04368

30 秒看懂

短事实问答(“X 的首都是哪”级别)。高分的含义是:知道就说,不知道就承认。

评分协议

精确匹配 + 不确定时应拒答

可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。

模型发布采用时间轴

共收录 7 场模型发布(收录 8 项分值) · 按发布时间倒序排列 · 数据更新于 2026-09-20

2025
2025-11-18 Google DeepMind / Gemini·国际

Gemini 3 Pro / Gemini 3 Deep Think

本发布含 2 个变体,各变体规格见模型详情。

Gemini 3 发布以「智能新纪元」为题呈现,Gemini 3 Pro 为旗舰型号(发布时 preview)。已收录评测横跨推理、代码、多模态与 Agent:亮点 LMArena 1501 Elo、AIME 2025(带代码执行)100%。

旗舰多模态1M 长上下文Agent

查看模型变体与证据

Gemini 3 Pro · Verified 72.1%
2025-09-29 DeepSeek·国内

DeepSeek-V3.2-Exp

模态文本

DeepSeek 将 V3.2-Exp 定位为引入 DeepSeek 稀疏注意力(DSA)、聚焦长上下文训练与推理提效的实验性版本,训练设置与 V3.1-Terminus 严格对齐、公开评测表现基本持平,API 价格同步下调超 50%(页面未给出具体单价)。已收录评测覆盖通用知识、数学推理、代码与中英文检索等领域,Codeforces Div1 2121、AIME 2025 89.3。

实验性版本稀疏注意力开源权重推理提效

查看模型变体与证据

SimpleQA 97.1
2025-08-21 DeepSeek·国内

DeepSeek-V3.1

上下文128K模态文本

DeepSeek-V3.1 发布文定位为首个混合推理架构模型:同一模型同时服务 deepseek-chat(非思考)与 deepseek-reasoner(思考),主打思考效率提升与 Agent 能力增强。评测分编码代理、搜索代理与思考效率三组:SWE-bench Verified 66、BrowseComp 30、AIME 2025(V3.1-Think)88.4。

开源权重混合推理Agent 增强

查看模型变体与证据

SimpleQA 93.4
2025-07-11 Moonshot AI / Kimi·国内

Kimi-K2-Instruct / Kimi-K2-Base

本发布含 2 个变体,各变体规格见模型详情。

Kimi K2 以「Open Agentic Intelligence」为定位发布,Kimi-K2-Instruct 为后训练的非思考(reflex-grade)MoE 模型(1T 总参/32B 激活)。已收录 32 项评测覆盖代码、数学、知识与 Agent 工具使用:亮点 SWE-bench Verified(Agentic Coding)65.8、MMLU 89.5。

开源权重1T MoE非思考 reflex 档Agentic

查看模型变体与证据

Kimi-K2-Instruct · SimpleQA 31.0
2025-06-17 Google DeepMind / Gemini·国际

Gemini 2.5 Flash / Gemini 2.5 Flash-Lite

本发布含 2 个变体,各变体规格见模型详情。

Gemini 2.5 Flash 是 Gemini 2.5 家族 GA 扩容公告中的主力 Flash 档模型,默认开启思考并同时报告非思考配置。评测覆盖科学/数学/编码/事实性/视觉与多语言:思考配置 GPQA Diamond 82.8%、AIME 2025 72.0%、MRCR v2 8-needle(1M)21.0%。

思考模式多模态高性价比

查看模型变体与证据

Gemini 2.5 Flash · thinking config 26.9% (thinking)
2025-03-25 Google DeepMind / Gemini·国际

Gemini 2.5 Pro

上下文1M模态文本·图像·音频·视频

谷歌将 Gemini 2.5 Pro 实验版定位为其最智能的 AI 模型与 2.5 系列首个思维(thinking)模型,原生多模态并配备 1M token 上下文窗口(200 万即将推出)。已收录评测覆盖推理、代码、长上下文与多模态理解等领域,HLE 无工具 18.8%、SWE-bench Verified 63.8%。

思维模型原生多模态1M 上下文实验版首发

查看模型变体与证据

SimpleQA 52.9%
2025-02-19 xAI / Grok·国际

Grok 3 / Grok 3 mini

本发布含 2 个变体,各变体规格见模型详情。

Grok 3 被 xAI 定位为开启『推理代理时代』的 Beta 模型,主打 (Think) 深度推理配置并曾以代号 chocolate 登顶 LMArena。评测覆盖推理、编码、多模态理解与长上下文 RAG:AIME'25 93.3%、GPQA 84.6%、LCB 79.4%、Chatbot Arena 1402 Elo、LOFT(128k)83.3%。

推理增强Beta

查看模型变体与证据

Grok 3 · non-reasoning 43.6%Grok 3 mini · non-reasoning 21.7%

数据缺口(本页暂未收录)

以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

引用

本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。