FRAMES
谷歌检索增强基准:事实性、检索与推理综合
基本信息
30 秒看懂
谷歌检索增强基准:每题需整合多个维基来源、答案经人工验证,题型跨多约束/数值推理/表格推理/时序推理,准确率越高越好;考察事实性×检索×推理的交叉能力,常被用作联网问答的中间难度锚点。
采用格局:DeepSeek/Kimi 引用;Google Research 发布,HF 开源
评分协议
这个评测的官方统一评分协议还没收录到本页;各厂商实际使用的执行框架(harness)与推理档位(effort)已逐条写在下方引用卡里。
可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。
模型发布采用时间轴
共收录 2 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20
2025
2025-11-06
Moonshot AI / Kimi·国内
上下文256K模态文本
月之暗面将 Kimi K2 Thinking 定位为思考型智能体(thinking agent),通过同时扩展思考 token 与工具调用步数推进测试时扩展前沿,可跨数百步规划、推理、执行与调整,全部评测结果以 INT4 QAT 精度报告。已收录评测覆盖通用推理、数学、智能体检索、编码与终端等领域,HLE 带工具 44.9(Heavy Mode 51.0)、SWE-bench Verified 71.3。
思考型智能体INT4 QAT开源权重工具调用扩展
查看模型变体与证据
w/ tools 87.0
2025-08-21
DeepSeek·国内
上下文128K模态文本
DeepSeek-V3.1 发布文定位为首个混合推理架构模型:同一模型同时服务 deepseek-chat(非思考)与 deepseek-reasoner(思考),主打思考效率提升与 Agent 能力增强。评测分编码代理、搜索代理与思考效率三组:SWE-bench Verified 66、BrowseComp 30、AIME 2025(V3.1-Think)88.4。
开源权重混合推理Agent 增强
查看模型变体与证据
FRAMES 83.7
数据缺口(本页暂未收录)
- 评测版本与子集(例如部分评测有 Diamond、Verified 等官方变体)以及数据集规模
- 各厂商使用的执行框架(harness / scaffold)与 Agent 工具配置
- 推理档位(reasoning effort)、采样参数(temperature / top-p)、运行次数与分数聚合方式
- 指标对应的随机猜测基线(chance baseline)与人类基线的实验条件
- 测试集污染检测结论,以及是否已饱和的结构化标注
以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
引用
本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。