GSM1k
Scale AI 造的 GSM8K 同源对照集——专测过拟合/污染
基本信息
类别
推理与数学
官网 / 数据集
论文
30 秒看懂
GSM8K 的同源新题。分数大幅掉落 = 原来的高分靠背题。它是污染检测器,不是能力榜。
采用格局:厂商集体回避(会暴露污染);社区污染检测标杆
评分协议
与 GSM8K 同协议;掉分幅度=记忆证据
可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。
模型发布采用时间轴
共收录 0 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20
暂无官方模型发布引用记录——多由社区或垂直领域使用。厂商集体回避(会暴露污染);社区污染检测标杆
数据缺口(本页暂未收录)
- 评测版本与子集(例如部分评测有 Diamond、Verified 等官方变体)以及数据集规模
- 各厂商使用的执行框架(harness / scaffold)与 Agent 工具配置
- 推理档位(reasoning effort)、采样参数(temperature / top-p)、运行次数与分数聚合方式
- 指标对应的随机猜测基线(chance baseline)与人类基线的实验条件
- 测试集污染检测结论,以及是否已饱和的结构化标注
以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
相关评测(同类别)
引用
本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。