MMLU-Redux
人工修订 MMLU 错标注子集,修复噪声标签
基本信息
30 秒看懂
人工修正过标注错误的 MMLU 子集。修复了“题目本身是错的”这个尴尬。
评分协议
仅取修正后可靠题
可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。
模型发布采用时间轴
共收录 6 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20
2026
2026-08-26
Alibaba / Qwen·国内
本发布含 2 个变体,各变体规格见模型详情。
Qwen3.8-Flash-Next 被发布文定位为迈向极致性价比的全新架构预览(GDN+QSA 混合注意力、N-gram Embedding、Muon 优化器),为 Qwen4 架构探路。评测覆盖代理编码/办公、多模态代理与通用推理:SWE-bench Pro 62.5、CoWorkBench 73.9、Toolathlon Verified 73.5、AndroidWorld 84.5。
MoE 稀疏激活原生 256K 上下文多模态架构预览
查看模型变体与证据
Qwen3.8-Flash-Next-Base · Base model 90.68
2026-05
Alibaba / Qwen·国内
上下文1M模态文本
发布文以“智能体新前沿”为题,将 Qwen3.7-Max 定位为面向智能体时代的新一代旗舰(经阿里云百炼 API 提供,在 Claude Code/OpenClaw/Qwen Code 间泛化)。40 余项评测覆盖智能体编码、工具与办公场景及数理推理,亮点为 HMMT 2026 二月场 97.1 与 SWE-bench Verified 80.4。
旗舰智能体跨框架泛化
查看模型变体与证据
MMLU-Redux 95
2025
2025-11-06
Moonshot AI / Kimi·国内
上下文256K模态文本
月之暗面将 Kimi K2 Thinking 定位为思考型智能体(thinking agent),通过同时扩展思考 token 与工具调用步数推进测试时扩展前沿,可跨数百步规划、推理、执行与调整,全部评测结果以 INT4 QAT 精度报告。已收录评测覆盖通用推理、数学、智能体检索、编码与终端等领域,HLE 带工具 44.9(Heavy Mode 51.0)、SWE-bench Verified 71.3。
思考型智能体INT4 QAT开源权重工具调用扩展
查看模型变体与证据
no tools 94.4
2025-07-11
Moonshot AI / Kimi·国内
本发布含 2 个变体,各变体规格见模型详情。
Kimi K2 以「Open Agentic Intelligence」为定位发布,Kimi-K2-Instruct 为后训练的非思考(reflex-grade)MoE 模型(1T 总参/32B 激活)。已收录 32 项评测覆盖代码、数学、知识与 Agent 工具使用:亮点 SWE-bench Verified(Agentic Coding)65.8、MMLU 89.5。
开源权重1T MoE非思考 reflex 档Agentic
查看模型变体与证据
Kimi-K2-Instruct · MMLU-Redux 92.7
2025-06-27
Tencent / 腾讯混元·国内
本发布含 4 个变体,各变体规格见模型详情。
腾讯混元以「细粒度 MoE、80B 总参/13B 激活」开源 A13B 系列,Instruct 为指令版(256K 上下文,/think 与 /no_think 双模式,默认慢思考)。已收录 21 项 Instruct 表评测覆盖知识、数学、代码与 Agent 工具调用:亮点 AIME24 87.3、GPQA Diamond 71.2。
开源权重细粒度 MoE256K 长上下文快慢思考双模式
查看模型变体与证据
Hunyuan-A13B-Pretrain · MMLU-Redux 87.67
2024
2024-09-19
Alibaba / Qwen·国内
本发布含 5 个变体,各变体规格见模型详情。
Qwen2.5 发布文以「A Party of Foundation Models」呈现全家族,72B-Instruct 为其中最大开源指令模型(稠密解码器,18T 预训练 tokens)。已收录 14 项评测覆盖知识、数学、代码与对齐:亮点 GSM8K 95.8、MMLU-Pro 71.1。
开源权重稠密架构指令微调旗舰
查看模型变体与证据
Qwen2.5-72B-Instruct · MMLU-Redux 86.8
数据缺口(本页暂未收录)
- 评测版本与子集(例如部分评测有 Diamond、Verified 等官方变体)以及数据集规模
- 各厂商使用的执行框架(harness / scaffold)与 Agent 工具配置
- 推理档位(reasoning effort)、采样参数(temperature / top-p)、运行次数与分数聚合方式
- 指标对应的随机猜测基线(chance baseline)与人类基线的实验条件
- 测试集污染检测结论,以及是否已饱和的结构化标注
以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
引用
本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。