ARC-Challenge

AI2 ARC 挑战集科学选择题(25-shot)

基本信息

类别
知识与学科
官网 / 数据集
https://ai.meta.com/blog/meta-Llama-3-1/

30 秒看懂

AI2 小学科学选择题的挑战档:7787 题中连检索与词共现两个基线算法都答错的 1172 题 test 集,准确率越高越好(Llama 3.1 用 25-shot 口径引用);原生设计目标就是「检索做不出的题」,如今对旗舰更像知识基线。

采用格局:Meta Llama 3.1 引用

评分协议

这个评测的官方统一评分协议还没收录到本页;各厂商实际使用的执行框架(harness)与推理档位(effort)已逐条写在下方引用卡里。

可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。

模型发布采用时间轴

共收录 6 场模型发布(收录 8 项分值) · 按发布时间倒序排列 · 数据更新于 2026-09-20

2026
2026-03-19 Xiaomi / 小米·国内

MiMo-V2.5-Pro

参数1.02T-A42B上下文1M模态文本·代码·多模态

MiMo-V2.5-Pro 是小米万亿级参数旗舰混合专家大模型,总参数 1.02T,激活 42B,支持 100 万 token 上下文。评测全面对标国际前沿:MMLU 89.4、GSM8K 99.6、MATH 86.2、SWE-bench Verified 78.9%、C-Eval 91.5、BBH 88.4。

万亿 MoE1M 上下文SWE-bench 高分全场景智能代理

查看模型变体与证据

ARC-Challenge 97.2
2024
2024-07-23 Meta / Llama·国际

Llama 3.1 405B / Llama 3.1 70B / Llama 3.1 8B

本发布含 3 个变体,各变体规格见模型详情。

Meta 以「迄今最强模型」发布 Llama 3.1 系列,405B 为首个前沿级开源模型(dense decoder-only)。评测覆盖知识、数学、编码、多语言与长上下文,亮点如 MMLU 88.6%、GSM8K 96.8%。

开源权重长上下文多语言旗舰

查看模型变体与证据

Llama 3.1 405B · 0-shot 96.9Llama 3.1 8B · 0-shot 83.4Llama 3.1 70B · 0-shot 94.8
2023
2023-09-11 Microsoft AI / MAI·国际

phi-1.5

参数1.3B上下文2K tokens模态文本

微软研究院高质量合成教学数据(Textbooks Are All You Need)学派代表作,仅 1.3B 参数在常识推理上与 10 倍于己的开源大模型相当。ARC-Challenge 达 55.4%,HellaSwag 达 63.8%。

教材式合成数据1.3B小模型常识推理跃迁

查看模型变体与证据

ARC-Challenge 55.4%
2023-07-18 Meta / Llama·国际

Llama 2 70B

参数70B上下文4K tokens模态文本

Meta 首个允许免费商业化使用的开源大模型家族,预训练 token 达 2T,深度融合 RLHF(PPO + 拒绝采样)对齐策略,70B 版本的 MMLU 达 68.9%,GSM8K 56.8%,成为工业界落地应用最广泛的开源标杆。

商用开源深度RLHF对齐全球工业基准

查看模型变体与证据

ARC-Challenge 85.3%
2023-02-24 Meta / Llama·国际

LLaMA-65B

参数65B上下文2K tokens模态文本

Meta 开源大模型奠基之作,证明了在海量 token(1.4T)上充分预训练的 65B 模型可以在 MMLU(63.4%)、GSM8K(50.9%)等诸多任务上媲美甚至战胜 175B 的 GPT-3,开启了全球开源大模型繁荣时代。

开源奠基之作Chinchilla扩展法则验证全球生态基石

查看模型变体与证据

ARC-Challenge 78.9%
2022
2022-11-30 OpenAI·国际

ChatGPT (GPT-3.5)

参数175B (估计值,基于 InstructGPT 架构)上下文4K tokens模态文本

OpenAI 划时代对话大模型,基于 GPT-3.5 谱系(InstructGPT)经人类反馈强化学习(RLHF)微调,开启生成式人工智能爆发奇点。在后续 GPT-4 技术报告中披露基线水准:MMLU 70.0%、GSM8K 57.1%、HumanEval 48.1%、MATH 34.1%。

对话RLHF对齐人类偏好微调基准原点大模型爆发奇点

查看模型变体与证据

ARC-Challenge 85.2%

数据缺口(本页暂未收录)

以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

引用

本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。