CRUXEval
代码推理评测：预测输入或输出
基本信息
30 秒看懂
800 个短 Python 函数的代码推理：预测输入（I）或预测输出（O）两任务、pass@1 计分；题面按「人类程序员 1 分钟内可做」筛过，但发布时 GPT-4 也只有 63–67%、配 CoT 最高约 75–82%——考察对代码执行的真实理解。
采用格局：Qwen 引用
评分协议
这个评测的官方统一评分协议还没收录到本页；各厂商实际使用的执行框架（harness）与推理档位（effort）已逐条写在下方引用卡里。
可比性提示：同一评测的分数是「实验配置」的产物：只要评测版本（variant）、执行框架（harness）、推理档位（reasoning effort）、工具、采样参数、运行次数或聚合方式有任何一项不同，数字就不能直接横向比较。下方各厂商的分数如未写明协议细节，请只当作方向参考。
模型发布采用时间轴
共收录 2 场模型发布（收录 3 项分值） · 按发布时间倒序排列 · 数据更新于 2026-09-20
2025
2025-06-27
Tencent / 腾讯混元·国内
本发布含 4 个变体，各变体规格见模型详情。
腾讯混元以「细粒度 MoE、80B 总参/13B 激活」开源 A13B 系列，Instruct 为指令版（256K 上下文，/think 与 /no_think 双模式，默认慢思考）。已收录 21 项 Instruct 表评测覆盖知识、数学、代码与 Agent 工具调用：亮点 AIME24 87.3、GPQA Diamond 71.2。
开源权重细粒度 MoE256K 长上下文快慢思考双模式
查看模型变体与证据
Hunyuan-A13B-Pretrain · CRUXEval 70.13Hunyuan-A13B-Pretrain · CRUXEval 77
2024
2024-09-19
Alibaba / Qwen·国内
本发布含 5 个变体，各变体规格见模型详情。
Qwen2.5 发布文以「A Party of Foundation Models」呈现全家族，72B-Instruct 为其中最大开源指令模型（稠密解码器，18T 预训练 tokens）。已收录 14 项评测覆盖知识、数学、代码与对齐：亮点 GSM8K 95.8、MMLU-Pro 71.1。
开源权重稠密架构指令微调旗舰
查看模型变体与证据
Qwen2.5-Coder-7B-Instruct · CRUXEval 65.9
数据缺口（本页暂未收录）
- 评测版本与子集（例如部分评测有 Diamond、Verified 等官方变体）以及数据集规模
- 各厂商使用的执行框架（harness / scaffold）与 Agent 工具配置
- 推理档位（reasoning effort）、采样参数（temperature / top-p）、运行次数与分数聚合方式
- 指标对应的随机猜测基线（chance baseline）与人类基线的实验条件
- 测试集污染检测结论，以及是否已饱和的结构化标注
以上字段暂缺时，本页不虚构数字；后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
引用
本页数据更新于 2026-09-20，依据厂商发布材料真实抓取；发现数据问题欢迎在 GitHub 提 Issue。