SciCode

科学家策展的科研代码生成,80 主题 338 子步

基本信息

类别
代码与工程
官网 / 数据集
https://scicode-bench.github.io/
论文
https://arxiv.org/abs/2407.13168

30 秒看懂

每题是真实科研计算问题(物理/材料/生物),拆成多个子函数逐步实现。考科学家级编码,比 HumanEval 高一个段位。

采用格局:Google/Kimi/Qwen/Meta/字节 Seed 多家引用,科研编码共识榜

评分协议

这个评测的官方统一评分协议还没收录到本页;各厂商实际使用的执行框架(harness)与推理档位(effort)已逐条写在下方引用卡里。

可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。

模型发布采用时间轴

共收录 9 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20

2026
2026-09-19 StepFun / 阶跃星辰·国内

Step 5 Preview

参数600B total / 27B active MoE上下文1M模态文本·图像

阶跃星辰发布的旗舰基座模型 Step 5 Preview,面向真实世界 Agentic 任务,在编程、软件工程、专业工作与金融方向上达到前沿水平。AA Intelligence Index 44 分;DeepSWE v1.1 67.7%、Terminal-Bench v2.1 85.0%、StepCodeBench 49.0%、FrontierFinance 66.4%、GDPval-AA v2 1571;模型将于 2026-10-15 正式开源。

稀疏 MoE 600B/27B1M 上下文视觉输入Agentic 长程任务

查看模型变体与证据

SciCode 58.9%
2026-08-10 Meta / Llama·国际

Muse Glimmer 30B

参数29.6B(dense)+ 1.8B ViT模态文本·图像

Muse Glimmer 30B 被 Meta 定位为可在消费级设备上运行的开源代理模型(Apache 2.0,由 Muse Spark 蒸馏,24-32GB 显存可跑)。评测覆盖通用代理、代理编码、多模态与安全:MCP Atlas 75.5%、SWE-bench Verified 76.0%、AIME 2026 94.7%;另提供 K-Quant 量化档与 DFlash 投机解码加速。

开源权重端侧可运行代理增强多模态

查看模型变体与证据

SciCode 43.6%
2026-06-23 ByteDance Seed / 豆包·国内

Seed2.1 Pro / Seed2.1 Turbo / Seed2.1 Preview

本发布含 3 个变体,各变体规格见模型详情。

字节 Seed2.1 发布将 Pro 定位为系列最高档,官方称评估优先考察真实工作流表现而非静态榜单分数。已收录评测横跨通用 Agent、编码、多模态与视频理解:亮点 GDPval 87.9、OSWorld 78.8。

Pro 档Agent 向多模态视频理解

查看模型变体与证据

Seed2.1 Pro · SciCode 59.8
2026-05 Alibaba / Qwen·国内

Qwen3.7-Max

上下文1M模态文本

发布文以“智能体新前沿”为题,将 Qwen3.7-Max 定位为面向智能体时代的新一代旗舰(经阿里云百炼 API 提供,在 Claude Code/OpenClaw/Qwen Code 间泛化)。40 余项评测覆盖智能体编码、工具与办公场景及数理推理,亮点为 HMMT 2026 二月场 97.1 与 SWE-bench Verified 80.4。

旗舰智能体跨框架泛化

查看模型变体与证据

SciCode 53.5
2026-04-20 Moonshot AI / Kimi·国内

Kimi K2.6

上下文256K模态文本·图像

Kimi K2.6 是月之暗面的开源编码旗舰(Advancing Open-Source Coding),主打长程编码与代理蜂群(300 子代理 / 4000 步)。评测横跨编码、代理、数学与视觉:SWE-bench Verified 80.2、SWE-Bench Pro 58.6、Terminal-Bench 2.0(Terminus-2)66.7、HLE-Full w/ tools 54.0。

开源权重编码增强代理蜂群多模态

查看模型变体与证据

SciCode 52.2
2026-02-19 Google DeepMind / Gemini·国际

Gemini 3.1 Pro

上下文1M模态文本·图像

Google 将 Gemini 3.1 Pro 定位为「为最复杂任务打造的更聪明模型」,基于 Gemini 3 Pro,发布时为 preview(thinking 档 low/medium/high)。已收录 19 项评测横跨推理、代码、多模态与长上下文:亮点 GPQA 94.3%、SWE-bench Verified 80.6%。

旗舰1M 长上下文多模态Preview

查看模型变体与证据

SciCode 59%
2026-02-12 MiniMax·国内

MiniMax-M2.5

价格$0.15/$1.2 每百万 tokens · M2.5 为 50 TPS 档、价格为 M2.5-Lightning(100 TPS,$0.3/$2.4 每百万 tokens)的一半模态文本

MiniMax 将 M2.5 定位为「为真实生产力打造」,披露 20 万+ 真实环境 RL 训练与 Forge 智能体原生框架,并随附同能力 2 倍速的 M2.5-Lightning 档。已收录 22 项评测集中于编码、搜索与 Agent 工具调用:亮点 SWE-bench Verified 80.2%、tau2-Bench Telecom 97.8%。

开源权重Agent RL 训练高效编码

查看模型变体与证据

SciCode 44.4
2026-01-27 Moonshot AI / Kimi·国内

Kimi K2.5

上下文256K模态文本·图像·视频

发布文以“视觉智能体智能”为题,将 K2.5 定位为在 K2 基础上经 15T 视觉+文本混合语料继续预训练的原生多模态模型,Agent Swarm 最多 100 个子智能体/1500 步。45 项评测覆盖视觉理解、视频、智能体搜索与编码,亮点为 OCRBench 92.3 与 BrowseComp(Agent Swarm 模式)78.4。

原生多模态Agent Swarm长上下文视频理解

查看模型变体与证据

SciCode 48.7
2025
2025-11-06 Moonshot AI / Kimi·国内

Kimi K2 Thinking

上下文256K模态文本

月之暗面将 Kimi K2 Thinking 定位为思考型智能体(thinking agent),通过同时扩展思考 token 与工具调用步数推进测试时扩展前沿,可跨数百步规划、推理、执行与调整,全部评测结果以 INT4 QAT 精度报告。已收录评测覆盖通用推理、数学、智能体检索、编码与终端等领域,HLE 带工具 44.9(Heavy Mode 51.0)、SWE-bench Verified 71.3。

思考型智能体INT4 QAT开源权重工具调用扩展

查看模型变体与证据

no tools 44.8

数据缺口(本页暂未收录)

以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

引用

本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。