SWE Atlas

Scale AI 代码库任务评测(问答/测试/重构 284 任务)

基本信息

类别
代码与工程
官网 / 数据集
https://seed.bytedance.com/en/blog/seed2-1-officially-released-advancing-ai-productivity
论文
https://arxiv.org/abs/2605.08366

30 秒看懂

Scale AI 的编码代理基准套件,284 个任务分三赛道(问答 124 / 测试编写 90 / 重构 70),程序化检查 + rubric 评分,除功能正确外还评工程质量;前沿闭源模型最强,开源模型差距明显。

采用格局:字节 Seed 引用;Scale AI 发布,含三个子赛道榜单

评分协议

这个评测的官方统一评分协议还没收录到本页;各厂商实际使用的执行框架(harness)与推理档位(effort)已逐条写在下方引用卡里。

可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。

模型发布采用时间轴

共收录 3 场模型发布(收录 4 项分值) · 按发布时间倒序排列 · 数据更新于 2026-09-20

2026
2026-09-19 StepFun / 阶跃星辰·国内

Step 5 Preview

参数600B total / 27B active MoE上下文1M模态文本·图像

阶跃星辰发布的旗舰基座模型 Step 5 Preview,面向真实世界 Agentic 任务,在编程、软件工程、专业工作与金融方向上达到前沿水平。AA Intelligence Index 44 分;DeepSWE v1.1 67.7%、Terminal-Bench v2.1 85.0%、StepCodeBench 49.0%、FrontierFinance 66.4%、GDPval-AA v2 1571;模型将于 2026-10-15 正式开源。

稀疏 MoE 600B/27B1M 上下文视觉输入Agentic 长程任务

查看模型变体与证据

QnA 63.6%Test-writing 50.8%
2026-09-02 Google DeepMind / Gemini·国际

Gemini 3.8 Flash / Gemini 3.8 Flash Cyber

本发布含 2 个变体,各变体规格见模型详情。

Google DeepMind Flash 阶梯新一代工作主力模型,针对长时程软件工程与智能体工具循环调优;在 Terminal-Bench 2.1 达到 90.8%、SWE-Bench Pro 61.6%、SWE-Atlas 51.9%,支持按任务自定义思维等级。

长程代理编码可调思维等级高性价比主力原生多模态

查看模型变体与证据

Gemini 3.8 Flash · SWE Atlas 51.9%
2026-06-23 ByteDance Seed / 豆包·国内

Seed2.1 Pro / Seed2.1 Turbo / Seed2.1 Preview

本发布含 3 个变体,各变体规格见模型详情。

字节 Seed2.1 发布将 Pro 定位为系列最高档,官方称评估优先考察真实工作流表现而非静态榜单分数。已收录评测横跨通用 Agent、编码、多模态与视频理解:亮点 GDPval 87.9、OSWorld 78.8。

Pro 档Agent 向多模态视频理解

查看模型变体与证据

Seed2.1 Pro · SWE Atlas 35.2

数据缺口(本页暂未收录)

以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

引用

本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。