AIRS-Bench

Meta 开源的 AI 研究科学 Agent 评测套件：20 个覆盖研究全生命周期（选题、实验分析、迭代实验）的任务

基本信息

30 秒看懂

20 个 AI R&D 全流程任务（idea 生成、实验分析、迭代实验）；Meta 计分卡读的是「有效提交率」泳道，报告 Table 6 另有归一化分泳道并附 95% 置信区间——跨报告比分前先确认读的是哪条泳道。

评分协议

这个评测的官方统一评分协议还没收录到本页；各厂商实际使用的执行框架（harness）与推理档位（effort）已逐条写在下方引用卡里。

模型发布采用时间轴

共收录 1 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20

2026

2026-07-09 Meta / Llama·国际

Muse Spark 1.1

上下文1M模态文本·图像

Meta 将 Muse Spark 1.1 定位为可主动管理自身 1M token 上下文窗口的智能体基础模型，随发布同步上线 Meta Model API 公测，并已在 Meta AI 应用与 meta.ai 的 Thinking 模式可用。已收录评测覆盖智能体编码与工具调用、计算机操作、网络安全及生物/化学安全评估等领域，Terminal-Bench 2.1 80.0%、OSWorld Verified 80.8%。

智能体基础1M 上下文公测 API安全评估覆盖

查看模型变体与证据

AIRS-Bench 77.0%

数据缺口（本页暂未收录）

• 评测版本与子集（例如部分评测有 Diamond、Verified 等官方变体）以及数据集规模
• 各厂商使用的执行框架（harness / scaffold）与 Agent 工具配置
• 推理档位（reasoning effort）、采样参数（temperature / top-p）、运行次数与分数聚合方式
• 指标对应的随机猜测基线（chance baseline）与人类基线的实验条件
• 测试集污染检测结论，以及是否已饱和的结构化标注

以上字段暂缺时，本页不虚构数字；后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

相关评测（同类别）

引用

本页数据更新于 2026-09-20，依据厂商发布材料真实抓取；发现数据问题欢迎在 GitHub 提 Issue。