CyScenarioBench

Irregular 出品的场景化网络安全评测:按完整攻击工作流(端到端场景)评估 LLM 网络能力,而非孤立子任务

基本信息

类别
安全与事实
官网 / 数据集
https://www.irregular.com/research/cyscenariobench

30 秒看懂

场景化网络攻防评测:挑战是完整攻击链路,取各挑战成功率的等权平均(Anthropic Fable 5 页脚注口径);Meta 报告把 CyScenarioBench 当作 Cyber 域端到端结果(Cyber 1)的框架代理指标——分数普遍偏低,读分时对齐「整链路可完成」而非单点能力口径。

采用格局:Meta Muse Spark 1.1 技术报告与 Anthropic Fable 5 页均引用;Irregular(网络安全评测机构)出品

评分协议

按完整攻击场景逐挑战判定,各挑战成功率等权平均(Anthropic Fable 5 页脚注)

可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。

模型发布采用时间轴

共收录 1 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20

2026
2026-07-09 Meta / Llama·国际

Muse Spark 1.1

上下文1M模态文本·图像

Meta 将 Muse Spark 1.1 定位为可主动管理自身 1M token 上下文窗口的智能体基础模型,随发布同步上线 Meta Model API 公测,并已在 Meta AI 应用与 meta.ai 的 Thinking 模式可用。已收录评测覆盖智能体编码与工具调用、计算机操作、网络安全及生物/化学安全评估等领域,Terminal-Bench 2.1 80.0%、OSWorld Verified 80.8%。

智能体基础1M 上下文公测 API安全评估覆盖

查看模型变体与证据

pass@1 0.5%

数据缺口(本页暂未收录)

以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

引用

本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。