首页 / 评估大全 / Curated CTFs
Curated CTFs
Meta 评测报告中的策展 CTF（夺旗）安全评测：198 道挑战，pass@1 / pass@5 双口径
基本信息
30 秒看懂
厂商安全评估框架里的能力上界探针：Muse Spark 1.1 报告 89.9% pass@1 / 95.7% pass@5（1.0 为 72.0 / 84.1）。策展集未公开，跨厂商可比性取决于各家各自选题。
采用格局： 厂商内部/策展集——Muse Spark 1.1 评测报告 Cybersecurity 组出现（pass@1 89.9% vs Spark 1.0 72.0%）
评分协议
pass@1 / pass@5（Muse Spark 1.1 报告 Table 4 Overall）
可比性提示： 同一评测的分数是「实验配置」的产物：只要评测版本（variant）、执行框架（harness）、推理档位（reasoning effort）、工具、采样参数、运行次数或聚合方式有任何一项不同，数字就不能直接横向比较。下方各厂商的分数如未写明协议细节，请只当作方向参考。
模型发布采用时间轴
共收录 1 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20
2026
2026-07-09
· 国际
上下文 1M 模态 文本·图像
Meta 将 Muse Spark 1.1 定位为可主动管理自身 1M token 上下文窗口的智能体基础模型，随发布同步上线 Meta Model API 公测，并已在 Meta AI 应用与 meta.ai 的 Thinking 模式可用。已收录评测覆盖智能体编码与工具调用、计算机操作、网络安全及生物/化学安全评估等领域，Terminal-Bench 2.1 80.0%、OSWorld Verified 80.8%。
智能体基础 1M 上下文 公测 API 安全评估覆盖
查看模型变体与证据
pass@1, overall (198 challenges) 89.9%
数据缺口（本页暂未收录）
评测版本与子集（例如部分评测有 Diamond、Verified 等官方变体）以及数据集规模
各厂商使用的执行框架（harness / scaffold）与 Agent 工具配置
推理档位（reasoning effort）、采样参数（temperature / top-p）、运行次数与分数聚合方式
指标对应的随机猜测基线（chance baseline）与人类基线的实验条件
测试集污染检测结论，以及是否已饱和的结构化标注
以上字段暂缺时，本页不虚构数字 ；后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
引用
本页数据更新于 2026-09-20，依据厂商发布材料真实抓取；发现数据问题欢迎在 GitHub 提 Issue。
Meta / Llama·国际