COLLIE

语法化组合约束的受控文本生成评测

基本信息

30 秒看懂

把写一句符合 5 条约束的话变成形式语法判定，机器可验证，考约束组合爆炸下的精确执行；CollIE-Hard 为加强版。

评分协议

这个评测的官方统一评分协议还没收录到本页；各厂商实际使用的执行框架（harness）与推理档位（effort）已逐条写在下方引用卡里。

模型发布采用时间轴

共收录 2 场模型发布（收录 4 项分值） · 按发布时间倒序排列 · 数据更新于 2026-09-20

2025

2025-12 ByteDance Seed / 豆包·国内

Seed1.8 / Seed1.8 Thinking / Seed1.5-VL

本发布含 3 个变体，各变体规格见模型详情。

Seed1.8 被发布文定位为通用化 Agentic 模型，覆盖 GUI/浏览器/移动操作、代理搜索、代理编码与经济价值领域任务，并提供三种思考模式。评测横跨代理、数学、STEM、知识、多模态与长视频等约 13 组：GAIA 87.4、BrowseComp-zh 81.3、AIME-25 94.3。

通用代理多模态三档思考模式

查看模型变体与证据

Seed1.8 · Hard 72.6

2025-08-07 OpenAI·国际

GPT-5 / GPT-5 Pro

本发布含 2 个变体，各变体规格见模型详情。

GPT-5 是 OpenAI 的统一思考模型，发布文称其在 AIME 2025（无工具 94.6%）、SWE-bench Verified 74.9%、HealthBench Hard 46.2% 等刷新 SOTA，并大幅降低事实错误与谄媚率。评测覆盖竞赛数学、编码、指令跟随与代理、多模态与健康：GPQA Diamond 88.4%、MMMU 84.2%、BrowseComp 54.9%。

思考模型多模态代理工具调用幻觉抑制

查看模型变体与证据

GPT-5 · COLLIE 99o3 · COLLIE 98.4GPT-5 · COLLIE 70.5

数据缺口（本页暂未收录）

• 评测版本与子集（例如部分评测有 Diamond、Verified 等官方变体）以及数据集规模
• 各厂商使用的执行框架（harness / scaffold）与 Agent 工具配置
• 推理档位（reasoning effort）、采样参数（temperature / top-p）、运行次数与分数聚合方式
• 指标对应的随机猜测基线（chance baseline）与人类基线的实验条件
• 测试集污染检测结论，以及是否已饱和的结构化标注

以上字段暂缺时，本页不虚构数字；后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

相关评测（同类别）

引用

本页数据更新于 2026-09-20，依据厂商发布材料真实抓取；发现数据问题欢迎在 GitHub 提 Issue。