τ²-bench

Sierra 出品的双控制客服基准:Agent 与用户模拟器都能操作共享环境(电信域为主),考引导用户协作完成任务的能力

基本信息

类别
Agent 与环境
官网 / 数据集
https://arxiv.org/abs/2506.07982
论文
https://arxiv.org/abs/2506.07982

30 秒看懂

论文口径:从单控制(仅 Agent 操作)转到双控制(用户也操作)时分数显著下降——差距即『引导用户』这一能力的代价。

采用格局:证据账本中 7 次引用;Agent 叙事的第二代客服基准(τ-bench 之后)

评分协议

这个评测的官方统一评分协议还没收录到本页;各厂商实际使用的执行框架(harness)与推理档位(effort)已逐条写在下方引用卡里。

可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。

模型发布采用时间轴

共收录 12 场模型发布(收录 31 项分值) · 按发布时间倒序排列 · 数据更新于 2026-09-20

2026
2026-05-29 StepFun / 阶跃星辰·国内

Step 3.7 Flash

参数196B-A11B(另含 1.8B ViT)上下文256K模态文本·图像

Step 3.7 Flash 被阶跃星辰定位为面向真实场景代理的高效率 Flash 模型,支持三档推理级别、最高 400 tok/s。评测覆盖通用代理、编码与长上下文/视觉:BrowseComp 75.8%、HLE w. tool 47.2%、SWE-bench Verified 76.5%、V* 95.29%。

MoE 稀疏激活多模态高效率256K 上下文

查看模型变体与证据

Telecom 官方未公布数值
2026-04-23 OpenAI·国际

GPT-5.5 / GPT-5.5 Pro

本发布含 2 个变体,各变体规格见模型详情。

OpenAI 发布 GPT-5.5,提供 low/medium/high/xhigh 推理档(另有非推理模式)。评测横跨智能体编码、知识工作、长上下文与科学/网络安全,亮点如 Terminal-Bench 2.0 82.7%、ARC-AGI-2 85.0%。

智能体编码知识工作长上下文网络安全

查看模型变体与证据

GPT-5.5 · Telecom, original prompts 98.0%gpt-5-4 · Telecom, original prompts 92.8%
2026-03-05 OpenAI·国际

GPT-5.4 / GPT-5.4 Pro / GPT-5.4 mini / GPT-5.4 nano

本发布含 4 个变体,各变体规格见模型详情。

OpenAI 将 GPT-5.4 定位为融合 GPT-5.3-Codex 编码谱系的新旗舰(ChatGPT 内 Thinking 模式,effort none/low/medium/high/xhigh,1M 上下文,原生计算机操作与工具搜索)。已收录 90 余项评测横跨知识工作、编码、计算机操作与长上下文:亮点 GDPval 83.0%、OSWorld-Verified 75.0%。

旗舰1M 长上下文原生计算机操作工具搜索

查看模型变体与证据

GPT-5.4 · τ²-bench 98.9%gpt-5-2 · τ²-bench 98.7%gpt-4-1 · no tools 43.6%GPT-5.4 · no tools 64.3%gpt-5-2 · no tools 57.2%
2026-02-19 Google DeepMind / Gemini·国际

Gemini 3.1 Pro

上下文1M模态文本·图像

Google 将 Gemini 3.1 Pro 定位为「为最复杂任务打造的更聪明模型」,基于 Gemini 3 Pro,发布时为 preview(thinking 档 low/medium/high)。已收录 19 项评测横跨推理、代码、多模态与长上下文:亮点 GPQA 94.3%、SWE-bench Verified 80.6%。

旗舰1M 长上下文多模态Preview

查看模型变体与证据

Retail 90.8%Telecom 99.3%
2026-02-12 MiniMax·国内

MiniMax-M2.5

价格$0.15/$1.2 每百万 tokens · M2.5 为 50 TPS 档、价格为 M2.5-Lightning(100 TPS,$0.3/$2.4 每百万 tokens)的一半模态文本

MiniMax 将 M2.5 定位为「为真实生产力打造」,披露 20 万+ 真实环境 RL 训练与 Forge 智能体原生框架,并随附同能力 2 倍速的 M2.5-Lightning 档。已收录 22 项评测集中于编码、搜索与 Agent 工具调用:亮点 SWE-bench Verified 80.2%、tau2-Bench Telecom 97.8%。

开源权重Agent RL 训练高效编码

查看模型变体与证据

Telecom 97.8
2026-02-05 Anthropic·国际

Claude Opus 4.6

上下文1M(beta)价格$10/$37.5 每百万 tokens · 发布文给出的 premium 1M 上下文(beta)档定价;标准档定价发布文未给出模态文本·图像

Claude Opus 4.6 是 Anthropic 的旗舰模型,引入多档推理努力(low/medium/high/max)、自适应思考、上下文压缩与 1M 上下文 beta。评测覆盖代理编码/工具/搜索、法律与多语言问答:SWE-bench Verified 80.8、GPQA Diamond 91.3、ARC-AGI-2 68.8、BrowseComp 84.0。

长上下文推理努力分级代理工具调用多模态

查看模型变体与证据

Retail / Telecom split Retail 91.9 / Telecom 99.3
2026-01-31 StepFun / 阶跃星辰·国内

Step 3.5 Flash

参数196B-A11B MoE上下文256K模态文本

发布文将其定位为“快、准、稳”的智能体智能模型(Apache 2.0 开源,196B 总参/约 11B 激活稀疏 MoE,MTP-3,256K 上下文)。16 项评测以智能体搜索、数学与编码为主,亮点为 HMMT 2025 二月场 98.4 与 AIME 2025 97.3。

开源权重高效 MoE智能体搜索MTP-3

查看模型变体与证据

τ²-bench 88.2
2025
2025-12-17 Google DeepMind / Gemini·国际

Gemini 3 Flash

上下文1M价格$0.5/$3 每百万 tokens模态文本·图像·视频

Gemini 3 Flash 以「为速度打造的前沿智能」为定位发布,上线即为 Gemini 应用与搜索 AI Mode 默认模型(发布时为 preview)。已收录 25 项评测横跨推理、代码、多模态与 Agent:亮点 AIME 2025(带代码执行)99.7%、SWE-bench Verified 78%。

速度优先多模态1M 长上下文编码与 Agent

查看模型变体与证据

τ²-bench 90.2%
2025-11-18 Google DeepMind / Gemini·国际

Gemini 3 Pro / Gemini 3 Deep Think

本发布含 2 个变体,各变体规格见模型详情。

Gemini 3 发布以「智能新纪元」为题呈现,Gemini 3 Pro 为旗舰型号(发布时 preview)。已收录评测横跨推理、代码、多模态与 Agent:亮点 LMArena 1501 Elo、AIME 2025(带代码执行)100%。

旗舰多模态1M 长上下文Agent

查看模型变体与证据

Gemini 3 Pro · τ²-bench 85.4%
2025-10-15 Anthropic·国际

Claude Haiku 4.5

价格$1/$5 每百万 tokens模态文本·图像

发布文将其定位为小而快的轻量档模型,编码性能接近 Sonnet 4 而成本仅约三分之一、速度快一倍以上,计算机使用能力超过 Sonnet 4。11 项评测覆盖智能体编码、工具调用、计算机使用与数学推理,亮点为 AIME 2025(带 Python 工具)96.3% 与 τ2-bench Telecom 83.0%。

轻量高速编码计算机使用扩展思考

查看模型变体与证据

Retail 83.2Airline 63.6Telecom 83.0
2025-09-29 Anthropic·国际

Claude Sonnet 4.5

价格$3/$15 每百万 tokens · 与 Sonnet 4 同价模态文本·图像

Anthropic 发布 Claude Sonnet 4.5,作为面向编码、智能体与计算机使用场景的 Sonnet 新代,并同步推出 Claude Agent SDK。评测集中在编码与智能体领域,亮点如 SWE-bench Verified 77.2%(并行测试期计算 82.0%)、τ2-bench Telecom 98.0%。

编码智能体计算机使用推理

查看模型变体与证据

Retail / Airline / Telecom split Retail 86.2 / Airline 70.0 / Telecom 98.0
2025-08-07 OpenAI·国际

GPT-5 / GPT-5 Pro

本发布含 2 个变体,各变体规格见模型详情。

GPT-5 是 OpenAI 的统一思考模型,发布文称其在 AIME 2025(无工具 94.6%)、SWE-bench Verified 74.9%、HealthBench Hard 46.2% 等刷新 SOTA,并大幅降低事实错误与谄媚率。评测覆盖竞赛数学、编码、指令跟随与代理、多模态与健康:GPQA Diamond 88.4%、MMMU 84.2%、BrowseComp 54.9%。

思考模型多模态代理工具调用幻觉抑制

查看模型变体与证据

GPT-5 · airline, without thinking 0.55GPT-5 · airline, with thinking 0.076GPT-5 · retail, without thinking 0.728GPT-5 · retail, with thinking 0.083GPT-5 · telecom, without thinking 0.386GPT-5 · telecom, with thinking 0.581o3 · airline 0.648o3 · retail 0.802o3 · telecom 0.582gpt-4o · airline 0.455gpt-4o · retail 0.634gpt-4o · telecom 0.235

数据缺口(本页暂未收录)

以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

引用

本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。