Vending-Bench 2
Andon Labs 售货机长程经营模拟(净值计分)
基本信息
30 秒看懂
让 agent 连续经营几个月虚拟售货机,按最终净值打分,考长时程一致性:一次失误会滚雪球。
采用格局:Google Gemini 3 / GLM 引用;Andon Labs 独立执行
评分协议
这个评测的官方统一评分协议还没收录到本页;各厂商实际使用的执行框架(harness)与推理档位(effort)已逐条写在下方引用卡里。
可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。
模型发布采用时间轴
共收录 5 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20
2026
2026-04-16
Anthropic·国际
本发布含 2 个变体,各变体规格见模型详情。
Anthropic 将 Claude Opus 4.7 定位为在高级软件工程上较 Opus 4.6 显著提升、最难任务上增益尤为明显的旗舰模型,同时大幅增强视觉分辨率;这也是首个按 Project Glasswing 分级防护方案发布的模型。已收录评测覆盖智能体编码与终端、长上下文检索、计算机操作、网络安全与多学科推理等领域,SWE-bench Verified 87.6、GPQA Diamond 94.2。
智能体编码高分辨率视觉推理档位控制分级网络安全防护
查看模型变体与证据
Claude Opus 4.7 · Vending-Bench 2 $10,937
2026-04-07
Z.ai / 智谱 GLM·国内
模态文本
GLM-5.1 被 z.ai 定位为面向长程任务(Towards Long-Horizon Tasks)的代理工程旗舰,强调数百轮持续优化与长时程任务能力。评测集中在推理、编码与代理三类:SWE-Bench Pro 58.4、Terminal-Bench 2.0(Terminus-2)63.5、BrowseComp(w/ 上下文管理)79.3、HLE w/ Tools 52.3。
开源权重长程任务代理工程
查看模型变体与证据
Vending-Bench 2 $5,634.41
2026-02-11
Z.ai / 智谱 GLM·国内
参数744B-A40B MoE上下文200K模态文本
智谱以「From Vibe Coding to Agentic Engineering」为主题发布 GLM-5:744B 总参/40B 激活的 MoE(DSA 架构,28.5T 预训练 tokens),MIT 许可开源。评测覆盖推理、编码与通用智能体,亮点如 HMMT 2025.11 96.9%、τ²-Bench 89.7%。
开源权重智能体工程推理编码
查看模型变体与证据
Vending-Bench 2 $4,432.12
2025
2025-12-17
Google DeepMind / Gemini·国际
上下文1M价格$0.5/$3 每百万 tokens模态文本·图像·视频
Gemini 3 Flash 以「为速度打造的前沿智能」为定位发布,上线即为 Gemini 应用与搜索 AI Mode 默认模型(发布时为 preview)。已收录 25 项评测横跨推理、代码、多模态与 Agent:亮点 AIME 2025(带代码执行)99.7%、SWE-bench Verified 78%。
速度优先多模态1M 长上下文编码与 Agent
查看模型变体与证据
Vending-Bench 2 $3,635 (net worth mean)
2025-11-18
Google DeepMind / Gemini·国际
本发布含 2 个变体,各变体规格见模型详情。
Gemini 3 发布以「智能新纪元」为题呈现,Gemini 3 Pro 为旗舰型号(发布时 preview)。已收录评测横跨推理、代码、多模态与 Agent:亮点 LMArena 1501 Elo、AIME 2025(带代码执行)100%。
旗舰多模态1M 长上下文Agent
查看模型变体与证据
Gemini 3 Pro · Vending-Bench 2 $5,478.16 (mean net worth, average over 5 runs)
数据缺口(本页暂未收录)
- 评测版本与子集(例如部分评测有 Diamond、Verified 等官方变体)以及数据集规模
- 各厂商使用的执行框架(harness / scaffold)与 Agent 工具配置
- 推理档位(reasoning effort)、采样参数(temperature / top-p)、运行次数与分数聚合方式
- 指标对应的随机猜测基线(chance baseline)与人类基线的实验条件
- 测试集污染检测结论,以及是否已饱和的结构化标注
以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
引用
本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。