Vibe-Eval

Reka 开放多模态评测:269 个高难图文提示

基本信息

类别
多模态
官网 / 数据集
https://reka.ai/news/vibe-eval

30 秒看懂

Reka 用社区征集的高难图文题做开放式评测,LLM 判分并公开题目,考多模态日常难题的表现。

采用格局:Google Gemini 2.x/3 系列发布页多处引用

评分协议

这个评测的官方统一评分协议还没收录到本页;各厂商实际使用的执行框架(harness)与推理档位(effort)已逐条写在下方引用卡里。

可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。

模型发布采用时间轴

共收录 3 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20

2025
2025-06-17 Google DeepMind / Gemini·国际

Gemini 2.5 Flash / Gemini 2.5 Flash-Lite

本发布含 2 个变体,各变体规格见模型详情。

Gemini 2.5 Flash 是 Gemini 2.5 家族 GA 扩容公告中的主力 Flash 档模型,默认开启思考并同时报告非思考配置。评测覆盖科学/数学/编码/事实性/视觉与多语言:思考配置 GPQA Diamond 82.8%、AIME 2025 72.0%、MRCR v2 8-needle(1M)21.0%。

思考模式多模态高性价比

查看模型变体与证据

Gemini 2.5 Flash · thinking config 65.4% (thinking)
2025-03-25 Google DeepMind / Gemini·国际

Gemini 2.5 Pro

上下文1M模态文本·图像·音频·视频

谷歌将 Gemini 2.5 Pro 实验版定位为其最智能的 AI 模型与 2.5 系列首个思维(thinking)模型,原生多模态并配备 1M token 上下文窗口(200 万即将推出)。已收录评测覆盖推理、代码、长上下文与多模态理解等领域,HLE 无工具 18.8%、SWE-bench Verified 63.8%。

思维模型原生多模态1M 上下文实验版首发

查看模型变体与证据

Vibe-Eval 69.4%
2024
2024-12-11 Google DeepMind / Gemini·国际

Gemini 2.0 Flash / Project Mariner

本发布含 2 个变体,各变体规格见模型详情。

发布文称其为面向智能体时代(agentic era)的 Gemini 2.0 家族首个模型。13 项评测横跨知识、代码、数学、多模态与长上下文,亮点为 Natural2Code 92.9% 与 MATH 89.7%。

多模态长上下文智能体实验版本

查看模型变体与证据

Gemini 2.0 Flash · Vibe-Eval 56.3%

数据缺口(本页暂未收录)

以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

引用

本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。