MMMU

大学多学科图文题,多模态版 MMLU

基本信息

类别
多模态
官网 / 数据集
https://mmmu-benchmark.github.io/
论文
https://arxiv.org/abs/2311.16502

30 秒看懂

大学多学科图文题(图表/公式/示意图一起考)。多模态模型的知识面+看图能力综合分。

评分协议

六选一,30 学科 11.5k 题

可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。

模型发布采用时间轴

共收录 28 场模型发布(收录 44 项分值) · 按发布时间倒序排列 · 数据更新于 2026-09-20

2026
2026-09-19 StepFun / 阶跃星辰·国内

Step 5 Preview

参数600B total / 27B active MoE上下文1M模态文本·图像

阶跃星辰发布的旗舰基座模型 Step 5 Preview,面向真实世界 Agentic 任务,在编程、软件工程、专业工作与金融方向上达到前沿水平。AA Intelligence Index 44 分;DeepSWE v1.1 67.7%、Terminal-Bench v2.1 85.0%、StepCodeBench 49.0%、FrontierFinance 66.4%、GDPval-AA v2 1571;模型将于 2026-10-15 正式开源。

稀疏 MoE 600B/27B1M 上下文视觉输入Agentic 长程任务

查看模型变体与证据

Pro 76.0%
2026-08-10 Meta / Llama·国际

Muse Glimmer 30B

参数29.6B(dense)+ 1.8B ViT模态文本·图像

Muse Glimmer 30B 被 Meta 定位为可在消费级设备上运行的开源代理模型(Apache 2.0,由 Muse Spark 蒸馏,24-32GB 显存可跑)。评测覆盖通用代理、代理编码、多模态与安全:MCP Atlas 75.5%、SWE-bench Verified 76.0%、AIME 2026 94.7%;另提供 K-Quant 量化档与 DFlash 投机解码加速。

开源权重端侧可运行代理增强多模态

查看模型变体与证据

Pro 74%
2026-07 Moonshot AI / Kimi·国内

Kimi K3

上下文1M模态文本·图像

Kimi K3 以「Open Frontier Intelligence」为定位发布(权重承诺 2026-07-27 前开源),评测统一 reasoning effort=max、temperature=1.0。已收录 35 项以上评测覆盖编码、Agent、搜索与多模态:亮点 Terminal-Bench 2.1 88.3、BrowseComp(1M 上下文)90.4。

开源权重推理增强1M 长上下文Agentic

查看模型变体与证据

Pro 81.6Pro, w/ python 83.4
2026-06-23 ByteDance Seed / 豆包·国内

Seed2.1 Pro / Seed2.1 Turbo / Seed2.1 Preview

本发布含 3 个变体,各变体规格见模型详情。

字节 Seed2.1 发布将 Pro 定位为系列最高档,官方称评估优先考察真实工作流表现而非静态榜单分数。已收录评测横跨通用 Agent、编码、多模态与视频理解:亮点 GDPval 87.9、OSWorld 78.8。

Pro 档Agent 向多模态视频理解

查看模型变体与证据

Seed2.1 Pro · Pro (w. Tool) 81.6
2026-06-01 MiniMax·国内

MiniMax-M3 / MiniMax-M2.7

本发布含 2 个变体,各变体规格见模型详情。

MiniMax M3 被发布文定位为将前沿编码、1M 上下文与原生多模态合一的单模型(Frontier Coding, 1M Context, Native Multimodality - All in One Model),采用 MSA 稀疏注意力并支持思考开关。评测覆盖编码、协作代理、GUI 与多模态:SWE-Bench Verified 80.5、BrowseComp 83.52、OSWorld-Verified 70.06、IMO 2025 35/42。

1M 上下文原生多模态编码增强MSA 稀疏注意力

查看模型变体与证据

MiniMax-M3 · Pro 78.1
2026-05-19 Google DeepMind / Gemini·国际

Gemini 3.5 Flash

上下文1M模态文本·图像

Google 在 I/O 2026 发布 Gemini 3.5 首个模型 Gemini 3.5 Flash,定位「frontier intelligence with action」,并成为 Gemini 应用与 Search AI Mode 的默认模型。评测横跨终端智能体、多模态理解与抽象推理,亮点如 Terminal-Bench 2.1 76.2%、MCP Atlas 83.6%,页面并称输出速度约为其他前沿模型 4 倍。

多模态高速输出智能体长上下文

查看模型变体与证据

Pro, no tools 83.6% (no tools)
2026-05-08 Google DeepMind / Gemini·国际

Gemini 3.1 Flash-Lite

价格$0.25/$1.5 每百万 tokens · 定价出自 2026-03-03 预览公告,GA 页未重列模态文本·图像

Google 将 Gemini 3.1 Flash-Lite 定位为 Gemini 3 系列中最快、最具成本效率的型号,2026-03-03 预览、2026-05-07/08 转正(GA)。已收录 3 项评测(均出自预览公告)覆盖对话竞技场、科学与多模态推理:亮点 Arena.ai 排行 1432 Elo、GPQA 86.9%。

极速档高性价比GA 转正

查看模型变体与证据

Pro 76.8%
2026-04-20 Moonshot AI / Kimi·国内

Kimi K2.6

上下文256K模态文本·图像

Kimi K2.6 是月之暗面的开源编码旗舰(Advancing Open-Source Coding),主打长程编码与代理蜂群(300 子代理 / 4000 步)。评测横跨编码、代理、数学与视觉:SWE-bench Verified 80.2、SWE-Bench Pro 58.6、Terminal-Bench 2.0(Terminus-2)66.7、HLE-Full w/ tools 54.0。

开源权重编码增强代理蜂群多模态

查看模型变体与证据

Pro 79.4Pro, w/ python 80.1
2026-04-02 Google DeepMind / Gemini·国际

Gemma 4 E2B / Gemma 4 E4B / Gemma 4 26B MoE / Gemma 4 31B Dense

本发布含 4 个变体,各变体规格见模型详情。

面向本地运行的开放权重模型,支持推理与工具调用;本变体输入能力和上下文按官方发布页记录。

开放权重本地运行

查看模型变体与证据

Gemma 4 31B Dense · MMMU Pro 76.9%Gemma 4 26B MoE · MMMU Pro 73.8%Gemma 4 E4B · MMMU Pro 52.6%Gemma 4 E2B · MMMU Pro 44.2%
2026-02-19 Google DeepMind / Gemini·国际

Gemini 3.1 Pro

上下文1M模态文本·图像

Google 将 Gemini 3.1 Pro 定位为「为最复杂任务打造的更聪明模型」,基于 Gemini 3 Pro,发布时为 preview(thinking 档 low/medium/high)。已收录 19 项评测横跨推理、代码、多模态与长上下文:亮点 GPQA 94.3%、SWE-bench Verified 80.6%。

旗舰1M 长上下文多模态Preview

查看模型变体与证据

Pro, no tools 80.5%
2026-01-27 Moonshot AI / Kimi·国内

Kimi K2.5

上下文256K模态文本·图像·视频

发布文以“视觉智能体智能”为题,将 K2.5 定位为在 K2 基础上经 15T 视觉+文本混合语料继续预训练的原生多模态模型,Agent Swarm 最多 100 个子智能体/1500 步。45 项评测覆盖视觉理解、视频、智能体搜索与编码,亮点为 OCRBench 92.3 与 BrowseComp(Agent Swarm 模式)78.4。

原生多模态Agent Swarm长上下文视频理解

查看模型变体与证据

Pro 78.5
2025
2025-12-17 Google DeepMind / Gemini·国际

Gemini 3 Flash

上下文1M价格$0.5/$3 每百万 tokens模态文本·图像·视频

Gemini 3 Flash 以「为速度打造的前沿智能」为定位发布,上线即为 Gemini 应用与搜索 AI Mode 默认模型(发布时为 preview)。已收录 25 项评测横跨推理、代码、多模态与 Agent:亮点 AIME 2025(带代码执行)99.7%、SWE-bench Verified 78%。

速度优先多模态1M 长上下文编码与 Agent

查看模型变体与证据

Pro 81.2%
2025-12 ByteDance Seed / 豆包·国内

Seed1.8 / Seed1.8 Thinking / Seed1.5-VL

本发布含 3 个变体,各变体规格见模型详情。

Seed1.8 被发布文定位为通用化 Agentic 模型,覆盖 GUI/浏览器/移动操作、代理搜索、代理编码与经济价值领域任务,并提供三种思考模式。评测横跨代理、数学、STEM、知识、多模态与长视频等约 13 组:GAIA 87.4、BrowseComp-zh 81.3、AIME-25 94.3。

通用代理多模态三档思考模式

查看模型变体与证据

Seed1.8 Thinking · MMMU 83.4Seed1.8 Thinking · Pro 73.2
2025-11-18 Google DeepMind / Gemini·国际

Gemini 3 Pro / Gemini 3 Deep Think

本发布含 2 个变体,各变体规格见模型详情。

Gemini 3 发布以「智能新纪元」为题呈现,Gemini 3 Pro 为旗舰型号(发布时 preview)。已收录评测横跨推理、代码、多模态与 Agent:亮点 LMArena 1501 Elo、AIME 2025(带代码执行)100%。

旗舰多模态1M 长上下文Agent

查看模型变体与证据

Gemini 3 Pro · Pro 81%
2025-10-15 Anthropic·国际

Claude Haiku 4.5

价格$1/$5 每百万 tokens模态文本·图像

发布文将其定位为小而快的轻量档模型,编码性能接近 Sonnet 4 而成本仅约三分之一、速度快一倍以上,计算机使用能力超过 Sonnet 4。11 项评测覆盖智能体编码、工具调用、计算机使用与数学推理,亮点为 AIME 2025(带 Python 工具)96.3% 与 τ2-bench Telecom 83.0%。

轻量高速编码计算机使用扩展思考

查看模型变体与证据

validation 73.2
2025-09-29 Anthropic·国际

Claude Sonnet 4.5

价格$3/$15 每百万 tokens · 与 Sonnet 4 同价模态文本·图像

Anthropic 发布 Claude Sonnet 4.5,作为面向编码、智能体与计算机使用场景的 Sonnet 新代,并同步推出 Claude Agent SDK。评测集中在编码与智能体领域,亮点如 SWE-bench Verified 77.2%(并行测试期计算 82.0%)、τ2-bench Telecom 98.0%。

编码智能体计算机使用推理

查看模型变体与证据

validation 77.8
2025-08-07 OpenAI·国际

GPT-5 / GPT-5 Pro

本发布含 2 个变体,各变体规格见模型详情。

GPT-5 是 OpenAI 的统一思考模型,发布文称其在 AIME 2025(无工具 94.6%)、SWE-bench Verified 74.9%、HealthBench Hard 46.2% 等刷新 SOTA,并大幅降低事实错误与谄媚率。评测覆盖竞赛数学、编码、指令跟随与代理、多模态与健康:GPQA Diamond 88.4%、MMMU 84.2%、BrowseComp 54.9%。

思考模型多模态代理工具调用幻觉抑制

查看模型变体与证据

GPT-5 · MMMU 84.2o3 · MMMU 82.9gpt-4o · MMMU 72.2GPT-5 · MMMU 74.4
2025-07-31 StepFun / 阶跃星辰·国内

Step 3

参数321B-A38B MoE(VLM 321B / LLM 316B)上下文64K(65536)模态文本·图像

StepFun 将 Step 3 定位为高性价比的多模态智能模型,以 38B 激活的 MoE 架构与 MFA 注意力 + AFD 并行设计平衡性能与推理成本,并以 Apache 2.0 开源。已收录评测覆盖多模态理解、数学与科学推理、代码等领域,AIME 2025 82.9、MMMU 74.2。

开源权重多模态高性价比 MoEMFA 注意力架构

查看模型变体与证据

MMMU 74.2
2025-06-17 Google DeepMind / Gemini·国际

Gemini 2.5 Flash / Gemini 2.5 Flash-Lite

本发布含 2 个变体,各变体规格见模型详情。

Gemini 2.5 Flash 是 Gemini 2.5 家族 GA 扩容公告中的主力 Flash 档模型,默认开启思考并同时报告非思考配置。评测覆盖科学/数学/编码/事实性/视觉与多语言:思考配置 GPQA Diamond 82.8%、AIME 2025 72.0%、MRCR v2 8-needle(1M)21.0%。

思考模式多模态高性价比

查看模型变体与证据

Gemini 2.5 Flash · thinking config 79.7% (thinking)
2025-05-22 Anthropic·国际

Claude Opus 4 / Claude Sonnet 4

本发布含 2 个变体,各变体规格见模型详情。

Claude 4 发布中 Opus 4 为最强编码档,采用混合模式(近即时回答 + 扩展思考,扩展思考可与工具调用结合,beta)。已收录 22 项评测覆盖软件工程、终端、知识与 Agent:亮点 SWE-bench Verified 72.5%(并行测试时计算 79.4%)。

旗舰编码扩展思考工具调用融合

查看模型变体与证据

Claude Opus 4 · validation 76.5Claude Sonnet 4 · validation 74.4
2025-04-16 OpenAI·国际

OpenAI o3 / OpenAI o4-mini

本发布含 2 个变体,各变体规格见模型详情。

OpenAI 将 o3 定位为其最强推理模型,在编码、数学、科学与视觉感知等领域推进前沿,并支持以图思考(Thinking with images)。该发布已收录评测覆盖数学、编程竞赛、科学推理、软件工程与智能体工具使用等领域,AIME 2025 配 Python 工具 pass@1 98.4%、100% consensus@8。

推理旗舰以图思考智能体工具使用

查看模型变体与证据

OpenAI o3 · MMMU 82.9OpenAI o4-mini · MMMU 81.6o1 · MMMU 77.6
2025-04-05 Meta / Llama·国际

Llama 4 Maverick / Llama 4 Scout / Llama 4 Behemoth

本发布含 3 个变体,各变体规格见模型详情。

发布文称 Maverick 为 Llama 4 herd 中的主力多模态模型(17B 激活、128 专家、400B 总参,MoE 架构)。评测覆盖多模态理解、知识、代码与克丘亚语翻译,亮点为 DocVQA 94.4 与 ChartQA 90.0(LMArena Elo 1417 归属于实验性聊天版本)。

开源权重MoE多模态

查看模型变体与证据

Llama 4 Maverick · MMMU 73.4Llama 4 Scout · MMMU 69.4Llama 4 Behemoth · MMMU 76.1
2025-03-25 Google DeepMind / Gemini·国际

Gemini 2.5 Pro

上下文1M模态文本·图像·音频·视频

谷歌将 Gemini 2.5 Pro 实验版定位为其最智能的 AI 模型与 2.5 系列首个思维(thinking)模型,原生多模态并配备 1M token 上下文窗口(200 万即将推出)。已收录评测覆盖推理、代码、长上下文与多模态理解等领域,HLE 无工具 18.8%、SWE-bench Verified 63.8%。

思维模型原生多模态1M 上下文实验版首发

查看模型变体与证据

single attempt (pass@1) 81.7% (single attempt, pass@1)
2025-02-19 xAI / Grok·国际

Grok 3 / Grok 3 mini

本发布含 2 个变体,各变体规格见模型详情。

Grok 3 被 xAI 定位为开启『推理代理时代』的 Beta 模型,主打 (Think) 深度推理配置并曾以代号 chocolate 登顶 LMArena。评测覆盖推理、编码、多模态理解与长上下文 RAG:AIME'25 93.3%、GPQA 84.6%、LCB 79.4%、Chatbot Arena 1402 Elo、LOFT(128k)83.3%。

推理增强Beta

查看模型变体与证据

Grok 3 · non-reasoning 73.2%Grok 3 · Think chart 78%Grok 3 mini · non-reasoning 69.4%
2024
2024-12-11 Google DeepMind / Gemini·国际

Gemini 2.0 Flash / Project Mariner

本发布含 2 个变体,各变体规格见模型详情。

发布文称其为面向智能体时代(agentic era)的 Gemini 2.0 家族首个模型。13 项评测横跨知识、代码、数学、多模态与长上下文,亮点为 Natural2Code 92.9% 与 MATH 89.7%。

多模态长上下文智能体实验版本

查看模型变体与证据

Gemini 2.0 Flash · MMMU 70.7%
2024-06-20 Anthropic·国际

Claude 3.5 Sonnet

参数未公开上下文200K tokens价格$3/$15 每百万 tokens模态文本·图像

Anthropic 旗舰中杯模型,在代码生成、多步复杂推理与视觉理解上全面超越上一代 Opus 与同代旗舰,是智能体与工程编程的行业标杆。

编程代码标杆多步长程推理智能体核心底座超高推理性价比

查看模型变体与证据

validation 68.3% (0-shot CoT)
2024-05-13 OpenAI·国际

GPT-4o

参数未公开上下文128K tokens价格$5/$15 每百万 tokens模态文本·图像·音频

OpenAI 原生端到端多模态旗舰大模型,支持文本、语音与视觉的实时低延迟无缝交互,在具备 GPT-4 Turbo 级别智能的同时将推理速度提升 2 倍、API 成本降低 50%。

端到端全模态实时低延迟交互视觉理解跃升高性价比旗舰

查看模型变体与证据

MMMU 69.1
2023
2023-12-06 Google DeepMind / Gemini·国际

Gemini 1.0 Ultra

参数未公开上下文32K tokens模态文本·图像·音频·视频

Google DeepMind 原生多模态大模型开篇之作,其中 Gemini 1.0 Ultra 成为全球首个在 MMLU 基准上超越人类专家的前沿大模型。

原生跨模态超越人类专家多模态推理Ultra旗舰

查看模型变体与证据

MMMU 59.4%

数据缺口(本页暂未收录)

以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

引用

本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。