MTOB
仅凭一本语法书翻译 Kalamang 与英语互译
基本信息
30 秒看懂
考上下文内学一门全新语言：把几百页语法书塞进上下文再翻译无资源语言，是长上下文利用率的极端测试。
采用格局：Meta Llama 4 发布引用（half book / full book 两档）
评分协议
这个评测的官方统一评分协议还没收录到本页；各厂商实际使用的执行框架（harness）与推理档位（effort）已逐条写在下方引用卡里。
可比性提示：同一评测的分数是「实验配置」的产物：只要评测版本（variant）、执行框架（harness）、推理档位（reasoning effort）、工具、采样参数、运行次数或聚合方式有任何一项不同，数字就不能直接横向比较。下方各厂商的分数如未写明协议细节，请只当作方向参考。
模型发布采用时间轴
共收录 1 场模型发布（收录 4 项分值） · 按发布时间倒序排列 · 数据更新于 2026-09-20
2025
2025-04-05
Meta / Llama·国际
本发布含 3 个变体，各变体规格见模型详情。
发布文称 Maverick 为 Llama 4 herd 中的主力多模态模型（17B 激活、128 专家、400B 总参，MoE 架构）。评测覆盖多模态理解、知识、代码与克丘亚语翻译，亮点为 DocVQA 94.4 与 ChartQA 90.0（LMArena Elo 1417 归属于实验性聊天版本）。
开源权重MoE多模态
查看模型变体与证据
Llama 4 Maverick · half book, eng→kgv / kgv→eng 54.0 (eng→kgv) / 46.4 (kgv→eng)Llama 4 Maverick · full book, eng→kgv / kgv→eng 50.8 (eng→kgv) / 46.7 (kgv→eng)Llama 4 Scout · half book, eng→kgv / kgv→eng 42.2 (eng→kgv) / 36.6 (kgv→eng)Llama 4 Scout · full book, eng→kgv / kgv→eng 39.7 (eng→kgv) / 36.3 (kgv→eng)
数据缺口（本页暂未收录）
- 评测版本与子集（例如部分评测有 Diamond、Verified 等官方变体）以及数据集规模
- 各厂商使用的执行框架（harness / scaffold）与 Agent 工具配置
- 推理档位（reasoning effort）、采样参数（temperature / top-p）、运行次数与分数聚合方式
- 指标对应的随机猜测基线（chance baseline）与人类基线的实验条件
- 测试集污染检测结论，以及是否已饱和的结构化标注
以上字段暂缺时，本页不虚构数字；后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
引用
本页数据更新于 2026-09-20，依据厂商发布材料真实抓取；发现数据问题欢迎在 GitHub 提 Issue。