VLMsAreBiased

知识先验偏差下的视觉计数/感知测试

基本信息

类别
多模态
官网 / 数据集
https://vlmsarebiased.github.io/

30 秒看懂

知识先验偏差下的计数/识别测试:同一对象的原图近乎全员 100%,反事实改图(多一条腿的狗等)平均仅 17.05%,且 75.7% 的错误与先验答案一致——分数低代表被记忆知识带偏而非随机出错。

采用格局:字节 Seed 引用(Seed1.8 报 62.0)

评分协议

这个评测的官方统一评分协议还没收录到本页;各厂商实际使用的执行框架(harness)与推理档位(effort)已逐条写在下方引用卡里。

可比性提示:同一评测的分数是「实验配置」的产物:只要评测版本(variant)、执行框架(harness)、推理档位(reasoning effort)、工具、采样参数、运行次数或聚合方式有任何一项不同,数字就不能直接横向比较。下方各厂商的分数如未写明协议细节,请只当作方向参考。

模型发布采用时间轴

共收录 3 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20

2026
2026-08-03 Alibaba / Qwen·国内

Qwen3.8-Max

参数2.4T(激活 95B)模态文本·图像·视频

通义将 Qwen3.8-Max 定位为当前 Qwen 家族最强大的模型,基于 Qwen 3.5 架构将参数规模扩展至 2.4 万亿(激活参数 95B),在编程、办公、科研与长周期任务上全面提升,并成为首个开源权重的 Qwen-Max 级模型(权重于下周发布)。已收录评测覆盖智能体编码与办公、多模态理解与操作、视频理解及长上下文等领域,Terminal-Bench 2.1 86.6、PaperBench 93。

开源权重(预告)多模态智能体长周期任务编程与办公

查看模型变体与证据

VLMsAreBiased 88.3
2026-03-10 ByteDance Seed / 豆包·国内

Seed 2.0-Lite

模态文本·图像·音频·视频

字节 Seed 系列页将 Seed2.0 Lite 定位为 Seed 基础模型系列首个全模态(omni-modal)理解模型,原生支持视频、图像、音频与文本的统一理解,并升级 Agent、Coding 与 GUI 能力,兼顾输出质量与响应速度,适合通用生产级场景。已收录评测覆盖文本智能体与编码、多模态理解、GUI 操作及视频与音频理解等领域,GPQA Diamond 88.4%、OSWorld Verified 64.4%。

全模态理解生产级通用GUI 操作智能体

查看模型变体与证据

Perception 80.6
2025
2025-12 ByteDance Seed / 豆包·国内

Seed1.8 / Seed1.8 Thinking / Seed1.5-VL

本发布含 3 个变体,各变体规格见模型详情。

Seed1.8 被发布文定位为通用化 Agentic 模型,覆盖 GUI/浏览器/移动操作、代理搜索、代理编码与经济价值领域任务,并提供三种思考模式。评测横跨代理、数学、STEM、知识、多模态与长视频等约 13 组:GAIA 87.4、BrowseComp-zh 81.3、AIME-25 94.3。

通用代理多模态三档思考模式

查看模型变体与证据

Seed1.8 Thinking · VLMsAreBiased 62.0

数据缺口(本页暂未收录)

以上字段暂缺时,本页不虚构数字;后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

引用

本页数据更新于 2026-09-20,依据厂商发布材料真实抓取;发现数据问题欢迎在 GitHub 提 Issue。