BrokenArXiv
MathArena 出品的『伪定理』评测：把近期 arXiv 数学研究断言扰动成似真但可证伪的命题，测模型是否敢指出前提有问题；LLM judge 评分、月度滚动
基本信息
30 秒看懂
与 Final-Answer 类基准互补：它奖励『拒绝证明』。页面自述可被『永远回答题目有误』刷到 100%，因此必须与正常解题基准并读——专考批判性而非能力上限。2026-02 版 31 题。
采用格局：混元 Hy4 preview 附录推理组出现（54.6）；MathArena（ETH SRI Lab + INSAIT）出品
评分协议
LLM judge（Gemini-3.1-Pro）判断模型是否指出命题不成立；月度版本滚动更新
可比性提示：同一评测的分数是「实验配置」的产物：只要评测版本（variant）、执行框架（harness）、推理档位（reasoning effort）、工具、采样参数、运行次数或聚合方式有任何一项不同，数字就不能直接横向比较。下方各厂商的分数如未写明协议细节，请只当作方向参考。
模型发布采用时间轴
共收录 1 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20
2026
2026-08-28
Tencent / 腾讯混元·国内
参数770B-A49B MoE上下文1M模态文本
发布文将 Hy4 preview 定位为 770B 总参/49B 激活、1M 上下文、Apache 2.0 开源的旗舰预览版（各模型均按最高推理档评测）。46 项评测集中于智能体编码与搜索、工作智能体及 STEM 推理，亮点为 Terminal-Bench 2.1 85.4 与 SWE-bench Multilingual 82.9。
开源权重长上下文智能体
查看模型变体与证据
BrokenArXiv 54.6
数据缺口（本页暂未收录）
- 评测版本与子集（例如部分评测有 Diamond、Verified 等官方变体）以及数据集规模
- 各厂商使用的执行框架（harness / scaffold）与 Agent 工具配置
- 推理档位（reasoning effort）、采样参数（temperature / top-p）、运行次数与分数聚合方式
- 指标对应的随机猜测基线（chance baseline）与人类基线的实验条件
- 测试集污染检测结论，以及是否已饱和的结构化标注
以上字段暂缺时，本页不虚构数字；后续会依据每一次发布的证据逐条补齐并标注来源。
复现入口
引用
本页数据更新于 2026-09-20，依据厂商发布材料真实抓取；发现数据问题欢迎在 GitHub 提 Issue。