BIRD-SQL

大规模真实数据库文本转 SQL 评测

基本信息

30 秒看懂

大规模真实数据库文本转 SQL：按执行结果正确率计分（Dev 集为常用口径），越高越好；人类基准（数据工程师+DB 学生）92.96，顶级系统约 78–82、裸模型 60 上下——离人类还有约 10 个点的硬差距。

评分协议

这个评测的官方统一评分协议还没收录到本页；各厂商实际使用的执行框架（harness）与推理档位（effort）已逐条写在下方引用卡里。

模型发布采用时间轴

共收录 2 场模型发布 · 按发布时间倒序排列 · 数据更新于 2026-09-20

2024

2024-12-11 Google DeepMind / Gemini·国际

Gemini 2.0 Flash / Project Mariner

本发布含 2 个变体，各变体规格见模型详情。

发布文称其为面向智能体时代（agentic era）的 Gemini 2.0 家族首个模型。13 项评测横跨知识、代码、数学、多模态与长上下文，亮点为 Natural2Code 92.9% 与 MATH 89.7%。

多模态长上下文智能体实验版本

查看模型变体与证据

Gemini 2.0 Flash · Dev 56.9%

2024-09-19 Alibaba / Qwen·国内

Qwen2.5-72B-Instruct / Qwen2.5-Coder-7B-Instruct / Qwen2.5-Math-72B-Instruct / Qwen2.5-Math-7B-Instruct / Qwen2.5-Math-1.5B-Instruct

本发布含 5 个变体，各变体规格见模型详情。

Qwen2.5 发布文以「A Party of Foundation Models」呈现全家族，72B-Instruct 为其中最大开源指令模型（稠密解码器，18T 预训练 tokens）。已收录 14 项评测覆盖知识、数学、代码与对齐：亮点 GSM8K 95.8、MMLU-Pro 71.1。

开源权重稠密架构指令微调旗舰

查看模型变体与证据

Qwen2.5-Coder-7B-Instruct · BIRD-SQL 51.1

数据缺口（本页暂未收录）

• 评测版本与子集（例如部分评测有 Diamond、Verified 等官方变体）以及数据集规模
• 各厂商使用的执行框架（harness / scaffold）与 Agent 工具配置
• 推理档位（reasoning effort）、采样参数（temperature / top-p）、运行次数与分数聚合方式
• 指标对应的随机猜测基线（chance baseline）与人类基线的实验条件
• 测试集污染检测结论，以及是否已饱和的结构化标注

以上字段暂缺时，本页不虚构数字；后续会依据每一次发布的证据逐条补齐并标注来源。

复现入口

相关评测（同类别）

引用

本页数据更新于 2026-09-20，依据厂商发布材料真实抓取；发现数据问题欢迎在 GitHub 提 Issue。