OpenAI 首次公开预训练困惑度数据:GPT-3.5 约 0.99、当前已低于 0.8,并提议全行业设立 common limits
11 月 22 日,OpenAI 在官网发布文章《Perplexity and Intelligence》,首次公开其自 GPT-3.5 以来的内部预训练困惑度测量数据:GPT-3.5 约 0.99,GPT-4 约 0.91,当前已低于 0.8,数字取自 OpenAI 内部代码库的持出数据集。同一篇文章提议把困惑度(perplexity)作为跨实验室比较的共享指标,并呼吁前沿模型开发者共同设立「common limits」——在理解与监测 AI 行为的能力达到具体里程碑之前,开发者承诺不越过的开发限值。
Sam Altman 于 UTC 时间 11 月 22 日 17:12 在 X 上宣布这一发布,称它是「OpenAI 近期发布的最重要的东西」;约 15 分钟后,OpenAI 推理研究员 Noam Brown 独立发声,把透明度应覆盖的范围点到了「包括内部模型」。文中的能力判断与预测均出自 OpenAI 及其人员的单方口径,未经独立验证。
三个数字对应的能力与数据口径
困惑度衡量模型平均预测下一个 token 的好坏,越低预测越好;OpenAI 实际跟踪的是它的对数,也就是 log-perplexity(对数困惑度),也称交叉熵损失(cross-entropy loss)。这次公布的数字全部出自 《Perplexity and Intelligence》:GPT-3.5 在 OpenAI 当前的主要评估数据集上约 0.99,能进行流畅对话,是初代 ChatGPT 的基础;GPT-4 约 0.91,已能高效运用思维链(chain-of-thought)推理,作者称这促成了随后对这一能力的定向激发和现代推理模型的诞生;如今损失已低于 0.8,文中称在这一阶段「已经在网络安全和数学等领域看到变革性能力的出现」。
数据的口径一并公开:自 GPT-3.5 以来,OpenAI 追踪预训练进展所用的主要持出数据集(held-out set,即不参与训练、专用于评估的数据)取自内部代码库,这次报告的就是这组固定快照上的数字。作者在脚注中给出的理由是,这是他们今天评估预训练进展最依赖的数字;对训练数据更老的 GPT-2、GPT-3,作者说明代码预测并非其通用能力的好代理,这次也没有报告两者的对应数值——文中只把两者描述为分别在连贯成段写作和上下文学习上的跃迁。作者同时强调,这些能力恰好落在哪些具体阈值上,事先并不明确,它们本质上是这一指标进展带来的涌现潜在能力。页面未署名作者,正文以第一人称写成。
只盯一个数字的理由:压缩器、0.76 上的数学突破与 0.68~0.7 预测窗口
文章把当代 AI 的开发概括为:先建造大型计算机,在大块非结构化数据上预训练出一个「压缩器」(等价于预测器),再用提示、微调、强化学习等技术激发模型潜伏的能力。作者认为,追踪「造出更好的压缩器」的速度是理解 AI 发展弧线的关键,而 OpenAI 衡量这一「智能基底」(intelligence substrate)进展的主要方式多年来基本没变过——在持出数据集上跟踪困惑度。文中说,「只用这一个指标就能大致描述的模型能力跨度,令人惊讶」,并把预训练造出的、能力难以预测的 AI 称为作者此前所说过的「an alien mind」(外星心智)。
一个先例支撑了这条曲线的分量。OpenAI 一年多来一直把开放数学问题抛给自家模型作为评估手段之一;当升级到 log-perplexity 约 0.76 的模型时,「它开始产出突破性成果」。作者写道,看着我们思考多年的问题在一条 Slack 消息串里被模型接连解出,「感觉非常不真实」,并由此推断深度学习研究本身也可能出现类似的突然转变——「最早到 2027 年,我们就可能看到类似的预训练基础进展雪崩」。往前看,文章预期进入约 0.68~0.7 的 log-perplexity 区间时会出现更多变革性能力:「我不知道那些能力会是什么,我们今天可能也还没有在测试它们。」
加速的来源也被拆开:曲线图上 2026 年那段陡峭加速,文中主要归因于长期研究与算力投入,只有较小部分归因于自动化;对最近的模型,文中称已能看到来自 AI 的有意义的「设计贡献」。至于为什么认为这条曲线比基准测试更可靠,文中给出的理由是:拿现代基准评估 GPT-2、GPT-3 已没有意义,旧基准在 GPT-4 前后基本饱和,而预训练进展「大概率会持续有效」。
common limits 提案:第一条限值、解锁条件与逐级收紧
提议的核心是这一段话:
「我相信前沿模型开发者应当共同努力,就如何评估这类模型、如何在它们首次投入使用时对其安全案例进行红队测试(red-team)建立共享规范,包括共享的透明度标准。我进一步提议设立基于困惑度和其他测量的 common limits:开发者承诺,在我们理解与监测 AI 行为的能力达到某个具体里程碑(例如开发出 CoT 监视器的后继技术)之前,不越过这些限值。也就是说,我希望有一项行业标准,明确规定以某个可跨实验室追踪的关键指标度量的第一条开发限值,以及在越过它之前具体需要达成什么。」
按这个设计,限值可以逐级推进:先定一条用可跨实验室追踪的关键指标度量的限值,写清越过它之前需要做到什么,文章希望由此形成「设定后续限值、放慢进一步发展」的共同框架。
Altman 的主推文发于 UTC 时间 11 月 22 日 17:12,其中说:「我们正在为预训练进展提供大量透明度,希望整个领域能就 common limits 达成一致。我认为这会非常明智,并有助于确保安全与控制。」截至发稿,这条推文已有 3,927 个赞、349,878 次浏览。17:13 的后续帖文是对主推文的回复,逐字引用了上面那段提案原文,与 OpenAI 页面文字一致。
文章列出的动因是:作者预期 AI 也会显著推动对齐与监测的进展,但认为其速度不足以支撑预训练的全部潜在加速,并预期当前主流的对齐审计形式会进一步退化、评估与训练中的感知会继续上升。文中还链接了 Dario Amodei 呼吁为前沿进展设置步调的文章,称「我们希望这成为为未来限速努力建立共享科学基础的一步」。
OpenAI 自己列出的四个短板
文章没有把困惑度说成完美指标,作者列出四条已知问题:
- 跨实验室比较困难。 不同开发者用不同评估数据集、在不同数据配比上训练;OpenAI 这次报告的是自己一直在追踪的主数据集上的数字。作者相信,只要确立透明度这一目标,能找到可迁移的方式比较不同基座模型的质量。
- 与可操作的评估脱节。 困惑度并不直接对应任何一项人们关心的任务,盯住它的理由是其上的进展可望带来全新能力的涌现。
- 不涵盖预训练之外的进展。 思维链推理并不会降低模型达到的困惑度,却能带来能力的急剧提升。
- 下限未知。 损失不可能降到 0——那意味着可以完全确定地预测整个数据集——但数据的固有熵是多少并不知情;越接近下限,困惑度上的表观进展会放缓,而更小的困惑度收益会对应更大的智能跃升。
作者仍为这个指标保留了位置:困惑度经受住了时间考验,许多研究团队长期投入优化,并持续带来通用智能上的稳定收益;他相信它能在统一「如何谈论 AI 进展」上发挥作用,并希望看到全行业在这一点上给出更多透明度。
公开的代价,与还没有数值的限值
公开内部数据是这次发布中一处明确的让步。文章写道:「公开我们的内部困惑度测量经过了斟酌——它会让竞争者更清楚地看到我们所处的位置,但与在全行业建立共享安全措施的紧迫性相比,这一顾虑被压过了。」Brown 的跟进没有附链接:「AI 是会影响所有人的变革性技术,因此所有人都应了解进展轨迹,包括内部模型」。按他的表述,这条进展轨迹把未部署的内部模型也包括在内,而不只是已部署的模型。
提案本身停在纸面上:common limits 由谁度量、如何执行没有说明,作为里程碑示例的「CoT 监视器的后继技术」长什么样、何时算达成也没有定义。截至发稿,其他前沿实验室是否接受这一提议无法验证;至于第一条限值定在多少,这份发布没有写。