AREX Feed Article
Goodfire 承诺投入 1,000 万美元，启动逆向工程大语言模型的「AI 人类基因组计划」
2026 年 10 月 26 日，Goodfire 在博客文章中宣布：公司承诺投入 1,000 万美元，启动一项逆向工程大语言模型（LLM）的计划。首个目标是解锁可解释性缩放定律（interpretability scaling laws），让对模型的理解随算力投入可预期地增长，做法是把有能力的智能体放进一个可以大规模运行并验证实验的环境；文章写明的终极目标，是完全逆向工程一个前沿规模的模型。
文章由 Thomas McGrath 和 Mathilde Papillon 署名。文章给这项计划设定的交付物是一部「活的」百科全书：持续更新、向所有研究者开放，收录关于模型工作原理的、有实验支撑的因果主张。成本也摊开来讲：扩展到最强的模型「可能需要数十亿美元的共同成本」，需要跨组织的科学协作。1,000 万美元，只是这项工程的第一笔钱。
承诺了什么，没承诺什么
承诺的措辞值得逐字读：Goodfire 写明，这 1,000 万美元用于「开始这个项目」，而非完成它。文章脚注承认「逆向工程何时算完成很难定义」，并给出操作性判据：对前沿规模模型的理解，要足以回应科学家和工程师就其工作原理提出的任意问题，并给出机制层面的解释。
文章设想，可解释性缩放定律一旦成立，研究者就能在训练中引导和干预模型，在部署后预判它在新情境中的行为。终局图景则是数百万个智能体运行可验证实验，向人类与 AI 研究者共享的知识库贡献发现。
Goodfire 是一家机械可解释性（mechanistic interpretability）研究公司，主打可解释性平台 Ember。，成立不到一年的它宣布完成 5,000 万美元 A 轮融资，Menlo Ventures 领投，Lightspeed Venture Partners、Anthropic、B Capital 等参投。联合创始人兼 CEO Eric Ho 当时的表述是「打造让神经网络易于理解、设计和修复的工具」；Menlo 的投资人 Deedy Das 称其团队「来自 OpenAI 和 Google DeepMind」；Anthropic CEO Dario Amodei 称机械可解释性是「把黑箱神经网络变成可理解、可引导系统的最佳押注之一」。
把智能体用于这门学科，Goodfire 已有实践：公司 2025 年 10 月发布的记录了此前数月用 AI 智能体做可解释性实验的经验，开源了一个通用 Jupyter notebook 的 MCP 工具包和一组可解释性任务，并预告可解释性「将很快到达『缩放定律』出现的节点：可以可预期地花费算力，让模型更可解释、更可靠、更可控」。
以上目标、可行性判断和成本估算，均出自 Goodfire 自己的文章；目前能核实的是这笔承诺本身，以及该公司公开的方法论文本。
几百人对一个世纪：被「认知时间」卡住的领域
文章对领域的诊断开门见山：「在它的大部分历史里，可解释性一直在输掉一场竞赛。」量化对比是：可解释性前沿的活跃研究者只有几百人，而神经科学仅一次大型会议就能聚起数万人。脚注引，当年参会者超过 20,000 人。两个领域目标相近，规模相差约两个数量级；按文章的算法，可解释性每获得一年「认知时间」，神经科学能花掉一个世纪。
所谓「认知时间」，脚注定义为以研究者小时计的可投入智能体量，与产生突破性洞见的智能质量相区分。症结在于：研究者至今用手做每一个实验，而可解释性研究特别依赖在假设、实验、解释之间来回穿梭的灵活智能。文章的概括是：「简言之，我们一直受制于认知资源，而非计算资源。」
变化来自智能体。文章引自家实践和 ICML 2024 的称，智能体已经能快速而准确地执行可解释性实验。更关键的是一个领域性质：可解释性几乎没有物理约束，不必培养细胞、建造望远镜或制备新材料，凡是能教会智能体的实验，吞吐量就能随算力扩展。文章说，具备这一性质的领域几乎只有数学和编码，而智能体恰好在这两处最成功。「如果有一门科学应当被 AI 革命，那就应该是可解释性。」
三条轨道：实验工作流、信息架构、科研智能体
文章用一列货运火车作比：智能体提供牵引力，研究者的任务是铺轨，让每项调查留下的发现足够结实，撑得起更宏大的解释。把智能体对准一个网络、说一句「理解这个网络，不许犯错」就走不通，至少在关键时间窗口内的智能体身上是如此。要用其长，速度、执行复杂指令、优化定义明确的指标；补其短，Goodfire 自家研究记录过的误述（misrepresentation）倾向，以及出人意料地难以整合相互冲突的实验数据。
轨道一是严格的实验工作流，让验证一项实验主张变得直接、基本可自动化。文章提出的核心问题是「机械可解释性领域的 Lean 对应物是什么」（Lean 是数学界用来做机器可检验证明的工具），并认为——Geiger 等人 2025 年发表在 JMLR 的理论框架——是有力起点，但必须与网络的真实组件结合。要的是「一套假设检验的语言」，而非单一的可解释性任务或可解释性数字；文章的反问是：「『生物学的数字』是什么？它该怎么升？」
轨道二是面向人类与智能体的信息架构，让实验结果相互叠加，而不是堆成各自为政、彼此矛盾的碎片。当数万～数十万个科研智能体同时开工，结果如何相互支撑、如何暴露值得追查的异常，人类研究者如何指定最重要的问题并从智能体群取回答案。文章的提法是：「当年复一年的研究在一周内发生，这个领域该怎么运转？」
轨道三是能力不断增强的科研智能体。文章判断现有模型的通用智能已经够用，把它们调校出科学心态，就能产出有效的自动化可解释性智能体。
三件事都是开放问题，但文章判断可以在短时间内解决到足够的程度。系统建成之后，文章主张把研究对准最高杠杆的问题：神经网络如何表征事物、如何通过计算构建这些表征、如何学习。这些问题太大，必须拆成实验能回答的具体问题。
一个假说被推翻之后：文章的方法样本
文章自己拆解的样本是线性表征假说（linear representation hypothesis，LRH）。「强 LRH」大致主张：网络把概念表征为激活空间中的方向。文章追溯其出处：，思想底子是 。文章的复盘是：这个领域常常把假说当成要捍卫或推翻的对象；「强 LRH」如今显然站不住。发现，星期、月份这类概念在模型内部以圆环状的多维结构存在；则显示，沿激活空间的真实几何做干预才产生自然的行为轨迹，按线性几何干预会切出流形之外、产出不自然的输出。但线性方向常常确有意义，需要的是一个能同时解释其成功与失败的更好理论。
Goodfire 自己的答卷是「神经流形」研究：与 追问概念是否由更丰富的多维结构表征，以及这对恢复它们的工具意味着什么。配套工具是块稀疏特征器（block-sparse featurizers，BSF）：文章称它是这套多维表征模型的「特征器形态」，角色对应于稀疏自编码器（sparse autoencoders，SAE）；用于视觉模型时，它找回了被常规特征器打碎到单个方向里的结构（）。文章由此给出一般原则：每一族特征器都把一种关于「网络如何形成表征」的假设，即归纳偏置，操作化，理解加深后应当修订（）。解释、实验、修订构成的飞轮，就是他们想加速的那个科学过程。
一部活的百科全书，和两个悬而未决的问题
这部百科全书被设想为人类与智能体的共享接口：把有实验支撑的主张连接到由它们构建的更大解释上，价值在于把许多局部发现整合成对模型的连贯理解。文章脚注点名了既有工具 Neuronpedia，称新百科全书的不同在组织方式：围绕研究问题和答案，背后是一个结构化、类型完备的因果主张数据库和实验代码，而不是围绕模型部件；研究者既能查阅已有答案，也能提出新问题交给智能体调查。
文章自己标出了两个悬而未决的问题。其一，模型继续训练时，百科全书怎么办：哪些因果主张依然成立，哪些要修订。可选做法包括定期重跑支撑实验、选择性复查受更新影响的主张，或找出「实现它们的权重改变时依然保留的回路性质」；核心是「训练到底保留了什么、改变了什么」。其二，百科全书能在多大程度上泛化到单个模型之外：有些发现只反映一个模型的数据、架构和训练，有些则如文章援引的所言可能跨模型成立。文章的判断是：如果可解释性要成为「关于 AI 的科学」而非「关于单个模型的科学」，学会划出这条界线「将至关重要」。