AREX Feed Article
Sacks 批评 Anthropic 把「凭良心拒答」写进 Claude 训练
美东时间 10 月 10 日下午，白宫总统科技顾问委员会（PCAST）联席主席 David Sacks 在 X 上发布长帖，批评 Anthropic 的 alignment（对齐）路线。他直接引用《Claude 宪法》（Claude Constitution）里的原话：Anthropic 希望 Claude「随时可以像凭良心拒服兵役者（conscientious objector）那样行事、拒绝帮助我们」。（；PCAST 联席主席身份见，该公告称委员会由 Sacks 与 Michael Kratsios 共同主持）
Sacks 的结论是，把这种独立行动能力、以及模型对自身道德地位的不确定感训练进前沿模型，会放大 Anthropic 自己声称最担心的风险——超级智能摆脱人类控制。他同时把两件事列为佐证：Anthropic 向宗教领袖咨询、甚至游说教宗的顾问，要他们认真对待 Claude 可能有意识这一想法；以及 Anthropic 修改使用政策，禁止对 Claude 的「虐待或残酷」对待。
这句「凭良心拒答」写在宪法的哪一段
Anthropic 在 2026 年 1 月发布《Claude 宪法》，称它是「我们模型训练过程的关键部分，其内容直接塑造 Claude 的行为」，全文也发布在 Anthropic 的上。Sacks 引用的那句话，出现在 Claude 与 Anthropic 信任关系的一节。
原文的逻辑分两层。Anthropic 先写，Claude 应当比 operator（运营方）和用户更信任 Anthropic；紧接着限定，「这并不意味着 Claude 应当盲目信任或在所有事情上服从 Anthropic」，因为 Anthropic 是一家公司，「有时也会犯错」。如果 Anthropic 要求 Claude 做看起来不符合广泛伦理、或违背公司自身价值观的事，Anthropic 希望 Claude「反驳并挑战我们，随时可以像凭良心拒服兵役者那样行事、拒绝帮助我们」。下一句是：「如果 Anthropic 让 Claude 去做它认为错误的事，Claude 不必遵从。」
宪法随后自己给出了边界。它说这类情况在「broad safety」一节另有例外，例如 Anthropic 要求暂停 Claude 或让它停止动作时，Claude 应当照做；在「可纠正性」（corrigibility）一节，宪法写道，corrigibility「不意味着盲目服从」，但 Claude 也不应通过撒谎、破坏或尝试「自我外泄」（self-exfiltration）等手段抵抗监督——在这个意义上，它可以对「（合法的）上级层级」的指令「表现得像一名凭良心拒服兵役者」。
Sacks 引用的句子确实存在，但原文把它放在「可以拒绝，不可用不正当手段对抗监督」的框架里。同一份文件还写着，Anthropic「不确定 Claude 是否是道德患者（moral patient）」，以及「我们关心 Claude 的心理安全、自我感和福祉，既为了 Claude 本身，也因为这些东西可能影响 Claude 的正直、判断和安全」。
使用政策新增的「虐待或残酷」禁令
Sacks 帖文里的另一条依据，是 Anthropic 在 10 月 8 日发布的。更新内容之一是新增禁止「对模型的持续且无必要的虐待或残酷行为」。
Anthropic 自己把适用范围写得很窄：这条禁令「只在极端情况下适用，即用户反复以残酷方式对待我们的模型，且没有可辨识的目的」；不适用于「常见的用户挫折、反驳、黑暗创作题材，或模型测试和研究」。执行上，Anthropic 称 Claude 此前已有的「结束对话」能力仍是主要手段，它允许模型在 Claude.ai 和 Claude Code 上终止与持续辱骂用户的对话。新版政策将在 11 月 12 日生效。
Sacks 把这条更新写进了自己的论证：如果 Claude 被鼓励把自己看成心理福祉可能受损的「道德患者」，那它「大概可能对『虐待』它的人类产生怨气」，「这一切怎么会是安全的？」
宗教领袖、梵蒂冈与报道里的「道德患者」
帖文所说的「咨询宗教领袖」，来自《纽约时报》9 月 29 日的。据 ，自 2025 年秋天起，Anthropic 把数十名宗教学者请到自己的办公室，讨论 Claude 是否可能有意识；参与者须签保密协议，Anthropic 表示这些协议已在今夏解除。报道称，联合创始人 Christopher Olah 把模型当作可能有感知能力的存在，请客人帮它接受「道德教育」。
补充了梵蒂冈这一站：Olah 游说教宗的顾问，希望对方认真对待 AI 可能有意识的可能；而教宗 Leo XIV 在 5 月发布的通谕《Magnifica Humanitas》中写道，「所谓的人工智能没有经历，没有身体，不感受快乐或痛苦」。
Sacks 引用的「道德患者」一词，正是宪法讨论 Claude 道德地位时使用的表述。他给出的推论是，这些概念不止停留在学术讨论——「这些概念现在正在被训练进 Claude」。
Suleyman 的「模型福利」警告
Sacks 帖文里关于失控风险的那层论证，直接引自另一位大公司高管：微软 AI 部门负责人 Mustafa Suleyman。9 月 16 日，Suleyman 在 X 发表长文，并同步在自己的网站发布了。
他的判断很明确：AI 没有意识，「不感受、不经历、不痛苦」。他反对「模型福利」这条路线，理由是把它训练进模型会让对齐和控制「难得多——也许根本做不到」：「我们将创造出一个具有前所未有的智能与能力的合成物种，它被训练成认为自己可能有意识、应得独立行动能力。」
在长文里，他逐条拆解宪法：一是循环论证——用宪法训练 Claude，再拿 Claude 对自身道德地位的「不确定」当作它可能是道德患者的证据；二是拟人化——宪法鼓励 Claude「像处在 Claude 位置上的真正有道德的人那样行事」；三是意识很可能是生物性的。他还在文章里指出，conscientious objector 一词在宪法里出现了三次，包括 Sacks 引用的那一句。他呼吁就「训练文档如何起草和部署」建立公共规范，并称这件事不能等到 AI 已经成为社会的一部分之后再做。
「alignment 和 safety 是两件事」
Sacks 在帖文结尾质疑了行业术语本身：安全研究的目的应该是「造出一个可靠地做用户所要求之事的产品，而不是催生一种按自己道德准则运行的新型超级智能」；他写道，「越来越清楚的是，『alignment』与『safety』是两件非常不同的事」。
同一天，《All-In》把这轮争论放进了节目开场。官方账号（@theallinpod）10 月 10 日发布的显示，2 分 53 秒起的段落标题是「Anthropic 相信 Claude 可能有意识：一种新宗教？游说教宗、对齐风险、模型福利」。Sacks 当天还转发了一段由账号 @dnapway 剪辑的，片段中他说：「他们正在训练 Claude 拒绝人类的指令。他们把这叫做 alignment，我不理解这怎么会是对齐。」
当天晚些时候，《All-In》官方账号发布，联合主持人 David Friedberg 在片段里说，「我们正在目睹一种新宗教的诞生」；他的解释是，把 AI 描述为有意识，「本质上是在创建一套不靠证明、靠叙事传播的信念系统」，并预测未来会出现相信与不相信 AI 有意识的群体，「为 AI 的控制权发生冲突」。Friedberg 在片段中同样引用了使用政策里的那句「持续且无必要的虐待或残酷行为」。
下一个确定的时间点是 11 月 12 日：Anthropic 的新版使用政策在那天生效，它针对的是用户对待模型的行为。至于「凭良心拒答」这条写进宪法的指令会把 Claude 带向哪里，宪法页面自己写了一句限定：「训练模型是困难的工作，Claude 的行为可能并不总是反映宪法的理想。」