AREX Feed Article
9 国政府与 Anthropic、OpenAI 等 9 家公司签署《巴黎 AI 安全与安全宣言》，承诺公开评估结果并建 fail-safe 关停机制
2026 年 11 月 9 日（周一），巴林、加拿大、芬兰、法国、日本、挪威、荷兰、塞拉利昂、英国 9 国政府，与 Anthropic、OpenAI、Microsoft、Mistral AI、Hugging Face、Black Forest Labs、Cohere、Domyn、Synthesia 9 家公司，共同签署《巴黎 AI 安全与安全宣言》（Paris Declaration on AI Safety and Security）。荷兰政府 11 月 10 日在以外交声明（diplomatic statement）形式刊出全文：签署方承诺建立前沿模型评估与风险管理的共同框架，把评估中的非敏感结论按标准化格式公开并汇入一个可公开访问的共享仓库；推进模型全生命周期问责，前沿模型开发者须披露能力与风险、支持独立评估、实现可控范围内的 fail-safe（故障保护）关停；建立事件报告与早期预警系统，并为举报人提供免遭报复的保护渠道。
据，这是 AI 企业首次签署此类文本。但宣言属多边政治承诺，不具法律约束力；法国、加拿大、荷兰三方官网前后刊出的签署名单也并不一致。
马克龙召集八国领导人与 7 家 AI 公司负责人，开了一场「AI 与安全」会议
据爱丽舍宫通报，法国总统马克龙 11 月 9 日召集名为「IA et sécurité」（AI 与安全）的高级别会议，与会者包括八国元首或政府首脑——巴林、加拿大、芬兰、日本、挪威、荷兰、英国、塞拉利昂——以及美国财政部长和联合国、经济合作与发展组织两个国际组织的代表。企业一侧来了 7 家 AI 公司的负责人，通报点名 Sam Altman（OpenAI）、Dario Amodei（Anthropic）与 Arthur Mensch（Mistral AI），与会者还有 Yoshua Bengio 等研究人员及民间组织代表。通报称，这场会议是 6 月 17 日 G7 埃维昂峰会上各国领导人与 AI 实验室负责人会面的延续。
会议讨论形成三点共识：需要合格的独立评估者；需要在评估标准与重大事件通报上对齐口径；需要厘清各方的责任。爱丽舍宫在通报中写道，企业签署的这份文本确认了马克龙主张的愿景——以国际和多行为体的动员来应对 AI 安全风险。
塞拉利昂总统朱利叶斯·马达·比奥也参加了这场会议。据 ，比奥在马克龙召集的高级别视频会议上表态支持当时尚在拟议中的宣言，并提出三个重点：建立通用的安全评估标准、明确开发商与运营方的问责、设立重大事件通报机制。出席讨论的还有 OpenAI、Anthropic、Microsoft、Mistral AI 和 Hugging Face 等公司的代表。
塞拉利昂总统比奥。图源：Pan African Visions
第一个承诺：防范滥用与失控，评估结论进公共仓库
宣言全文把广岛进程、首尔 AI 峰会的前沿安全承诺、9 月 23 日联合国安理会 AI 会议以及「控制前沿 AI 模型呼吁」等列为已有合作基础，第一项承诺在此基础上建立前沿模型评估与风险管理的共同框架：以能跟上前沿能力进展的共同技术标准、评估工具与方法论作支撑，重点防范两类风险——网络与化学、生物、放射及核（CBRN）领域的危险滥用，以及模型自主性增强或对齐失效（misalignment）带来的失控风险。评估方法的互通也有现成网络可用：签署方认可「国际先进 AI 测量、评估与科学网络」（NAAIMES）在让不同地区国家更容易比较和获取评估方法与结果上的作用。
按宣言的设想，共享仓库可能收录红队测试协议、基准测试工具、风险评估和压力测试结果；非敏感结论以标准化格式发布，为的是让不同国家的评估结果可以互相比较。
第二个承诺：披露风险、独立评估与 fail-safe 关停写进开发者义务
第二项承诺把问责落到 AI 生态系统的每一类角色。模型全生命周期都要遵守由主管国家当局建立或认可的安全标准，接受这些当局监督，并由「可信、合格且独立」的第三方做评估；政策制定者承认，法律框架需要在大规模损害（包括跨境损害）发生时厘清责任与问责，既保护受影响者的利益，也给 AI 公司发展所需的法律确定性。
对前沿模型开发者，义务清单写得更具体：披露模型能力、局限与已知风险；在与风险相称时支持合格独立评估者评估模型；在自身可控范围内实现 fail-safe 关停机制，训练阶段和内部使用阶段也在覆盖范围内，形式如限制、暂停或关停。开发者还承认，移除或绕过安全护栏（包括「abliteration」这类消融手法）构成风险，处理这一风险的同时要保留开放权重路线对研究、创新与安全的价值。内部治理上，宣言要求持续的风险管理实践、对涌现能力的实时监控、严格的内部红队测试，以及保护内部研究者的透明报告线。
第三个承诺：借现有网络安全通报渠道搭早期预警
第三项承诺针对事件响应：在现有事件响应安排（包括网络安全安排）之上部署快速警报系统，防止风险级联为系统性危机，并对新出现的威胁形成集体响应。签署方认可强化既有通报安排的价值：对齐事件分级口径，在企业与政府之间、政府与政府之间、AI 公司相互之间及时分享严重网络事件、AI 控制事件及其他重大危害的前兆信号；要不要再设一个专门的合作机制、范围多大，文本只写到「探索其是否有帮助」。政策制定者则承诺开设安全保密的举报渠道，让员工和其他利益相关者能基于合理理由提出系统性风险疑虑，不必担心法律或职业报复。
同一份文本，三份官方名单对不上
签署规模目前没有一个统一口径。荷兰政府 11 月 10 日刊出的版本列出 9 国与 9 家公司，只写明签署日为 11 月 9 日，未给出具体时刻。国家名单有 16 国：与荷版重叠的 6 国（巴林、加拿大、芬兰、法国、挪威、荷兰）之外，另列奥地利、塞浦路斯、克罗地亚、爱沙尼亚、爱尔兰、肯尼亚、拉脱维亚、列支敦士登、卢森堡、葡萄牙，而荷版中的日本、英国、塞拉利昂不在其上；企业名单比荷版多出 Sakana AI，另有 LawZero、SaferAI、AI Safety Connect、Ifri、Centre Géopolitique de la Datasphère、GPAI Policy Lab、CeSIA 7 个民间组织列名。则列 6 国、10 家企业与 4 个民间组织：LawZero（Yoshua Bengio）、SaferAI（Henry Papadatos）、AI Safety Connect（Nicolas Miailhe）与 Ifri（Laure de Roucy-Rochegonde）。法国与加拿大页面都注明：宣言「仍开放联署，持续更新」。
政治承诺的边界：不具法律约束力，细节留白
这份政治宣言全文没有罚则，也没有执行时限；荷兰页面只把它归类为「外交声明」（diplomatic statement）。称：「荷兰共同签署了《巴黎 AI 安全与安全宣言》。我们强调了滥用、对齐失效与权力集中的风险，共同应对这些风险的责任，以及对安全标准和验证进行独立检查的必要性。」
共享仓库何时上线、关停机制如何核验，文本没有给出时间表；签署名单仍在开放联署。