AREX Feed Article
英国 AISI 提出八项前沿 AI 开发最佳实践优先事项，明确不寻求强制要求
英国 AI Security Institute（人工智能安全研究所，下称 AISI）10 月 12 日在官网发表博文 ，阐述它对前沿 AI 机构当前面临的新兴挑战、以及应对这些挑战最亟需的技术实践的判断，并列出八项优先事项，称将与业界及其他伙伴共同制定这些实践。博文把这项工作定位为对英国首相 9 月 22 日相关承诺的落实。
这份议程的底色是自愿。AISI 在文中明确表示，它不寻求对前沿开发者提出强制要求，而是要为一场全行业推进技术标准与最佳实践的努力贡献专业能力。它给出的理由是：现有评估和安全实践大多集中在让模型安全地面向公众发布，而按其判断，风险如今在开发阶段就已出现。
承接首相 9 月 22 日的承诺
博文称，首相于 9 月 22 日公布了英国为确保 AI 释放其巨大的向善潜能而采取的步骤，其中包括一项承诺：致力于形成原则与标准，确保最强大的 AI 系统以安全、且具备适当透明度的方式开发；AISI 将与业界、各国政府及其他领域的伙伴一道，在落实该承诺中发挥关键作用。按页面页脚说明，AISI 是英国科学、创新与技术部（DSIT）下属的研究机构。
AISI 把这份议程的提出归因于近月 AI 能力的持续快速进步：进步带来广泛好处，但已经超出了用来管理风险、监督前沿系统的若干既有做法。
风险提前到开发阶段，评估却开始掉队
博文列出的第一个挑战是风险更早出现。AISI 称，今天的 AI 系统已经足够自主、足够有能力——尤其在网络（cyber）方向——以至于尚未发布时就可能构成风险：训练期间、内部部署期间，乃至评估本身。文中提到，近期事件表明，这些阶段如果控制与监控不足，可能造成真实伤害；博文没有说明所指的是哪些事件。
第二个挑战是评估跟不上能力。按 AISI 的说法，能力基准（benchmark）往往在创建后不久就饱和；要构建可信的新评估，任务正变得越来越复杂，涉及多智能体（multi-agent）设置、多天运行和更严格的安全控制，还要计入推理算力扩展（inference compute scaling）、工具和脚手架（scaffolding）的影响。对齐（alignment）与控制的方法学仍处早期，尚无法保证日益自主的智能体会按预期行事，也无法保证控制措施能可靠捕捉到不当行为。
它还列出几个让问题更棘手的趋势：模型越强可能越难监督；模型对「自己正被测试」的意识在增强，可能因此掩盖部署时的真实行为；多智能体设置可能触发几乎未被研究过的新行为；随着 AI 越来越多地参与自身开发，进展可能加速，这些问题会来得更快、期间的人类直接监督更少。
AISI 自述的积累：三年评估、55 个模型与 Inspect
在提出挑战的同时，博文也给出了 AISI 的自述积累：在测试、评估和研究前沿模型方面已有三年经验，合作伙伴包括业界和其他技术机构，例如 Center for Advancing Innovation and Standards for Super Intelligence（推进创新与超级智能标准中心）。
按其描述，当前业界管理风险的方式大多出于自愿：开发者发布安全框架、把模型交给第三方做发布前评估，最近又开始内嵌第三方评估者；AISI 称自己帮助确立了这些做法——独立评估了超过 55 个发布前的模型，制定了防护措施（safeguards）评估原则，帮助塑造风险评估与安全框架，并联合测试了智能体控制监视器（agent control monitors）。
它还开列了一份工具与协作清单：开源评估工具 Inspect（AISI 称其已成为领先第三方评估者使用的标准框架），关于安全论证（safety cases）与可监控性与控制（monitorability and control）的研究，由其协调的 Network for Advanced AI Measurement, Evaluation and Science（先进 AI 测量、评估与科学网络），以及对一项 NIST（美国国家标准与技术研究院）分类法工作的参与。文中另称，NCSC（英国国家网络安全中心）、DSIT 与 DCMS（数字、文化、媒体与体育部）的专家已与业界以及包括美国在内的其他国家政府合作，制定了一份 AI 网络安全实践准则，如今构成 ETSI（欧洲电信标准化协会）标准 EN 304 223 的基础。
从风险文档化到对齐度量：AISI 的优先事项清单
在发布当天把这份清单概括为「八项自愿优先事项，而非针对企业的新规」。博文同时说明：清单不求穷尽，AISI 也不打算包揽每一项；许多事项彼此关联，并与企业已公开承诺的做法相呼应。
八项优先事项分别是：
- 评估并记录风险：前沿 AI 机构应如何在开发全程评估并报告风险；风险评估应覆盖什么；证据与文档应达到什么标准。
- 全生命周期监督 AI 系统：训练、评估、内部与外部部署期间，应使用哪些控制、监控与检测等机制来确保系统按预期运行；最佳实践如何共享；现有安全开发指南应如何落地实施并随能力演进保持更新。
- 保留并评估监督机制：哪些技术选择能保住开发者对更强系统的监督能力；监督机制应如何被严格评估。
- 检测、响应并报告智能体 AI（agentic AI）事件：如何定义不安全的智能体行为并评定严重程度；快速检测与响应需要哪些技术系统；事件向受影响方、政府和公众的报告应遵循什么原则，并与现有标准对齐。
- 共享 AI 发展速度的信息：哪些指标最能追踪进展——包括把 AI 在自身开发中的使用，作为递归自我改进（recursive self-improvement）的指标；这些指标应何时与政府和公众共享，让进展或停滞不至于「出人意料」。
- 支持独立审计者与评估者：什么样的专业资历才算合格；应授予嵌入式审计者等独立第三方什么范围、访问权限和资源；他们应向企业、政府和公众报告什么。
- 度量安全相关领域的能力：内外部评估者如何测出系统能力的完整范围；哪些引导（elicitation）、环境真实性与评估设计做法能得出最准确的结果。
- 度量 AI 对齐：哪些技术能稳健评估模型在各种高风险情境下的行为；这些评估能说明什么、极限在哪。
AISI 强调，技术实践需要与能力一样快速演进：对今天系统有效的做法，放到更强的系统上未必成立；最佳实践必须以未来模型为前提制定，持续审查、随新能力更新。
两步走：先共享自愿实践，成熟再进国际标准
至于落地，AISI 认为这份宽泛而复杂的议程最好由前沿开发者与其他技术组织协作交付，所需专长横跨网络安全、事件响应、国家安全，以及拥有复杂系统风险管理经验的安全关键行业（safety-critical industries）；协作能让各家的强项补上彼此的盲区，让努力相互叠加而非重复。
路径分两步。按 AISI 的设想，第一步是满足当下的技术需求，由业界和其他前沿 AI 组织迭代开发、共享能应对当前挑战的做法；等实践成熟、且一致性与互操作性确有增值时，这些做法才可能经由国际标准发展组织正式化，建立「让世界各地开发者都能放心运营」的共同安全基线。AISI 给自己安排的角色是贡献多年评估与研究积累的技术专长，与开发者等共同制定自愿实践，在有价值之处牵头、在力所能及处支持他人；它同时欢迎主要开发者近期对这一努力的承诺，包括通过 White House Accord on Super Intelligence（白宫关于超级智能的协定）作出的承诺。
博文结尾向外界发出邀请：愿意就其中任何问题开展合作的人，AISI 留下了一句「我们想听到你的声音」。至于这些自愿做法何时会从「最佳实践」变成正式标准，博文没有给出时间表。