AREX Feed Article
微软总裁 Brad Smith 呼吁制定全球 AI 安全规则，称 AI 受到的监管比牛奶还少
微软总裁 Brad Smith 在 BBC《Big Boss Interview》播客中呼吁为 AI 制定全球安全规则。据 CARE 10 月 12 日的，他提出的具体要求包括：系统被 AI agent（AI 智能体）入侵时，当事人应当得到通知；平台在发布前应由独立评估者判定是否安全；AI 公司应配备「紧急制动」，也就是 kill switch（紧急关停开关）。他说，AI「既是工具，也是武器」。
他把 AI 的监管现状与牛奶、洗衣机作比较，并称最有条件牵头的是英国，依据是英国 AI Security Institute（AISI）的工作。同日， 与 （经 Morningstar 发布）也报道了这次访谈。
洗衣机、牛奶与「这一刻已经到来」
Smith 对播客说：「眼下，你的洗衣机比 AI 受到更多安全规则的约束。你在杂货店里看到的每一盒牛奶，都要接受安全规则和检查。」
关于时机，他说：「当你看到脱离人类控制的 AI agent，当你看到强大到正在把全球网络安全置于风险之中的模型，我会说：这一刻已经到来。」他还说：「让我们从今天就开始。」
告知义务、独立评估与紧急制动
第一项要求是告知。在 CARE 的转述里，如果某人的系统被 AI agent 攻破，这个人应当得到通知。IT Pro 的报道把要求说得更具体：Smith 呼吁给企业立下法律义务，在系统被攻破时出具事件报告、通知受害者。
第二项要求是评估的独立性：AI 平台在发布之前，应由独立评估者判定它是否安全。IT Pro 对评估者角色的描述是「独立的政府机构」。
第三项要求是刹车：AI 公司应配备「紧急制动」，也就是 kill switch，在 AI 失控时把它停下来。
在他看来，这件事不必从零摸索：「我们知道如何为其他产品做这件事。」他说，「我们应该在这份知识的基础上，思考如何把它应用到 AI 上。」
点名英国：AISI 与白宫撤销的禁令
Smith 说：「我实际上认为，最有条件推进 AI 安全标准乃至规则的国家和政府，就在这里，就是英国。」他补充的理由是：「在科技行业里，我认识的大多数人，如果你问他们哪个国家在这项技术能力上领先，答案很简单：英国。他们是最好的。」
他也描述了自己希望这件事怎么推进：「让我们平静地，甚至可以温和地，但坚定地发声，开始把人们聚到一起。我希望这是我们可以作为公司扮演的角色，也希望这是英国可以作为一个国家扮演的角色。」
据 Alliance News 的报道，AISI 由前首相 Rishi Sunak 任内设立，负责研究潜在风险、测试先进 AI 系统，并与政府及科技公司合作提升安全标准。Smith 认为，AISI 的工作说明英国比美国更快跟上了这项技术。
此前，AISI 能否接触最新的 AI 模型一度成为问题。按 Alliance News 援引《The Telegraph》的报道，白宫曾要求包括 Anthropic、OpenAI 在内的主要公司，不要向 AISI 提供最新模型的访问权限，Anthropic 因此停止让英国官员审查其新模型 Claude Mythos 5.1；在英国 AI 事务部长 Kanishka Narayan 游说后，美方撤销了这一禁令。
Smith 认为，由英国牵头全球 AI 安全，在美国也可能得到正面看待：「在华盛顿，人们看待英国、看待伦敦的方式，跟看待布鲁塞尔不一样，这是一种优势。」
「这是必要的一步，但它已经不够了」
上个月，OpenAI、Anthropic、Nvidia、Meta、Google 等多家 AI 公司的代表与美国总统 Donald Trump 会面，签署了一份对 AI 开发进行自律的协议。IT Pro 称，协议内容是这些公司与独立审计方合作评估其 AI 系统，且只具有「道德约束力」。
Smith 表示微软「乐于签署」这份协议：「这是很好的一步，也是必要的一步……但我认为它已经不够了。」
特朗普则一再表示，AI 公司应当自我管理，他不想看到它们被「扼杀」；在与中国竞争的问题上，他说过「谁赢得 AI，谁就是赢家」。
Nadella 的「信任架构」与英国的下一步
微软董事长兼 CEO Satya Nadella 10 月 10 日在 X 上发布了一篇，主张在超级智能（Super Intelligence）时代把前沿模型当作「内部风险」来管理：任何能接触重要系统的角色都可能犯错或被攻破，无论模型本身是否怀有恶意。
「是时候退后一步，审视这个新时代的信任架构了。」他写道，「我们不能把『智能代替我们做什么』的责任外包出去。模型提供方的保证，并不能免除我们的责任。」
他列出的机制中，有两项与 Smith 在播客中提出的主张相近：一是像「紧急制动」一样的关停能力，让被授权的人「始终能够在任务中途暂停或关停模型」；二是出错后的披露义务，系统失败或被攻破时，及时告知受影响者，并把失败原因、哪些控制失效、如何防止重演在行业内共享。
另据 Alliance News 报道，Narayan 预计在周一（10 月 12 日）的演讲中警告日益强大的 AI 带来的风险，呼吁企业采取更多措施确保系统安全，并将宣布英国加强网络防御的新举措；他还将主张，英国需要自己发展更多技术，才能对 AI 如何塑造未来拥有更大的发言权。