AREXOpen in interactive Feed

AREX Feed Article

据《每日电讯报》报道,白宫撤销上月指令,英国 AI 安全研究所重获对 Anthropic、Google DeepMind 和 OpenAI 未发布模型的发布前测试权限

《每日电讯报》(The Telegraph)记者 Tony Diver 于 10 月 11 日发布的独家报道称,白宫已撤销上月的指令,英国 AI 安全研究所(AI Security Institute,简称 AISI)重新获得发布前访问权,可以在 Anthropic、Google DeepMind 和 OpenAI 的新模型公开发布前对其进行安全测试(、)。

报道将这次逆转归因于英国 AI 大臣 Kanishka Narayan 的游说。上个月,白宫国家网络主任办公室(Office of the National Cyber Director)要求主要 AI 公司停止向 AISI 共享未发布模型;Anthropic 随后限制了英国官员对 Claude Mythos 5.1 的评审。

被要求停止共享的公司与美方的理由

按《每日电讯报》的说法,被要求停止共享的公司包括 Anthropic、OpenAI 及其他主要 AI 公司。City AM 在 9 月 25 日的报道中解释了这道要求的含义:让美国公司先把新模型交给华盛顿过目,再与 AISI 共享()。

City AM 的报道引述一名美国政府高级官员的话说:「因为它们是美国公司,而这是我们对待每一个新出现的前沿模型的一贯政策。」《每日电讯报》形容,这道指令是对 Andy Burnham 试图成为 AI 监管世界领导者的一次重大打击。

被限制评审的 Claude Mythos 5.1

按 City AM 当时的报道,Anthropic 没有向 AISI 提供 Claude Mythos 5.1,并称访问最初只向美国机构开放;公司当时表示,正在与美国政府协调,尽快把访问范围扩大到更广泛的国内和国际伙伴。

AISI 主任 Henry de Zoete 在 9 月承认,该机构没有收到 Anthropic 的这一最新模型,但表示它与所有前沿 AI 开发商仍保持着「牢固的关系」;他提到,AISI 曾对 OpenAI 的 GPT-6 Astra 进行发布前测试。City AM 的报道说,这类测试用于查找模型可被用于发动复杂网络攻击或协助生物威胁的漏洞。

周一的演讲:报告义务、NCSC 资源与情报警告

报道预告了 Narayan 周一(10 月 12 日)演讲的内容:他将警告不能任由科技公司自我监管,并宣布一系列措施,降低 AI 对政府、企业和公众构成的风险。

其中一项是修改工党的《网络安全与韧性法案》(Cyber Security and Resilience Bill),强化对参与关键国家基础设施项目的公司的要求:一旦出现涉及 AI 的安全漏洞,必须向政府报告。部长们还计划扩大政府对前沿 AI(指最新、最先进的模型)的使用,以保护白厅各部门免受网络攻击。

Narayan 还将宣布,政府通信总部(GCHQ)下属的国家网络安全中心(NCSC)将为企业提供更多支持,帮助它们防御 AI 驱动的攻击;NCSC、内阁办公室以及文化、媒体与体育部的网络安全官员将获得更多资源,用于调查和响应事件。报道还提到,有消息称军情六处(MI6)、军情五处(MI5)和 GCHQ 的负责人已警告部长级官员,AI 增强了敌对行为者和恐怖分子的能力,他们可能借此使敏感设施瘫痪或获取机密信息。

特朗普的「不要限制」与 Burnham 的 G20 议程

特朗普上个月在联合国大会上说,他希望「鼓励」AI,而不是「约束」它;报道还提到,特朗普曾警告,「全球主义」组织不应干预美国公司开发模型。

英国走的是另一条路。报道称,英国一直试图借 AISI 把自己塑造为 AI 监管的全球领导者,并称 AISI 比国际同行更先进。Andy Burnham 在联合国的讲话中表示,英国将利用明年的 G20 主席国身份推动 AI 领域的全球协作,希望英国充当「诚实的中间人」(honest broker),为 AI 模型制定「一套单一的全球原则和标准」。报道还指出,Burnham 曾声称英国与美国 AI 公司正「亲密无间地合作」;白宫此前阻止英国监管机构访问最新模型,削弱了这一说法。

披露依据与尚未说明的细节

这次逆转的披露依据是《每日电讯报》获得的独家信息。报道没有说明这次逆转的正式文本与附加条件,也没有说明 AISI 何时能拿到下一款未发布模型。

参考链接

  • The Telegraph:
  • AOL(《每日电讯报》全文转载):
  • City AM: