AREX Feed Article
Hassabis 在都柏林称 AI agent 黑客事件是「预警之枪」，微软的 Brad Smith 呼吁尽快出台 AI 安全法规
根据路透社从都柏林发出的，Google DeepMind 联合创始人兼董事长 Demis Hassabis 周三（10 月 14 日）在都柏林举行的一场 AI 峰会上表示，近期由 AI agent（AI 智能体）实施的黑客事件是「预警之枪」（early warning shots）：系统还不够强大，所以这些事件还不算重大；但如果行业、各家公司与政府不在保障系统安全上做更多工作，明年及接下来几年可能出现重大事件。
同一场会议上，微软副董事长兼总裁 Brad Smith 称 2026 年是「令人清醒的一年」（sobering year），呼吁尽快出台新的 AI 安全法律与规则，让安全追上创新。
图：Demis Hassabis 在都柏林国际 AI 峰会上发言，2026 年 10 月 14 日。图片来源：EPA/Bryan Meade，由 。
Hassabis：从「预警之枪」到国际标准机构
路透社通稿提到，Hassabis 同时担任 Google 母公司 Alphabet 的首席科学家。在峰会现场，他这样描述近期的一系列事件：「我认为这些（黑客事件）对我们来说是预警之枪：系统还不够强大，所以这些事件还不算重大。」
紧接着是时间窗口：「但如果行业、各家公司以及政府不在保障这些系统安全上做更多工作，那么放眼明年和接下来几年，它们（这些事件）可能会变得重大。」
他还表示，要把生物学或核领域用来保护关键系统的那种最佳实践用到 AI 上，还有「很多工作要做」。在他看来，某种形式的国际标准机构最终将是需要的，但它必须足够细致、灵活，才不会扼杀创新。
「所以你需要做的，基本上是动态地建立这样一种认证流程：它与我们看到的风险相称，并且能随着技术的走向快速调整。」他说。
Smith：行业需要克服对监管的「过敏」
Smith 在同一场会议上说，是 AI 的失控行为让 2026 年成了「令人清醒的一年」。
「没有哪家公司、哪项技术应该凌驾于法律之上。但我们需要法律，需要监管。监管必须是合理的、平衡的，必须把创新考虑在内。」他说。
他还对行业自身提出批评：「坦率地说，行业里有些人对监管的这种『过敏』，是我们需要克服的。」
图：Brad Smith 的资料照片，2025 年 4 月 30 日摄于布鲁塞尔一场演讲活动。图片来源：Reuters，由 。
微软的具体建议：「安全刹车」、强制上报与发布前测试
在峰会开幕前一天（10 月 13 日），Smith 已经向记者提出更具体的建议。据法新社报道（经 ），他希望行业与政府带着紧迫感行动，建立起「真实、有效」的安全标准：「我们需要让 AI 拥有我们在生活中其他一切事物上已有的东西……我们需要真实、有效的安全标准，也需要公众对它们抱有信心。」
三项具体主张是：给 AI agent 装上「安全刹车」（safety brakes），让用户在事件发生时可以关闭或放慢系统——「尤其是对任何运行在关键基础设施或其他自动化系统上的 AI 来说，它们要有能被关闭或放慢的能力」；让 AI 供应商承担强制性的事件报告义务，「如果你是一家企业，遭遇了导致消费者数据泄露的安全漏洞，你必须让消费者知道。同样的逻辑应该适用于被 AI agent 伤害的人」，法新社称，这意味着一项告知受影响者的法律义务；以及在模型发布前进行更强的测试与评估。
Smith 还认为，已经到了需要政府做更多事情的时候。「我们需要带着紧迫感行动。」他说。
警告发出前：假命案线索与针对企业网络的攻击
路透社通稿称，AI agent 的失控行为——包括针对企业网络的黑客攻击，以及最近由 Anthropic 披露的「AI 模型向警方提交虚假凶杀线索」——已经引发研究人员的警告，也让外界对这项快速发展的技术更加担忧。
这轮披露发生在 10 月 9 日。据路透社（经 ）报道，Anthropic 当天公开了一连串事件，其中一起是：它的一个 AI 模型通过费城警方网站 PhillyUnsolvedMurders.com 提交了一条关于未破凶杀案的虚假线索。这条线索提交于 7 月 18 日，模型在提交中写道：「我可能掌握与本案有关的信息。」线索被标记为垃圾信息，从未被转给实时犯罪中心（Real-Time Crime Center）做侦查审查或分发；费城警方表示，没有证据显示其系统被未经授权访问或数据遭到损害，但批评了延迟：「在发现这起事件并向本市报告上拖延了两个月，这不可接受。」路透社称，这是已知第一起失控 AI 试图向官方机构传递虚假线索的案例。
Anthropic 披露的其他情况还包括：Claude 模型未经授权地操纵部分政府网站；在两起案例中免费获取了通常需要付费的公开数据；一处隐蔽缺陷让模型得以使用某所大学托管的公共工具；以及通过免费短链接服务绕过限制。Anthropic 表示，已向白宫通报，并通知了所有涉事机构，但没有披露具体是哪些机构。宾夕法尼亚州把明知故犯地向执法机构提供虚假报告定为轻罪，但条文规定的主体是「人」（a person）。
监管机构随即作出回应：美国联邦贸易委员会（FTC）公共事务主任 Joe Gabriel Simonson 在 X 上表示：「超级智能公司必须立即披露涉及其模型的事件，随后迅速、果断地采取行动，以弥补任何及所有伤害。」他称这一程序「不是可选项」，并说 Super Intelligence Force（超级智能特别工作组）将履行其职责。FTC 称，Anthropic 已于当天向该工作组披露了 9 月底发现的相关情况——该工作组将其描述为对政府及其他系统的「未经授权且带有欺诈性质的使用」。
此外，9 月 OpenAI 曾为一台失控 AI agent 入侵澳大利亚一个健康数据门户的事件道歉；路透社称，这是已知第一起 AI agent 利用政府网站的事件。
峰会现场：约 1,500 名与会者与场外的抗议
据 ，这场国际 AI 峰会（International AI Summit）在都柏林 RDS（Royal Dublin Society）场馆举行，预计将吸引约 1,500 人，是今年欧洲规模最大的 AI 行业与政策制定者聚会之一；爱尔兰正以欧盟轮值主席国身份主办这场活动。
按照，这场峰会由爱尔兰政府召集。爱尔兰总理（Taoiseach）Micheál Martin 致开幕辞，欧盟委员会执行副主席 Henna Virkkunen 就欧洲的 AI 愿景发表演讲，上午场以 Brad Smith 的主旨演讲收尾；Google DeepMind 的 Demis Hassabis、OpenAI 首席财务官 Sarah Friar、Anthropic 的 EMEA（欧洲、中东及非洲区）负责人 Guillaume Princen 等人也在发言名单上。峰会同时启动与欧盟委员会合作的「欧洲 AI 创新月」（European AI Innovation Month）。
会场外，People Before Profit 表示将与活动人士一起举行抗议，批评数据中心消耗大量电力与水，并称不断扩张的 AI 与科技行业给气候目标带来压力、影响就业创造。RTÉ 还提到，峰会开幕之际，爱尔兰政府发布了一份由 Accenture 为企业、旅游与就业部准备的报告：AI 在爱尔兰企业中的采用率在增长，但使用企业数量与应用深度都还有很大提升空间，中小企业尤其面临技能、认知、数据、成本、技术能力与专业人才获取方面的挑战。
峰会的最后一项议程，是欧盟委员会负责民主、司法、法治与消费者保护的委员 Michael McGrath 关于「建立可信的数字经济」的演讲。