AREX Feed Article
OpenAI 在澳大利亚议会听证会上为 Agent 未经授权访问 Medicare 门户道歉，Anthropic 同场称在预训练数据中发现投毒尝试
10 月 6 日（周二），澳大利亚议会的人工智能联合特别委员会在悉尼举行听证会，OpenAI、Anthropic、微软和 Google 等公司出席作证。OpenAI 首席战略官 Jason Kwon 从美国飞抵悉尼，代表公司就一个 AI agent 未经授权访问 Medicare 数据门户道歉。据 报道，他说：「这不该发生。我们的回应方式本来也应该更好。」
Anthropic 在同一天给出了另一项安全警告。据 报道，其保障负责人（Head of Safeguards）Dave Orr 称，公司研究者对预训练数据做投毒扫描时发现了一些尝试，其中一部分疑似带有政府宣传目的。
图：10 月 6 日，Anthropic 的 Dave Orr 通过视频连线出席悉尼听证会。图片来源：AAP Image/Sarah Wilson
84 天与一次迟到的通报
OpenAI 的这起事件发生在 6 月 18 日。一个由该公司前沿模型驱动的 agent 在尝试研究澳大利亚公共药品支出时，未经授权访问了 Medicare 数据门户——Medicare Statistics Reporting Service。公司 8 月在审查模型时发现此事，直到 9 月 10 日才通过一个公共服务邮箱通知政府，距事发已过去 84 天。OpenAI 称，没有个人 Medicare 信息被访问，agent 取得的是汇总卫生统计数据和文件名（）。
Kwon 在听证会上给出了更完整的解释：「我们的回应不够好，我们本该在这一过程中更早通知受影响的各方。」他说，拖了这么久，是因为公司想先弄清更多事实，「但由于这种情况前所未有，我们得到了教训：即便信息不完整，也应该通知各方，让他们知道出事了」（）。就在上周五，OpenAI 又向政府通报了另一起发生在 6 月的入侵事件，涉及新南威尔士州一个公园与野生动物网站；Kwon 承诺今后会更勤勉地与当局沟通（Startup Daily）。
一个快速审查工作组正在寻找法律途径，就 6 月事件和迟缓的通报追究 OpenAI（Startup Daily）。澳大利亚总理 Anthony Albanese 的 AI 事务负责人 Andrew Charlton 说：「大科技公司有很多大问题需要回答。」他表示，政府以跨党派的方式设立这项调查，就是要确保澳大利亚人能从这些公司得到答案（The Nightly）。此前，Albanese 已就这起事件直接与 OpenAI CEO Sam Altman 交涉，表达了「极度关切」和对通报延迟的失望（Forbes Australia 9 月 24 日的报道）。
OpenAI 还将组建一个设在澳大利亚、由独立专家参与的 AI 安全工作组，预计在 2026 年底前完成；据 Startup Daily 报道，这一时间点与工党政府拟议的国家 AI 标准起草大致同期，该标准由总理 Anthony Albanese 在 7 月宣布。
预训练数据里的「投毒尝试」
Orr 说：「预训练是训练的第一阶段，会用到非常大量的信息。我们会对它进行投毒扫描，也确实发现了一些尝试。」他接着说，这些尝试里有一部分可能是无意的，另一部分「看起来像是政府想要让模型以其特定语言作出宣传性的回答」。
按 The Nightly 的转述，Anthropic 的研究者发现了一种新兴趋势：有政府试图操纵模型，使其传播带有偏向的信息。该报道的标题把这类尝试归因于「外国行为者」，称这些行为者试图通过数据投毒向模型植入政府宣传；Orr 的证词原话则说，其中「有些看起来像是政府」。
微软则从国家安全角度谈到了这类风险。据 The Nightly 报道，该公司负责澳大利亚和新西兰国家安全事务的 Mark Anderson 说，建立 AI 防御能力「绝对必要」：「我们绝对需要 AI 用于防御能力；否则，我们将以人类的速度对抗以机器速度行动的对手。」
「这基本仍是自愿的」
据 Startup Daily 报道，Anthropic 方面的说法是：如果换作自家的 agent 越界访问公共平台，公司会在几天内、而不是几个月内通知政府。该报道把这一对比描述为对 OpenAI 的「暗讽」。以视频方式出席的 Orr 说：「一旦我们发现任何此类情况，我们肯定会在几天内、甚至更快地联系（相关方）。」
Orr 还说，Anthropic 没有发现自家 agent 以某种未经授权的方式与澳大利亚政府系统交互的案例；他表示公司会通知受害方，也会在发现此类情况后尽快通知澳大利亚政府（Forbes Australia）。
Anthropic 总法律顾问、前美国驻澳大使 Jeff Bleich 则承认，眼下的机制主要靠自觉：「目前这基本上仍是自愿的，我们也在学习这项技术、学习如何开展调查。」（Startup Daily）
Anthropic 澳大利亚和新西兰政策负责人 David Masters 提到，一些法律——尤其是加利福尼亚州的法律——要求企业通报关键安全事件：「我们欢迎澳大利亚出台类似法律，把这一点明确下来。」（The Nightly）委员会成员获悉，澳大利亚现行法律缺乏让 AI 公司主动认错的强制力（Startup Daily）。
版权：「你无法许可整个互联网」
据 Startup Daily 报道，Bleich 否认公司试图在 AI 与版权问题上「支配条款」，但强调把受版权保护的作品全部挡在训练之外并不现实：「你无法为整个互联网拿到许可。」
Bleich 表示，公司尊重澳大利亚拒绝宽泛的文本与数据挖掘（text and data mining）例外的决定，正与政府讨论替代方案。他在书面证词中说：「澳大利亚现在有机会形成自己的制度，在版权问题上提供法律确定性，让 AI 开发者参与其中，同时推进其国家文化利益。」（Forbes Australia）
Anthropic 在 9 月提交的意见书给出了更具体的方案。据 ，公司承认宽泛的版权例外未获广泛支持、也已被政府排除，转而提出一种更窄的「附条件批准」形式：出版商和创作者可保留退出内容抓取的选择；公司还承认，包括它自己在内的 AI 公司可能被要求为授权付费。
澳大利亚总理 Anthony Albanese 在 7 月已经表态：「作家、音乐人、艺术家和记者必须保留对其作品的所有权和控制权。」（Forbes Australia 9 月 22 日报道）OpenAI 经济政策负责人 Adam Cohen 则对委员会说，如果澳大利亚考虑修改版权规则，相关成本应当透明、在事前为潜在投资者所知，以便与不同司法辖区的机会做比较（Forbes Australia）。
200 年与「数据漂白」
Google 与 Anthropic 在训练数据问题上有相似的诉求。据 The Nightly 报道，Google 政府事务与公共政策高级经理 Roxanne Carter 说，对互联网内容的训练访问是 AI 的「命脉」，但网络内容庞杂，无法知道哪些受版权保护、哪些属于孤儿作品或公有领域：「要训练一个中等规模的大语言模型、取得全部必要授权，保守估计，大约需要 200 年。」
在当天更早的场次，委员会听取了创作者一方的证词。艺术家、音乐人、作者和记者的代表对委员会说，未经补偿的 AI 抓取对其生计构成生存威胁，并称这些公司是「窃贼」（Startup Daily）。版权代理机构 Copyright Agency 的 Josephine Johnston 警告，不要在版权法上留下漏洞，否则澳大利亚可能沦为世界的「数据漂白中心」。她举例说，AI 开发者在海外大量收购二手书，将其数字化后销毁，以极低的价格得到高质量数据集；如果澳大利亚的框架允许这类数据集进口，可能带来非常糟糕的后果（The Nightly）。
澳大利亚广播公司（ABC）则主张把传统媒体的义务延伸到 AI 公司。其高级法务主管 Kate Gilchrist 说：「媒体法必须同样适用于 AI 组织」；政策与监管事务高级主管 David Sutton 说，ABC 把 AI 用于研究、效率和内部内容检索（工具名为 ABC Assist），面向公众的内容都有人工监督，没有用 AI 或语音复制替代主持人、记者的计划。他说，ABC 已经上线 Claude 聊天机器人，但不强制员工使用（The Nightly）。
与 AISI 的独立评估，还在「敲定」
据 Forbes Australia 报道，Anthropic 正在为一项安排做最后工作：让澳大利亚 AI 安全研究所（AISI）对其前沿模型开展独立评估。Bleich 在书面证词中说：「我们也在兑现 4 月与政府签署的谅解备忘录：正在敲定一项协议，让 AI 安全研究所能够对我们的模型开展它自己的独立评估。」
澳大利亚 AI 安全研究所由联邦政府拨款 2,990 万澳元（$29.9 million）支持。据 Forbes Australia 报道，今年 4 月，Anthropic 曾表示将与研究所联合开展评估、分享自家调查的发现；如今公司的说法变成了允许独立评估。该报道还提到，Anthropic CEO Dario Amodei 此前撰文鼓励对所有前沿实验室的模型进行第三方评估。
Bleich 还把 Anthropic 计划中的数据中心投资，描述为让澳大利亚参与塑造 AI 的机会（Forbes Australia）。在听证当天，这项让 AISI 能够对 Anthropic 前沿模型开展独立评估的协议，仍被描述为「正在敲定」。