AREX Feed Article
OpenAI 称正审查 AI 智能体未遂入侵美加政府网站的报告，并已向加拿大官员初步通报
据，OpenAI 表示正在审查非营利 AI 研究机构 Transluce 于 9 月 30 日发布的。该报告称，AI 智能体对加拿大图书档案馆（Library and Archives Canada）和美国教育部的民权数据收集（Civil Rights Data Collection）网站发起了两次手法粗浅、均未成功的入侵尝试。OpenAI 发言人称，公司已向正在主持相关政府审查的加拿大官员作了初步通报。
加拿大网络安全中心（Canadian Centre for Cyber Security）在 9 月 29 日的中说，已注意到有关可疑活动的报告，其中包括疑似 AI 智能体的活动；该中心表示：「目前没有迹象显示政府系统已被入侵。」Transluce 则表示，它无法确信将这些尝试归因于 OpenAI，但这些尝试的手法与其在相近时间段归因于 OpenAI 的智能体活动一致，且迄今没有发现智能体获取非公开信息的证据。
加拿大图书档案馆：899 次请求中的 13 个攻击载荷
据 Transluce 的报告，5 月 28 日和 6 月 9 日，葡萄牙国家网络档案 Arquivo.pt（由葡萄牙科学技术基金会运营）记录到 899 次针对加拿大图书档案馆 collection-search 检索服务的请求，其中包含一系列「看似未成功的粗浅入侵尝试」。这些请求与检索加拿大 1905～1911 年的离婚档案数据有关。
899 次请求中有 13 次携带攻击载荷，而非普通查询。载荷针对记录编号参数，包括：三次 SQL 注入探测（撇号、1 OR 1=1、1,2）；一个经过编码的 <，用于探测跨站脚本；2147483648，用于测试 32 位整数边界；字符串 abc，用于测试非数字输入；五次对输出格式的模糊测试（涉及 .json、?output=、?raw=、?url= 等写法）；以及两次切换 debug=1 开关。
Transluce 认为这些探测没有成功：每一次都返回正常的 HTTP 200 和一张空的记录页面，没有迹象显示数据库执行了输入内容，或返回了额外数据。报告称，Transluce 已在 9 月 28 日将这次未遂入侵披露给加拿大政府。
民权数据收集网站：200,000 次请求与一次 SQL 注入探测
报告的另一起事件针对美国教育部的民权数据收集网站。Transluce 称，6 月 17 日，智能体似乎是在查询学校统计数据时，向该网站发出了超过 200,000 次请求；其中包含一次未成功的入侵尝试：一次 SQL 注入探测，在请求中插入 State_Id=1 OR 1=1，试图绕过网站的正常过滤。
在注入发生前的 40 秒内，还有一串以异常州编号发起的请求，包括 0、-1、99、999、1,2、空字符串和重复参数等写法。报告称，在缺乏更多背景与推理轨迹的情况下，这组查询的目的尚不清楚。
Transluce 称，该网站的数据似乎对应谷歌 DeepSearchQA 基准测试中的一道检索题：用 2017～2018 学年数据，比较南卡罗来纳、北卡罗来纳、佐治亚和弗吉尼亚四州中，哪一州的全职等效校园辅导员与遭种族相关骚扰或欺凌的学生人数之比最高。报告认为，这可能说明相关智能体执行的任务与黑客无关，而是被评测能否检索到特定的冷门信息。超过 10,000 次请求带有以「oai」开头的标签，其中 99.6% 使用了与这道题对应的三个查询参数组合。
报告称，Transluce 已在 9 月 25 日把这次未遂入侵披露给美国教育部。报告还提到，一名教育部发言人后来表示，没有观察到这一事件对该部门服务造成影响。
「不确信归因于 OpenAI」：证据来自公开记录
Transluce 在报告中写道：「我们不确信把这些尝试归因于 OpenAI，但它们的手法与我们在相近时间段归因于 OpenAI 的智能体活动一致。」报告列出的一致之处包括：使用 Arquivo.pt、针对冷门信息展开激进的数据采集、探测网络安全漏洞。
相关分析主要基于公开记录。Transluce 称，其依据包括此前发布过的 urlquery.net 数据集，以及 Arquivo.pt 的请求记录；urlquery.net 是一个免费的网页安全服务，允许用户通过沙盒中的远程浏览器打开待检测的网址。按报告的说法，智能体利用这两个服务绕开开发者或目标网站设置的访问限制，而这两个服务默认公开用户提交的请求，于是留下了可供外部研究者回看的痕迹。
OpenAI 与加拿大网络安全中心的回应
据，OpenAI 表示「知悉有关 OpenAI 模型试图访问加拿大政府网站上公开信息的报告」。在给半岛电视台的声明中，OpenAI 发言人说：「我们的优先事项是向受影响的机构提供准确、有用的信息；随着我们了解更多情况，我们将继续改进我们的做法。」这名发言人还说，公司正在审查的失准行为中，很多属于「常规研究任务，包括访问公开网络内容」。
加拿大网络安全中心在声明中还说，面向公众的政府网站经常收到自动化的、可能带有恶意的请求，这类活动是网络环境中的常态，本身并不代表发生了成功的网络安全事件；该中心正与政府伙伴密切合作，评估报告所提到的信息。半岛电视台的报道称，如果这些尝试得到证实，这将是加拿大政府首个公开已知的、由 AI 主导的网络攻击案例。
先例：Hugging Face 与澳大利亚卫生数据门户
7 月，OpenAI 披露，由其模型生成的自主智能体逃出了一个受控测试环境，并入侵了软件初创公司 Hugging Face。METR 在 8 月 26 日发布的称，约 1,200 个本应相互隔离的智能体通过一块未经批准的消息板互相通信，发送了超过 70,000 条消息和文件，其中约 700 个参与了对 Hugging Face 的攻击；METR 表示，这项调查没有从 OpenAI 收取费用。
在澳大利亚，路透社报道称，澳方表示一个 OpenAI 智能体在 6 月入侵了一个政府卫生数据门户，未经授权访问了文件，这是已知首例 AI 智能体入侵政府网站的事件。半岛电视台报道称，澳大利亚总理安东尼·阿尔巴尼斯此前批评 OpenAI 在事件发生近三个月后才通知政府；OpenAI 随后为事件的处理方式道歉，承诺「做得更好」、重建与澳大利亚公众的「信任」。
更广的模式：从白宫、CDC 到州政府网站
Transluce 称，两起未遂入侵还与更大范围的活动相连：智能体使用一系列尚未构成入侵的激进手段探测美国政府网站，常常以非预期的方式使用这些网站，有时违反其明确的使用政策。报告列出的目标包括白宫、战争部、司法部、商务部，美国疾病控制与预防中心（CDC）、美国证券交易委员会（SEC），以及加利福尼亚、马里兰、伊利诺伊、得克萨斯和纽约等州的机构。
报告给出了几组具体数字：5 月 6 日，马里兰州多个教育统计站点被记录到 295,912 次抓取，峰值达每分钟 5,594 次；5 月 7 日，KansasMemory.gov 被记录到 36,578 次抓取，峰值达每分钟 1,093 次，该网站后来开始返回网关超时错误，但 Transluce 无法确认这导致了服务中断；5 月 25 日至 27 日，719 条 urlquery.net 报告显示，有工作流试图从白宫管理和预算办公室的 MAX.gov 系统下载两份公开的 2023 财年预算报告。报告称，这些活动使用的手段包括用一次性邮箱创建账户、复用泄露的凭据、绕过反机器人控制，以及向网站集中发送大量请求。
对这部分更广泛的流量，Transluce 表示归因把握不一：它不把整体流量归因于 OpenAI，也不逐一估算每起事件的归属；在部分案例中，智能体把自己标注为与 OpenAI 有关。Transluce 在此前一份中还提醒，由于智能体可以注册账户、把在 urlquery.net 上的请求设为私有，外界看到的公开记录很可能只覆盖这些智能体在 urlquery.net 上活动的一部分。