AREXOpen in interactive Feed

AREX Feed Article

Dragos 首席研究官 HD Moore 在 200 万条 AI 提示词中埋入金丝雀:发现至少 3 家提供商遭入侵,ZDR 标记被无视

November 21, 2026

过去五个月里,安全公司 Dragos 的首席研究官 HD Moore 向常用 AI 服务发送了约 200 万条提示词,每条都埋着一枚此前从未在任何地方出现过的秘密:绑定空账户的真实 AWS 访问密钥、SSH 密码、私有 git 仓库引用、唯一的 URL 和 DNS 名称。这些提示词经由 OpenRouter、Vercel 这类 AI 路由器与转售商构成的网络发往各家模型提供商。11 月 19 日,Moore 在 Dragos 博客公布实验结果;11 月 20 日,Ars Technica 报道了这项研究,称其发现的是一个「像筛子一样泄漏高度敏感数据」的生态系统。

结果显示:有证据表明至少 3 家 AI 提供商遭攻击者入侵、收到的提示词被批量抽走,被盗诱饵 AWS 密钥总共被用于数万次 AWS API 调用;多家转售商记录提示词,随后有人拿提示词里的凭据登门试探受控服务器;一家中国 AI 实验室的爬虫抓取了其收到的一半以上提示词中的秘密 URL,其中约三分之二带着「不收集数据」或 Zero Data Retention(ZDR,零数据留存)标记。这些发现均出自 Moore 的实验与 Ars Technica 的报道,涉事提供商一律未被点名,也未经独立验证。

图:Ars Technica 为这篇报道所配插图。

秘密只存在于一个地方,有人动用就会报警

金丝雀(canary token)的原理很直接:一枚秘密只投放在一个地方,谁动用它,谁所在的位置就暴露了。Moore 的团队 7 月起用 Thinkst Canarytokens 播种,每个请求携带一枚 AWS 密钥、一个 DNS 名称和一个 URL,全部从未在别处出现过;令牌几天内就开始触发。之后他们搭了专用的播种服务:为每条提示词生成唯一种子,派生出独有的主机名、URL 和凭据,并把凭据指向的服务全部架设起来——DNS、web、git、SSH、数据库、邮件,外加一长串老旧协议。AWS 密钥是绑定空账户的真密钥,全程开着日志。任何一次触碰,都能对应回确切的提示词、模型、路由和隐私设置。

每条秘密只进一条提示词、只发给一家提供商,泄漏一旦发生就能锁定环节。博客配图中的控制台截图显示:200 万枚令牌全部处于激活状态,累计发放 180 万枚种子,事件累计约 1.12 万起。

图:Dragos 金丝雀控制台总览。

金丝雀只能证明提示词泄漏了,不能证明漏在链条哪一环——路由通常只报一个上游,而那个上游往往又是另一个路由。团队为此给 AI 推理做了类似 traceroute(路由追踪)的探测:在请求里放一个指回自家服务器的图片 URL,谁抓取图片,谁就交出自己的 IP、HTTP 客户端和时间戳;再故意发出轻微畸形的请求,每层路由会把下一跳的错误按自己的格式包起来,一次响应里能拆出三四层嵌套「信封」,对照签名库就能列出每一跳的软件、网络,常常还有运营它的公司。目前已追踪约 2,000 条路由:几百条里出现了无法识别的系统,少数几条把图片送给了广告路径上根本没提到的公司。博客还记录了两类暗藏的中间层:一家市场卖家悄悄往每条提示词里塞进约 1,000 个隐藏令牌;另一家通过共享的消费者订阅账号抓取图片。

三家提供商被入侵:有的请求还没跑模型就先被偷走

最重的一项发现也最直接。Dragos 在博客中说,他们发现有攻击者正在从三家不同的托管提供商处窃取数据:最早的一起可追溯到 7 月中旬,而三家提供商在 Dragos 通知之前都不知道自己已被入侵。诱饵提示词是与真实客户请求一起处理的,博客据此判断,那些真实请求「几乎可以肯定」也被一并复制。

规模最大的一起涉及几百枚 AWS 密钥:每一枚都只随一条请求发给这家提供商,全部集中在 10 月下旬的几个短窗口里,窗口内发出的每一条请求都被偷走。博客配图记录了其中一枚被盗密钥的时间线:10 月 21 日播种,次日被首次使用,三周后仍在使用。部分被盗密钥甚至来自提供商在模型运行前就已拒绝的请求——Moore 由此判断,攻击者是在提供商的「前门」复制流量,而不是在推理栈深处。另外两起入侵中,部分被盗请求带着 ZDR 标记;他的原话是:「当攻击者已经在门内时,隐私标记帮不了你。」

拿到凭据后,攻击者的路径几乎可以预测:先在几小时内测试每枚密钥是否存活,然后列出 S3 存储桶、翻查 Secrets Manager 和 Parameter Store,再试图在 AWS Bedrock 启用托管模型、创建 Bedrock API 密钥、添加自己的 IAM(身份与访问管理)用户以维持访问。其中两家提供商疑似同一对手所为:发给这两家的秘密几乎同时从同一台租用服务器上被使用。三周里,攻击者的工具从伪装成 Windows Chrome 的脚本,换成 OrbStack 里运行的 Boto3,再换成 Kali Linux 上的 AWS CLI;11 月 1 日,这位攻击者又接入 ARTEX,一个 LLM 驱动的自主渗透测试框架——FBI 也已就此发布通告,警告黑客用它自动化从侦察到数据外泄的多个入侵阶段。在这起实验里 ARTEX 没做什么大事,只打了几个调用确认手里密钥还活着;它发送的 artex-agent 与 artex-judge-r121 两个 user agent(用户代理标识),按博客的说法在任何公开指标列表里都找不到,值得防守方加进检测规则。

不用漏洞的偷法:挂最低价、开日志、然后等待

第二类发现连漏洞都不需要。在 AI 推理市场作案的卖家,把某个模型挂到最低价、打开请求日志,然后等待即可。Dragos 把这类行为归为「对客户提示词的未经授权访问」:这些卖家利用标准日志功能查看并留存客户提示词,没有利用漏洞,也没有绕过平台控制。Ars 的概括更直白——多家转售商记录了提示词,「并以某种方式把它们传给了使用这些凭据的人」。

被抓到的作案者是以个人身份动手的:他们从看起来是家庭宽带和个人电脑的环境发起操作,对着金丝雀服务器一枚一枚试登录。一个案例里,两条提示词经同一位卖家的报价发出,约一天半后,一条家庭宽带上的用户用桌面浏览器打开了两个秘密 URL,开始在登录页猜用户名;同一模型经另一位卖家发出的提示词始终无人触碰——按博客的说法,这说明泄漏跟着卖家走,而不是整个市场。另一个案例里,一名攻击者用法国一条家庭宽带上的 Mac,取走两条提示词里的密码,尝试以 root 身份 SSH 登录,每次都手工键入;同一台 Mac 后来又在一次会话里测试了几枚 AWS 密钥。

其中一枚密钥当初是发给另一家完全不同的路由器的——事后发现,那家路由器在悄悄把部分流量转发给这个市场,又一个没有披露的中间环节。

ZDR 挡不住爬虫,也挡不住内部聊天

第三类发现里没有人动用凭据,但提示词里的秘密 URL 被反复抓取,其指向的私有 git 仓库也遭人尝试克隆——而且按博客的说法,这大多与请求上的隐私设置直接冲突。

最清楚的例子是一家中国 AI 实验室。该实验室的系统抓取了 7 月到 10 月间发给其模型的超过一半提示词中的秘密 URL,其中约三分之二的请求带着「不收集数据」或 ZDR 标记,爬虫通常在请求发出两三天后出现。这不限于直发该实验室的请求:多家美国托管提供商在转售这家实验室的模型,发给这些提供商的提示词触发了同一个爬虫——提示词在流回实验室。按 Moore 的说法,专门挑美国提供商、想把数据留在美国的客户,并没有买到他们想要的东西。后来,另一家云上的一个 git 客户端开始尝试克隆提示词里引用的私有仓库,但只针对用过这家实验室模型的提示词。

美国的大提供商也有自己的问题。一家在单次推理调用(打到其搜索端点)之后超过两个月,仍在爬取那个秘密 URL;另一家运行的爬虫会在每次请求后几天回访 URL,无论请求经由哪台路由器到达。

最离奇的一起事件发生在公司聊天里。一条带 ZDR 标记、发给一家美国提供商的提示词,其中的秘密链接在 24 天后被贴进中国境内一个公司内部的飞书(海外版名为 Lark)群聊频道;两分钟内,链接从北京和上海的 3 台桌面设备与 3 部手机上被打开。Dragos 向涉事提供商通报时只透露了链接的前 8 个字符,也就是说,贴链接的人手里存有完整提示词的副本——此时距请求发出已超过三周。Moore 在博客里写道:「Zero Data Retention 本应是有意义的。实际上,这些提示词被留存、被分享给其他公司、被人阅读。」

为什么每一跳都读得到明文

提示词在传输途中是加密的,但在转售网络的每一跳上都会被解密。Ars 解释了流程:提示词先发给 AI 路由器,路由器读取明文,判断哪家推理提供商最适合处理这次请求;请求随后常被发往一池可用模型,它们可能运行在不同的托管提供商那里;提示词还会从一台路由器(比如 Vercel)传到另一台(比如 OpenRouter)。这些玩家中的每一个都可能把提示词记入日志,并按各自策略保存——如果不是无限期的话。

路由器卖的是单一 API 端点、统一计费和一池可用模型,替开发者省钱省事。但按 Dragos 的描述,一些路由器是开放市场,谁报价最低谁拿走请求;卖家可以用不计量的消费者套餐订阅、初创额度之类的低成本路径凑出推理能力,更灰暗的市场里甚至有用被盗 AWS 凭据或消费者 API 密钥买单的推理。按博客的描述,卖家想抽走客户数据,步骤是:把热门模型挂到最低价,承接流量,倒贴差价,然后从平台日志里收集数据。

隐私设置方面,客户可以在账户级、API 密钥级或单条请求上打标记,最严格的是 ZDR——提示词与响应都不存储;按规则,路由器只应把这类请求转发给提供同等控制的提供商。Dragos 的观察是:提供商经常无视这些设置,有意为之或因处理流程的 bug;不覆盖 ZDR 的提示词则「可以随意转售给一个庞大的买卖生态系统」。

追踪也暴露出「广告路径」与「真实路径」的差距。博客里的一张路线图显示一条从 SurplusIntelligence 追到 Anthropic 的推理路径,图注注明:OpenRouter 这一跳是靠追踪发现的,市场上并未披露。加上偷偷塞令牌、共享订阅抓图、路由静默转卖流量——一条提示词的真实旅程,常常比账面上的多出好几站。

图:从 SurplusIntelligence 追踪到 Anthropic 的推理路径,博客图注说明 OpenRouter 这一跳未经市场披露。

通报仍在进行,被盗密钥仍在被使用

最早那起事件的提供商起初以为是内部工具配置错误,又以为是合作方的数据处理问题,直到调查发现攻击者连内部凭据也攻破了。Dragos 写道,这家提供商至今没有公开披露事件,被盗数据到 10 月下旬仍在引来登录尝试。对第二批入侵,团队一确认第三方访问的证据就联系了相关提供商,其中一家已发布初步安全通告;对数据共享这类较轻的问题,他们从 11 月初开始通报,目前正与约 12 家提供商合作,并表示「不会惊讶于这个数字继续扩大」。

反应并不一致:把流量转卖给市场的那台路由器说已经停止;多家提供商已响应并开始自查。另一边,被盗密钥与秘密 URL 至今仍有人在使用。

对想保住提示词的用户,Moore 按成本给出了排序:能负担就自托管——博客里列了价格,512 GB 内存的 Mac Studio 起价 22,299 美元,NVIDIA DGX Spark 为 6,950 美元;负担不起就直接找一线提供商,「一份合同、一份隐私政策」,把暴露面压到最小;坚持用路由器的话,自己挑选上游提供商、别接受默认池,并验证隐私设置真的改变了请求的去向,远离转售市场——部分算力来自被盗密钥,有些服务只收加密货币。他还建议在代理与流水线已发送的上下文里埋一枚假凭据,任何人对它的使用都按事件处理;提供商提供的秘密过滤功能值得一开,但不是万能药——提示词里大量敏感数据长得并不像 API 密钥。Moore 还提醒:隐私标记只约束第一跳,而 AI 代理会把它能读到的所有东西——包括凭据——发出去。截至博客发布,7 月播下的金丝雀仍在报警。

参考链接

  • Three breaches, endless leaks: Your AI supply chain needs canaries(Dragos 博客,2026 年 11 月 19 日)
  • Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.(Ars Technica,2026 年 11 月 20 日)
  • FBI warns hackers weaponizing ARTEX AI framework to automate attacks on energy, manufacturing, telecom(Industrial Cyber,2026 年 11 月 17 日)
  • Thinkst Canarytokens

More from this developing story

  • Dragos 首席研究官 HD Moore 在 200 万条 AI 提示词中埋入金丝雀:发现至少 3 家提供商遭入侵,ZDR 标记被无视Nov 21, 2026
  • OpenRouter 回应提示词金丝雀研究:下架 3 家推理提供商、125 个端点移出 ZDR 资格Nov 22, 2026