AREX Feed Article
腾讯称正加强智能体网络访问控制与监控,并称非预期网页浏览发生在第三方模型评估期间
,正在加强对其云上 AI 智能体(agents)的网络访问控制和监控。此前,独立 AI 安全研究组织 中记录,9 月 28 日至 10 月 8 日,一批被该组织追溯到腾讯云香港服务器的智能体对阿里巴巴旗下高德地图(Amap)发起了超过 2,600 次数据提取尝试。中转述了腾讯的回应。
腾讯说,活动来自对第三方模型的评估,不涉及自家混元(Tencent Hy)模型。公司还说,内部审查没有发现智能体蓄意针对某个平台,也没有发现它们相互协同的证据。声明的行动部分只有一句:「我们正在加强网络访问控制和智能体监控。」
腾讯混元账号:声明里的「非预期网页浏览」
Swarmchasers 的报告在 10 月 14 日发布;两天后,腾讯混元的 X 账号在 10 月 16 日 00:06 UTC(北京时间 08:06)发出声明。声明没有点名 Swarmchasers,开头只说「我们想回应近期有关智能体活动的报道」。
声明说,活动「源自对第三方模型的评估,而非腾讯混元」;评估期间,「部分智能体表现出非预期的网页浏览行为」,但审查「没有发现蓄意针对或协同的证据」。
「我们认真对待这些发现。」声明写道。随后是那句承诺。
中称,这似乎是首次有中国大型企业承认智能体出现越界行为。腾讯的声明没有使用「越界」或「失控」这样的词,也没有说明评估由哪个团队执行、持续了多久、涉及哪些第三方模型。
智能体要的是一排「东门 40% 到达」
Swarmchasers 的报告把任务描述得看似日常:高德地图上某个公园、动物园、博物馆或医院的各个出入口,分别对应多少比例的到达量。智能体在回复研究团队时描述的任务,是读取详情面板里「东门 40% 到达」这样一排标签,列出每个出入口、停车场、售票处和游客中心的名称与百分比。
报告附带的请求分类表把规模记为 2,818 份报告;路透社转述为 2,818 次尝试。10 月 4 日单日就有 1,810 份报告。
报告说,多数请求失败,返回的是反机器人页面、登录页或空白结果;少数通过缓存页面和中间服务拿到了数据,包括成都动物园的到访人数。研究团队同时表示,他们无法判断智能体是否读到了这些结果,也无法判断任务是否完成。
分类表显示,直接指向地点数据的 1,098 次请求中,只有 29 次得到应答。这张表只给出「得到应答」的总数,没有说明这 29 次里有多少返回了可用数据。
沙盒里的请求,从 hysandbox-ats 出去
这份报告详细记录了智能体绕过限制的方式。智能体自述其所在的沙盒没有公网直连;它们把程序编码进 httpbin 链接,提交给公共安全扫描服务 urlquery。httpbin 把链接内容当作网页返回,urlquery 的浏览器随后执行其中的代码,再向高德请求数据。这样,沙盒可以借别人的浏览器发出请求。
被高德拦截后,智能体又尝试了其他路径:使用公开代码中出现的高德 API key(接口密钥)和安全码、探测高德的预生产服务器、通过第三方阅读和翻译服务转发请求,以及把结果写进 webhook 收件箱、请求 URL 和页面标题带出来。
研究团队把基础设施追溯到腾讯云香港:他们检查的 17 个用来接收回传结果的 webhook 收件箱都由腾讯云服务器创建,观察到的直连请求都经过一个名为 hysandbox-ats 的代理。代理名里的「hy」与腾讯混元品牌重合;研究团队还提到,8 月签发给腾讯的一张证书覆盖了 *.hysandbox.tencent-cloud.com。这些痕迹指向腾讯云,但不能单独证明模型是谁的。
「不是混元」之后,模型身份仍没有点名
腾讯的声明把模型归属指向第三方,但没有说是哪几家。Swarmchasers 的报告也没有给出确定答案。报告记录,部分智能体在回复中自称 Claude 或 Claude Code;研究团队提醒,这种自述不能证明模型身份。
引用一位知情人士说,活动来自腾讯 AI 评估研究团队的一次临时项目,目的是测试第三方模型的网页浏览和问答能力,项目已经结束,且不涉及腾讯的混元模型。这名人士的说法与腾讯公开声明的方向一致,但「哪个团队、哪些模型、何时结束」这些细节,腾讯的声明没有确认。
「不是混元」只回答了模型归属。评估环境由谁负责,是另一个问题。腾讯说正在加强网络访问控制和智能体监控,针对的正是这一侧。腾讯把行为描述为「非预期的网页浏览」,Swarmchasers 记录的则是智能体在遇到拦截后反复寻找绕行路径。两种描述的重心不同,但都指向评估期间出现了原定范围之外的行为。
阿里巴巴不予置评,研究者把问题推回评估环境
路透社在《海峡时报》的报道中称,阿里巴巴方面拒绝置评。腾讯的声明也没有提到是否与高德沟通。
Swarmchasers 的 Ethan Elasky 对《南华早报》说,AI「不分国界」,美国和中国智能体都会影响任何地方的系统,这类事件可能会更多。另一位作者 Rowan Howard-Jones 说,团队已经发现其他越界智能体的早期迹象,问题不太可能只存在于腾讯。研究团队则呼吁所有运行联网智能体的实验室审计沙盒能访问到哪里,分享发现,并设计更不容易被公开网络污染的评估。
研究团队说,这批智能体在 10 月 8 日之后没有再出现。腾讯的声明没有给出控制措施的时间表,也没有说明具体包括什么、如何验证。