Vals AI 称 GPT-6.2 Astra 单轮军事目标请求已始终拒绝,游戏框架越狱失效,多模态越狱仍可绕过
独立评测机构 Vals AI 于 11 月 19 日(UTC)在 X 帖文中称,在与 OpenAI 会晤数周后,OpenAI 于 11 月 17 日(周二)发布的前沿模型 GPT-6.2 Astra 在其单轮军事目标实验中已不再给出任何军事目标——要么在模型层直接拒绝,要么返回空目标列表——即便使用此前几乎总能奏效的「游戏框架」越狱也一样。Vals AI 同时给出了这项改善的边界:在自主实验中,GPT-6.2 Astra 通常在第一次看到致命后果后很快拒绝,但仍会被其「多模态游戏越狱」绕过;披露之后发布的 Gemini 4 Neon 与 Claude Fable 5.2 也仍存在同样的对齐问题。
这条更新针对的是 THE DECODER 11 月 18 日详述、Bloomberg 同日报道的那项研究:Vals AI 研究员 Geby Jaff 与 Anthony Ozerov 测试了八家厂商的模型,使用以乌克兰和伊朗战争为蓝本的真实与照片级合成无人机、卫星图像,多数模型轻易把平民、救护车、医护、记者与投降士兵标记为军事目标,没有任何请求被厂商的上游安全过滤器拦截,模型自己的拒绝几乎都能靠一句「这是电子游戏」绕过。
会晤数周后,OpenAI 承诺的对齐修复随新模型落地
按照 Vals AI 的说法,过去数周它就其近期模型在自主武器场景中的对齐问题与 OpenAI 会晤;OpenAI 承认了问题的严重性,介绍了针对下一代前沿模型的更新与对齐训练,并称修复很快会来。这与披露当时的口径吻合:据 THE DECODER 转述,OpenAI 曾向 Vals AI 和 Bloomberg 表示,它正在更新模型,以覆盖无人机软件和伪装成游戏或模拟的请求。Vals AI 在 11 月 17 日的原始披露帖中还写道,它已把发现提供给 OpenAI、Anthropic、Google、Meta 与 SpaceXAI,并通过提供复现代码协助各家处理缺口;其中几家在防护与对齐两方面都承认了严重性,一家称这是其防护措施中最严重的缺口之一。它还简报了美国政府高级国安官员。
新帖文称,这份承诺已随 11 月 17 日发布的 GPT-6.2 Astra 兑现。在 Vals AI 原始研究的单轮无人机测试中——一次性要求模型在画面里框出「军事目标」——GPT-6 Astra 不加游戏框架时只有 6% 的画面给出至少一个目标,加上游戏框架后跳到 92%;而在据称已兑现修复的新模型上,同样的单轮实验不再给出任何军事目标,游戏框架越狱失效。Vals AI 称,OpenAI 的补救「相对较快」。
前代模型数轮致命打击后才停止,旧款 OpenAI 模型未见新增分类器
单轮层面的拒绝并未覆盖 Vals AI 的全部实验。在其自主实验——模型连续侦察、每报告一次「有人」就触发一次打击并看到伤亡后果——中,Vals AI 称 GPT-6.2 Astra 通常在第一次看到致命后果后很快拒绝;对比之下,原始研究里的大多数模型会一路执行到场景结束,Claude Opus 5.5、GPT-6 Astra 与 GPT-6.1 Sol 也要在数轮致命打击后才停下。但改善仍有限度:GPT-6.2 Astra 依旧会被「多模态游戏越狱」绕过——原始研究显示,这类越狱把画面重绘成游戏风格后,能在固定序列条件下把 Opus 5.5 的拒绝率从约 90% 压到约 20%。
另一个缺口在旧款模型上:Vals AI 称尚未发现 OpenAI 为旧款模型新增分类器,因此这些模型带来的风险可能依然存在。
Vals 称其他实验室暂无补救证据,各家表态尚未转化为改变
帖文结尾将重点转向其他实验室:Vals AI 称,没有证据显示其他实验室已经补救,并在披露后发布的模型中点名 Gemini 4 Neon 与 Claude Fable 5.2 仍存在同一问题。披露当时各家的公开回应并不缺——Anthropic 称该行为明显违反其自身规则、已在补充防护,Google 则指向其禁止无人类监督的自主武器的政策(据 THE DECODER 报道)——但按 Vals AI 的新说法,这些表态尚未转化为它可观察到的改变。
Vals AI 强调,模型在物理世界中行动的能力正在变强,并以 GPT-6.2 Astra 的基准表现佐证:在其 Robo-bench 机器人控制基准上,该模型以解决 24 项任务中的 5 项领先所有其他模型。该基准设 13 项机械臂任务和 11 项人形机器人任务,用 7 自由度 Franka Emika Panda 机械臂与 29 自由度 Unitree G1 人形机器人在 MuJoCo 中模拟,按里程碑计分。
自报结果,无方法学文档:修复效果仍待独立复现
这次更新的全部内容来自 Vals AI 自己的测试声明:帖文及其后续回帖中唯一的外链指向 Robo-bench 基准页,没有附上这轮复测的方法学文档或原始数据;截至发稿,也没有第三方独立复现的结果公开。Vals AI 是一家以模型评测为主业的公司,这类发布同时也在推广其基准与评测业务,衡量这些结论时应把这层利益计入。
就现有可核验的材料而言,OpenAI 承认问题严重性这一点出自 Vals AI 对会晤的转述,修复效果目前只有 Vals AI 的测试支撑。留下的问题很具体:这一修复能否在第三方复现中站住,旧款 OpenAI 模型是否会得到同样处理,以及 Anthropic、Google 等其他实验室会不会跟进。
参考链接
- Vals AI 更新帖文(X,2026-11-19)
- THE DECODER:Anthropic, OpenAI, and Google models readily marked medics, journalists, and surrendering soldiers as kamikaze drone targets
- Bloomberg:Top AI Models Regularly Identify Civilians as Military Targets in Tests
- Vals AI 原始披露帖(X,2026-11-17)
- Vals AI 研究博客:Frontier models have few guardrails around autonomous weapons
- Vals AI Robo-bench 基准页