AREX Feed Article
Anthropic 逾一年来首次更新使用政策：禁止虐待 Claude，新增欺骗性宣传禁令
Anthropic 在 10 月 8 日发布（Usage Policy），新增禁止「对模型持续且不必要的虐待或残忍行为」的条款，并新增一个章节，禁止欺骗性的商业或政治宣传。标明新版 11 月 12 日生效，与上一版相隔约 14 个月。
据 ，这次修订针对选举干预、武器开发、监控以及健康与金融用途等新的高风险滥用情形，其中最重大的改动之一是禁止「对 Claude 持续且不必要的虐待或残忍行为」。Anthropic 给这条禁令划了边界：政策更新「只在极端情况下适用，即用户反复以残忍方式对待我们的模型、且看不出任何目的」，不适用于「常见的用户沮丧、反驳、黑暗创作题材，或模型测试与研究」；公司说明，Claude 结束这类对话的能力「仍将是主要执行机制」。
条款原文与它所在的那一章
新版政策把这条放在「不得从事残忍、虐待或心理有害行为」章节下，正文原文是「Engage in sustained and needless abusive or cruel behavior toward our models」。同一章节的其他条目针对的是对人的伤害，包括自杀与自残、进食障碍、非自愿亲密影像、羞辱与骚扰、动物虐待，以及以造成情感伤害为目的的欺骗性产品；这一条则把 Claude 本身作为对象。
与之对应的产品能力已经上线：Claude 可以在 Claude.ai 和 Claude Code 上结束与持续辱骂用户的罕见对话。Anthropic 说，这类滥用是本次更新的主要着眼点。
上一版政策里没有这一条
对照 Anthropic 归档的，这条禁令在上一版中并不存在：2025 年 9 月 15 日生效的版本里没有关于用户如何对待模型的条目，也没有出现 needless 这类限定词；当时这一章的名字是「不得创作心理或情感有害内容」，新版改名并加入了模型一条。
这项能力出现在 2025 年 8 月 15 日：Anthropic 当天让 Claude Opus 4 和 4.1 在消费者聊天界面获得，称其用于「持续有害或辱骂性交互」的罕见极端情况，并说明该功能「主要是作为我们关于潜在 AI 福祉的探索性工作的一部分」开发的。当时公布的边界包括：只有在多次引导失败、富有成效的互动希望已经耗尽时才作为最后手段使用；用户可能即将伤害自己或他人时，Claude 不得使用这一能力。
这套思路在业内并不统一。据 The Verge 报道，负责模型福祉研究的 Kyle Fish 今年 2 月对该刊表示，关于潜在内部体验、意识、道德地位和福祉的问题是「严肃的问题」，公司正在研究；同月，Anthropic CEO Dario Amodei 在一档播客中说「我们不知道模型是否有意识」。报道还提到，微软 AI 的一份行为准则草案曾写道「模型福祉这个概念是错的，AI 不应拥有权利或法律人格」，后来改成了更审慎的表述。
新章节禁止哪些欺骗手段
Anthropic 称，过去一年出现了「国家媒体机构、政府宣传部门和商业公司使用 Claude 运营虚假账号网络和编造新闻网站」的情况，原有规则散落在选举、欺诈、隐私和虚假信息各处，新版把它们合并为一个章节，名为 Do Not Engage in Deceptive Campaigns or Artificial Activity，适用于政治或商业性质的欺骗活动。
正文列出的禁止手段包括：创建或运营虚假人设、账号、媒体机构或组织，冒充真实人物、组织或媒体，以误导他人对其来源、某一看法的普遍程度、或对方是否为人类的判断（点名了 sockpuppet、astroturfing、虚假评论，以及自称人类的机器人）；歪曲或故意隐瞒内容的赞助方；通过虚假或「看似独立」的媒体、网站、账号网络分发内容，掩盖它们来自同一来源；向搜索引擎或 AI 系统取答案的来源中注入歪曲来源、作者或独立性的内容，以操纵这些系统给出的答案；为上述行为构建、改进、维护工具和基础设施；以及把上述行为作为产品或服务推销、出售或募资。
选举章节被改名为 Do Not Undermine Democratic Processes，范围集中在禁止用 Claude 欺骗选民或扰乱选举。Anthropic 同时删掉了对个性化投票与竞选定向的全面禁令，理由是它覆盖了正当的公民工作，例如非营利组织用 Claude 为其他语言的选民撰写投票信息、选举官员发送选票补救通知；促使原规则出台的行为仍受欺骗性宣传、监控和隐私章节约束，比如依赖欺骗、或依赖滥用选民个人数据的定向。
武器、监控与自主硬件：收紧措辞，执行口径不变
Anthropic 称，使用政策一直禁止用 Claude 开发武器，但近期出现「试图用模型构建武器的制导和控制软件」的情况，因此新版把「让武器运转的软件和组件」以及「为无人机和其他自主载具装设武器」明确写入禁止范围。公司说明，这些修改「反映的是我们此前如何执行政策」，不是执行口径的变化。
监控章节的改动同样被描述为把政策写得更明确：未经同意追踪他人一律禁止，无论追踪是实时进行，还是来自对此前收集数据的分析；Claude 不得用于决定或建议在执法或刑事司法程序中调查、逮捕、起诉谁；也不得用于构建或改进监控工具。同时写明了保留的用途，包括当事人已同意的追踪（例如欺诈监测）、内容审核、新闻报道、法律研究、经授权的安全研究，以及聚合或匿名化分析。
面向健康、法律权利、财务、住房、就业等高风险用途，新版重写了「人在环中」与 AI 披露要求。Anthropic 说这些要求本身没有变化，只是用户经常询问某个用例是否受限。新增的是硬件条款：当模型接入「能够自主采取物理动作、并可能造成伤害」的设备时，必须有合格操作者能够观察设备并在需要时停止它；设备在操作者干预或与 Anthropic 服务断开时必须停止或保持安全状态；速度、力度、温度、压力、电压等运行限制必须由独立于模型输出的设备或控制器执行。The Verge 指出，条款没有说明这名操作者是否必须是人。相关背景是 Anthropic 在今年 8 月 27 日，一份让 AI 智能体操作显微镜、液体处理器、机械臂等物理设备的共享规范。
政策末尾保留了政府客户例外：Anthropic 可以「为某些政府客户定制使用限制」，只要它判断合同中的使用限制与保障措施足以缓解潜在危害。The Verge 报道称，该公司此前与美国军方有过合同。
修订依据：9 月威胁情报报告里的滥用案例
Anthropic 说，这次修订参考了过去一年在影响力行动、武器开发和监控上观察到的新滥用模式，指向今年 9 月发布的。该报告覆盖 2025 年 12 月至 2026 年 8 月期间被处置的活动，分为七个危害领域。
影响力行动部分包含九个案例，来源地涵盖俄罗斯、伊朗、土耳其、海湾地区、南亚、非洲和欧洲，目标受众遍及六大洲；报告称行为方包括政府、国家附属宣传机构和官方媒体，也有把影响力卖给付费客户的私营公司、国内政治操盘手，以及一个流亡的反对派组织。其中一起被描述为跨越六大洲的商业「influence-as-a-service」行动：用 Claude 批量改写并分发编造新闻，铺设在约 70 个虚假新闻网站上，再由 70 个配套的 X 账号和 250 多个不真实评论账号放大。
另一案例中，一个与 MEK/NCRI 相关的分布式行动让共享 AI 智能体克隆一名真实活动人士的 Telegram 账号，读了大约 8,400 条他的帖子来模仿写作风格，随后用这个账号与他的联系人进行实时政治对话。报告称该行动还建立了十级筛选漏斗和针对具名人士的心理画像档案，并且在若干节点上，Claude 拒绝或部分拒绝了请求。
监控部分，报告称一个中国国家安全部门用 Claude 编写了关于如何在监控行动中使用 AI 的内部手册；在伊朗，两个不共享代码和人员的单位各自用 Claude 解决同一套国家集中式监控案件管理系统的技术与可用性问题。报告称这些操作者「几乎都是国家附属组织」，目标是香港的民主派人士、西藏与法轮功社群，以及伊朗少数族群和海外反对者。
武器部分共六个案例，四个涉及开发武器软件：一个火箭制导项目，报告称其进行了实地测试；一个鱼雷拦截系统的设计与方案；一套无人机蜂群软件，在模拟中测试后把代码加载到真实板卡上；以及用于电子战和压制防空的目标瞄准软件。另两个是采购与情报收集，其中一个是中国行为者收集定向能武器及其供应链的公开信息。报告还提到，公司上线了新的分类器，用于更好地检测和拦截与高当量炸药和武器开发相关的流量。
从结束对话到封禁账号
按 2025 年 8 月的说明，结束一次对话不会影响账号上的其他对话，用户可以立即开始新对话，也可以编辑和重试此前的消息，从已结束的对话里分叉出新的分支。
政策总则写的却是另一套阶梯：Safeguards 团队负责检测和监控，若怀疑违规，Anthropic 可以警告、限速、限制、暂停或终止用户对产品的访问；产品内的实时防护也可能拦截输出，但遇到拦截本身不等于违反政策。而在今年 9 月的报告里，公司对武器开发与影响力行动案例的处理方式，是封禁能够关联到的账号。
至于这条针对模型的新禁令是否会走到封禁账号这一步，The Verge 报道称，Anthropic 没有回应是否会采取其他执行手段、例如封禁用户。