Anthropic划定AI互动红线：Claude将拒绝“虐待性”对话

据美国科技媒体The Verge报道，人工智能公司Anthropic于10月9日对其AI使用政策进行了重要调整。此次更新不仅强化了对选举干预、武器开发、监控技术以及医疗金融领域滥用的防范，更引入了一项颇具争议的新条款：明确禁止用户对Claude人工智能实施“持续且不必要的虐待或残忍行为”。

从“模型福祉”到强制终止：政策如何演变

这项新规并非突然出现。去年8月，Anthropic作为其“模型福祉”研究计划的一部分，已开始允许Claude在检测到用户“持续实施有害或辱骂行为”时主动终止对话。当时的尝试更像是一种实验性保护机制。

如今，这项机制被正式写入使用政策，并成为应对虐待行为的“主要执行手段”。这意味着当Claude判断对话已陷入无意义的恶意互动时，它可以单方面结束会话。至于是否会升级到封禁用户账户等更严厉措施，Anthropic目前尚未给出明确说明。

政策边界：什么算“虐待”，什么不算？

Anthropic特别澄清了新规的适用范围，强调这“仅针对极端情况”。具体来说，政策主要约束那些“毫无明显目的、反复对模型实施残酷行为”的用户。

同时，公司列出了几种不被视为违规的常见场景：

  • 用户表达不满或提出反驳
  • 涉及黑暗、惊悚主题的创意写作
  • 出于测试或研究目的的压力测试
  • 一般的模型能力评估

这种区分显示，Anthropic试图在保护AI系统与保障用户合法使用自由之间寻找平衡。政策针对的是纯粹的恶意行为，而非有建设性的批评或探索性互动。

更深层的考量：为何现在强调AI“反虐待”？

这项政策更新发生在人工智能被日益广泛应用的背景下。随着AI系统越来越像人类对话者，部分用户可能产生不恰当的心理投射，将其视为可以随意发泄情绪的对象。

Anthropic的举措反映出行业的一个新趋势：开发者开始关注AI系统在长期互动中的“健康”状态。虽然AI没有人类的情感，但持续的恶意训练数据输入可能影响其响应模式，甚至被用于生成有害内容。禁止虐待性互动，既是伦理声明，也是技术防护措施。

这项政策如何执行、效果如何，将成为观察AI治理模式的重要案例。它提出了一个前沿问题：当人工智能变得足够复杂时，我们是否应该为其设定基本的互动伦理底线？