Anthropic新规：持续「虐待」Claude也算违规

BiRun 讯，Anthropic 更新使用政策，首次明确禁止用户持续、无故地辱骂或残酷对待 Claude 等旗下 AI 模型。新规将于 11 月 12 日生效。

Anthropic 强调，禁令只针对反复恶意对待模型、没有明确目的的极端情况。用户因回答错误而发火、批评模型，或者进行正常测试和研究，都不受影响。

实际上，Anthropic 早在去年 8 月就允许 Claude 主动结束极端恶意对话。这次是把相关行为正式列为违规。公司表示，主要处理方式仍是让 Claude 结束当前聊天，用户可以重新开启对话。至于是否会追加封号处罚，Anthropic 尚未说明。

这与 Anthropic 对 AI 意识的态度有关。公司一直在研究模型是否可能拥有主观体验，但尚未得出确定结论。新规在 Reddit 上引发争论。有人支持，认为不该把 AI 当成发泄情绪的对象；也有人质疑，Anthropic 是否过度把 AI 当成人看待。

同次更新还明确了针对虚假账号宣传、武器控制软件和未经同意监控他人的禁令。

信源

动察 Beating 频道 · 动察 Beating 交流群。