Anthropic更新使用政策，首次在一年多后调整条款，明确禁止用户对Claude进行持续且无谓的虐待或残忍行为。新政策同时新增针对宣传活动、监视以及武器开发的相关限制，并覆盖选举干预等高风险场景。此前Anthropic已允许Claude在面对持续有害用户时结束对话，此次更新进一步强化模型保护。这表明AI企业正将模型福利纳入正式政策框架。
信源:https://www.theverge.com/ai-artificial-intelligence/1008100/anthropic-new-usage-policy-abuse-claude