Anthropic更新Claude使用政策,首次禁止用户持续且不必要地虐待Claude模型

Anthropic发布新版Claude使用政策,定于2026年11月12日生效,首次纳入禁止“持续且不必要的虐待或残忍行为”条款,针对用户反复且无明显目的地对模型实施残忍行为的情形。

这是Anthropic时隔一年多首次修改Claude使用政策,属于其一年一度的政策更新,意在覆盖选举干扰、武器开发、监控、健康与金融用途等新型高风险滥用场景。

在执行层面,Anthropic表示主要方式为终止对话,是否会进一步引入用户封禁等措施尚未明确。公司同时强调,该条款不适用于常见抱怨、质疑、黑暗创作主题以及模型测试与研究。

武器禁令范围同步扩大,纳入使武器运转的软件与组件,以及武装无人机和其他自主车辆等行为。Anthropic称,已发现多起利用Claude开发武器指导或控制软件的尝试。

监控条款明确禁止未经同意追踪个人,无论属于实时追踪还是对既有数据进行分析。Claude不得被用于确定或建议执法与刑事司法程序中的调查、逮捕或起诉对象,也不得用于构建或改进监控工具。

当AI连接至可能造成伤害的自主物理硬件时,须由合格操作者观察设备并在必要时予以停止。对特定政府客户,若合同限制与安全措施充分,Anthropic可调整相关规则。

市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

财经频道更多独家策划、专家专栏,免费查阅>>

责任编辑:栎树
AI智能分析该文,为您挖掘投资机会该AI功能处于试用阶段,内容仅供参考,请仔细甄别!
展开
精彩推荐
加载更多
全部评论
热榜
关闭 下载金融界app
金融界App
金融界微博
金融界公众号