AI公司罕见起诉用户，马斯克xAI控告Grok使用者制作儿童不雅内容

凤凰网科技讯 北京时间7月16日，据路透社报道，埃隆·马斯克(Elon Musk)旗下AI创业公司xAI起诉了一名来自南卡罗来纳州的男子。该男子今年早些时候因涉嫌对未成年人实施性剥削而被捕。xAI指控他滥用公司的AI系统Grok，制作儿童性虐待内容。

xAI周二在得州联邦法院提起的诉讼中称，特里·哈伍德(Terry Harwood)违反了公司的服务条款。该案是AI公司起诉其用户涉嫌利用AI系统生成露骨内容的首批诉讼之一。

在xAI对哈伍德提起诉讼之前，该公司已经因为Grok允许用户生成未经同意的性化深度伪造内容被指控，面临全球范围内的严厉审视。

xAI在诉状中表示，公司“通过暂停账户、终止账户，以及向美国失踪与被剥削儿童全国中心报告疑似儿童性虐待内容等方式，对违反规定的用户执行相关规则”。

“事实上，原告(xAI)在2026年已暂停了52,222个账户，并向国家失踪与被剥削儿童中心提交了73,604份举报，最终促成了(至少)244起逮捕。”诉讼称。

xAI指控哈伍德将成人和未成年人的非性化图像上传至Grok，并试图利用该系统基于这些图像生成露骨的深度伪造内容。诉状还指控他制作了未经同意的成人性化图像。

该公司向法院寻求未指定金额的金钱赔偿，并要求法院下达永久禁令，禁止哈伍德使用Grok。

xAI在诉讼中表示：“被告的行为是一项经过精心策划的阴谋，旨在将原告的工具武器化以达成犯罪目的，使真实受害者遭受深远而持久的伤害，同时使原告面临重大的法律风险和声誉损害。”

截至发稿，xAI发言人尚未回应置评请求。(作者/箫雨)