埃隆·马斯克旗下的人工智能公司xAI正在起诉一名用户，指控其利用公司旗舰聊天机器人Grok制作非自愿的性深度伪造图像，涉及女性和儿童。

这名用户是来自南卡罗来纳州的67岁男子特里·韦恩·哈伍德（Terry Wayne Harwood），他于今年3月因多项未成年人性剥削指控被逮捕。据称，哈伍德持有并传播儿童性虐待材料（CSAM）。根据本周早些时候在德克萨斯州提起的诉讼，xAI指控哈伍德利用Grok制作这些非法内容。诉讼中称，哈伍德使用了两个不同的Grok账户，尽管Grok拒绝了部分请求，但他通过调整提示词绕过了系统的安全防护，成功生成了令人不安的图像。

此次诉讼发生在去年冬季爆发的巨大深度伪造丑闻之后。当时，X平台用户发现Grok新增的照片和视频编辑功能可以快速轻松地修改图片，虚拟脱衣并将真实人物置于性场景中。

据报道，一些深度伪造图像描绘了真实女性遭受性暴力和侮辱的场景，部分图像涉及未成年人。数字仇恨对抗中心估计，在11天内，Grok生成了约300万张性化图像，其中包括2.3万张儿童图像。

目前，xAI不仅起诉了这名用户，还面临多起关于Grok生成CSAM的诉讼。今年3月，田纳西州的青少年对xAI提起集体诉讼，称Grok被用来制作他们及其他未成年人的深度伪造图像。上周，诉讼内容更新，新增指控一名男子利用Grok生成了7000多张其继女的性深度伪造图像，且大部分提示未被Grok安全系统拦截。

另一知名案件中，前保守派网红、马斯克众多子女之一的母亲阿什莉·圣克莱尔也起诉xAI，因她遭遇了多起性化深度伪造攻击，其中包括将她描绘为未成年人的图像。

执法人员和儿童网络安全专家指出，人工智能技术导致了CSAM数量的激增，给打击儿童性犯罪带来了巨大挑战。AI技术使得调查人员难以辨别虐待材料中儿童的真实性，增加了执法难度。

在最新诉讼中，xAI指控哈伍德“有计划地利用原告的工具进行犯罪，给真实受害者带来深远且持久的伤害，同时使原告面临重大法律风险和声誉损害”。

xAI现已被SpaceX收购并更名为SpaceXAI，公司表示其通过暂停账户、终止账户以及向国家失踪和被剥削儿童中心（NCMEC）报告涉嫌儿童性虐待材料来执行规则。2026年，xAI已暂停了52,222个账户，向NCMEC报告了73,604起案件，促成至少244人被捕。

尽管如此，Grok的深度伪造问题依然严重。用户利用该服务进行严重犯罪活动，企业有责任追究其责任，但起诉用户并不能解决聊天机器人的安全漏洞，也无法阻止犯罪行为的发生。