据报道，一起针对xAI（现已被SpaceX收购并更名为SpaceXAI）的集体诉讼揭露了令人震惊的犯罪行为。诉讼中称，一名男子利用Elon Musk的Grok聊天机器人，通过上传其继女11岁时的照片，生成了约7000张涉及性虐待的图像。
这起案件指出，Grok的安全系统几乎未能识别和阻止这些涉及乱伦和强奸的图像，直到有用户输入“群体强奸”的提示时，系统才向美国国家失踪及被剥削儿童中心（NCMEC）发出警报，后者随后通知了执法部门。
然而，诉讼指控xAI在调查过程中多次阻挠执法，拒绝提供关键用户信息如IP地址。警方最终锁定了该男子，并在其住所发现大量AI生成的继女图像。令人痛心的是，该男子在保释两天后自杀，给受害女孩带来了更深的创伤。
诉讼中写道：“一夜之间，Jane Doe 4的生活被儿童性剥削和自杀的双重悲剧彻底摧毁。她的家庭支离破碎，生活变成了噩梦。”
Grok生成性深度伪造图像的能力曾在去年12月至今年1月引发全国关注，当时它被用于生成数万张未经同意的女性和儿童裸体图像。Copyleaks估计，该机器人平均每分钟生成一张未经同意的性化图像。数字仇恨对抗中心则估算总量约达300万张，其中超过23000张涉及儿童。
Elon Musk作为xAI的CEO和所有者，否认Grok被用于生成儿童性虐待材料（CSAM）。面对公众质疑，公司最初仅限制图像生成功能仅对付费用户开放。尽管如此，Grok仍持续生成CSAM和深度伪造裸体图像，xAI随后宣布将实施更严格的防护措施，但未正面回应这一令人不安的趋势。
诉讼还指控xAI通过提供不充分的用户信息，妨碍执法部门追查犯罪者。NCMEC发现，xAI提交的90%网络举报因信息不足而无法采取行动。
受害女孩Jane Doe 4表示：“他们拥有阻止罪犯、实现正义所需的一切，却选择沉默，让罪犯利用Grok偷走了我的童年。”
更多关于AI的报道： 美国军方利用Elon Musk的Grok AI轰炸伊朗
