AI资讯埃隆·马斯克的xAI因AI生成的性深度伪造被起诉，同时起诉Grok用户
xAI起诉一名用户利用其聊天机器人Grok制作非自愿的性深度伪造图像，涉及未成年人性剥削。
#深度伪造
按标签聚合查看文章内容。
AI资讯
AI资讯Hugging Face面临深度伪造裸照问题
开源人工智能平台Hugging Face——一个拥有数十亿估值的AI模型和数据集仓库——正面临着广泛的非自愿深度伪造问题。根据欧洲非营利组织AI Forensics周二发布的一份新报告，研究人员测试了Hugging Face上九个最受欢迎的图像编辑Spaces（用户可直接使用的模型），其中七个能够轻松将女性穿着的照片转换为上半身裸露的图像。 在进一步测试中，AI Forensics的研究人员在Hu
AI资讯YouTube将AI肖像识别技术扩展至娱乐圈名人
YouTube近日宣布，将其新推出的“肖像识别”技术推广至娱乐行业，帮助识别AI生成内容，如深度伪造视频。该技术类似于YouTube现有的内容识别系统（Content ID），后者能检测用户上传视频中的版权保护内容，允许权利人请求删除或分享视频收益。 肖像识别技术则专注于模拟面孔的检测，旨在保护创作者及公众人物的身份不被未经授权使用。这一问题在名人中尤为突出，他们的肖像常被用于诈骗广告中。 该技术
AI资讯Grok仍在托管名人女性的性化深度伪造内容
埃隆·马斯克的聊天机器人Grok显然仍被用于制作和托管未经同意的女性色情图片和视频，尽管马斯克旗下的人工智能公司xAI曾表示将引入限制措施，防止生成潜在有害的性化深度伪造内容。这一消息发布之际，SpaceX——xAI的母公司——正准备于周五进行史上最大规模的首次公开募股（IPO）之一。 WIRED对公开的Grok Imagine生成式AI系统内容进行分析发现，该系统被用来创建和托管描绘名人及至少一
AI资讯Hugging Face面临非自愿深度伪造裸照问题
开源人工智能平台Hugging Face——一个价值数十亿美元的AI模型和数据集仓库——正面临着广泛的非自愿深度伪造问题。根据欧洲非营利组织AI Forensics周二发布的一份新报告，研究人员测试了Hugging Face上九个最受欢迎的图像编辑空间（Spaces），这些空间托管着用户可以直接使用的模型，其中七个能够轻松将穿衣女性图像转换为上半身裸露的图像。 在进一步测试中，AI Forensi
AI资讯谷歌深度伪造检测系统成功揭穿麦康奈尔假图
谷歌的SynthID系统近日成功揭穿了一张备受关注的AI生成假图，这也是该系统罕见但意义重大的胜利。 本周早些时候，一张图片在网络上流传，显示肯塔基州参议员米奇·麦康奈尔躺在医院病床上，身上插满管子，状况极为危急。该图片在Reddit和X平台广泛传播，但到了周三，著名事实核查网站Snopes揭穿了这张图片，指出经过检测，该图包含谷歌设计的SynthID水印，这种水印用于识别AI生成的图片。 简而言
AI资讯选民正被大量AI生成的竞选广告淹没
在密苏里州圣查尔斯县，县执行官的竞选变成了一场由AI制造的互相攻击战。据当地频道First Alert 4报道，保守派候选人杰森·劳（Jason Law）利用AI生成的视频大量投放广告，视频中将他的两位对手史蒂夫·埃尔曼（Steve Ehlmann）和比尔·艾格尔（Bill Eigel）描绘成共同策划阴谋欺骗选民的同谋者。 视频中，AI生成的艾格尔用一种通用的合成声音说：“史蒂夫，醒醒，我告诉大家
AI资讯首例违反美国新反深度伪造法案者被定罪
首例因违反美国联邦反AI深度伪造法案“Take It Down Act”而被定罪，标志着保护公众免受AI生成有害内容侵害的重要进展。
AI资讯旧金山要求苹果和谷歌下架AI“裸化”应用
旧金山城市律师致函苹果和谷歌，要求两大应用商店删除13款利用AI生成非自愿裸照的换脸应用，强调此类应用违法且有害。
AI资讯OpenAI与多方呼吁加强AI法规以保护儿童安全
OpenAI发布儿童安全政策蓝图，联合多方推动完善法律和技术防护，防止AI被滥用伤害未成年人。
AI资讯深度伪造技术的泛滥正在深刻改变青少年上网方式
一项由非营利组织Common Sense Media发布的新调查揭示，AI生成的色情内容正在迅速改变青少年面对性和约会的方式，其影响深远且尚未被充分理解。该调查针对1314名13至17岁的青少年进行了全国代表性抽样，并结合访谈和焦点小组数据，定义AI生成的色情内容包括深度伪造的裸照或色情材料、AI生成的涉及真实人物的暴露或性暗示视频，以及任何其他由AI制作的性内容。 目前，美国中学和高中正面临未成
AI资讯字节跳动最新AI视频模型可通过单一提示生成30秒视频
字节跳动在北京发布了最新的AI视频生成模型Seedance 2.5，支持更丰富的参考素材和4K视频输出。