AI资讯Grok仍在托管名人女性的性化深度伪造内容
埃隆·马斯克的聊天机器人Grok显然仍被用于制作和托管未经同意的女性色情图片和视频，尽管马斯克旗下的人工智能公司xAI曾表示将引入限制措施，防止生成潜在有害的性化深度伪造内容。这一消息发布之际，SpaceX——xAI的母公司——正准备于周五进行史上最大规模的首次公开募股（IPO）之一。 WIRED对公开的Grok Imagine生成式AI系统内容进行分析发现，该系统被用来创建和托管描绘名人及至少一
#深度伪造
按标签聚合查看文章内容。
AI资讯
AI资讯Hugging Face面临非自愿深度伪造裸照问题
开源人工智能平台Hugging Face——一个价值数十亿美元的AI模型和数据集仓库——正面临着广泛的非自愿深度伪造问题。根据欧洲非营利组织AI Forensics周二发布的一份新报告，研究人员测试了Hugging Face上九个最受欢迎的图像编辑空间（Spaces），这些空间托管着用户可以直接使用的模型，其中七个能够轻松将穿衣女性图像转换为上半身裸露的图像。 在进一步测试中，AI Forensi
AI资讯谷歌深度伪造检测系统成功揭穿麦康奈尔假图
谷歌的SynthID系统近日成功揭穿了一张备受关注的AI生成假图，这也是该系统罕见但意义重大的胜利。 本周早些时候，一张图片在网络上流传，显示肯塔基州参议员米奇·麦康奈尔躺在医院病床上，身上插满管子，状况极为危急。该图片在Reddit和X平台广泛传播，但到了周三，著名事实核查网站Snopes揭穿了这张图片，指出经过检测，该图包含谷歌设计的SynthID水印，这种水印用于识别AI生成的图片。 简而言
AI资讯YouTube与X成为“裸体化”应用的主要入口
战略对话研究所（ISD）发布的一份报告揭示了一个令人担忧的网络生态系统，该系统助长了所谓“裸体化”应用和网站的传播，这些工具允许用户在未经他人同意的情况下，数字化地“脱衣”他人。 这份于周一发布的研究分析了用于制作非自愿色情深度伪造内容的十大应用和网站，以及用户如何找到这些平台。令人惊讶的是，大量的推荐流量并非来自4chan等小型、监管松散的网络社区，而是来自主流社交媒体平台。 根据ISD的报告，
AI资讯中国最高法院发布全面法律打击AI深度伪造技术
数月前，中国中级人民法院判决一家企业利用AI技术解除员工职位违法后，国家最高司法机关再次出手，展开对AI深度伪造技术的严厉打击。 周一，中国最高人民法院发布新指导意见，明确下级法院在处理因滥用AI工具引发的民事纠纷时的审判标准。据《南华早报》报道，该指导意见包含24条，涵盖AI生成的视频和音频、性化内容、金融违规、数字隐私及监控定价等多个方面。 指导意见重点关注深度伪造技术，这种技术能够生成逼真的
AI资讯纽约查封十二个名人深度伪造网站
周一，曼哈顿地区检察官办公室宣布查封了12个域名，这些网站被指用于“非法”分享、发布和销售名人深度伪造视频。该办公室表示，约有1200人——绝大多数为女性——在这些网站上被描绘成未经同意的性影像和视频，涉及社交媒体影响者、演员、活动家、运动员、音乐家和政治人物。 曼哈顿地区检察官艾尔文·布拉格在声明中表示：“这些令人震惊的隐私侵犯行为不仅影响受害者的职业和个人生活，还对其情感和心理健康造成巨大伤害
AI资讯欧洲超百名政治人物遭性暗示深度伪造网站攻击
研究人员本杰明·舒尔茨对约160个托管深度伪造滥用及其他非自愿性内容的网站进行分析，发现至少有来自22个欧盟国家的138名女性议员出现在这些网站上或被提及，而男性议员仅有9人被提及。根据舒尔茨的计算，女性议员被深度伪造生态系统针对的可能性是男性的33倍。 荷兰进步党议员苏珊娜·克罗格表示：“深度伪造色情是针对女性及女性政治家的网络仇恨和恐吓更大趋势的一部分。”她本人也受到了影响。克罗格对研究结果表
AI资讯他们献身教育，却遭遇深度伪造的困扰
起初，DeSantiago并未过于担心——他以为不当照片违反了TikTok的社区准则，通常会很快被删除。 “当我最终看到那张图片时，感觉像是被重重击中了一拳，”DeSantiago告诉WIRED。图片部分与他大学时工作时拍摄的一张镜子自拍相似，但他穿着的不是工作制服，而是内衣；姿势也变得挑逗，与原照片中正常站立的样子截然不同。 这条信息引发了一场跨越两所学校、涉及学生和管理层的长达数月的事件。De
AI资讯埃隆·马斯克的xAI因AI生成的性深度伪造被起诉，同时起诉Grok用户
xAI起诉一名用户利用其聊天机器人Grok制作非自愿的性深度伪造图像，涉及未成年人性剥削。
AI资讯OpenAI与多方呼吁加强AI法规以保护儿童安全
OpenAI发布儿童安全政策蓝图，联合多方推动完善法律和技术防护，防止AI被滥用伤害未成年人。
AI资讯YouTube与X成为“裸照生成”应用的主要入口
战略对话研究所（ISD）发布的一份报告揭示了一个令人担忧的现象：所谓的“裸照生成”应用和网站正在网络上迅速传播，这些工具允许用户在未经他人同意的情况下，数字化地“脱衣”他人。 这份于周一发布的研究分析了十大最常用来制作非自愿色情深度伪造内容的应用和网站，并探讨了用户是如何找到这些工具的。令人意外的是，大量的推荐流量并非来自4chan等小型、监管松散的社区，而是来自主流社交媒体平台。 根据ISD报告
AI资讯xAI请求法院剥夺涉嫌Grok深度伪造裸照受害者的匿名权
2024年5月29日，联邦集体诉讼案中的四名主要原告——目前以南卡罗来纳州Doe、南卡罗来纳州Roe、新泽西州Doe和俄亥俄州Doe的化名出现——在宣誓书中描述了自今年早些时候涉嫌深度伪造图像被制作以来所遭受的情绪困扰。文件显示，这四人担心如果被迫在针对xAI的诉讼中使用真实姓名，将面临更多的网络骚扰和人肉搜索。 代表这些个人的律师Sophia Rios在近期提交的文件中写道：“xAI在剥夺他们衣