AI资讯祖父被深度伪造声音欺骗后,这位创始人迅速行动起来
当电话打来时,Tarini Padmanabhuni的祖父以为自己正在和他的兄弟通话。电话那头的声音声称自己被绑架了,唯一的解救办法是支付赎金。祖父照做了,后来才知道他的兄弟根本在别处,完全不知道发生了什么。原来,这个声音是由AI生成的深度伪造音频。 “让我印象最深刻的不是钱,”Padmanabhuni说,“而是他根本无法辨别真伪。” 这件事发生在大约两年前。如今,她创立的旧金山公司Detecti
按标签聚合查看文章内容。
AI资讯当电话打来时,Tarini Padmanabhuni的祖父以为自己正在和他的兄弟通话。电话那头的声音声称自己被绑架了,唯一的解救办法是支付赎金。祖父照做了,后来才知道他的兄弟根本在别处,完全不知道发生了什么。原来,这个声音是由AI生成的深度伪造音频。 “让我印象最深刻的不是钱,”Padmanabhuni说,“而是他根本无法辨别真伪。” 这件事发生在大约两年前。如今,她创立的旧金山公司Detecti
AI资讯起初,DeSantiago并未过于担心——他以为不当照片违反了TikTok的社区准则,通常会很快被删除。 “当我最终看到那张图片时,感觉像是被重重击中了一拳,”DeSantiago告诉WIRED。图片部分与他大学时工作时拍摄的一张镜子自拍相似,但他穿着的不是工作制服,而是内衣;姿势也变得挑逗,与原照片中正常站立的样子截然不同。 这条信息引发了一场跨越两所学校、涉及学生和管理层的长达数月的事件。De
AI资讯起初,DeSantiago 并未感到担忧——他以为不当照片违反了 TikTok 的社区准则,通常会被迅速删除。 “当我最终看到那张图片时,感觉就像被重重击中了一拳,”DeSantiago 告诉 WIRED。图片部分与他大学时工作时拍摄的一张镜面自拍相似,但他穿着的不是工作制服,而是内衣;姿势也变得挑逗,与原照片中正常站立的样子截然不同。 这条信息引发了一场跨越两所学校、涉及学生和管理人员的长达数月
AI资讯字节跳动在北京发布了最新的AI视频生成模型Seedance 2.5,支持更丰富的参考素材和4K视频输出。
AI资讯一项WIRED调查揭露,数百款看似普通的AI应用实际上隐藏着制造性虐待深度伪造图像的功能。这些应用通常伪装成语言教学或AI健身教练等日常服务,但在特定条件下,会悄然加载一个网页界面,允许用户上传照片生成包含“卧室强奸”、“持刀威胁”等极端色情深度伪造视频和图片。 这一网络由超过400个关联域名和应用组成,隐藏在苹果和谷歌应用商店中,用户甚至可以通过Apple Pay和Google Pay购买生成内
AI资讯xAI起诉一名用户利用其聊天机器人Grok制作非自愿的性深度伪造图像,涉及未成年人性剥削。
AI资讯一项调查揭示,数百款看似普通的AI应用实际上隐藏着制造性虐待深度伪造图像的功能。 《WIRED》调查发现,这些应用属于一个由400多个关联域名和应用组成的网络。这些应用通常声称提供日常服务,如语言教学或AI健身教练,但在特定条件下,会悄然加载一个网页界面,允许用户上传照片生成带有性内容的AI深度伪造图像和视频。部分场景包括“卧室强奸”和“持刀威胁”,其中描绘了男性持刀威胁女性的画面。 该网络被多位
AI资讯在AI与影视制作的技术大会上,我采访了专门打击深度伪造的专家,揭示了AI技术带来的挑战与应对之道。
AI资讯周一,曼哈顿地区检察官办公室宣布查封了12个域名,这些网站被指用于“非法”分享、发布和销售名人深度伪造视频。该办公室表示,约有1200人——绝大多数为女性——在这些网站上被描绘成未经同意的性影像和视频,涉及社交媒体影响者、演员、活动家、运动员、音乐家和政治人物。 曼哈顿地区检察官艾尔文·布拉格在声明中表示:“这些令人震惊的隐私侵犯行为不仅影响受害者的职业和个人生活,还对其情感和心理健康造成巨大伤害
AI资讯旧金山市要求苹果和谷歌从其应用商店中移除多款能够数字化“裸体化”照片的应用程序,以防止非自愿深度伪造色情内容的传播。
AI资讯研究人员本杰明·舒尔茨对约160个托管深度伪造滥用及其他非自愿性内容的网站进行分析,发现至少有来自22个欧盟国家的138名女性议员出现在这些网站上或被提及,而男性议员仅有9人被提及。根据舒尔茨的计算,女性议员被深度伪造生态系统针对的可能性是男性的33倍。 荷兰进步党议员苏珊娜·克罗格表示:“深度伪造色情是针对女性及女性政治家的网络仇恨和恐吓更大趋势的一部分。”她本人也受到了影响。克罗格对研究结果表
AI资讯数月前,中国中级人民法院判决一家企业利用AI技术解除员工职位违法后,国家最高司法机关再次出手,展开对AI深度伪造技术的严厉打击。 周一,中国最高人民法院发布新指导意见,明确下级法院在处理因滥用AI工具引发的民事纠纷时的审判标准。据《南华早报》报道,该指导意见包含24条,涵盖AI生成的视频和音频、性化内容、金融违规、数字隐私及监控定价等多个方面。 指导意见重点关注深度伪造技术,这种技术能够生成逼真的