AI资讯首例违反美国新反深度伪造法案者被定罪
首例因违反美国联邦反AI深度伪造法案“Take It Down Act”而被定罪，标志着保护公众免受AI生成有害内容侵害的重要进展。
#深度伪造
按标签聚合查看文章内容。
AI资讯
AI资讯Hugging Face面临深度伪造裸照问题
开源人工智能平台Hugging Face——一个拥有数十亿估值的AI模型和数据集仓库——正面临着广泛的非自愿深度伪造问题。根据欧洲非营利组织AI Forensics周二发布的一份新报告，研究人员测试了Hugging Face上九个最受欢迎的图像编辑Spaces（用户可直接使用的模型），其中七个能够轻松将女性穿着的照片转换为上半身裸露的图像。 在进一步测试中，AI Forensics的研究人员在Hu
AI资讯Grok涉入令人震惊的犯罪诉讼，SpaceX陷入风暴中心
一项诉讼指控Elon Musk旗下的Grok聊天机器人被用于生成大量儿童色情图像，揭露了AI技术潜在的严重滥用问题。
AI资讯AI招聘骗局连聪明人也难以防范，警惕这些陷阱
随着AI技术的发展，招聘诈骗手段日益高明，求职者需提高警惕，掌握防范技巧。
AI资讯日本声优梶裕贵成立新公司FRACTAL，推动音声AI项目商业化
日本声优梶裕贵成立新公司FRACTAL，专注声优管理及音声AI项目“そよぎフラクタル”的发展。
AI资讯多国警示AI语音诈骗：深度伪造技术让熟悉声音难辨真假
全球AI语音诈骗激增，调查显示四分之一美国受访者曾接到此类电话，且近四分之一难以辨别真假声音。
AI资讯他们毕生致力于教学，却遭遇深度伪造的侵害
起初，DeSantiago 并未感到担忧——他以为不当照片违反了 TikTok 的社区准则，通常会被迅速删除。 “当我最终看到那张图片时，感觉就像被重重击中了一拳，”DeSantiago 告诉 WIRED。图片部分与他大学时工作时拍摄的一张镜面自拍相似，但他穿着的不是工作制服，而是内衣；姿势也变得挑逗，与原照片中正常站立的样子截然不同。 这条信息引发了一场跨越两所学校、涉及学生和管理人员的长达数月
AI资讯第6回：什么是“深度伪造”——一个让“看到”和“听到”都难以信任的时代
利用AI技术逼真合成面部、声音与动作 无论是名人讲话的视频、上司发来的语音信息，还是看似本人发布的社交媒体内容，辨别这些是否真的是本人制作的，变得越来越困难。 所谓“深度伪造”（Deepfake），是指利用人工智能技术，将人物的面部、声音、动作等合成得极为逼真的图片、视频、音频，或指这种生成技术。其名称由“深度学习”（Deep Learning）和“伪造”（Fake）组合而成。 通过学习已有的照
AI资讯我用谷歌Gemini的AI头像工具克隆了自己，结果令人毛骨悚然
虽然视频中的男子看起来和声音听起来都像我，但这段视频实际上是通过谷歌Gemini应用中的新功能——头像生成的。这些数字化的克隆类似于OpenAI已停用的Sora应用的核心功能。它是你自己的数字克隆，可以被插入到AI视频中。头像功能由谷歌新推出的Omni视频模型驱动，仅对订阅用户开放。 我每月支付20美元订阅谷歌的AI Pro计划，很快就用满了Gemini的使用限制（每5小时重置一次）。我简单地问了
AI资讯色情明星拥抱AI克隆技术，实现永葆青春
安，53岁，曾是一名成人表演者，活跃于1990年代中期，职业生涯长达三十年，直到实现了自己的储蓄目标后选择退休。 但去年，她改变了主意。作为一名AI爱好者，安与总部位于伦敦的AI伴侣公司OhChat签署了合同，授权其使用她的形象，在平台上创建了一个AI版本的自己。这个数字克隆拥有她的声音、体型和柔软的棕色头发，可以为付费用户制作性爱场景。 随着深度伪造技术问题日益严峻，以及年龄验证法律的实施使成人
AI资讯两男子因制作AI深度伪造色情内容被捕
两名男子因利用人工智能技术制作深度伪造色情内容被联邦检察官逮捕，此举标志着美国在打击AI生成的非法色情内容方面迈出重要一步。
AI资讯OpenAI的Sora曾是手机上最诡异的应用——现已关闭
OpenAI于周二宣布，将关闭其六个月前推出的类似TikTok的社交应用Sora。OpenAI未透露关闭的具体原因，也未说明正式停止运营的时间。 Sora最初作为邀请制社交网络上线时，许多人争相申请邀请。然而，类似Meta的虚拟现实社交平台Horizon Worlds，尽管曾是公司元宇宙战略的核心，但也陷入困境，Sora同样缺乏持续的用户粘性。尽管其背后的Sora 2视频和音频生成模型技术令人惊叹