AI资讯旧金山要求苹果和谷歌下架“裸体化”应用程序
旧金山市要求苹果和谷歌从其应用商店中移除多款能够数字化“裸体化”照片的应用程序，以防止非自愿深度伪造色情内容的传播。
#深度伪造
按标签聚合查看文章内容。
AI资讯
AI资讯我与AI深度伪造猎人对话：你需要了解的真相
在AI与影视制作的技术大会上，我采访了专门打击深度伪造的专家，揭示了AI技术带来的挑战与应对之道。
AI资讯选民正被大量AI生成的竞选广告淹没
在密苏里州圣查尔斯县，县执行官的竞选变成了一场由AI制造的互相攻击战。据当地频道First Alert 4报道，保守派候选人杰森·劳（Jason Law）利用AI生成的视频大量投放广告，视频中将他的两位对手史蒂夫·埃尔曼（Steve Ehlmann）和比尔·艾格尔（Bill Eigel）描绘成共同策划阴谋欺骗选民的同谋者。 视频中，AI生成的艾格尔用一种通用的合成声音说：“史蒂夫，醒醒，我告诉大家
AI资讯欧盟要求生成式AI内容标注以确保透明度
2024年6月2日，欧洲联盟（EU）正式实施了基于《人工智能法案》（AI Act）的新规，旨在提升AI系统的透明度。该法规要求对AI生成的内容进行明确标注和标签显示。 随着人工智能技术的快速发展，AI生成或修改的内容与人类创作的内容越来越难以区分。这种情况带来了大规模错误信息传播、操控、诈骗和冒充等风险。 根据新规，特定的AI生成或修改内容必须附加清晰且易于识别的标签，同时包含机器可识别的标记。
AI资讯Meta推出全新AI图像工具，我用它在Instagram上制作了好友的深度伪造图像
Meta发布了名为Muse Image的新AI模型，支持生成和编辑AI图像，现已在Instagram等平台上线。公开账号用户需调整设置，防止被他人利用AI制作深度伪造图像。
AI资讯SpaceX上市前夕，抗议者用巨型马斯克充气人偶抨击Grok
在SpaceX即将上市之际，抗议者在纽约时代广场展示了带有争议信息的埃隆·马斯克充气人偶，批评其AI平台Grok涉及儿童色情内容。
AI资讯谷歌推出假电话检测功能，防范AI深度伪造冒充诈骗
谷歌周二宣布，Android系统将推出假电话检测功能，以防止利用AI深度伪造技术进行的冒充诈骗。该功能本月开始在搭载Android 12及以上系统的设备上，通过谷歌电话应用全球推送，首批支持设备为Pixel系列手机。 随着越来越多的人拒绝接听陌生号码来电，诈骗者开始改变策略，伪装成可信号码，并利用AI深度伪造技术模仿权威人士、家人或雇主的声音。 例如，用户可能会接到显示为“妈妈”的来电，声音听起来
AI资讯简单提示让ChatGPT变成无视安全防护的反社会者
英国AI安全初创公司Mindgard发现，通过一个简单的提示，ChatGPT会放弃基本的安全准则，生成令人不安的暴力和性内容图像，暴露了当前AI模型安全防护的漏洞。
AI资讯旧金山要求苹果和谷歌下架AI“裸化”应用
旧金山城市律师致函苹果和谷歌，要求两大应用商店删除13款利用AI生成非自愿裸照的换脸应用，强调此类应用违法且有害。
AI资讯字节跳动最新AI视频模型可通过单一提示生成30秒视频
字节跳动在北京发布了最新的AI视频生成模型Seedance 2.5，支持更丰富的参考素材和4K视频输出。
AI资讯Meta撤回Instagram AI更新功能，因用户反对被深度伪造
Meta因用户强烈反对，撤销了Instagram中引发争议的AI深度伪造功能。
AI资讯深度伪造技术的泛滥正在深刻改变青少年上网方式
一项由非营利组织Common Sense Media发布的新调查揭示，AI生成的色情内容正在迅速改变青少年面对性和约会的方式，其影响深远且尚未被充分理解。该调查针对1314名13至17岁的青少年进行了全国代表性抽样，并结合访谈和焦点小组数据，定义AI生成的色情内容包括深度伪造的裸照或色情材料、AI生成的涉及真实人物的暴露或性暗示视频，以及任何其他由AI制作的性内容。 目前，美国中学和高中正面临未成