#深度伪造

按标签聚合查看文章内容。

Hugging Face面临深度伪造裸照问题AI资讯

Hugging Face面临深度伪造裸照问题

开源人工智能平台Hugging Face——一个拥有数十亿估值的AI模型和数据集仓库——正面临着广泛的非自愿深度伪造问题。根据欧洲非营利组织AI Forensics周二发布的一份新报告,研究人员测试了Hugging Face上九个最受欢迎的图像编辑Spaces(用户可直接使用的模型),其中七个能够轻松将女性穿着的照片转换为上半身裸露的图像。 在进一步测试中,AI Forensics的研究人员在Hu

YouTube将AI肖像识别技术扩展至娱乐圈名人AI资讯

YouTube将AI肖像识别技术扩展至娱乐圈名人

YouTube近日宣布,将其新推出的“肖像识别”技术推广至娱乐行业,帮助识别AI生成内容,如深度伪造视频。该技术类似于YouTube现有的内容识别系统(Content ID),后者能检测用户上传视频中的版权保护内容,允许权利人请求删除或分享视频收益。 肖像识别技术则专注于模拟面孔的检测,旨在保护创作者及公众人物的身份不被未经授权使用。这一问题在名人中尤为突出,他们的肖像常被用于诈骗广告中。 该技术

谷歌推出假电话检测功能,防范AI深度伪造冒充诈骗AI资讯

谷歌推出假电话检测功能,防范AI深度伪造冒充诈骗

谷歌周二宣布,Android系统将推出假电话检测功能,以防止利用AI深度伪造技术进行的冒充诈骗。该功能本月开始在搭载Android 12及以上系统的设备上,通过谷歌电话应用全球推送,首批支持设备为Pixel系列手机。 随着越来越多的人拒绝接听陌生号码来电,诈骗者开始改变策略,伪装成可信号码,并利用AI深度伪造技术模仿权威人士、家人或雇主的声音。 例如,用户可能会接到显示为“妈妈”的来电,声音听起来

欧盟要求生成式AI内容标注以确保透明度AI资讯

欧盟要求生成式AI内容标注以确保透明度

2024年6月2日,欧洲联盟(EU)正式实施了基于《人工智能法案》(AI Act)的新规,旨在提升AI系统的透明度。该法规要求对AI生成的内容进行明确标注和标签显示。 随着人工智能技术的快速发展,AI生成或修改的内容与人类创作的内容越来越难以区分。这种情况带来了大规模错误信息传播、操控、诈骗和冒充等风险。 根据新规,特定的AI生成或修改内容必须附加清晰且易于识别的标签,同时包含机器可识别的标记。

“每天100个视频通话”:模特竞相成为AI诈骗的“面孔”AI资讯

“每天100个视频通话”:模特竞相成为AI诈骗的“面孔”

近年来,人工智能技术的进步不仅带来了便利,也被不法分子利用于复杂的诈骗活动中。以“猪肉宰杀”骗局为例,诈骗团伙通过深度伪造技术(deepfake)进行视频通话,诱骗受害者上当。Angel(化名)便是一名申请成为“AI面孔模特”的年轻女性,她的工作内容是整天坐在电脑前,通过深度伪造视频与潜在受害者通话,操控对方情绪以实施诈骗。她的申请表中甚至包括身高体重等信息,显示她已有一年AI模特经验。 这种现象

数百款普通AI应用隐藏性虐待深度伪造功能AI资讯

数百款普通AI应用隐藏性虐待深度伪造功能

一项调查显示,某些看似普通的AI应用实际上隐藏着生成性虐待深度伪造图像的功能。 WIRED的调查发现,这些应用属于一个由400多个相关域名和应用组成的网络,这些应用通常声称是日常服务,如语言教学或AI健身教练。然而,在特定条件下,这些应用会偷偷加载一个网页界面,允许用户上传照片并生成带有明确性内容的AI深度伪造图像和视频。生成的场景包括“卧室强奸”和“持刀威胁”,其中有男性持刀威胁女性的画面。 该

他们献身教育,却遭遇深度伪造的侵害AI资讯

他们献身教育,却遭遇深度伪造的侵害

起初,DeSantiago 并未感到担忧——他以为不当照片会违反 TikTok 的社区准则,通常会被迅速删除。 “当我终于看到那张图片时,感觉像被重重击中了一拳,”DeSantiago 告诉 WIRED。他认出图片部分内容类似他大学时工作时拍过的一张镜子自拍。但照片中,他穿着的不是工作制服,而是内衣;姿势也从原本的自然站立变成了挑逗性的摆拍。 这条信息引发了长达数月的纠纷,涉及两所学校的学生和管理

他们毕生致力于教学,却遭遇深度伪造的困扰AI资讯

他们毕生致力于教学,却遭遇深度伪造的困扰

起初,DeSantiago 并未感到担忧——他以为不当照片违反了 TikTok 的社区准则,通常会被迅速删除。 “当我终于看到那张图片时,感觉就像被重重击中了一拳,”DeSantiago 告诉 WIRED。他认出图片部分内容类似他大学时工作时拍的一张镜面自拍。但照片中,他穿着内衣,而非工作制服,姿势也变得挑逗,而非原本的自然站姿。 这条信息引发了一场跨越两所学校、涉及学生和管理人员的长达数月的事件

YouTube与X成为“裸照生成”应用的主要入口AI资讯

YouTube与X成为“裸照生成”应用的主要入口

战略对话研究所(ISD)发布的一份报告揭示了一个令人担忧的现象:所谓的“裸照生成”应用和网站正在网络上迅速传播,这些工具允许用户在未经他人同意的情况下,数字化地“脱衣”他人。 这份于周一发布的研究分析了十大最常用来制作非自愿色情深度伪造内容的应用和网站,并探讨了用户是如何找到这些工具的。令人意外的是,大量的推荐流量并非来自4chan等小型、监管松散的社区,而是来自主流社交媒体平台。 根据ISD报告