AI资讯数百款普通AI应用暗藏性虐待深度伪造功能
一项调查揭露,数百款看似普通的AI应用实际上隐藏着制造性虐待深度伪造图像的功能。 WIRED的调查发现,这些应用属于一个由400多个相关域名和应用组成的网络。这些应用通常声称提供日常服务,如语言教学或AI健身教练,但在特定条件下,会悄然加载一个网页界面,允许用户上传照片生成带有性内容的AI深度伪造图像和视频。部分场景包括“卧室强奸”和“持刀威胁”,其中男性持刀威胁女性。 该网络被多位研究人员发现,
按标签聚合查看文章内容。
AI资讯一项调查揭露,数百款看似普通的AI应用实际上隐藏着制造性虐待深度伪造图像的功能。 WIRED的调查发现,这些应用属于一个由400多个相关域名和应用组成的网络。这些应用通常声称提供日常服务,如语言教学或AI健身教练,但在特定条件下,会悄然加载一个网页界面,允许用户上传照片生成带有性内容的AI深度伪造图像和视频。部分场景包括“卧室强奸”和“持刀威胁”,其中男性持刀威胁女性。 该网络被多位研究人员发现,
AI资讯一段AI虚拟面试官与一位用胡言乱语回答的网红互动的视频截图引发关注。
AI资讯TikTok上的互动农场主利用AI技术篡改真实逮捕画面,伪造警察猥亵被捕者的深度伪造视频,引发广泛关注。
AI资讯起初,DeSantiago并未过于担心,他以为不当照片会违反TikTok社区准则,通常会很快被删除。 “当我最终看到那张图片时,感觉就像被重重击中了一拳,”DeSantiago告诉WIRED。图片部分与他大学时工作时拍的镜面自拍相似,但他穿着的不是工作制服,而是内衣;姿势也变得挑逗,与原照片中正常站立的样子截然不同。 这条信息引发了一场跨越两所学校、涉及学生和管理人员的长达数月的事件。DeSant
AI资讯2024年5月29日,联邦集体诉讼案中的四名主要原告——目前以南卡罗来纳州Doe、南卡罗来纳州Roe、新泽西州Doe和俄亥俄州Doe的化名出现——在宣誓书中描述了自今年早些时候涉嫌深度伪造图像被制作以来所遭受的情绪困扰。文件显示,这四人担心如果被迫在针对xAI的诉讼中使用真实姓名,将面临更多的网络骚扰和人肉搜索。 代表这些个人的律师Sophia Rios在近期提交的文件中写道:“xAI在剥夺他们衣
AI资讯OpenAI于周二宣布,将关闭其六个月前推出的类似TikTok的社交应用Sora。OpenAI未透露关闭的具体原因,也未说明正式停止运营的时间。 Sora最初作为邀请制社交网络上线时,许多人争相申请邀请。然而,类似Meta的虚拟现实社交平台Horizon Worlds,尽管曾是公司元宇宙战略的核心,但也陷入困境,Sora同样缺乏持续的用户粘性。尽管其背后的Sora 2视频和音频生成模型技术令人惊叹
AI资讯日本声优梶裕贵成立新公司FRACTAL,专注声优管理及音声AI项目“そよぎフラクタル”的发展。
AI资讯YouTube宣布,将其用于识别AI生成深度伪造内容的肖像检测技术扩展到一批政府官员、政治候选人和记者的试点项目中。参与试点的成员将获得一款工具,能够检测未经授权的AI生成内容,并在认为内容违反YouTube政策时请求删除。 该技术最初于去年向约400万YouTube合作伙伴计划的创作者推出,经过早期测试后正式上线。类似于YouTube现有的内容识别系统(Content ID),肖像检测功能专注于
AI资讯谷歌的SynthID系统近日成功揭穿了一张备受关注的AI生成假图,这也是该系统罕见但意义重大的胜利。 本周早些时候,一张图片在网络上流传,显示肯塔基州参议员米奇·麦康奈尔躺在医院病床上,身上插满管子,状况极为危急。该图片在Reddit和X平台广泛传播,但到了周三,著名事实核查网站Snopes揭穿了这张图片,指出经过检测,该图包含谷歌设计的SynthID水印,这种水印用于识别AI生成的图片。 简而言
AI资讯近日,有报道指出,青少年学生正利用人工智能技术,在社交媒体平台如Instagram和TikTok上制作针对教师的“诽谤”视频。这些视频不仅恶搞教师形象,甚至对教师的声誉进行攻击,有的视频甚至无端将教师称为“掠夺者”。 这些“诽谤页面”常用网络流行语“looksmaxxing”来贬低教师,部分视频点赞数超过十万,迅速成为网络上的恶搞“内部笑话”,被大量陌生网友传播。AI技术在其中的作用主要是通过像V
全球AI语音诈骗激增,调查显示四分之一美国受访者曾接到此类电话,且近四分之一难以辨别真假声音。
AI资讯随着AI深度伪造技术在社交媒体上的泛滥,个人形象被未经同意地用于生成虚假内容的风险日益增加。就在本月早些时候,俄亥俄州一名男子因违反新联邦法律——禁止“亲密”视觉欺骗行为——成为首个被定罪的人。对于名人而言,他们不仅面临被制作色情深度伪造视频的风险,还可能被用于虚假代言。 AI检测公司Copyleaks发布的一份新报告显示,泰勒·斯威夫特及其他明星的形象近期被用于诈骗广告。研究人员发现TikTok