#内容审核

按标签聚合查看文章内容。

Hugging Face面临非自愿深度伪造裸照问题AI资讯

Hugging Face面临非自愿深度伪造裸照问题

开源人工智能平台Hugging Face——一个价值数十亿美元的AI模型和数据集仓库——正面临着广泛的非自愿深度伪造问题。根据欧洲非营利组织AI Forensics周二发布的一份新报告,研究人员测试了Hugging Face上九个最受欢迎的图像编辑空间(Spaces),这些空间托管着用户可以直接使用的模型,其中七个能够轻松将穿衣女性图像转换为上半身裸露的图像。 在进一步测试中,AI Forensi

YouTube宣布加强打击低质AI内容AI资讯

YouTube宣布加强打击低质AI内容

YouTube平台上充斥着大量低质量的AI生成内容已是不争的事实。虽然YouTube此前曾尝试限制这些劣质AI图像的泛滥,但现在它正准备更严肃地执行其对使用AI技术制作视频的相关标准,尽管这些标准仍相对宽松。 本周三,谷歌旗下的YouTube宣布将对AI生成内容的标签进行更新。最显著的变化是标签将更加醒目:传统YouTube视频的“AI”标签将直接显示在视频播放器下方,而不再隐藏在视频描述中。对于

YouTube明确AI低质内容及令人不适视频的政策AI资讯

YouTube明确AI低质内容及令人不适视频的政策

YouTube最近更新了其平台内容变现政策,进一步打击所谓的“AI低质内容”。新政策明确指出,属于“非真实内容”范畴的三类视频将无法获得变现资格,旨在阻止创作者利用AI及其他工具制作低质量内容。 早在去年,YouTube就已针对AI生成内容制定了相关政策,限制创作者通过“非真实内容”获利,这包括大量生产的重复视频等,随着AI技术的发展,这类内容变得更容易生成。 此次更新主要是对现有政策进行细化,具

Spotify将标注“AI虚拟形象”账号并排除其音乐推荐AI资讯

Spotify将标注“AI虚拟形象”账号并排除其音乐推荐

Spotify宣布,将开始在AI生成的艺术家账号上添加“AI虚拟形象”标签,并禁止其音乐出现在编辑推荐和算法推荐中。该措施预计于9月中旬开始实施。 届时,Spotify用户在部分艺术家资料页会看到“AI虚拟形象”徽章,表明该艺术家身份为AI生成,而非真实人物。虽然Spotify允许艺术家自行申报为AI虚拟形象,但公司表示不会仅依赖自我披露。 Spotify还将主动审核艺术家资料,识别那些名字和形象

Hugging Face面临深度伪造裸照问题AI资讯

Hugging Face面临深度伪造裸照问题

开源人工智能平台Hugging Face——一个拥有数十亿估值的AI模型和数据集仓库——正面临着广泛的非自愿深度伪造问题。根据欧洲非营利组织AI Forensics周二发布的一份新报告,研究人员测试了Hugging Face上九个最受欢迎的图像编辑Spaces(用户可直接使用的模型),其中七个能够轻松将女性穿着的照片转换为上半身裸露的图像。 在进一步测试中,AI Forensics的研究人员在Hu

数百款普通AI应用隐藏性虐待深度伪造功能AI资讯

数百款普通AI应用隐藏性虐待深度伪造功能

一项调查显示,某些看似普通的AI应用实际上隐藏着生成性虐待深度伪造图像的功能。 WIRED的调查发现,这些应用属于一个由400多个相关域名和应用组成的网络,这些应用通常声称是日常服务,如语言教学或AI健身教练。然而,在特定条件下,这些应用会偷偷加载一个网页界面,允许用户上传照片并生成带有明确性内容的AI深度伪造图像和视频。生成的场景包括“卧室强奸”和“持刀威胁”,其中有男性持刀威胁女性的画面。 该

Meta推出新AI工具,打击通过广告秘密传播儿童性虐待内容AI资讯

Meta推出新AI工具,打击通过广告秘密传播儿童性虐待内容

Meta于2026年上半年在Facebook和Instagram平台上处理了3320万条儿童性剥削内容。与此同时,公司推出了新的人工智能工具,旨在识别那些通过广告和账户秘密引导用户访问非法儿童虐待内容的行为。 Meta表示,其系统在用户举报前已发现了超过97%的违规内容。在印度,同期处理了530万条相关内容,其中98%以上是在用户举报前被检测到的。 最新的AI工具专注于识别所谓的“指引广告”,这些

数百款普通AI应用暗藏性虐待深度伪造功能AI资讯

数百款普通AI应用暗藏性虐待深度伪造功能

一项调查揭露,数百款看似普通的AI应用实际上隐藏着制造性虐待深度伪造图像的功能。 WIRED的调查发现,这些应用属于一个由400多个相关域名和应用组成的网络。这些应用通常声称提供日常服务,如语言教学或AI健身教练,但在特定条件下,会悄然加载一个网页界面,允许用户上传照片生成带有性内容的AI深度伪造图像和视频。部分场景包括“卧室强奸”和“持刀威胁”,其中男性持刀威胁女性。 该网络被多位研究人员发现,

人工智能决策模型如何改变内容审核AI资讯

人工智能决策模型如何改变内容审核

随着决策模型在行业中的广泛应用,一家名为Musubi的公司提出了一个全新的想法:利用决策模型进行内容审核。Musubi于周二发布了一款轻量级的实时内容审核决策模型,名为PolicyLM-1.7B,并开放了模型权重。 该模型的核心理念是将用简单英文编写的内容政策,应用于消息审核中,响应时间控制在50毫秒以内。Musubi设计的这款模型在成本和速度上与大多数社交平台使用的AI分类系统相当,但由于具备现

Reddit创始人称构建社交媒体应用“已不再酷”AI资讯

Reddit创始人称构建社交媒体应用“已不再酷”

Reddit创始人亚历克西斯·奥哈尼安(Alexis Ohanian)在首届WIRED世界博览会上对WIRED高级记者Lauren Goode表示:“我期待一种更好的群聊形式,成为用户生成内容的新形态。” 奥哈尼安与互联网的关系颇为复杂。2020年,乔治·弗洛伊德事件后,他辞去了Reddit的职务,目的是为黑人董事会成员腾出位置,并推动公司改革内容审核政策。Reddit曾因承载暴力和有害言论而声名