#内容审核

按标签聚合查看文章内容。

GPTZero AI文本检测工具AI商业

GPTZero AI文本检测工具

GPTZero 是一款面向教育机构、企业与内容创作者的高精度 AI 文本检测工具,可检测 ChatGPT、GPT-4、Gemini、Claude、Llama 等模型生成内容,并提供句子级分析与原创性验证。

数百名为Meta训练AI的员工或将被裁,员工称“这很无尊严”AI资讯

数百名为Meta训练AI的员工或将被裁,员工称“这很无尊严”

受影响的员工隶属于总部位于都柏林的公司Covalen,该公司负责为Meta提供内容审核和数据标注服务。根据参与会议的员工Nick Bennett透露,员工们在周一下午通过一次简短的视频会议被告知裁员消息,且不允许提问。“我们在会议前就有很不好的预感,”他表示,“这种情况以前也发生过。” 据WIRED获得的一封邮件显示,Covalen可能有超过700名员工面临失业风险,其中约500人为数据标注员。他

维基百科加强对AI写作的监管AI资讯

维基百科加强对AI写作的监管

随着人工智能在编辑和媒体领域的广泛应用,各大网站纷纷制定相关使用规范。本周,维基百科宣布禁止编辑者使用AI生成的文本,尽管并未完全禁止AI参与其编辑流程。 根据最新的政策更新,维基百科明确规定“禁止使用大型语言模型(LLM)生成或重写条目内容”。这一新规定对之前较为模糊的表述进行了明确,之前的政策仅表示“LLM不应被用来从零开始生成新的维基百科条目”。 AI在维基百科条目中的使用已成为该网站庞大且

OpenAI发布开源工具助力开发者提升青少年安全AI资讯

OpenAI发布开源工具助力开发者提升青少年安全

OpenAI于周二宣布推出一套面向开发者的提示语,旨在帮助他们打造更安全的青少年应用。该AI实验室表示,这套名为“青少年安全政策”的开源提示语可配合其开放权重安全模型gpt-oss-safeguard使用。 开发者无需从零开始探索如何保障青少年使用AI的安全,可以利用这些提示语强化其应用的安全性。内容涵盖了暴力和性内容、危害身体健康的理想与行为、危险活动和挑战、浪漫或暴力角色扮演,以及限制年龄的商

维基百科禁止使用生成式AI进行文章创作与修改,允许的例外情况有哪些?AI资讯

维基百科禁止使用生成式AI进行文章创作与修改,允许的例外情况有哪些?

维基百科正式宣布禁止使用生成式人工智能(AI)来生成或修改文章内容。 此前,维基百科对生成式AI的态度经历了多次变化。虽然曾尝试引入生成式AI的摘要功能,试图实现人机共存,但最终该功能被撤回。最近,维基百科的编辑志愿者公开了识别AI生成文章的技巧,结果这些技巧反被生成式AI吸收,反而被用作投稿前的检测工具,显示出管理上的困难。 此次,维基百科更新了英文版内容指南,明确禁止使用生成式AI进行文章的生

Facebook内部人士打造AI时代的内容审核系统AI资讯

Facebook内部人士打造AI时代的内容审核系统

当Brett Levenson于2019年离开苹果,加入Facebook负责业务诚信时,正值社交媒体巨头陷入剑桥分析丑闻的余波中。那时,他以为只需用更先进的技术就能解决Facebook的内容审核问题。 但他很快发现,问题远比技术复杂。内容审核员需要记住一份40页的政策文件,而这份文件是通过机器翻译成他们的语言的。审核员对每条被标记的内容只有大约30秒的时间,不仅要判断内容是否违规,还要决定如何处理

Meta封禁同性恋酒吧账号,却允许儿童虐待视频传播AI资讯

Meta封禁同性恋酒吧账号,却允许儿童虐待视频传播

Meta旗下平台已沦为充斥AI生成恶劣内容的污秽之地,内容涵盖从暴力儿童虐待到极端爱国主义的诱导性内容。 Meta在内容审核上的失败屡见不鲜,但更令人关注的是其审核重点的偏差:该公司近期针对LGBTQ群体采取了明显的审查行动,封禁了位于德克萨斯州奥斯汀的两家同性恋酒吧——Oilcan Harry’s和Rain on 4th的Instagram和Facebook账号。据《Chron》报道,酒吧发布的