Meta公司于周四宣布，开始部署更先进的人工智能系统来处理内容监管工作，同时计划减少对第三方供应商的依赖。内容监管的任务包括识别和删除涉及恐怖主义、儿童剥削、毒品、欺诈和诈骗等违规内容。
Meta表示，一旦这些先进的AI系统在表现上持续优于现有的内容监管方法，就会在旗下应用中全面推广。同时，公司将逐步减少对第三方供应商在内容监管方面的依赖。
Meta在博客中解释道：“虽然仍会有人工审核人员参与内容审查，但这些系统能够承担更适合技术处理的工作，比如对暴力内容的重复审核，或应对不断变化策略的恶意行为者，如非法毒品销售和诈骗。”
Meta认为，这些AI系统能够更准确地检测违规行为，更有效地防止诈骗，更快速地响应现实事件，并减少过度监管的情况。
早期测试显示，这些AI系统在检测成人性诱导内容方面的效率是人工审核团队的两倍，同时错误率降低了60%以上。系统还能更好地识别和阻止涉及名人及其他公众人物的冒充账号，并通过检测新地点登录、密码更改或资料编辑等信号，帮助防止账号被盗。
此外，Meta称这些系统每天能识别并阻止约5000起诈骗企图，这些诈骗通常试图诱骗用户泄露登录信息。
Meta在博客中写道：“专家将设计、训练、监督并评估我们的AI系统，衡量其表现，并做出最复杂、影响最大的决策。例如，人工审核人员仍将在处理最高风险和最关键的决策中发挥关键作用，如账号禁用申诉或向执法部门报告。”
此次举措正值Meta在过去一年多来逐步放宽内容审核规则之际。去年，随着特朗普总统第二次就职，Meta结束了第三方事实核查项目，转而采用类似X平台的社区注释模式。同时，Meta放宽了对“主流话题”的限制，鼓励用户对政治内容采取“个性化”处理方式。
此外，Meta和其他大型科技公司目前正面临多起诉讼，指控社交媒体巨头对儿童和年轻用户造成伤害。
Meta还宣布推出Meta AI支持助手，为用户提供全天候支持。该助手已在全球范围内向iOS和Android平台的Facebook及Instagram应用，以及桌面端的帮助中心上线。
