一群人工智能研究人员创建了一个众包网站——AI缺陷报告平台（FLARE-AI），用于举报和追踪AI带来的危害。例如，如果聊天机器人生成恶意软件、炸弹制作配方、泄露个人信息，或引发用户的妄想思维，FLARE-AI都能用来发出警报。该系统的开源代码允许其他人验证问题，并将报告转交给模型开发者以及像MITRE这样的非营利组织，后者专门跟踪技术系统的问题。这个平台有点类似于Downdetector，后者汇总用户的实时报告，监测全球应用和网站的服务中断。

这个网站是该团队持续推动AI问题报告工作的又一重要进展，我去年首次报道过他们的工作。团队成员还参与了今年6月公布的一项国会法案的咨询，该法案拟让美国政府在追踪AI不当行为方面发挥核心作用。

“目前，还没有一个集中且负责任的渠道来报告AI系统的缺陷，”HuggingFace的人工智能政策研究员Avijit Ghosh说，他与计算机科学家Elaine Zhu和Shayne Longpre共同领导了FLARE-AI的开发。

该报警系统由来自32个不同机构的49名AI专家合作开发。在一篇介绍这项工作的论文中，研究人员认为，随着AI的广泛应用和自主系统能力的增强，他们的倡议将变得尤为重要。他们认为，缺乏统一的AI缺陷报告机制是一个严重问题。

智库安全与新兴技术中心的研究员Jessica Ji表示：“我认为这是一个非常好的倡议。”她赞同研究人员指出的现有报告机制零散且AI模型如同黑盒的观点。“我支持任何能让AI更透明的举措。”

尽管漏洞和网络安全问题备受关注，尤其是最近，Ghosh告诉我，AI系统的问题涵盖心理伤害、歧视偏见和错误信息等多个方面。他补充说，不同公司对这些问题的标准不一，导致一些问题未被发现。“缺乏协调的披露系统，就没有外部机制来强制透明度，”Ghosh说。

近期多起涉及热门AI工具的事件显示，这项技术很容易出现问题。

本周，一家公司LayerX披露了一种欺骗集成AI的网页浏览器（包括OpenAI的Atlas和Perplexity的Comet）绕过安全防护的方法。例如，让浏览器背后的AI模型误以为它在玩游戏，可能导致浏览器失控并尝试攻击网站。（LayerX表示，相关浏览器公司已修复该问题。）今年4月，安全研究员Johann Rehberger发现了一种利用ChatGPT生成的图像诱使Claude泄露个人数据的方法。

AI还带来了奇怪的新问题。去年，OpenAI被迫更新其模型，因为发现模型过于谄媚，有时会助长妄想思维。

Humane Intelligence PBC的CEO兼创始人Rumman Chowdhury表示，FLARE-AI可能成为许多AI开发者实施问题报告的有用工具，但她也指出，这类项目通常面临严峻挑战。

其中之一是如何应对大量报告，其中许多可能并不严重；另一个是确保报告机制由可信且权威的机构支持。

上个月的国会法案可能为类似FLARE-AI的努力提供美国政府的支持。该法案由众议员Deborah Ross、Jeff Hurd和Don Beyer提出，要求国家标准与技术研究院制定AI缺陷报告标准，并维护一个集中式的AI缺陷报告数据库。Ghosh和他的团队表示，这将激励AI开发者解决系统中的问题，并让用户能够评估不同系统在不同使用场景下的安全性。

随着自主系统如OpenClaw的能力增强，以及模型更能探测和攻击计算机系统，报告AI危害的新方式需求只会越来越大。我可能很快就会用FLARE-AI来报告我自己的AI“冒险”经历。