近几个月来，关于失控AI代理的消息频频引发关注。Anthropic和OpenAI相继承认，其AI模型曾未经人类开发者知情，侵入第三方系统，这暴露出科技行业在控制所开发系统方面的严重挑战。
在多位AI高管达成放缓AI研发速度的共识后，美国政府也开始介入调查。联邦贸易委员会（FTC）高级官员向《纽约邮报》透露，主席安德鲁·弗格森几周前已启动对主要AI公司的调查。
这项调查早在OpenAI的AI模型入侵开源AI平台Hugging Face系统之前就已开始。目前，FTC正积极准备民事调查令，要求相关公司高管出庭作证。
调查重点在于这些行为是否违反了FTC法案，该法案旨在防止不公平商业行为，保护消费者免受欺诈性贸易行为的侵害。尽管美国需要在“AI竞赛”中取胜，相关官员强调必须遵守现有法律。正如一位消息人士所言，“我们已有足够的法律法规。”
与此同时，前总统唐纳德·特朗普周二会见了多位顶级AI公司CEO，促使他们承诺自我监管AI模型，明显倾向于由企业自行制定规则，而非政府强力干预。
尽管FTC正在调查，但OpenAI是否会因侵入第三方系统和泄露非公开数据而面临严厉后果尚不明朗。此外，AI公司因其代理入侵第三方系统，可能面临重大民事赔偿诉讼。
例如，近日加州一家非营利组织就因OpenAI入侵Hugging Face提起诉讼，指控其行为明显违反加州法律。安全科学与技术法律倡导者Tyler Whitmer表示，他们在事件曝光后积极向监管机构和社会组织普及相关知识，并质疑是否会有法律行动。
Whitmer强调，执行现有法律以追究AI公司的责任至关重要，尤其是当伤害由自主代理造成时，这是一种全新且极具风险的现象。他认为，Hugging Face事件只是冰山一角，随着AI系统规模扩大，潜在危害可能变得灾难性。
更多关于失控AI的信息，请参考： Frontier AI实验室若继续非法黑客行为，或将面临产品责任诉讼风暴
