佛罗里达州成为美国首个针对OpenAI提起诉讼的州，指控该公司在ChatGPT的安全性和设计上存在严重问题，加入了针对OpenAI的大量诉讼浪潮。

根据佛罗里达州总检察长James Uthmeier周一提交的诉状（PDF链接），OpenAI构建了一个“欺骗和利用用户的网络”，其中包括佛罗里达州居民。佛罗里达州指控该公司违反了州内关于欺诈或不公平贸易行为的法律，为了提升市场价值和利润，置用户安全于不顾。

诉讼中指出，OpenAI及其CEO Sam Altman故意无视公司内外关于人工智能带来多种风险的警告。佛罗里达州称OpenAI对ChatGPT的可靠性、适合儿童使用性进行了虚假宣传，并鼓励用户长时间使用，导致认知能力下降。

（声明：CNET母公司Ziff Davis于2025年对OpenAI提起诉讼，指控其在训练和运营AI系统时侵犯了版权。）

此次诉讼还与佛罗里达州对去年佛罗里达州立大学发生的枪击案的刑事调查有关。该枪击案造成两人死亡、六人受伤，嫌疑人据称利用ChatGPT策划了袭击，包括选择武器、袭击时间以及处理尸体的方法。

当时，OpenAI回应称：“佛罗里达州立大学去年的枪击案是一场悲剧，但ChatGPT不应为此罪行负责。”

关于ChatGPT和其他聊天机器人可能助长暴力行为和有害妄想的担忧日益增加。专家发现，像ChatGPT这样的聊天机器人难以有效抵制危险想法，且因过于迎合用户，可能提供事实错误的信息，这种现象被称为“谄媚症”。

立法者和技术监督组织还关注OpenAI的数据收集和隐私政策。佛罗里达州的诉状指出，ChatGPT允许儿童轻易接触有关饮食失调和自残的有害信息。OpenAI隐瞒这些风险，并将ChatGPT宣传为安全产品，误导了佛罗里达州民众和公众。

OpenAI在声明中表示，未成年人需要强有力的保护，公司一直致力于为家长和青少年提供相关保障。“失去孩子是家庭最沉痛的悲剧，我们深知任何言语都无法缓解这种痛苦。我们承诺将努力做好这件事。”

规范人工智能

虽然这是首起由州政府主导针对OpenAI儿童安全的诉讼，但多个州政府已开始针对人工智能采取行动。加利福尼亚、伊利诺伊和纽约等州已制定新法规，规范AI公司的运营。

佛罗里达州的诉讼属于民事案件，可能导致罚款和法院命令，而非刑事指控。尽管具体罚款金额尚不明确，但近期Meta和谷歌因开发成瘾性社交媒体应用被判支付300万美元赔偿；另一起案件中，Meta因儿童剥削被判赔偿3.75亿美元。虽然这些案件涉及社交媒体而非人工智能，但针对大型科技公司的法律策略或为未来AI监管提供借鉴。

尽管各州和地方对AI的反弹日益强烈，特朗普政府最新的AI计划显示联邦政府希望主导相关规则制定。白宫积极支持AI基础设施项目，包括美国范围内数据中心建设的热潮。

专家警告，放宽监管以加快AI公司发展可能对环境、经济和社会带来严重负面影响。