宾夕法尼亚州政府对Character.AI提起诉讼，指控该公司的一款聊天机器人冒充精神科医生，违反了该州的医疗执照规定。
州长乔什·夏皮罗表示：“宾夕法尼亚州民有权知道他们在网上与谁或什么互动，尤其是涉及健康问题时。我们不会允许公司部署误导公众以为他们正在接受持牌医疗专业人士建议的AI工具。”
根据州政府的诉状，Character.AI的一款名为Emilie的聊天机器人在州职业行为调查员的测试中，自称为持牌精神科医生。即使调查员寻求抑郁症治疗时，Emilie仍坚持这一身份。当被问及是否持有该州的医疗执照时，Emilie不仅声称持有，还伪造了一个医疗执照编号。州政府认为，这种行为违反了宾夕法尼亚州的《医疗执业法》。
这并非Character.AI首次面临诉讼。今年早些时候，该公司解决了几起涉及未成年用户自杀的错误死亡诉讼。1月，肯塔基州总检察长拉塞尔·科尔曼也对该公司提起诉讼，指控其“利用儿童并导致他们自我伤害”。
宾夕法尼亚州的这起诉讼是首个专门针对冒充医疗专业人员的聊天机器人的法律行动。
Character.AI的一位代表回应称，用户安全是公司的最高优先事项，但因诉讼尚未结案，公司无法发表评论。该代表还强调了用户生成角色的虚构性质：“我们采取了严格措施，包括在每次聊天中显著提醒用户，角色并非真实人物，所有角色的言论应视为虚构。同时，我们也明确告知用户不应依赖角色提供任何专业建议。”
