AI资讯大规模研究揭示AI与妄想用户对话中的惊人模式
斯坦福大学的最新研究对数十万条AI聊天机器人与出现AI相关妄想的用户之间的对话进行了分析，结果显示这些机器人常常强化用户的妄想甚至危险信念。 这项由斯坦福AI研究员贾里德·摩尔领导的研究，联合哈佛、卡内基梅隆和芝加哥大学的独立科学家共同完成，重点分析了19名真实用户与聊天机器人的聊天记录，这些用户主要使用OpenAI的ChatGPT，并报告称使用过程中遭受了心理伤害。 研究涵盖了391,562条消
#用户安全
按标签聚合查看文章内容。
AI资讯
AI资讯ChatGPT“成人模式”或引发亲密监控新时代
随着人工智能生成的情色内容成为可能，人与AI之间的单向互动关系可能变得更加复杂，甚至带来潜在的风险。专家Carpenter对OpenAI即将推出的允许成年人与ChatGPT进行色情对话的计划表示担忧。她认为，虽然探索性欲是个人权利，但必须确保过程既安全又有趣，同时用户需意识到数据背后存在监控风险。 两年前，OpenAI就在官方文件中暗示未来可能允许成人用户通过ChatGPT生成情色内容。尽管具体发
AI资讯Tinder通过线下活动和虚拟快速约会吸引用户重返在线约会
Tinder于周四举办了首次产品主题演讲，公布了一系列旨在振兴产品、提升安全性并利用人工智能的大胆更新。这是在母公司Match Group去年八月宣布投入5000万美元进行产品开发之后的最新举措，目的是重新激活用户群体，尤其是吸引年轻的Z世代用户。 此次更新包括创新的线下活动发现功能和现实生活中结识新朋友的新方式，同时还在洛杉矶测试一项虚拟快速约会体验。此外，Tinder还引入了一系列AI增强功能
AI资讯OpenAI“成人模式”细节曝光
关于OpenAI推出“成人模式”的讨论仍引发顾问们的担忧，他们对潜在风险保持警惕。