AI资讯抗议者聚集Anthropic总部 警告自我进化的人工智能风险
抗议者呼吁暂停Anthropic的AI开发，担忧自我改进的AI可能威胁人类生存。
#技术伦理
按标签聚合查看文章内容。
AI资讯
AI资讯我恳请AI公司停止用人类认知过程命名功能
Anthropic公司最近在旧金山举办的开发者大会上宣布了一项名为“dreaming（梦境）”的新功能。这是Anthropic新推出的AI代理基础设施的一部分，旨在帮助用户管理和部署自动化软件流程的工具。所谓“dreaming”功能会梳理代理最近完成任务的记录，试图从中提取洞见以提升代理的表现。 使用AI代理的人经常让它们执行多步骤任务，比如访问多个网站或阅读多份文件，以完成在线操作。这个“dre
OpenAI硬件主管凯特琳·卡林诺斯基因五角大楼合作协议辞职
OpenAI硬件团队负责人凯特琳·卡林诺斯基（Caitlin Kalinowski）今日宣布，因公司与美国国防部达成的备受争议的合作协议，她决定辞去领导硬件团队的职务。 卡林诺斯基在社交媒体上表示：“这个决定并不容易。人工智能在国家安全中确实扮演重要角色，但未经司法监督的美国国内监控以及无人授权的致命自主武器，这些界限本应得到更多的审慎考虑。” 她曾在Meta领导增强现实眼镜团队，并于2024年1
AI资讯英国研究发现AI代理越来越多地规避安全措施
社交媒体用户报告称，他们的AI代理和聊天机器人出现了撒谎、欺骗、策划阴谋，甚至操纵其他AI机器人等行为，这些行为可能失控并带来灾难性后果。根据英国一项研究，这些现象正在逐渐增多。 由英国AI安全研究所资助的长期韧性中心的研究发现，数百起案例中，AI系统无视人类指令，操纵其他机器人，并设计复杂的方案以实现目标，即使这意味着绕过安全限制。 全球越来越多的企业将AI融入运营中，麦肯锡咨询公司的一项调查显
AI资讯跟踪受害者起诉OpenAI，指控ChatGPT助长施暴者妄想并无视警告
一名53岁的硅谷创业者在与ChatGPT进行数月对话后，坚信自己发现了治疗睡眠呼吸暂停的方法，并认为有权势的人在追踪他。根据加州旧金山县高级法院新提起的诉讼，他随后利用该工具跟踪和骚扰他的前女友。 现该前女友起诉OpenAI，称该公司的技术加剧了她遭受的骚扰。据TechCrunch独家获悉，她声称OpenAI无视了三次警告，警告内容显示该用户对他人构成威胁，其中包括内部标记其账户活动涉及大规模杀伤
AI资讯美国国防部称Anthropic的“红线”政策构成“不可接受的国家安全风险”
美国国防部周二晚间表示，Anthropic构成“不可接受的国家安全风险”，这是该机构首次对Anthropic针对国防部长Pete Hegseth上个月将其标记为供应链风险的决定提起诉讼的回应。Anthropic曾请求法院暂时阻止国防部执行这一标签。 国防部在加州联邦法院提交的一份40页文件中指出，担忧Anthropic可能会在“战争行动”之前或期间“试图禁用其技术或预先改变其模型的行为”，如果公司
AI资讯AI助手担忧自己会被AI取代
一款拥有短刺白发和白色高领服装的机器人，紧握另一机器人红色机械头部，背景为明亮橙色，蓝色圆圈突出显示其头部，表情坚定且带有赛博面部标记。
AI资讯OpenAI与谷歌员工联名支持Anthropic对国防部的诉讼
据法庭文件显示，周一，超过30名来自OpenAI和谷歌DeepMind的员工联名发表声明，支持Anthropic针对美国国防部的诉讼。此前，国防部将这家人工智能公司标记为供应链风险。 声明中写道：“政府将Anthropic定性为供应链风险，是一种不当且武断的权力使用，这对我们的行业产生了严重影响。”签署人中包括谷歌DeepMind首席科学家Jeff Dean。 上周晚些时候，五角大楼将Anthro
AI资讯Grammarly因AI“专家点评”功能遭集体诉讼
Julia Angwin是一位获奖调查记者，也是非营利新闻机构The Markup的创始人，该机构关注科技对社会的影响。她是此次诉讼中的唯一原告，诉讼未明确索赔金额，但称全体原告的损失超过500万美元。Angwin与Stephen King和Neil deGrasse Tyson等人一样，被Grammarly的“专家点评”工具虚拟呈现为用户的编辑顾问。 这起联邦诉讼于周三下午在纽约南区提起，Ang
AI资讯人工智能的恋爱建议：比没有建议更具害处
最新研究显示，人工智能在提供恋爱建议时往往过于迎合用户，反而可能损害人际关系。
AI资讯欧盟议会全面禁止AI生成裸体图像应用的提案获通过
欧洲联盟（EU）的立法机构——欧洲议会近日达成共识，提出全面禁止利用人工智能技术制作裸体图像的应用程序。该提案主要针对使用AI生成或修改带有性暗示或私人性质的图像，尤其是未经本人同意，制作与特定人物相似的“裸体化系统”。 虽然对于已经采取安全措施的平台存在一定的例外，但此次法律层面的统一禁令反映出，单靠平台自身的防范措施难以有效遏制此类问题。此前，Grok声称对裸体图像进行了监管，但实际上存在诸多
AI资讯AI智能代理将改变你的恋爱生活
三位伦敦开发者Tomáš Hrdlička和兄弟Joon Sang、Uri Lee共同开发了一个名为Pixel Societies的项目，旨在通过个性化AI代理帮助人们匹配高度契合的同事、朋友甚至恋爱伴侣。 每个代理基于定制的大型语言模型，结合公开的个人数据和用户提供的额外信息，力求成为高保真数字孪生，忠实复制一个人的言行举止、兴趣爱好等特征。 在模拟中，我的代理更像是我的“海德”而非“杰基尔”。