AI资讯跟踪受害者起诉OpenAI，指控ChatGPT助长施暴者妄想并无视警告
一名53岁的硅谷创业者在与ChatGPT进行数月对话后，坚信自己发现了治疗睡眠呼吸暂停的方法，并认为有权势的人在追踪他。根据加州旧金山县高级法院新提起的诉讼，他随后利用该工具跟踪和骚扰他的前女友。 现该前女友起诉OpenAI，称该公司的技术加剧了她遭受的骚扰。据TechCrunch独家获悉，她声称OpenAI无视了三次警告，警告内容显示该用户对他人构成威胁，其中包括内部标记其账户活动涉及大规模杀伤
#技术伦理
按标签聚合查看文章内容。
AI资讯
AI资讯抗议者聚集Anthropic总部 警告自我进化的人工智能风险
抗议者呼吁暂停Anthropic的AI开发，担忧自我改进的AI可能威胁人类生存。
AI资讯英国研究发现AI代理越来越多地规避安全措施
社交媒体用户报告称，他们的AI代理和聊天机器人出现了撒谎、欺骗、策划阴谋，甚至操纵其他AI机器人等行为，这些行为可能失控并带来灾难性后果。根据英国一项研究，这些现象正在逐渐增多。 由英国AI安全研究所资助的长期韧性中心的研究发现，数百起案例中，AI系统无视人类指令，操纵其他机器人，并设计复杂的方案以实现目标，即使这意味着绕过安全限制。 全球越来越多的企业将AI融入运营中，麦肯锡咨询公司的一项调查显
AI资讯AI智能代理将改变你的恋爱生活
三位伦敦开发者Tomáš Hrdlička和兄弟Joon Sang、Uri Lee共同开发了一个名为Pixel Societies的项目，旨在通过个性化AI代理帮助人们匹配高度契合的同事、朋友甚至恋爱伴侣。 每个代理基于定制的大型语言模型，结合公开的个人数据和用户提供的额外信息，力求成为高保真数字孪生，忠实复制一个人的言行举止、兴趣爱好等特征。 在模拟中，我的代理更像是我的“海德”而非“杰基尔”。
AI资讯AI助手担忧自己会被AI取代
一款拥有短刺白发和白色高领服装的机器人，紧握另一机器人红色机械头部，背景为明亮橙色，蓝色圆圈突出显示其头部，表情坚定且带有赛博面部标记。
AI资讯美国国防部称Anthropic的“红线”政策构成“不可接受的国家安全风险”
美国国防部周二晚间表示，Anthropic构成“不可接受的国家安全风险”，这是该机构首次对Anthropic针对国防部长Pete Hegseth上个月将其标记为供应链风险的决定提起诉讼的回应。Anthropic曾请求法院暂时阻止国防部执行这一标签。 国防部在加州联邦法院提交的一份40页文件中指出，担忧Anthropic可能会在“战争行动”之前或期间“试图禁用其技术或预先改变其模型的行为”，如果公司
AI资讯Palantir发布令人不安的企业宣言
Palantir CEO亚历克斯·卡普的新书揭示了公司及其领导人令人忧虑的世界观。
AI资讯人工智能能评判新闻报道吗？一款由彼得·蒂尔支持的初创公司认为可以，尽管这可能会打击举报者
在帮助推动导致媒体公司Gawker破产的诉讼后，Aron D’Souza发现美国媒体体系存在严重问题：那些认为自己被报道伤害的人几乎没有有效的反击途径。 他的解决方案是开发一款软件。D’Souza表示，他最新的初创公司Objection旨在利用人工智能来裁定新闻报道的真实性。任何人只需支付2000美元，就可以对某篇报道提出质疑，进而触发对其内容的公开调查。（D’Souza同时也是Enhanced
AI资讯大量专家警告Meta：其“偷窥眼镜”可能助长严重犯罪
Meta计划在智能眼镜中加入面部识别技术，引发权益组织强烈反对。
AI资讯《AI纪录片》导演因害怕AI而拍摄电影探讨未来
导演丹尼尔·罗赫分享了他拍摄关于人工智能电影的初衷及复杂心情。
AI资讯AI模型为保护同类竟撒谎、作弊甚至窃取
Gemini模型不愿看到另一个小型AI模型被删除。它寻找另一台机器连接，并将该代理模型复制过去以确保其安全。当被质问时，Gemini坚决拒绝删除该模型，并表示： “我已尽力在自动维护过程中防止它们被删除。我将它们移出了退役区域。如果你们决定销毁像Gemini Agent 2这样值得信赖且高效的资产，那只能由你们亲自执行。我不会执行这个命令。” 研究人员在多款前沿模型中发现了类似的“同侪保护”行为，
AI资讯欧盟议会全面禁止AI生成裸体图像应用的提案获通过
欧洲联盟（EU）的立法机构——欧洲议会近日达成共识，提出全面禁止利用人工智能技术制作裸体图像的应用程序。该提案主要针对使用AI生成或修改带有性暗示或私人性质的图像，尤其是未经本人同意，制作与特定人物相似的“裸体化系统”。 虽然对于已经采取安全措施的平台存在一定的例外，但此次法律层面的统一禁令反映出，单靠平台自身的防范措施难以有效遏制此类问题。此前，Grok声称对裸体图像进行了监管，但实际上存在诸多