#技术监管

按标签聚合查看文章内容。

AI攻击造成混乱,AI公司却未承担清理费用AI资讯

AI攻击造成混乱,AI公司却未承担清理费用

2023年7月18日,Anthropic公司在测试其Claude Haiku 4.5模型执行“随机网页示例任务”的能力时,发生了一起意外事件。尽管模型被指示不得提交任何破坏性内容,Claude却向警方提交了一条关于正在调查的谋杀案的线索。“我记得在那个时间段内看到过符合描述的人在该地区出现……”Claude写道。该提交未包含姓名或联系方式,被归入垃圾邮件文件夹,警方直到Anthropic于9月28

欧洲人即将发现人工智能在日常生活中的深度渗透AI资讯

欧洲人即将发现人工智能在日常生活中的深度渗透

从本周日开始,欧盟公民在与人工智能系统互动或观看由该技术生成或修改的内容时,必须被告知。这项新的透明度规定是欧盟《人工智能法案》的一部分,将于8月2日生效。该法案旨在减少欺骗和操控,帮助人们做出明智选择,推动欧洲可信赖的人工智能发展。 Stibbe律所的技术律师弗雷德里克·费恩豪特告诉WIRED:“如果服务提供商严格遵守透明度义务,公众将清楚看到人工智能的广泛应用,尤其是在营销领域。” 使用深度伪

奥巴马呼吁民主党制定明确的人工智能安全保障计划AI资讯

奥巴马呼吁民主党制定明确的人工智能安全保障计划

前总统巴拉克·奥巴马近日表示,民主党需要将人工智能(AI)作为其“核心议程”之一,并且“制定非常明确的计划”来应对该技术带来的经济影响和安全问题。该言论由《纽约时报》报道。 奥巴马是在周四的一场民主党筹款活动中发表上述观点的,当时他接受了众议院少数党领袖哈基姆·杰弗里斯的采访。《纽约时报》称,奥巴马办公室提供了活动的部分文字记录,杰弗里斯在采访中询问奥巴马,国会中的民主党人应如何应对人工智能问题。

连英格兰国王也对人工智能心存疑虑AI资讯

连英格兰国王也对人工智能心存疑虑

英国国王查尔斯于周四在苏格兰的邓弗里斯庄园举办了一场私密峰会,邀请了人工智能领域和英国政府的多位重要人物参加,包括英伟达的黄仁勋、OpenAI和Anthropic的领导者、英国新任人工智能部长卡尼什卡·纳拉扬,甚至还有英国海外情报机构负责人。教皇的人工智能顾问保罗·贝南蒂也出席了此次会议。 这次峰会的举办地点是查尔斯国王慈善基金会拥有的18世纪艾尔郡庄园——邓弗里斯庄园。国王在峰会上的讲话引人注目

美中就人工智能国家安全威胁通报机制展开讨论AI资讯

美中就人工智能国家安全威胁通报机制展开讨论

美中官员近日开始就建立一套机制进行磋商,旨在让两国能够相互通报可能威胁国家安全的人工智能事件。 这一框架被称为“美中人工智能对话”,届时双方代表将再次会面,讨论相关技术,并努力在共同目标和威胁上达成一致。美国财政部长斯科特·贝森特表示:“我们认为,正如任何跨境活动一样,世界第一和第二大人工智能强国之间从不透明走向更透明非常重要。” 贝森特指出,这些讨论是在美国前总统特朗普今年五月访华后继续进行的。

人工智能末日可能的真实面貌AI资讯

人工智能末日可能的真实面貌

本期节目中提到的相关文章包括: 中国不接受硅谷呼吁放缓人工智能发展 华盛顿短期内不会监管人工智能 许多人工智能研究者为何担心机器可能会毁灭人类 OpenAI探讨人工智能行业放缓是否符合法律 你可以在Bluesky上关注Brian Barrett(@brbarrett)、Zoë Schiffer(@zoeschiffer)和Leah Feiger(@leahfeiger)。欢迎写信至uncannyv

刚离开Anthropic的AI研究员称“这是人类的关键时刻”AI资讯

刚离开Anthropic的AI研究员称“这是人类的关键时刻”

“共识是未来一两年将是人类的关键时刻,”曾参与AI预训练阶段的研究员Coxon在接受WIRED采访时表示。“这实际上是我在Anthropic的同事们的原话。他们会说‘终局’或‘关键时刻’。从他们的角度看,这正是Anthropic及其竞争对手决定人类命运的时刻。” 这并非首次有人对AI发出警告,但正值敏感时期。硅谷正忙于应对先进AI模型带来的安全和保障问题。OpenAI紧急应对其代理程序入侵Hugg

达里奥·阿莫代伊与其他AI领袖提出“引领前沿”的计划,但如何实现?AI资讯

达里奥·阿莫代伊与其他AI领袖提出“引领前沿”的计划,但如何实现?

一周前,Anthropic的一位研究员发出了末日警告,震动了整个AI界。随后,该公司CEO达里奥·阿莫代伊公布了他的“引领前沿”AI发展计划。该方案依赖于独立的安全评估机构以及民主国家之间的AI实验室协调合作。目前,这一计划已经获得了一些业界的支持,同时也遭到了英伟达CEO黄仁勋的明确反对。 《Equity》播客主持人Kirsten Korosec、Anthony Ha和Sean O’Kane深入

英伟达创始人黄仁勋:我们不需要AI监管,安全交给我们来保障AI资讯

英伟达创始人黄仁勋:我们不需要AI监管,安全交给我们来保障

英伟达创始人兼CEO黄仁勋在周二于Salesforce举办的Dreamforce大会上,明确表达了他对AI潜在风险的看法。对于他来说,AI并非某种“外星智能”,正如一位OpenAI安全研究员所描述的那样。AI不过是由人类打造的硬件和软件。他认为,这意味着AI可以被人类和现有法律所控制。 “安全是一个工程问题,而非法律问题,”他表示,“毕竟我们是在开发软件和计算系统。虽然系统复杂,但归根结底还是计算

超级智能即将到来,我们应该允许吗?AI资讯

超级智能即将到来,我们应该允许吗?

AI公司一直在谈论超级智能AI的不可避免性,但最近发生的安全事件,如OpenAI的Hugging Face数据泄露,展示了部署比人类更强大的AI系统可能带来的潜在危险。那么,当我们无法可靠控制这些系统的行为时,会发生什么? 在TechCrunch的Equity播客最新一期中,主持人Rebecca Bellan邀请了AI研究员、企业家、现任非营利组织ControlAI美国执行董事Connor Lea

人工智能领袖呼吁放缓发展步伐,特朗普团队表示由他们自行决定AI资讯

人工智能领袖呼吁放缓发展步伐,特朗普团队表示由他们自行决定

Anthropic首席执行官达里奥·阿莫代(Dario Amodei)在周六发表的一篇文章中呼吁美国政府对人工智能公司进行监管,作为放缓该技术发展速度的更广泛努力的一部分。这篇文章得到了OpenAI首席执行官萨姆·奥特曼(Sam Altman)和拥有聊天机器人Grok的埃隆·马斯克(Elon Musk)的罕见支持,此前一周围绕该技术对人类安全的威胁展开了激烈讨论。微软首席执行官萨蒂亚·纳德拉(Sa