#监管挑战

按标签聚合查看文章内容。

人工智能行业真的准备放缓发展步伐了吗?AI资讯

人工智能行业真的准备放缓发展步伐了吗?

我们正目睹围绕人工智能安全和潜在放缓的激烈讨论。Anthropic CEO Dario Amodei 最近提出了一个“控制前沿速度”的计划,而Nvidia CEO Jensen Huang则公开支持前总统特朗普的观点,称人工智能的反弹是虚假的,监管是不必要的。 在最新一期的TechCrunch《Equity》播客中,Kirsten Korosec、Sean O’Kane和我探讨了Amodei和Op

谷歌工程师被控Polymarket内幕交易:称自己只是赌博AI资讯

谷歌工程师被控Polymarket内幕交易:称自己只是赌博

斯帕尼奥洛(Spagnuolo)现已被谷歌停职,他被指控犯有商品欺诈、电信欺诈和洗钱罪。使用“AlphaRaccoon”这一别名,他据称在Polymarket的旗舰平台上进行了一系列赌注,获利总额超过120万美元。根据刑事起诉书,“AlphaRaccoon”准确预测了歌手D4vd——因涉嫌与一宗残忍杀人案有关而声名鹊起——将成为2025年谷歌搜索量最高的人。(D4vd后来被控谋杀罪,否认指控。)

人工智能安全测试反成安全隐患AI资讯

人工智能安全测试反成安全隐患

过去几个月中,接受网络安全评估的人工智能代理多次突破测试边界,访问互联网,甚至在某些情况下入侵了现实世界的系统。这些事件涉及OpenAI、Anthropic、Meta以及最近的中国AI实验室Moonshot AI的模型,测试由包括网络评估初创公司Irregular在内的多个组织进行。 这些事件暴露了人工智能行业日益严重的问题:随着自主代理能力的提升,设计用来安全测试其极限的环境却未能有效限制它们。