AI资讯Anthropic启动“Cyber Mission”项目，保护重要基础设施与开源软件安全
Anthropic于2023年10月8日宣布启动长期安全项目“Anthropic Cyber Mission”，旨在提升重要基础设施和开源软件的安全防护。
#网络安全
按标签聚合查看文章内容。
AI资讯
AI资讯人工智能在对抗网络犯罪中的新突破
欢迎订阅《Kernel Panic!》，这是由Lily Hay Newman和Matt Burgess带来的每周通讯，聚焦隐私和数字安全的新世界。想每周直接收到这份通讯，请注册订阅。 尽管人工智能极大地助长了数字诈骗和网络犯罪的发展，但它同样被用来保护潜在受害者。全球各国政府一直在努力应对网络犯罪的全球性危机，面对跨境打击犯罪的局限性，尝试寻找替代方案。例如，利用自动化技术大规模对付诈骗者——通过
AI资讯埃隆·马斯克炫耀用Grok机器人购买乐高星球大战套装，却被X用户戏弄
埃隆·马斯克近日在社交平台X上炫耀他使用Grok机器人AI助手成功订购了一些乐高星球大战套装。然而，他在发布截图时不慎泄露了包括10位数的订单号、购买价格、送货和账单地址、信用卡后四位数字以及用于购买的电子邮箱地址等敏感信息，向其超过2.4亿的粉丝公开了这些细节。 事情发生得比千年隼跃迁到光速还快。一位名为Enderman的X用户利用马斯克无意中透露的邮箱和订单号，联系了乐高官网的客服聊天机器人，
AI资讯微软总裁称英国最适合引领人工智能监管
微软总裁布拉德·史密斯呼吁尽快对人工智能进行监管。他指出，像牛奶和洗衣机这样的消费品受到的监管比开发人工智能的公司还要严格。 在最近一次BBC播客中，史密斯将人工智能称为“武器和工具”，认为它正在威胁全球网络安全，并表示“时机已到”，需要制定全球安全规则。 史密斯还表示，英国而非美国或欧盟，更适合领导全球人工智能安全规则的制定。英国于2023年成立的人工智能安全研究所（AI Security In
AI资讯OpenAI模拟应对公众反抗以防范AI灾难引发的社会动荡
在美国，公众对AI实验室及其CEO日益增长的影响力持强烈负面态度。根据《华尔街日报》九月底的调查显示，63%的美国成年人支持立即暂停AI开发；而《Politico》的调查则发现，大约三分之二的美国人对AI可能毁灭人类抱有至少“中度”焦虑。 当公众反弹的规模首次显现时，科技亿万富翁如马克·扎克伯格曾尝试通过一些不合时宜的媒体炒作来挽回民心，但显然这一策略失败了。如今，顶级AI实验室的高管们开始制定标
AI资讯Meta被迫大幅调整限制未成年人使用Instagram和Facebook的方式
Meta正式结束了一场关于儿童社交媒体成瘾的标志性法律对峙， 同意在未来十年内支付约180亿美元，并对其儿童安全策略进行全面改革。 这起诉讼由美国29个州的总检察长联合发起，指控Meta高管如马克·扎克伯格设计了一个滥用未成年人数据的系统，同时对其平台带来的危害装作不知情。 尽管180亿美元相比Meta预计的1300亿美元年度资本支出来说微不足道，但这笔金额仍将分配给提起诉讼的各州。如果Meta拒
AI资讯人工智能在对抗网络犯罪中的新突破
欢迎订阅《Kernel Panic!》，这是由Lily Hay Newman和Matt Burgess带来的每周通讯，深入探讨隐私和数字安全的新领域。想要每周直接收到这份通讯，请注册订阅。 尽管人工智能极大地助长了数字诈骗和网络犯罪的发展，但它同样被用来保护潜在受害者。全球各国政府一直在努力应对网络犯罪的全球性危机，面对跨境打击犯罪的种种限制，效果有限。这促使人们尝试采用自动化手段，大规模打击诈骗
AI资讯部分Supabase用户公开暴露大量个人数据至网络
网络安全公司UpGuard最新研究发现，开发平台Supabase上托管的数千个数据库正将大量敏感个人信息暴露于公共网络。 UpGuard向TechCrunch透露，他们发现Supabase平台上约有16,000个数据库存在不同程度的个人数据泄露。Supabase为网页和应用开发者提供数据库存储和运行服务。 今年早些时候，Supabase估值达到100亿美元，得益于越来越多开发者在该平台托管其vib
AI资讯Vibe编码应用泄露用户个人信息，黑客轻松获取
人工智能自2022年ChatGPT问世以来，已经深刻改变了众多行业，尤其是在软件开发领域的影响尤为显著。无论是资深程序员还是新手，都开始利用聊天机器人和专用工具，通过自然语言提示快速生成代码。这种被称为“Vibe编码”的技术，让几乎任何人都能在短时间内开发出完整的应用程序，即使他们几乎没有技术背景。 从某种程度上看，这确实很酷。但事实证明，这种技术也带来了明显的弊端。一个特别突出的缺点是，许多Vi
AI资讯Anthropic发布强大新AI模型Mythos预览，启动网络安全新计划
Anthropic公司于周二发布了其最新前沿AI模型Mythos的预览版本。该模型将由少数合作伙伴用于网络安全相关工作。此前泄露的一份备忘录中，这家AI初创公司称Mythos是其“迄今为止最强大的”模型之一。 此次Mythos的有限发布是Anthropic新启动的安全项目“Project Glasswing”的一部分。该项目将有12家合作伙伴机构部署该模型，主要用于“防御性安全工作”以及保护关键软
AI资讯亚洲AI初创企业推出类似Mythos的模型，美国出口禁令持续影响
周三，中国网络安全公司360据报道发布了名为“Tulongfeng”的AI工具，声称其性能可与Anthropic的Mythos相媲美。Mythos是一款专注于网络安全的AI模型，据称功能强大，以至于特朗普政府目前禁止其及其更受限制版本Fable 5向非美国用户出口。 同一周早些时候，总部位于东京的AI初创公司Sakana AI推出了名为“Fugu”的模型，名称取自日语中的河豚。该公司表示，这款前沿
AI资讯软银与SB OAI Japan正式启动基于OpenAI技术的AI安全服务
日本软银株式会社与SB OAI Japan合同公司于14日宣布，将利用OpenAI集团PBC（以下简称OpenAI）的AI技术，扩大AI驱动安全解决方案“Patching as a Service”的服务对象至3000家公司，并正式开始全面提供该服务。 “Patching as a Service”旨在保护支撑重要基础设施的企业系统免受网络攻击。该方案结合了OpenAI的技术与软银的运营经验，实现