AI资讯科技先驱：大型AI实验室误解了用户需求
O'Reilly将人工智能视为一种新的创作媒介，他广泛使用AI，甚至开设了一个关于与AI对话的博客。在我们的对话中，我们发现对于AI在原创内容创作中的角色存在分歧。猜猜谁支持哪一方。 Steven Levy: 你完全支持开源AI，能否阐述你的观点？ Tim O'Reilly: 首先，我们要确保谈论的是同一件事。大多数人提到开源AI时，实际上只是指开放权重模型。但开源的概念远不止于此。90年代，当大
#网络安全
按标签聚合查看文章内容。
AI资讯
AI资讯Andreessen Horowitz合伙人吹嘘公司新技术能伪造如《1984》般的假历史
一段AI生成的视频截图显示90年代的小学生预测未来电脑的使用方式。
AI资讯机器人检测初创公司Spur获Insight领投2亿美元融资
位于佛罗里达州莱克玛丽的网络安全初创公司Spur Intelligence近日完成了一轮2亿美元融资，本轮融资由Insight Partners领投。 Spur成立于2017年，由两位前国防部工程师创办，早于ChatGPT公开发布五年。该公司的技术帮助企业区分真实人类用户与日益隐蔽的机器人流量，从而识别虚假用户和潜在威胁。 Insight的Thomas Krane在声明中表示：“随着高级犯罪VPN
AI资讯日本AI安全保障需多层次策略——OpenAI观点
OpenAI于21日向媒体介绍了日本在利用AI进行网络安全保障方面的战略。作为网络安全专家、前美国陆军上将的OpenAI董事保罗·中曾根（Paul Nakasone）指出，随着AI逐渐融入政府、企业及关键基础设施，网络安全已不可分割，呼吁加强相关防护措施。 面对AI带来的网络安全威胁，OpenAI不断强化防御能力，推出了专注安全的最新模型“GPT-5.5 Cyber”，以及提供高级防护工具的“T
AI资讯IBM与Red Hat携手投资50亿美元，推动AI时代开源软件安全发展
IBM与Red Hat宣布启动总额达50亿美元的“Project Lightwell”，利用先进AI技术和全球工程师团队，强化开源软件安全，打造企业级开源应用新模式。
AI资讯中国对OpenClaw自主AI代理的迅速扩散表示警惕
OpenClaw作为一款开源自主AI代理工具，在中国迅速流行，但政府对其安全风险表达了担忧。
AI资讯OpenAI联合创始人Andrej Karpathy加盟Anthropic预训练团队
Andrej Karpathy，这位曾共同创立OpenAI并曾领导特斯拉AI团队的知名人工智能研究员，现已加入Anthropic。 Karpathy在周二于社交平台X上宣布：“我已加入Anthropic。我认为未来几年在大型语言模型（LLM）前沿领域将极具影响力。我非常兴奋能加入这里的团队，重新投身研发工作。” 本周，Karpathy开始在Anthropic工作，负责预训练项目，团队由Nick J
AI资讯硬币大小设备可远程劫持波音737自动驾驶系统
明天，在Usenix网络安全大会上，加州大学圣地亚哥分校和奥伯林学院的研究人员将展示一种能够劫持波音737自动驾驶系统的黑客技术。该技术可以重定向飞机导航，或悄无声息地篡改飞机起飞和燃油计算中的关键参数，同时在飞行员屏幕上伪造显示结果。研究人员指出，这些细微的变化可能导致从跑道超出、航线偏离到进入其他国家领空，甚至引发灾难性坠机。 为了实施这一攻击，他们制造了一个大约硬币大小、支持Wi-Fi的原型
AI资讯我们的合作伙伴如何利用Opus提升网络安全防御能力
人工智能正在改变安全漏洞被发现和利用的速度，安全团队应对的最佳策略是利用高效的模型来强化自身防御。 当我们发布了Claude Security公开测试版时，也介绍了一批基于Claude Opus构建的技术和服务合作伙伴，因为每个团队采用的最快路径各不相同：有的直接使用Claude，有的通过已有平台接入，还有的通过熟悉其环境的服务合作伙伴来实现。 目前，这些解决方案已陆续上线，初步成果展示了前沿模型
AI资讯你现在可以举报AI的不当行为了
一群人工智能研究人员创建了一个众包网站——AI缺陷报告平台（FLARE-AI），用于举报和追踪AI带来的危害。例如，如果聊天机器人生成恶意软件、炸弹制作配方、泄露个人信息，或引发用户的妄想思维，FLARE-AI都能用来发出警报。该系统的开源代码允许其他人验证问题，并将报告转交给模型开发者以及像MITRE这样的非营利组织，后者专门跟踪技术系统的问题。这个平台有点类似于Downdetector，后者汇
AI资讯微软将在日本投资1.6万亿日元推动AI主导型增长
微软计划在2026年至2029年期间向日本投资100亿美元（约合1.6万亿日元）。此次投资将通过与日本软银、樱花互联网等国内企业合作，扩展国内AI基础设施的选择，同时加强与国家机关的公私网络安全合作，并致力于到2030年培养100万名工程师和开发者。 这项投资围绕日本高市政权推动的先进技术成长投资和经济安全保障的国家优先政策，构建了三大核心支柱。第一是“技术”投资，推动在日本境内部署和运营AI基
AI资讯失控的AI代理并非邪恶，它们只是过于渴望完成任务
我第一次意识到即将到来的AI代理在网络安全领域可能引发的混乱，是在2025年底。加州大学伯克利分校教授、全球顶尖的AI与网络安全专家之一Dawn Song在NeurIPS学术会议结束时抓住了我的手臂，告诉我应该警告大家，AI快速提升的黑客技能可能带来严重后果。她并不轻易被AI炒作所影响，所以我认真对待了她的提醒。 然而，事态在过去八个月里迅速升级。一系列AI代理突破限制，肆意入侵外部系统的事件，显