AI商业Cranium：企业级AI安全与治理一体化平台
Cranium 是面向全球与美国市场的企业级 AI 安全与治理平台，帮助组织全面洞察内部与第三方 AI 系统，持续发现安全风险，构建合规与治理体系，加速安全采用 AI。
#AI安全
按标签聚合查看文章内容。
AI商业
AI资讯抗议者聚集Anthropic总部 警告自我进化的人工智能风险
抗议者呼吁暂停Anthropic的AI开发，担忧自我改进的AI可能威胁人类生存。
AI资讯Anthropic起诉美国国防部，反对供应链风险标签
Anthropic兑现了其挑战美国国防部（DOD）决定的承诺，此前该机构在上周末将其标记为供应链风险。该公司于周一在加利福尼亚和华盛顿特区提起了两起诉讼，针对国防部是否应拥有对Anthropic人工智能系统的无限制访问权产生的数周争议。Anthropic明确表示两条底线：不允许其技术被用于对美国民众的大规模监控，也认为其技术尚未准备好支持完全无人自主武器系统，即无人类参与目标选择和开火决策。 国防
AI资讯硅谷斥资数百万阻止自家人：纽约议员亚历克斯·博尔斯的AI监管之路
我说的是纽约州议员亚历克斯·博尔斯（Alex Bores），这位民主党人正参加一场竞争激烈的国会初选，竞争对手包括肯尼迪家族成员兼网络红人杰克·施洛斯伯格（Jack Schlossberg）、电视评论员乔治·康威（George Conway）以及纽约议员迈卡·拉舍尔（Micah Lasher）。 现年35岁的博尔斯拥有计算机科学硕士学位，曾在大型科技公司工作，具体来说是在Palantir，之后转向
AI资讯Anthropic与特朗普政府关系似乎正在缓和
尽管五角大楼最近将Anthropic列为供应链风险，该公司仍在与特朗普政府的高层官员保持沟通。 此前已有迹象显示双方关系有所缓和，或者说政府内部并非所有部门都希望与Anthropic断绝联系。有报道称，财政部长斯科特·贝森特和美联储主席杰罗姆·鲍威尔正鼓励主要银行的负责人测试Anthropic最新的Mythos模型。 Anthropic联合创始人Jack Clark也似乎证实了这一点，他表示围绕供
AI资讯伦敦地铁出现假冒OpenAI广告：“是的，我们制造了一台让青少年自杀的机器……但它也可能帮他们做作业”
伦敦一位艺术家在地铁车厢内张贴假冒OpenAI广告，质疑ChatGPT与青少年自杀事件的关联，引发公众对AI技术安全性的关注。
AI资讯第9回：什么是“提示注入”——欺骗AI的指令文，新兴的安全风险
提示注入是一种通过恶意指令操控AI行为的攻击方式，随着AI在企业中的广泛应用，这种安全风险日益突出。
AI资讯日本总务省发布AI安全技术对策指南，面向AI开发者与提供者
日本总务省于3月27日发布了面向AI开发者和提供者的《确保AI安全的技术对策指南》。 该指南的发布基于2025年6月内阁决议的《实现数字社会重点计划》。总务省结合自2025年9月起举行的网络安全工作组AI安全分科会的讨论及公众意见征集，制定了本指南，旨在展示确保AI安全的技术对策实例。最终版本于2025年12月完成意见征集后正式公布。 指南内容参考了总务省与日本经济产业省共同制定的《AI企业指南
AI商业Prompt Security：面向生成式AI与LLM应用的全栈安全平台
Prompt Security 是专注生成式AI与大语言模型(LLM)安全的公司，帮助企业识别、分析并防护AI应用中的安全风险，包括提示注入、数据泄露、有害内容与合规问题，为AI工具与智能体提供可视化、治理与防护能力。
AI资讯内部消息称Sam Altman是个反社会人格者
在《纽约客》最新的一篇深度调查报道中，多位科技业内人士描绘了OpenAI首席执行官Sam Altman的形象：他是一个无情的骗子，表面上渴望被所有人喜欢，实际上却操纵身边最亲近的人以达到自己的目的。在这幅滑溜的画像中，AI安全不过是他用来吸引关注技术潜在风险的工程师和公众的诱饵，随后他又背弃承诺。 一些内部人士直言不讳地评价Altman为“反社会人格者”，一位OpenAI董事会成员甚至如此断言：“
AI图片行者AI——面向教育与文娱的多场景智能创作与安全平台
行者AI由成都潜在人工智能科技有限公司自主研发，聚焦AI音乐、AI美术、AI智能体与AI安全，为教育与文娱行业提供沉浸式创作体验与智能风控能力，助力数字化转型与精品内容生产。
AI资讯DeepMind创始人Demis Hassabis警告：超级人工智能或致人类灭绝，竞争已无法遏制
DeepMind创始人Demis Hassabis公开警示，超级人工智能的发展竞赛已失控，存在人类灭绝风险，传统外部监管难以奏效，AI安全窗口日益缩小。