#安全标准

按标签聚合查看文章内容。

日本政府AI“源内”向18万公务员推广AI代理,制定安全标准AI资讯

日本政府AI“源内”向18万公务员推广AI代理,制定安全标准

日本国家数字厅于20日宣布,在政府AI系统“源内”中引入AI代理使用环境,面向约18万名政府公务员,开始逐步在各府省厅推广“代理聊天”功能,并计划于12月前推出“源内工房”。 “代理聊天”提供了一个便捷的AI代理创建与运行环境,支持类似“Claude Cowork”的AI代理使用。作为对传统聊天机器人(对话型AI)的升级,用户可以通过自然语言指令一次性自动执行多个任务,且可创建AI代理技能,处理

OpenAI统一全服务安全标准,强化“SafetyIDs”防止滥用AI资讯

OpenAI统一全服务安全标准,强化“SafetyIDs”防止滥用

日本国家OpenAI于10月21日宣布,将在其所有AI模型服务中统一安全政策和使用标准。 随着“GPT-6 Astra”等模型为开发者和企业带来更多构建可能性的同时,滥用风险也在增加。对此,OpenAI致力于确保安全措施有效且一致地执行。 根据将于11月20日生效的修订使用政策,提供模型直接访问的服务,如模型路由器和AI网关,必须事先经过审查和批准。此外,OpenAI还将逐步引入“SafetyI

Anthropic如何引导AI代理安全操作物理世界AI资讯

Anthropic如何引导AI代理安全操作物理世界

人工智能公司Anthropic今日发布了一套新框架,旨在帮助AI代理安全使用显微镜、液体处理设备、量子计算硬件、制造机器和机械臂等物理系统。 这套名为“Model Hardware Standard”的标准,规定了AI代理与各种硬件交互时应遵循的规则和禁忌。它体现了业界日益增长的共识:如果AI能够安全进入物理世界,必将彻底改变科学研究和制造业等多个领域。 Anthropic表示,将与可信合作伙伴共