AI资讯Anthropic赋予Claude Code更多自主权,但仍设安全限制
对于使用AI的开发者来说,目前的“氛围编码”意味着要么时刻监控每一个操作,要么冒着让模型不受控制运行的风险。Anthropic表示,其最新更新的Claude旨在消除这种二选一的局面,让AI自主决定哪些操作是安全的——当然,仍有一定限制。 这一举措反映了整个行业的趋势,即AI工具越来越多地被设计成无需等待人工批准即可行动。挑战在于如何平衡速度与控制:过多的限制会拖慢进度,而限制过少则可能导致系统风险
按标签聚合查看文章内容。
AI资讯对于使用AI的开发者来说,目前的“氛围编码”意味着要么时刻监控每一个操作,要么冒着让模型不受控制运行的风险。Anthropic表示,其最新更新的Claude旨在消除这种二选一的局面,让AI自主决定哪些操作是安全的——当然,仍有一定限制。 这一举措反映了整个行业的趋势,即AI工具越来越多地被设计成无需等待人工批准即可行动。挑战在于如何平衡速度与控制:过多的限制会拖慢进度,而限制过少则可能导致系统风险