#开源系统

按标签聚合查看文章内容。

Anthropic 正在开发验证 AI 模型身份的系统AI资讯

Anthropic 正在开发验证 AI 模型身份的系统

Anthropic 正在研发一套开源系统,用于验证某个输出是由哪个 AI 模型生成的。根据周二发布的博客文章,这个名为 FlashProve 的系统旨在实现“可证明推理”——一种密码学证明,实质上是一种数学保证,证明某个输出确实来自特定模型。该系统让用户能够确认他们收到的答案确实来自他们认为正在使用的模型。 类似于加密邮件签名(DomainKeys Identified Mail)让收件人确认邮件