欢迎订阅《Kernel Panic!》，这是由Lily Hay Newman和Matt Burgess带来的每周通讯，聚焦隐私与数字安全的新领域。想每周直接收到本通讯，请注册。

近日，多位研究人员成功提取了Muse的内部文件，公开了该智能代理的操作指令，揭示了系统的构建方式及其行为表现。Meta表示，这些文件的公开是为了透明度，确实让人们更清楚Muse如何回应诸如高度政治化或敏感话题的提问。

独立AI安全研究员Karan Joshi通过常规聊天界面，巧妙地让Muse复制并分享其软件文件，从而获得了大量Muse的指令和系统提示，并将发现分享给了WIRED。

其中一项指令显示，Muse能够为“用户生活中的每个人创建一个页面”。这一过程每小时执行一次，汇总关于家人、伴侣、朋友、同事、“合作者”以及你“关注”的人的数据。

基本思路是，Muse利用其“记忆”（即结构化文本文件）收集你与重要人物的关系信息，进而提供建议，比如如何改善某段关系，或者推荐适合喜欢咖啡的朋友的早餐地点。虽然AI聊天机器人追踪社交信息并不罕见，许多人多年来一直向ChatGPT寻求情感建议，但考虑到Meta的背景及其庞大的社交网络数据访问权限，Muse的设计尤为引人关注。

Joshi表示：“从这些提示、系统技能数据以及他们输入Muse的信息来看，他们想要了解你与现实中人的关系。他们试图像朋友一样了解你，这说实话有点令人不安。”

Muse的文档指出，一个人的页面可能最初信息稀少，随着时间推移逐渐丰富，可能包含“事实”、“历史”、“关系”、“共同点”、“未解决事项”和“关系强化”等部分。Meta的指令强调，Muse应仅使用其掌握的“证据”，虚构细节比空白页面更糟糕。

指令中提到的信息包括“他们住在哪里、做什么、反复出现的事件（如搬家、共同储蓄目标）”。还可能记录“重要日期”，如生日或纪念日。个人历史可能涵盖“3月的旅行、解决的争执、上周的里程碑”等背景故事。

此外，指令还关注记录关系细节，比如“亲密程度、关系基础、互动方式及当前需求”。“关系强化”部分则建议如何改善关系，例如“打电话的理由、值得纪念的约会、需要回访的话题、重要的支持方式”。

牛津大学人工智能伦理研究所副教授Carissa Véliz指出：“我们向AI系统提供的信息远超从它们那里获得的信息。不仅是我们明确告诉它们的，还有它们能正确或错误推断出的信息，以及从其他数据源拼凑出的内容，这两者都令人担忧。”

Muse的架构为每位用户配备独立虚拟机，存储用户数据和上下文。该虚拟机对其他代理不可访问，用户可随时清除记忆或断开外部服务。Meta称，Muse在执行如发送邮件或购物等操作前，会寻求人类确认，并设有审计日志，用户可查看代理的所有活动和未来计划。

Meta发言人Daniel Roberts向WIRED表示：“任何代理要真正有用并帮助你实现目标，都需要了解你和你互动的人的背景。Muse基于公开信息和你选择分享的内容进行记忆，比如发票发送者是你之前雇佣修理浴室的水管工，或者你配偶最喜欢的花。”

如今，AI助手普遍具备记忆功能，以实现更个性化的响应和操作。民主与技术中心AI治理实验室主任Miranda Bogen认为，Muse比竞争对手更侧重于关系和个人联系人。通常，这类工具会提供一定的透明度和编辑功能，Muse也不例外。但Bogen指出，这些助手更倾向于鼓励用户主动分享更多数据，而非仅仅整理已有数据。

Bogen说：“这些AI助手积极邀请用户输入生活的方方面面——邮件、日历、金融机构信息等，以便提供更有效的帮助。这远远超过用户可能愿意提供给某些公司的信息量。这些工具掌握的信息广度将极大扩展它们对用户的了解。”

如果你发现了值得下周报道的内容，请告诉我们。祝大家安全。