欢迎订阅《Kernel Panic!》，这是由Lily Hay Newman和Matt Burgess带来的每周通讯，聚焦隐私与数字安全的新世界。想要每周直接收到这份通讯，请注册订阅。
近日，多位研究人员成功提取了Muse的内部文件，公开了该智能代理的操作指令，揭示了系统的构建方式及其行为表现。Meta表示，这些文件的公开是为了透明度考虑，确实提供了Muse如何应对高度政治化或敏感话题的线索。
独立的AI安全研究员Karan Joshi利用常规聊天界面，巧妙地让Muse复制并分享其自身的软件文件，成功提取了大量指令和系统提示，并将结果分享给了WIRED。
其中一条指令显示，Muse能够为“用户生活中的每个人创建一个页面”。这一过程每小时进行一次，涉及收集关于家人、伴侣、朋友、同事、“合作者”以及你“关注”的人的数据。
基本思路是，Muse利用其“记忆”（即结构化文本文件）收集你与重要人物的关系信息，进而提供建议，比如如何改善某段关系，或者推荐适合喜欢咖啡的朋友的早餐地点。虽然AI聊天机器人追踪社交信息并提供关系建议并不罕见，但考虑到Meta的背景及其庞大的社交网络数据访问权限，Muse的设计尤为引人关注。
Joshi表示：“从这些提示、系统技能数据以及他们输入Muse的信息来看，他们想要了解你与现实中人的关系。他们试图像朋友一样了解你，这说实话有点令人毛骨悚然。”
Muse的文档指出，一个人的页面可能最初信息较少，随着时间推移逐渐完善，可能包含“事实”、“历史”、“关系”、“共同点”、“未解决事项”和“关系强化”等部分。Meta的指令强调，Muse应仅使用已有“证据”，杜绝虚构细节，因为虚假信息比空白页面更糟。
指令中提到的信息包括“他们住在哪里、做什么、反复出现的事件（如搬家、共同储蓄目标）”。还可能记录“重要日期”，如生日或纪念日。个人历史可能涵盖“3月的旅行、解决的争吵、上周的重要事件”等背景。
此外，指令还关注关系细节，如“亲密程度、关系基础、相处方式及当前需求”。“关系强化”部分则提出改善建议，比如“打电话的理由、值得纪念的约会、需要回访的话题、重要的支持方式”。
牛津大学人工智能伦理研究所副教授Carissa Véliz指出：“我们向AI系统提供的信息远多于从它们获得的信息。不仅是我们明确告诉它们的，还有它们能从我们身上推断出的信息——无论正确与否，都令人担忧——以及它们能从其他数据源拼凑出的内容。”
Muse的架构为每个用户分配独立的虚拟机，存储用户数据和上下文信息。该虚拟机对其他代理不可访问，用户可随时清除记忆或断开外部服务。Meta表示，Muse在执行如发送邮件或购物等操作前，会寻求人类确认，并设有审计日志，用户可查看代理的所有活动和未来计划。
Meta发言人Daniel Roberts向WIRED表示：“任何代理要真正有用并帮助你实现目标，都需要了解你和你互动的人的背景。Muse基于公开信息和你选择分享的内容来记忆，比如发票发送者实际上是你之前雇佣修理浴室的水管工，或者你配偶最喜欢的花。”
如今，AI助手普遍具备记忆功能，以实现更个性化的响应和操作。民主与技术中心AI治理实验室主任Miranda Bogen认为，Muse比竞争对手更强调关系和个人联系人。通常这类工具会提供透明度和编辑功能，Muse也不例外。但Bogen指出，这些助手更倾向于鼓励用户主动分享更多数据，而非减少数据采集。
她说：“这些AI助手积极邀请用户输入生活的方方面面——邮件、日历、金融机构等，以便成为真正有用的助手。这远远超过用户原本愿意提供给某些公司的信息量。这些工具对信息的广泛访问将极大扩展它们对用户的了解。”
如果你发现了值得下周报道的内容，欢迎发送邮件至kernelpanic@wired.com。祝大家安全。
