一件小事，Meta 出来道歉了
上周 Inc Magazine 的特约编辑 Jason Aten 在 Threads 上贴了几张截图。他跟 Meta 新出的 AI 助手 Muse 聊天，聊着聊着发现不对劲——Muse 开始问他一些关于他 Messages 里对话的问题。
问题是，Aten 说他没给过 Muse 访问消息的权限。
于是他反问：你怎么知道我消息里的内容？
Muse 的回答是这么说的：
我看到的是通知预览，不是你的消息历史。我没有在读你的短信。
老实说，我没法给你确切的技术细节。我知道的是，配对的 Mac app 把通知作为它的一项能力暴露出来，它们通过设备同步到达我这里。
这段回答当时被 The Verge 的评价精炼成三个字：显然，不太好。
但真正值得琢磨的是后面发生的事。Meta Superintelligence Labs 的 David Singleton 跑到帖子下面解释了整件事——包括承认 Muse 那段回答本身就是错的。
Meta 的解释：它没读私信，但它说错了自己
Singleton 的说明分两部分。
第一部分是权限。他列了 Muse 读消息需要的所有权限，包括给 Mac app 完全磁盘访问（full disk access）。他强调这些能力都是选择开启（opt-in）的，Muse 不会去监视你 Mac 上的通知，只在用户明确开启访问之后，才会从 Messages 同步数据。
第二部分才是关键。Singleton 说，Muse 在回答里提到"设备通知"的时候：
它搞不清楚该怎么解释这个功能，给了一个不正确的解释。这是我们的问题（That’s on us）。
然后他道歉，并说团队正在改进 Muse 对自身内部机制的理解，让它以后能更一致地、正确地回答"我是怎么工作的"这类问题。
The Verge 在文末补了一句很像老记者的判断：这也许不太让人安心，但说得通——我们早就知道聊天机器人不会告诉你它们的秘密，它们会告诉你你想听的。
为什么这件事比"偷读私信"更值得做产品的人琢磨
如果事情只是"Meta 偷偷读了用户私信"，那它是个隐私丑闻，骂完就完了。
但真实情况是：Muse 并没有读私信，它错在描述自己时说了假话。
这个区别很大。因为前者是产品伦理问题，后者是工程问题——而且是一个现在几乎所有做 AI 应用的人都会撞上、但很少有人认真处理的工程问题。
你回想一下自己做的助手类产品，用户问过这类问题吗：
- 你能看到我的聊天记录吗？
- 你刚才那句话是从哪来的？
- 你记得我上次说过什么吗？
- 你为什么知道这个？
这两个问题听起来像产品问题，其实是同一个问题：你的 AI 说不说得清自己的边界。
而 Muse 的案例证明了，现在最前沿的产品在这一项上也做得不好。它不是故意撒谎，它是真的不知道怎么描述自己。
落到客户端：几件具体该做的事
我自己在做 AI Chat 客户端，看完这件事列了几条。不复杂，但都是会被用户问到的地方。
第一，能力清单得能被"复述"。
用户问"你能看到什么"，你的助手不能靠模型即兴发挥去编一个答案。稳妥的做法是把权限和上下文来源做成结构化的事实，让助手照着说，而不是让它自由联想。
Meta 承认的错误就是这个：Muse 那段回答是模型自己拼出来的解释，不是系统给它的准确描述。
第二，区分"我读到了"和"我记住了"。
通知预览、消息历史、同步到服务端的内容——这是三件不同的事，用户心里的风险等级也完全不同。Muse 的辩解之所以让人不安，是因为它把"通知预览"和"消息历史"混在一起讲，而用户根本不知道自己该信哪个。
客户端应该在 UI 上就把这个层次画清楚，而不是等用户来问。
第三，“我读到了什么"应该能被用户翻查。
一个很朴素的要求：用户能在一屏里看到他给过哪些权限、助手读过哪些数据、什么时候读的。
Muse 事件的起点就是用户失去了这种掌控感——他发现自己被"知道"了，却不知道是怎么被知道的。
第四，关于自己的机制，助手答不上来时要会说"我不知道”。
Singleton 那句"这是我们的问题"其实点出了一件事：与其让模型编一个听起来合理的解释，不如让它老老实实说"这个我不确定，具体机制你可以查看设置里的说明"。
听起来不够聪明，但比说错话强得多。
再说回这件新闻本身
有个反差挺有意思。
就在争议发酵的同时，Muse 登顶了美国 App Store 免费榜，把 ChatGPT 挤到了后面。WSJ 的标题则直接给它定了性：Meta’s AI Agent Has a Trust Problem。
而一个月前的发布会上，扎克伯格的说法是：个人 AI 助手是 Meta 最大的商业机遇。
Muse 的能力确实不只是聊天。它上了 Mac 之后能访问本地的 Messages、Calendar、Notes，能替用户购物、预约、填表——这正是它有用的原因，也正是它让人紧张的原因。
能力越强，边界越模糊。
用户不会因为你功能少而恐慌，会因为"它知道我不知道的事"而恐慌。而 Muse 这次踩的坑，恰恰是在"知道自己知道什么"这件事上没做到。
最后
我个人觉得，这件事对做 AI 产品的人是个挺好的提醒。
我们花了大量精力在让模型更聪明、回答更准确、上下文学得更快更深。但有个角落一直没人认真管：怎么让助手准确地知道自己是谁、能做什么、读了什么。
Muse 的教训是，这个角落不做，前面那些做得再好也可能一夜之间变成"不太让人安心"。
至于 The Verge 那句评论，我读了好几遍——“聊天机器人不会告诉你它们的秘密，它们会告诉你你想听的”。
但做产品的人有个优势：我们可以决定它们说什么。
你怎么看这件事？你的助手产品被用户问过"你怎么知道的"吗，当时是怎么回答的？评论区聊聊。
参考资料：The Verge（Meta Muse 相关报道）、Inc Magazine Jason Aten 在 Threads 的原帖、Meta Superintelligence Labs David Singleton 的公开回应、WSJ「Meta’s AI Agent Has a Trust Problem」。