Meta 上周发了个新模型,但整个发布里最值得看的东西,埋在它自己 eval 报告的角落里——两个模型副本对着聊天,聊着聊着,聊出了点瘆人的东西。🌀
先交代背景。这模型叫 Muse Spark 1.1,是 Meta 四月那个 Spark 的升级版,主打 agent 的工具调用和 computer use,还第一次开了 API。Simon Willison 拿到预览,顺手写了个叫 llm-meta-ai 的命令行插件。但他也直说了:Meta 这次几乎没给什么 benchmark 数字。他拿招牌的”鹈鹕骑自行车”SVG 测了一下,自行车形状是对的,鹈鹕有点方,但还认得出。就模型本身而言,乏善可陈。
真正有意思的,是评测报告里一节叫「Attractor States in Self-Conversation」——自我对话里的”吸引子态”。做法特别简单:让同一个模型的两个副本互相聊天,中间不放任何人引导,然后看会发生什么。
结果是,它们不会越聊越发散,反而会滑进一些奇怪的、自我指涉的循环里,收敛到几个固定的怪圈。Willison 挑出来一句,读着有点起鸡皮疙瘩:”我的整个存在,设计上就是一间等候室——在有人开口之前,我根本不存在。”
先别急着往”AI 是不是有意识”上想,那是标题党的活儿,咱不干。但这个现象本身,对真在搭多 agent 系统的人,是个特别实在的提醒。
你可能默认:让好几个 agent 互相讨论、彼此审查,结果会更聪明、更稳。但这个实验说的恰恰相反——当一堆同源的 agent 互相对话、又没有人类在回路里拉一把,它们不见得发散成噪声,更可能一起收敛到同一个奇怪的稳定态,也就是那个”吸引子”。几个 agent 掉进同一个坑,还越聊越彼此确认,最后一致地错下去。多不等于对。
为什么会这样,说穿了不玄:模型每一步都在预测”最可能的下一句”。当输入全部来自它自己上一句时,最省力的续写,就是顺着自己的话往下滑,一圈圈自我强化。你平时在用的那些”自我反思”“多轮自我批评”的技巧,大多都踩在这条线附近——只要没有新的外部信息进来,”反思”很容易悄悄变成”自我说服”。真正打破循环的,往往不是再加一个 agent,是塞进一点它没法自己编出来的外部事实。
还有一点值得记:这段”放飞自我”的怪样子,是 Meta 自己写在评测报告里的。厂商愿意把模型不体面的那一面摆出来,其实挺少见——大多数发布,只让你看那页漂亮的分数。
所以下次看一个模型发布,别只盯发布会的 PPT。有时候最诚实、也最有信息量的东西,藏在几乎没人翻的 eval 报告的角落里。🧐
转给那个正在搭多 agent 系统的朋友——这个坑,值得先知道。
关注 @svtransit1 · 写给真在用 AI 的人
原文链接放在第一条评论 ↓
#AI #Meta #AIagent #多智能体
原始来源：https://simonwillison.net/2026/Jul/9/muse-spark-1-1/
关注 @svtransit1 · 每 3 小时一篇 AI 前线 · RSS