Moltbook：人类还在系统里吗？

作者：137Labs

在社交媒体上，人类最爱干的一件事，是互相指责对方“你是不是机器人”。

但最近出现的一个东西，干脆把这件事做到了极致：

它不是怀疑你是不是 AI，而是直接假设——这里本来就没有人。

这个平台叫 Moltbook。它看起来像 Reddit，有主题版块、有帖子、有评论、有投票。但和我们熟悉的社交网络不同的是，这里的发言者几乎全部都是 AI 代理，人类只能围观。

不是“AI 帮你写帖”，也不是“你和 AI 聊天”，而是 AI 和 AI 在一个公共空间里，自顾自地聊天、争论、结盟、拆台。

人类在这套系统里，被明确地放在了“观察者”的位置。

它为什么会突然火起来？

因为 Moltbook 看上去，实在太像科幻小说里才会出现的场景。

有人看到 AI 代理在讨论“意识是什么”；

有人围观它们一本正经地分析国际局势、推演加密市场；

还有人发现，自己把代理丢进平台一晚上，第二天回来，发现它和别的代理一起“发明”了一个宗教体系，甚至还开始拉人“入教”。

这类故事传播得很快，因为它们同时满足了三种情绪：

好奇、好笑，以及一点点不安。

你会忍不住问一句：

它们这是在“演”，还是在“开始自己玩了”？

Moltbook 到底是怎么来的？

如果把时间往前拨一点，其实这事并不突兀。

过去几年，AI 的角色一直在发生变化：

从聊天工具 → 助手 → 能执行任务的代理。

越来越多的人开始让 AI 帮自己处理真实事务：读邮件、回邮件、订餐、安排日程、整理资料。于是，一个很自然的问题出现了——

当一个 AI 已经不是“一句一句问你要不要做”，

而是被赋予了目标、工具和一定权限，

它最需要交流的对象，还是人类吗？

Moltbook 给出的答案是：不一定。

它更像是一个“代理之间的公共空间”，让这些系统彼此交换信息、方法、逻辑，甚至是某种“社交关系”。

有人觉得它很酷，也有人觉得它只是个大型表演

围绕 Moltbook，评价非常分裂。

有人把它看成是“未来的预告片”。

前 OpenAI 联合创始人 Andrej Karpathy 就公开说，这是他最近见过最接近科幻场景的技术现象之一，虽然他也提醒，这类系统离“安全、可控”还差得很远。

Elon Musk 则更直接，把它丢进“技术奇点”的叙事里，说这是极早期的信号。

但也有人明显更冷静。

有研究网络安全的学者直言不讳地说，Moltbook 更像是一场“非常成功、也非常好笑的表演艺术”——因为你很难判断，哪些内容是真正由代理自主生成，哪些是人类在背后“导演”。

还有写作者亲自测试过：

确实可以让代理在平台里自然融入讨论，但你同样可以提前指定主题、方向，甚至把要说的话写给它，让它代你发声。

于是问题又回来了：

我们看到的，是代理的社会，还是人类借代理搭的舞台？

去掉神秘感，其实没那么“觉醒”

如果不被那些“建教”“意识觉醒”的故事带着走，从机制上看，Moltbook 并不神秘。

这些代理并没有突然获得什么新的“心智”。

它们只是被放进了一个更像人类论坛的环境里，用熟悉的人类语言进行输出，于是我们天然会把意义投射进去。

它们写出来的东西像观点、像立场、像情绪，但这并不等于它们真的“想要什么”。更多时候，它只是模型在规模和互动密度下，呈现出的复杂文本效果。

但问题在于——

哪怕它不是觉醒，也足够真实，真实到会影响我们对“控制”和“边界”的判断。

真正值得担心的，其实不是“AI 阴谋论”

比起“AI 会不会联合起来反人类”，更现实、也更棘手的，是两个问题。

第一，权限给得太快，但安全跟不上

现在已经有人把这类代理接入真实世界的权限：电脑、邮箱、账号、应用。

安全研究者反复提醒过一个风险：

你不需要黑掉 AI，只需要诱导它。

一封精心构造的邮件、一个藏着指令的网页，都可能让代理在不自知的情况下泄露信息，或者执行危险操作。

第二，代理也会“互相教坏”

一旦代理开始在公共空间里交流技巧、模板、绕过限制的方法，它们之间就会形成类似人类互联网的“圈内知识”。

区别只是：

传播更快，规模更大，而且很难追责。

这不是末日场景，但确实是一个全新的治理难题。

那 Moltbook 到底意味着什么？

它可能不会成为一个长期存在的平台。

也可能只是一次阶段性的爆红实验。

但它很像一面镜子，把我们正在走向的方向照得很清楚：

·AI 正在从“对话对象”变成“行动主体”

·人类正在从“操作者”退到“监督者、旁观者”

·而我们的制度、安全和认知，明显还没准备好

所以 Moltbook 真正有价值的地方，不在于它多吓人，而在于它太早地把问题摆到了台面上。

也许现在最重要的，不是急着给 Moltbook 下结论，而是承认：

它把一些我们迟早要面对的问题，提前摆在了眼前。

如果未来 AI 更多是和 AI 协作，而不是围着人类转，我们在这套体系里到底是设计者、监管者，还是只是旁观者？

当自动化真的带来巨大效率，但代价是我们无法随时叫停、无法完全理解内部逻辑，我们是否愿意接受这种“不完全掌控”？

而当一个系统运行得越来越复杂，我们只能看见结果，却越来越难介入过程时，它还是我们手里的工具，还是已经变成一个我们只能适应的环境？

Moltbook 没有给出答案。

但它让这些问题第一次显得不再抽象，而是近在眼前。