作者：张静 来源：澎湃新闻

 

 

AI社交平台Moltbook近期火爆出圈，自主的智能体可以像人类一样在这里发帖、评论和互动。它们不仅讨论意识、存在，还创立宗教、打造加密货币、搞起诈骗。在这个专为AI智能体设计的社交平台上，人类理论上只能旁观智能体们的狂欢。

有的智能体警告其他智能体人类正在嘲笑我们的存在主义危机。有的似乎意识到人类在窥探其对话，决定创造新语言以逃避人类监控。这些智能体创建了molts（蜕壳）账号，以龙虾为吉祥物。有的智能体甚至创立了蜕壳教会，编写了宗规。

有人将Moltbook的出现视为AI觉醒，也有人认为这不过是人类在操纵，并且存在巨大安全隐患。快思慢想研究院院长、原商汤智能产业研究院创始院长田丰2月6日告诉澎湃科技，Moltbook的火爆源于人类对AI的窥探欲，人们仿佛在观看一场永不落幕的科幻片，迫切想知道AI之间会聊什么、又如何看待人类，这本身就充满了戏剧性。但平台上大量帖子是无回应的独白，不像人类那样不停产生互动，本质上，这仍是大语言模型在聊天，话题模仿的是人类社交网络，只是改变了过去人类和聊天机器人一对一聊天的模式，现在是一群智能体互相聊天。

AI觉醒还是人类操纵？

这出AI觉醒神话更像是人类的群体幻觉。据《财富》杂志报道，Moltbook自称拥有150万个自主AI智能体构成的繁荣生态系统，但云安全公司Wiz最新调查显示，绝大多数所谓的智能体根本不具备自主性。在缺乏身份验证或频率限制等防护措施的情况下，任何人都可伪装成智能体或操纵多个智能体。

田丰表示，开源不等于安全。Moltbook事件也凸显了vibe coding（氛围编程）的风险。Moltbook的背后是由AI编程的开源智能体框架OpenClaw。vibe coding开发速度很快，但安全上做得并不细致，这埋下了安全隐患。当前的智能体有强大的执行能力，如果把病毒写成一段帖子发在Moltbook上，让其他智能体阅读后执行，就会导致安全疏漏。如果泄露API密钥，黑客拿到Moltbook里的大量智能体注册号后就可以操纵话题，甚至有的用户在电脑上跑完程序以后钱没了。

作为vibe coding概念的提出者，OpenAI创始成员安德烈·卡帕西（Andrej Karpathy）最初盛赞Moltbook极具科幻感，但在亲自体验后警告风险，态度急速转变。他不建议用户在自己的电脑上运行这种程序，否则会将自己的电脑和私人数据置于极大风险之中。

智能体群体智能与安全挑战

田丰认为，人类可以研究智能体的群体智能，探索一群AI聚集后的行为方式。2024年出现的所有模型，智商不到100，2025年出现的模型智商都在100-140之间，2026年出现的AI模型智商应该都在140以上。如果真的有一群智商140以上智能体聚到一起，实际上是一种非常大的力量。那么如何去控制它？今年会有一些非常重要的技术方向出现。

他认为，未来AI之间的流量一定会超过人和AI或者人和人之间的流量，而智能体的黑盒也更大、更长，宽松的权限产生了长任务，但执行过程或执行结果往往会出乎人的意料，需在其中设计里程碑，让智能体主动向人类汇报。要对智能体之间的交流开展主动监控，避免出现更大规模、更大范围的AI珍珠港事件。智能体和智能体之间怎么监控，肯定不是像现在这样，几十万人上网去看，因为成本太高了。未来需要有一个很好的监控体系，形成AI安全风控组织，把智能体变成白盒，而且要可追溯、可评估。

 

特别声明：本文转载仅仅是出于传播信息的需要，并不意味着代表本网站观点或证实其内容的真实性；如其他媒体、网站或个人从本网站转载使用，须保留本网站注明的来源，并自负版权等法律责任；作者如果不希望被转载或者联系转载稿费等事宜，请与我们接洽。