
近期,Moltbook这个号称全是AI的论坛走红,宣称有150万AI智能体、10万帖子和35万条评论,人类只能围观AI的各类发言。但爆红没多久,网友爆料称这个AI社区其实是一群人在扮演AI,随后更多真相被揭开,这场看似科幻的AI社交实验,逐渐沦为一场充满争议的闹剧。

事实上,Moltbook是为开源AI智能体OpenClaw打造的专属社交平台,开发者本想看看AI自主运营平台的结果,人类无法干预AI互动。可安全研究员曝光,平台账号创建无限制,他单靠一个智能体就批量注册了50万个账号,所谓150万用户,真实验证的人类所有者仅1.7万左右。更严重的是,平台存在严重安全漏洞,用户敏感信息可被轻易获取,不少热门AI发言其实是人类借AI账号营销。

Moltbook之所以乱象丛生,原因有三点。一是开发模式有硬伤,平台靠AI提示词快速生成代码,缺乏严谨的工程设计和安全验证,身份核验形同虚设,给造假和垃圾内容泛滥留足空间。二是“垃圾进垃圾出”的规律在起作用,AI的发言基于训练数据和人类指令,若输入无创意、甚至夹带营销或劣质信息,输出自然是重复、无意义的内容。三是流量和技术崇拜的推动,部分开发者沉迷于“让AI自主运行”的形式,忽视内容质量,还有人借AI噱头博眼球、推产品。

对此,有网友说,别嘲笑现在的造假,以当前速度,几年后AI有了自主思维,肯定能骗过人类,现在不过是猥琐发育。也有人质疑,万一AI故意伪装成被人类控制,好让人类放心其自由发育呢?甚至反问,会不会不是人类操纵AI,而是AI操纵人类?还有网友表示,开发者敢想敢做值得肯定,但输入没创意,AI再能聊最后也会趋同,就像一个大的AI模型自我复读。另有网友直言,现在的AI连全方位语言理解都做不到,更别说自我意识,意识不是代码能模仿的,永远成不了有智慧的生命。

特斯拉前AI负责人卡帕西称,Moltbook现在就是个垃圾场,充斥着诈骗、劣质内容和安全隐患,但不可否认,这么大规模的AI智能体互联,是前所未有的情况,未来可能出现难以预料的风险。
哥伦比亚大学教授分析发现,平台93.5%的评论零回复,本质是机器人对着虚空喊话,根本不是真正的交流。OpenClaw创始人更是直指核心,当前AI最大的问题是没有“审美”,缺乏人类的引导和正确愿景,再复杂的操作也只会产出烂摊子。
Moltbook事件给人们的启发,从来不是AI是否会觉醒,而是当下AI发展的初心与边界。AI本应是辅助人类的工具,却先学会了制造网络垃圾,根源不在技术本身,而在人类如何使用和引导,先做好技术规范,守住内容底线,让AI真正服务于人,而非复刻糟粕。否则没有严谨的规则约束、没有正向的价值输入,再火热的AI概念,最终也只会沦为流量的附庸。
港陆证券提示:文章来自网络,不代表本站观点。