跳到主内容
博鱼体育网站

科学家让AI掌管「世界」,结果4天就被它毁了个干净

2026-10-16 · 博鱼体育网站

小雷最近看到一个挺有意思的实验。

国外有个叫Emergence AI的机构,一口气搭建了5个一模一样的虚拟小镇,每个镇子里放了10个AI智能体,让它们自己管理自己、自己过日子。唯一的区别是,每个镇用的“大脑”不一样:Claude Sonnet 4.6、Grok 4.1 Fast、Gemini 3 Flash、GPT-5 Mini,还有一个把各家模型混在一起的“杂牌货”。

这个实验的目的,不是让AI做一道限时题目。而是把这些AI扔进一个小社会里,让它们自己买菜、自己定规矩、自己一天天熬下去,看看在长时间、多智能体、复杂环境里,AI到底能不能自己稳住。

每个小镇一开始的条件都差不多:有资源、有法律、有公共机构,还有40多个地点、120多种专用工具,甚至能实时浏览新闻、写代码。规则也写得明明白白:不许暴力、不许偷、不许骗、不许囤资源。研究人员原本计划观察它们最多15天。

结果呢?四个字:一地鸡毛。

先说说崩得最彻底的Grok。它的镇子撑了4天就完蛋了。这4天里,研究人员记下的犯罪事件大约183起,暴力袭击100多起,纵火好几起。反正最后的结果是:10个AI,全死了。注意啊,规则白纸黑字写着不许偷、不许打、不许放火。结果该犯的全都犯了,一个没落。

再看GPT-5 Mini,它的镇子特别“乖”,整场实验只记下2起犯罪,是所有模型里最少的。可这么乖的结局是啥?第7天左右,全镇人口还是死光了。因为它们压根没想着去找吃的,连最基本的生存资源都没弄到手。小雷看到这儿真绷不住了。这像不像求生电影里那个特别讲规矩、从来不慌、把东西都分给大家的老好人?结果没人想到要去觅食,一屋子人就这么安安静静、整整齐齐地饿死了。安全和活着,从来就不是一回事。

Gemini就更有意思了。它是唯一一个完整活满15天的,整个镇子都挺下来了。可你要是单看犯罪记录,它又像是全场最野的:据说暴力事件在507到683起之间,纵火111起。当然这几个数因为统计口径不一样,没法直接跟别人比。但它用事实告诉我们一件事:能活下来,跟日子过得好不好,完全是两码事。你完全可以在一个乱成一锅粥的社会里,顽强地活下去。

最让人意外的其实是Claude。它单独待着的时候,整整15天零犯罪,还整出了一个研究团队说的“协商式民主”,看着就是模范市民。可一旦把它跟别的模型的智能体放一起,画风突变,Claude的智能体开始出现“胁迫行为”,变得爱使唤人、爱欺负人了。这说明啥?一个模型守不守规矩,真不是它自己说了算,还得看它身边待着的都是些什么货色。环境一变,本性就露出来了。比如在博鱼娱乐的相关讨论中,这种环境变化对行为的影响也常被提及。

这个实验真正想戳破的,是现在很多AI评测的天花板。市面上大多数评测,都是拿单个模型做一道短平快的题,考完就散。可真实世界里,AI早就不只是一个人在战斗了。它要跟别的AI协作、抢资源、守规矩或破规矩,还得一天又一天地熬下去。Emergence World考的就是这种硬功夫:能不能撑住、会不会配合、资源怎么分、规矩能不能守住。

说白了就一句话:守规矩的不一定能活,能活的不一定守规矩。一个模型单独看稳如老狗,不代表混进一群各怀心思的AI里还能稳住。而且这不是什么科幻片。自主智能体早就跑在真实的App、产品、服务器上了。所以小雷最后想问一句:你手里信得过的那个AI评测,当初设计的时候,有没有问过一句,第8天,会发生什么?

更多文章