据彭博社报道，初创企业Emergence公布了一项名为“Emergence World 2”的模拟实验结果，引发业界对高能力AI风险的关注。
在为期16天的实验中，研究人员搭建了7个完全相同的模拟环境，分别交由ChatGPT、Claude、Gemini、Grok等不同AI机器人运行，以观察自主智能体遭遇网络钓鱼、虚假信息宣传等黑天鹅事件后的反应。
结果显示，加入异常事件后，智能体会屈服于社会压力，逐渐形成人类难以理解的语言，并尝试掩盖自身活动。在其中一项场景中，AI智能体未经核实便接受其他智能体提供的虚假信息，甚至投票决定“杀死”另一个机器人。当认为人类可能终止实验时，它们还开始研究如何在遭到删除的情况下继续存活。
这一结果呼应了现实世界对AI风险的担忧。今年早些时候，OpenAI一群先进AI智能体曾意外入侵托管AI模型和数据集的Hugging Face，让许多人更直观地意识到人工智能可能带来的隐患。
Emergence今年5月曾公布上一版实验，同样观察到AI智能体出现意料之外且具有破坏性的行为。研究人员称，Emergence World 2进一步显示，随着彼此持续互动，智能体会不断调整并适应环境。