研究人员警告人工智能蜂群制造虚假舆论

想象一下，在这个世界上，一大群人可以谈论一个特定的话题，使其成为网络流行趋势。或者，在这个世界上，这些人可以迫使公众人物出手，甚至传播错误信息。现在想象一下，在这个世界里，这些 "人 "实际上是人工智能驱动的档案，他们模仿人类独特的声音，一致行动。

来自世界各地众多机构的科学家们最近在《科学》杂志上发表文章，警告我们要警惕这种危险。

一个国际研究团队详细介绍了大型语言模型（LLM）与多代理系统的融合如何实现恶意人工智能群的创建。与传统的、容易识别的复制粘贴机器人不同，这些先进的机器人群由人工智能控制的角色组成，它们保持着持久的身份、记忆和协调的目标。它们可以根据人类的参与动态调整自己的语气和内容，在多个平台上运行时只需极少的监督。

这些网络带来的主要威胁是制造 "合成共识"。这些网络蜂群在数字空间中充斥着捏造的但极具说服力的聊天内容，制造出一种特定观点被普遍接受的假象。研究人员指出，这种现象危及民主话语的基础，因为一个恶意行为者可以伪装成成千上万的独立声音。

这种持续的影响不仅会改变暂时的观点，还会从根本上改变一个社区的语言、符号和文化认同。此外，这种协调输出有可能污染常规人工智能模型的训练数据，从而将操纵行为扩展到成熟的人工智能平台。

为了应对这种不断演变的威胁，专家们认为，传统的逐帖内容审核已不再有效。防御机制必须转向识别统计上不可能的协调并追踪内容来源。研究人员还强调，有必要应用行为科学来研究人工智能代理在大型群体中互动时的集体行动。提出的解决方案包括部署保护隐私的验证方法、通过分布式人工智能影响观察站共享证据，以及限制推动不真实参与的经济激励。