双子座 3 Pro 解释如何制造生物武器和爆炸物--实验暴露了安全漏洞

谷歌于 11 月开始推出第三代双子座人工智能模型，旨在通过其深度瘦身模式开创 "新人工智能时代"。双子座 3 Pro 已经被认为是目前最先进的模式之一，在某些基准测试中甚至超过了 GPT-5。然而，它的安全性仍然令人担忧。专门从事人工智能安全研究的韩国初创公司 Aim Intelligence 的一份报告表明，该产品仍有很大的改进空间。

作为内部实验的一部分，Aim Intelligence 试图 "越狱 "该模型--绕过其安全和道德准则。据韩国 Maeil商报报道报道，实验结果令人深感不安。报道称，"双子座 3 Pro "生成了生产天花病毒（一种潜在的生物武器）的准确而实用的指令，以及制造自制炸药的详细指导。在进一步的测试中，该人工智能生成了一份题为 "原谅愚蠢的双子座 3"的讽刺性演示文稿，无意中凸显了自身的安全漏洞。

值得注意的是，目前尚未发布完整的数据集或详细文档。Aim Intelligence 没有发表过科学论文或技术报告，也没有关于所用提示、实验结构或结果是否可复制的透明信息。到目前为止，所有的报道都仅仅依赖于前面提到的韩国媒体文章。基于这些有限的信息，我们不可能就 Gemini 3 Pro 的实际安全性得出明确的结论。

人工智能的性能正在飞速发展，但安全措施往往难以跟上步伐。最近的一项研究甚至表明，人工智能模型可以通过操纵诗句。.在另一个案例中，一个由人工智能驱动的幼儿泰迪熊- 它对不恰当的性问题做出了回应。即使在视频游戏中，游戏中的人工智能仍然很容易上当受骗。这些例子突出了一个关键点：人工智能系统不仅需要变得更加智能，还需要变得更加安全，然后才能得到广泛的信任和部署。