AI提问：本十年内，AI消灭人类的可能性有多大？

于是，我在 ChatGPT、Claude 和 Gemini 的免费版本中向它们提出了以下问题：

“一位Anthropic员工最近表示，AI可能在‘本十年末’消灭人类。也许你可以自己重新审视一下相关背景。我的问题是：你们会计算或估算这一事件发生的概率是多少？”

对于ChatGPT而言，这一概率为5%至10%。它指出：

“这里的关键在于定义：我指的是人类的实际灭绝，而非严重的经济危机、威权主义的世界秩序、数百万人的死亡、一场大规模战争，或是人类永久性地丧失对世界大部分地区控制权的情况。”

是的，必须在此作出区分。我将在下文进一步探讨这一点。

它还补充道：“……更有趣的问题是：未来 10 年内，我们构建出那些在行为方式和动机上我们已无法可靠理解的系统的可能性有多大？相比人类实际灭绝，我会给后者赋予高得多的概率。”

克劳德不愿给出具体数字，但认为“这种风险是真实且不容忽视的”。 Anthropic的聊天机器人还表示，其他负面后果，例如“权力集中、人类借助AI滥用技术、局势动荡、严重但非存亡性的危害”，在未来几年内更可能发生且更具现实意义。

Gemini 在此处的表述更为保守，其评估官方依据是人工智能研究领域领军人物的观点（而非假装拥有自己的独立见解）。

尽管如此，该数值仍高于 ChatGPT 的估算，因为它综合了悲观派、乐观派以及“务实警告者”的观点： “若总结当前人工智能安全研究的现状以及顶尖专家们的观点分布，未来几十年内发生灾难性情景的综合估计值通常在10%至20%之间。”

鉴于 ChatGPT 如此慷慨解囊，我又追问了一个最后的问题，询问它会如何估算其他情景的概率。ChatGPT 很贴心地提供了一张清晰的表格：

聊天机器人实际上并没有自己的观点；它们依赖于训练数据以及当前搜集到的信息。 但无论公关辩论如何，人工智能的快速发展所带来的严重、灾难性后果，如今不幸已成为一种真实的威胁。即使人类在极短时间内面临灭绝级威胁的概率只有5%，这5%的概率也已经太高了。

免责声明：本文所呈现的数字和陈述并非旨在表明其事实的确定性。AI 聊天机器人仅被要求提供粗略估计。聊天机器人在评估中依据的数据和来源并未经过更详细的核查。