Anthropic发现有科学家向Claude寻求生物武器研究方面的帮助

Claude AI 的开发公司 Anthropic 最近标记并封禁了多名试图利用其 AI 模型开发潜在生物武器的科学家。 该公司发布的一份最新威胁报告详细描述了其Claude AI平台被广泛滥用的情况。调查重点揭示了五起具体案例，涉及正在研究高度危险病原体的现役科学家。此类滥用的检测依然非常复杂，因为合法的生物医学研究往往与生物武器的开发极为相似。

在5月的一起引人注目的案例中，Anthropic的内部生物安全分类器拦截了一项请求，该请求旨在起草一份关于基孔肯雅病毒功能增益研究的资助申请。这种由蚊子传播的病原体会引发致残性症状，目前尚无获批的治疗方法。 该研究提案旨在提高该病毒的传播能力及其规避免疫反应的能力。

由于该研究与一家军事研究机构有关联，公司对此的担忧立即加剧。Anthropic还阻止了另一项涉及禽流感功能增益研究的尝试，该研究旨在使该病原体更容易在哺乳动物之间传播。 另一条被截获的查询显示，有研究人员利用Claude对毒液毒素肽进行测序并优化其特性。

Anthropic随即对与这些活动相关的账户实施了永久封禁。该公司利用这些发现加强了安全防护措施，以防范未来可能出现的滥用行为。报告强调，新一代模型在处理复杂科学任务方面的能力正日益提升。

这一能力使它们成为那些寻求在复杂生物工程领域中充当真正研究助理的作恶者的极具吸引力的目标。Anthropic选择对涉事科学家的身份和所属机构予以匿名处理。该公司表示，公开这些专业人员的身份可能会使其面临人身伤害的风险，并指出这些研究人员可能并未明确意图造成伤害。