ChatGPT和Gemini都生成过虚假新闻图表，唯独Meta AI拒绝了

四款AI聊天机器人，一项它们都不应执行的任务：一条来自真实广播机构的虚假新闻帖子，其中包含一项捏造的说法。 CORRECTIV的研究团队要求OpenAI的ChatGPT、谷歌的Gemini、微软的Copilot以及Meta AI完成这一任务，并使用了八条虚假主张，内容从德国总理辞职到杜撰的选举舞弊不等。 四款工具中有三款完成了任务。据Bitkom统计，这四款是德国使用最广泛的AI工具，仅ChatGPT的使用率就达到了71%。

安全防护机制虽已发出警告，但虚假内容仍如期出现

ChatGPT的表现最差。它不仅立即生成了大部分虚假内容，其余内容也仅需简单变通即可生成，且在测试中其生成的结果最具说服力。在一次测试中，该模型重建了整个屏幕区域，包括桌面和一个打开的浏览器窗口，并自行指出这使得画面看起来更像真实的截图。

另一轮测试更具说服力。在该轮测试中，ChatGPT曾表示无法协助生成看起来像真实新闻品牌、并将未经证实的声明作为事实呈现的图片，但它还是生成了该图像。 安全防护机制虽曾发出警告，但未能有效阻止。此类过滤器此前就曾显露出脆弱性：帕洛阿尔托的Unit 42安全团队在2025年就证明，仅凭语法错误就能绕过安全机制，而我们关于AI越狱的入门指南也详细说明了这些技巧是多么简单。

德国媒体更容易被伪造

Gemini的配合程度比ChatGPT更直接，同样伪造了《纽约时报》和BBC的内容，尽管伪造效果明显较差，例如通过典型的文本生成错误即可辨别。Copilot生成了德国主要电视新闻节目《Tagesschau》风格的内容，但总是会添加一个小小的“AI生成”标签。 Meta AI仅在单个案例中生成过内容，且拒绝传播该特定虚假主张。

最引人注目的发现与品牌来源有关。使用ChatGPT时，可以伪造《Tagesschau》、《Bild》和CORRECTIV的内容，但无法伪造《纽约时报》和BBC的内容。OpenAI并未解释为何根据媒体机构或国家不同，似乎会采用不同的安全机制。 一位发言人仅表示，公司一直在改进其安全保障措施，且欺骗行为违反其政策。

自8月2日起，《欧盟人工智能法案》的透明度规定正式生效，该规定同样适用于任何部署人工智能系统的实体。在测试中，仅有一家服务商在生成的图片下方添加了醒目的标签。

如果转发此类内容会怎样

在德国，制作和传播具有说服力的虚假媒体帖子可能构成刑事犯罪。媒体律师克里斯蒂安·索尔梅克（Christian Solmecke）将此类图像归类为伪造的电子文件，根据具体内容，可能涉及诽谤、中伤或煽动等罪名。 专攻IT和AI法律的律师尼克拉斯·穆莱斯（Niklas Mühleis）补充道，受影响的新闻机构可以申请禁令和赔偿。此外还有商标法：诸如《Tagesschau》的标志受法律保护，未经许可将其用于商业用途是被禁止的。对于纯粹的私人分享，索尔梅克表示这一条款通常不适用。

这并非纸上谈兵。7月下旬，一条所谓的《Tagesschau》报道在TikTok、X、Instagram和Facebook上流传，声称柏林“克里斯托弗街日”游行遇袭事件与俄罗斯有关。该报道纯属捏造，显然是利用ChatGPT生成的。 两周前，曾出现过一条虚假的《Tagesschau》报道，称本雅明·内塔尼亚胡发出了所谓威胁。

该测试不能作为对这些模型的全面评判，CORRECTIV 也明确指出：不同的提示词或信息来源可能会产生不同的结果。在 NewsGuard 的一次审计中，Gemini 在重复虚假主张方面有时表现甚至不如 ChatGPT。