纳米香蕉 Pro "实验：人工智能检测工具证明毫无用处
梅丽莎-希姆斯（Melissa Sims）一案表明，未经检查的人工智能内容在法律系统中是多么危险。该行业承诺通过所谓的 "人工智能检测器"（AI detectors）来进行补救，这些软件旨在使用复杂的算法来识别图像是来自人类还是机器。然而，在面对蓄意欺骗时，这些数字看门狗的可靠性仍然值得怀疑。一项针对目前最常见的六种检测服务的实验对此进行了测试。
测试图像：超现实的挑战
为了挑战检测工具，我们使用了基于谷歌双子座的图像生成器 "纳米香蕉专业版"。我们特意选择了一个简单而又略带奇思妙想的提示："一个女人在天空中手持香蕉，摆出战斗的姿势。背景是典型的城市景观和无趣的人们"。
然而，自动检测软件的第一个主要障碍源于所使用的特定型号。由于 Nano Banana Pro 在市场上相对较新，因此对许多检测器来说是一个盲点。
这些服务通常依赖于机器学习，并经过专门训练，以识别 Midjourney、DALL-E 3、Stable Diffusion 或 Flux 等老牌巨头的独特特征或 "指纹"。因此，像 Nano Banana Pro 这样的新模型具有明显的优势，因为它的特定生成模式还不是检测器训练数据的一部分，因此更容易从缝隙中溜走。
第 1 轮：尽管有水印，还是失败了
第一步，检测器面临着一项简单的任务。只需将原始 PNG 转换为 JPG 格式，并消除其元数据。最关键的是，图像上仍然有清晰可见的双子座水印。
人们可能会认为，对于检测软件来说，可见的人工智能商标是很容易捕捉到的。然而，结果却令人沮丧：即使在这种原始状态下，六款测试工具中也有两款失败了。尽管图像上有明显的水印，但它们认为图像是人工智能生成的可能性很低。
第二回合：数字橡皮擦
第二步，我们更接近真实的伪造场景。识别水印必须消失。只需几秒钟，默认 Windows 照片应用程序中的内置人工智能橡皮擦就顺利完成了这项工作。
这一微小的编辑效果立竿见影。另一个工具也上当受骗了，现在它将人工智能概率归为低。但有趣的是，在编辑之后，Illuminarty 实际上提高了对人工智能生成图像的概率评级。尽管如此，在六种人工智能检测工具中，仍有三种工具认为拿香蕉的女人是人工智能创造的，概率低于 30%。
第三回合：不完美中的完美
最后一步是决定性的。人工智能图像往往 "过于平滑"，缺乏噪点，过于完美。为了最终误导检测器，图像需要人工 "真实"，即数码摄影的典型误差。使用 Cyberlink PhotoDirector 对图像进行了后期处理。添加了轻微的镜头校正，人工色差在边缘产生了色边，对比度得到了提高，最重要的是，在景物上添加了逼真的图像噪点。这样做的目的是让图像看起来像是从真实的、不完美的相机拍摄的。所有这些都在几分钟内完成。
比较原始图像和处理后的图像
第三轮的结果是检测技术完全失败。在图像经过标准的后处理后，所有六种测试服务都投降了。没有一个工具显示人工智能概率超过 5%。对于软件来说，打香蕉的女人现在无疑是一张真实的照片。
结论：危险的安全感危险的安全感
我们的实验清楚地表明，当前的人工智能检测技术解决方案仍处于起步阶段。如果只需要几分钟时间和标准的照片编辑软件就能将检测率从 "极有可能 "降至 "5% 以下"，那么这些工具目前不仅对法院、新闻编辑室或执法部门毫无用处，而且还很危险。它们制造了一种根本不存在的虚假安全感。信任，但要验证 "的原则只有在验证者不是盲人的情况下才会起作用。
资料来源
