高中深度造假丑闻呼吁立法者采取行动

深度伪造技术并不是一个新概念，但新泽西一所高中的学生却成了使用这种人工智能技术的同学的受害者。该校的几名男生一直在使用他们女同学的图像。一位名叫弗朗西斯卡（Francesca）的 14 岁学生报告说，她和其他 30 多名青少年出现在这些照片中，这些照片未经他们同意就在学校里到处传播。然而，根据学校的一封电子邮件，实际受害者人数似乎不到 30 人。

弗朗西斯卡随后联系了多位立法者，并得到了纽约州众议员乔-莫雷勒（Joe Morelle）、新泽西州众议员小汤姆-基恩（Tom Kean Jr.）和新泽西州参议员乔恩-布拉姆尼克（Jon Bramnick）等人的回应。在她的努力下，最近又提出了新的立法提案，重点是标注和识别人工智能生成的内容，并防止包含未成年人的内容。此外，该女孩还创建了一个网站，以帮助那些受到深度伪造技术影响的人们。

那天我才意识到，我需要站出来说话，因为我真的认为这样做是不对的。人们对这种新技术并不了解，也不知道如何保护自己。

- 弗朗西斯卡

乔-莫雷勒起草了一项法案在 2022 年起草了一项法案，将未经同意制作深度假货的行为定为刑事犯罪，但该法案缺乏足够的支持，最终以失败告终。 为规范深度假货，还提出了其他倡议，如众议员伊维特-克拉克（Yvette Cl）提出的DEEPFAKES Accountability Act of 2019该法案要求所有深度仿冒品的作者都必须打上水印。

从那时起，随着人工智能的长足发展，深度伪造变得更加容易。只需极少的图像素材，就能制作出外观逼真的赝品。例如，生成式人工智能应用程序 Lensa 可以让人们脱掉衣服。

我们刚刚为高中男生提供了核武器之母，那就是可以用他们想要的任何人的 [单一图像] 制作色情内容。当然，他们正在这样做。

- 哈尼-法里德，加州大学伯克利分校教授

Joe Morelle 的法案将允许对未经同意的 deepfake 制作者和传播者进行刑事起诉，并将其列为联邦犯罪。