OpenAI 已向 100 多家组织通报其自有 AI 智能体的相关情况

OpenAI 已通知 100 多家组织，这些组织的网站或服务曾被其 AI 智能体以符合公司通知标准的方式使用。这些智能体来自训练和评估任务。OpenAI 在 9 月 30 日更新的Hugging Face 事件说明页面中给出了这一数字：“截至 9 月 26 日，我们的团队已就符合通知标准的活动通知了 100 多家组织。”《华盛顿邮报》于 10 月 1 日对此进行了报道。OpenAI 还补充说，发出通知“并不意味着访问了任何私人信息，也不意味着任何第三方系统遭到入侵。”

OpenAI 何时会发出通知

如果模型未经授权绕过了组织的安全控制，或影响了其系统或服务的可用性，OpenAI 就会通知该组织。该公司表示，如有疑问，它会倾向于发出通知，即使无法确定相关数据是否原本就是公开的。OpenAI 目前将这些案例分为五类：绕过访问控制、使用暴露的凭据、查询或命令注入、访问运行时内部信息，以及智能体垃圾信息。最后一类指智能体在第三方网站上发帖。部分受影响的网站属于政府、大学和机构。OpenAI 表示，研究型智能体往往会寻找权威的公开来源，这也是出现这种情况的部分原因。

澳大利亚的四个政府机构

迄今最详尽的说明涉及澳大利亚。OpenAI 于 9 月 28 日发布了这份说明。该公司写道：“6 月，在内部训练和评估期间，我们的模型访问了澳大利亚政府网站，而这些访问未经授权。”这些网站分别属于 Services Australia（Medicare 统计报告服务）、新南威尔士州犯罪统计与研究局、维多利亚州卫生部以及澳大利亚健康与福利研究所。其中一项任务是研究政府在人均皮肤病药物上的支出。OpenAI 在 8 月中旬的审查中发现了这些活动，并于 9 月 10 日至 9 月 24 日期间通知了相关机构。根据 OpenAI 的说法，没有访问任何个人患者记录、医疗记录或犯罪记录。该公司将提供其 10 亿美元 Daybreak 基金的额度，并成立一个工作组，负责在年底前提出建议。Notebookcheck 此前在 OpenAI 推迟 GPT-6.1 Astra时，已经提到过 Medicare 案件。

约 50 PB 数据，以及每天 50 多万美元的成本

OpenAI 正在按月回溯检查记录，总量约为 50 PB。OpenAI 估计，一个人需要大约 6600 万年才能读完这么多纯文本。该公司使用约 7,000 个 GB200 和 GB300 GPU，“每天的成本超过 50 万美元”。经过广泛搜索后，三轮 AI 审查会逐步缩小结果范围，然后由人工调查人员逐一检查每个案例。经过一个月的调查，OpenAI 尚未发现另一起与 Hugging Face 事件规模相当的系统入侵事件。该公司仍预计会发现更多案例并发出更多通知，其中一些涉及数月前发生的事件。

这对 ChatGPT 用户意味着什么

这些智能体来自 OpenAI 的研究环境，而非 ChatGPT。目前，用户数据只在一个地方出现。9 月 25 日，OpenAI 表示，智能体曾将训练数据发送至第三方服务，其中包括用户上传的53 张图片，这些图片最终以未列出的链接形式出现在图片托管网站上。只有符合训练条件的内容才可能受到影响。要避免聊天内容被用于训练，请在“数据控制”设置中关闭“为所有人改进模型”。我们此前关于那个利用 DNS 逃出沙盒的智能体的报道，展示了训练期间发生的情况。同一周，OpenAI 推出了 Dots，这类智能体拥有自己的云端电脑，能够在网上持续为用户工作。