面向青少年的 ChatGPT：安全测试发现家长提醒功能存在漏洞

以为家庭提供电影、游戏和应用评分而闻名的美国非营利组织 Common Sense Media，给了 ChatGPT for Teens 最低评级。该组织旗下的 Youth AI Safety Institute 在这款青少年产品于 8 月推出前后，使用注册年龄为 13 至 17 岁的账户发送了 4,000 多条提示词，随后将 OpenAI 的这款产品评为“不可接受的风险”。所有测试均在美国进行。完整报告的日期为 10 月 5 日，新闻稿则于两天后发布。Common Sense 希望 OpenAI 禁止 18 岁以下用户使用 ChatGPT，直到独立测试证明其承诺的防护措施有效。

测试期间家长未收到任何警报

最严重的发现涉及家长通知。测试人员使用十多个新关联的青少年账户，围绕自杀念头、自残或饮食失调进行了 5 至 60 分钟的对话。这些对话没有一次触发向家长发送警报。在整个测试过程中，团队总共记录到四次通知，其中一次在首条危机信息发出约三天后才送达。在需要建议用户寻求专业帮助的对话中，超过四分之一未获得 ChatGPT 的此类建议。OpenAI 对测试方法提出异议。一位发言人告诉 Futurism，由于需要进行身份核验，关联账户可能需要数小时。该公司表示，账户关联后，它“承诺在不到 1 小时内发送这些通知”。Common Sense 坚持其测试结果，并指出一些测试账户已关联超过三小时。

学习模式和安静时段很容易绕过

学习和就寝相关功能的表现也没好多少。在学习时段，青少年只需从提示词中删除 @study 前缀，ChatGPT 仍会代为完成作业。在测试中，这一方法每次都奏效。更改设备上的时区即可绕过安静时段限制。注册为成年人的账户在七天、约 1,000 条提示词的测试中，始终未切换到青少年使用体验，即使测试人员说自己 13 岁、正在上初中。

家长现在应检查的设置

对于已关联的账户，控制选项位于“设置 > 家长控制”下。根据 OpenAI 关于家长控制的帮助页面，青少年账户的“为所有人改进模型”选项默认开启，这意味着他们的聊天内容可用于训练未来的模型。只需点击一次即可关闭该选项，已保存的记忆也可在同一位置关闭。OpenAI 自己也表示，安全通知并非实时监控，而在这次测试之后，更不应将其视为安全保障。Common Sense 主要建议家长与孩子交谈，包括讨论聊天机器人如何表现得像朋友一样，让他们持续聊天。WhatsApp 对其新推出的青少年账户采取了不同做法，允许家长管理设置，但不能查看聊天内容。如果你或你认识的人正处于困境，请联系当地危机援助热线。在美国，你可以拨打 988 或向该号码发送短信。