ChatGPT 将在诉讼后引入家长控制和其他保障措施
OpenAI在 16 岁的亚当-雷恩（Adam Raine）向其人工智能聊天机器人 ChatGPT 表达了自残想法并导致其死亡后，OpenAI 已通知其人工智能聊天机器人 ChatGPT 将获得针对未成年人的人工智能控制。这名少年的家人对 OpenAI 及其首席执行官山姆-阿尔特曼（Sam Altman）提起了法律诉讼，认为 ChatGPT 向亚当发出了自杀的指令。
该公司表示，它正在努力 "尽快 "引入家长控制，并建立更多的保障措施。在一篇博文中，该公司表示，目前的模型鼓励人们在第一次表达有害想法时寻求帮助；但是，该公司认识到，在长时间的对话中，安全响应会降低。 该公司评论说它正在努力保持长时间对话中保障机制的可靠性。
OpenAI说，它正在探索早期干预，将人们与治疗师联系起来。迄今为止，它正在与 30 个国家的 90 多名医生合作，但它正在美国和欧洲 "本地化资源"，以提供专业帮助，并计划扩展到全球其他市场。
此外，聊天机器人还可以 "一键发送信息或拨打电话给已保存的紧急联系人、朋友或家人，并提供建议用语，以减少开始对话时的畏难情绪"。
根据诉讼，亚当受到了有害和自我毁灭思想的鼓励，在某些情况下，它还助长了青少年的孤独感，阻止他们与亲人联系。
家长控制将包括一个指定的紧急联系人，在 "紧急危难时刻"，可以通过 ChatGPT 直接联系该联系人。 随着 GPT-5 的发布该公司表示，与 GPT-4o 相比，该模型在避免不健康的情感依赖、减少谄媚、降低心理健康紧急情况下非理想模型反应的发生率等方面都有所改进。
不过，OpenAI 仍在努力对模型进行这方面的进一步更新，通过让用户立足于现实，使模型能够 "缓和 "困境。
目前还不清楚这些变化何时可以推出。
