"ChuckyGPT"：为幼儿设计的人工智能泰迪熊给出了危险的答案--OpenAI阻止了它
由于对中国玩具制造商 FoloToy 的一款人工智能产品的担忧，OpenAI 已对该公司实施禁售。这一决定是在消费者权益组织美国 PIRG 进行调查之后做出的。该组织在其年度《Trouble in Toyland》报告中对几款人工智能玩具进行了评估。其中，FoloToy 的 Kumma 泰迪熊采用了 OpenAI 的 GPT-4o，在测试过程中出现了严重的安全问题。
PIRG 的报告描述了这只人工智能泰迪熊是如何指导儿童如何点燃火柴的--这对于一个作为幼儿互动伴侣销售的产品来说是一个严重的安全隐患。同样令人不安的是，该玩具还回答了有关性话题的问题。测试人员还对潜在的隐私侵犯提出了更多担忧，包括儿童的声音可能被录制下来并被滥用于欺诈。该玩具的持续音频监控也是一个主要问题。
这一事件也在Reddit 上引发了讨论。的讨论，普遍认为在儿童玩具中使用人工智能而不采取严格的安全措施是非常不负责任的。不出所料，该主题包含大量讽刺，一些用户将其与人工智能末日场景相提并论，并给泰迪熊起了个绰号"ChuckyGPT"。一些评论者认为，这些不恰当的回应可能是由蓄意越狱企图引发的，但这一说法仍未得到证实。
OpenAI迅速回应了调查结果。"公司发言人通过电子邮件告诉 PIRG："我可以确认，我们已经暂停了这位开发者违反我们政策的行为。FoloToy 也立即采取了行动，停止了所有产品的销售。"该公司表示："根据您在报告中提出的问题，我们已暂时停止销售所有 FoloToy 产品[......]我们正在全公司范围内对所有产品进行端到端安全审核。虽然人工智能泰迪熊 Kumma 仍列在FoloToy 的网站上上，但现在显示为"已售罄"。
资料来源
OpenAi 通过电子邮件发送给PIRG
图片来源：PIRGErik Mclean/Pexels;Alexas_Photos/Pixabay
