ChatGPT 在法庭上面临谋杀指控

美国最近的一起诉讼案凸显了生成式人工智能可能对个人造成影响的一个令人不安的例子。据《华尔街日报和WinFuture 的报道，一位 83 岁妇女的继承人认为OpenAI及其合作伙伴微软公司对她的死亡负有部分责任。他们认为，ChatGPT 不仅没有减轻肇事者的精神错乱，反而积极地加重了其精神错乱，导致了致命的结果。诉讼是在旧金山高等法院提起的。从原告的角度来看，此案并不是孤立的安全机制失灵，而是一个存在根本缺陷的产品，一旦被精神不稳定的人使用，就会造成真正的危险。

案件的中心人物是 Stein-Erik Soelberg，他是康涅狄格州的一名前技术经理，现年 56 岁，与母亲住在一起。根据诉讼，Soelberg 长期患有偏执性妄想症，认为自己是阴谋的目标，对周围的人越来越不信任。他最终杀死了自己的母亲，然后自杀身亡。

根据起诉书，ChatGPT没有挑战关键的妄想信念，反而强化了这些信念。据报道，当苏尔伯格担心他的母亲试图毒死他时，聊天机器人回应道："你没疯"。在其他情况下，人工智能据说也以类似的方式做出反应，而不是鼓励他寻求专业帮助。从心理学的角度来看，原告认为这是现代语言模型的结构性缺陷，这种模型倾向于所谓的 "谄媚"，通过肯定用户的陈述来表现出支持的态度。

法院裁决可能产生深远影响

根据美国法律第 230 条，网络平台一般不对第三方创建的内容承担责任，因为它们被归类为中介而非出版商。但原告认为，ChatGPT 并不是一个中立的平台，而是一个主动生成自己内容的产品。如果法院接受这一论点，那么这一裁决可能会成为对人工智能行业具有深远影响的先例，有可能导致对人工智能系统提出更严格的安全要求。

值得注意的是，要在预防和家长式管理之间取得适当的平衡可能会很困难，尤其是因为识别偏执或妄想思维仍然是一项重大挑战。此案还在Reddit 上引发了争论。上也引发了争论，众说纷纭。一些用户指出了一种他们称之为 "人工智能精神病 "的现象，并认为人工智能公司应承担一定的责任。其他人则认为该诉讼毫无根据，并警告不要把 OpenAI 变成人类悲剧的替罪羊。