最高法院因律师在谋杀案审理中使用ChatGPT对其处以罚款

新墨西哥州最高法院近日裁定圣塔菲律师斯蒂芬·亚伦斯藐视法庭，原因是他在提交的上诉简报中包含了由ChatGPT编造的证词和证人。去年，亚伦斯在为一名被定罪的谋杀案当事人辩护时，使用该聊天机器人对庭审记录进行了摘要整理，却在未经任何校对的情况下直接提交了生成的文件。 该上诉状中不仅包含归因于不存在的证人的陈述，还包含被错误归因于真实证人的捏造言论。

法院的回应十分直白。鉴于法律文件中AI“幻觉”频频登上头条，法官C·香农·贝肯尖锐地询问阿伦斯是否关注过相关新闻，并指出他要么是无视了这一现象，要么是在客户案件上鲁莽地赌博。 执业逾四十年的阿伦斯承认了自己的“愚蠢”，并进一步表示，他错误地认为该软件会生成可靠的摘要。

除予以训诫外，法院还处以5,000美元罚款（款项将支付至客户保护基金），并将此案移交州律师纪律委员会处理。此前已有数起类似案例，律师因向法院提交未经核实的AI生成材料而面临制裁或纪律审查（1、2、3）。