“公然不诚实”：数学家称OpenAI就利用其私人聊天记录进行训练一事对他撒了谎

德累斯顿工业大学的群论专家安德烈亚斯·托姆（Andreas Thom）公开质疑，他的私人ChatGPT对话记录是否被纳入了OpenAI的计算结果中——该结果生成了首个已知的非索菲克群，这也是OpenAI声称Astra于8月1日解决的十个问题之一。

在Mathstodon上发表的一篇长达三部分的帖子中，托姆写道，他在该公告发布后不久就给OpenAI的研究人员马克·塞尔克（Mark Sellke）和塞巴斯蒂安·布贝克（Sebastien Bubeck）发了一封电子邮件。 他和一位德累斯顿的同事曾花数月时间在ChatGPT内研究“扩展子匹配问题”，并扩展了他与加博尔·昆（Gabor Kun）的合作成果，他们提出了两个问题：这些交流内容是否被纳入了训练数据，以及系统在进行证明时能否访问到这些内容。据托姆引述，塞尔克的回复仅有一行：没有发生这种情况。 汤姆认为，这一回答仅涉及“直接访问”这一部分。他现在认为这一回答的范围被不合理地扩大了，而且事后看来，这种回答是不诚实的。

Post by @[email protected]

View on Mastodon

本周，随着 OpenAI 发布关于纳维-斯托克斯方程的公告，这段对话再次引发关注。OpenAI 在公告中表示，其研究人员和代理人在该论文发表前均未见过两人的研究成果，且未访问任何具体用户数据。该公司还补充道，无法排除其产品使用过程中产生的去标识化数据曾有助于改进其模型的可能性。 

另有两点也支持他的论点。他于6月29日关闭了模型训练功能。模型训练是一项用户无法审计的设置——它无法反映早前的聊天记录。大多数研究人员更青睐量子游戏方法，而非他与Kun共同采用的方法，因此他对Astra选择与他相同的路径感到惊讶。

截至撰稿时，Thom尚未声称掌握确凿证据。相反，他要求OpenAI披露其否认的依据。

OpenAI尚未公开回应他的帖子。