Notebookcheck Logo

CMV Subreddit 被机器人渗透,用于不道德的大学实验

Reddit 吉祥物 Snoo 的宣传图片,在红色背景下向观众挥手并摆出各种姿势。(图片来源:Reddit)
苏黎世大学未经用户同意,在 Reddit 上进行了一项不道德的实验。(图片来源:Reddit)
流行的 r/changemyview 子论坛被用作机器人的垃圾场,这是苏黎世大学一项奇怪实验的一部分,目的是观察机器人能否改变人们对网上各种话题的看法。整个实验未经用户同意。
AI Social Media

苏黎世大学的研究人员秘密进行了一项涉及人工智能机器人的研究,看看它们是否会改变人们对各种话题的看法。实验针对的是r/changemyview(CMV)子版块,这是一个流行的讨论主题,涉及众多观点对立的话题。

在部署人工智能生成的机器人之前,未具名的研究人员没有事先联系版主,也没有征得他们的同意。实验结束后,作为 "披露步骤的一部分",研究人员通过电子邮件通知了版主。

一些更具破坏性的例子其中包括一个 "假装成强奸受害者 "的机器人,一个 "充当专门处理虐待事件的心理创伤咨询师 "的机器人,或者一个 "充当反对黑人生命至上的黑人 "的机器人。

主持人还指责研究人员改变了大学伦理委员会批准的 "基于价值观的论证 "计划,提出了更多未经批准的 "个性化微调论证"。

机器人可以获取原发帖人(OP)的个人属性,其中包括性别、年龄、地点、种族以及根据其在平台上的发帖历史推断出的政治倾向。研究人员认为,这种方法是合理的,因为 "缺乏现有的实地实验构成了知识体系中不可接受的空白"。

苏黎世大学研究团队的回应几乎没有浇灭这把火。他们声称自己 "致力于实现完全的互操作性"。他们以 "帮助社会为人工智能说服技术在现实世界的影响做好准备 "为幌子进行辩护。

更重要的是,他们认为这个项目 "产生了重要的见解","压制发表与研究产生的见解的重要性不相称"。

在发给 Engadget 的电子邮件中的电子邮件中,研究人员声称 "这项研究的潜在益处远远大于其风险"。

Reddit的首席法务官本-李(Ben Lee)对这些帖子做出了回应,称研究团队已经 "封禁了所有与苏黎世大学研究工作相关的账户"。李说,Reddit "正在向苏黎世大学和这个特定的研究团队提出正式的法律要求"。

资料来源

Please share our article, every link counts!
Mail Logo
> Notebookcheck中文版(NBC中国) > 新闻 > 新闻档案 > 新闻档案 2025 04 > CMV Subreddit 被机器人渗透,用于不道德的大学实验
Rohith Bhaskar, 2025-04-29 (Update: 2025-04-29)