"世界正处于危险之中Anthropic公司人工智能安全负责人辞职,他无法调和工作与价值观之间的矛盾

OpenAI 的竞争对手 Anthropic 的保障研究团队负责人 Mrinank Sharma 已离开该公司。竞争对手 Anthropic 的保障研究团队的 Mrinank Sharma 已经离开了该公司。在 X 上发布的一封告别信中,他感谢公司给了他推进人工智能安全的机会,这封信的浏览量超过了一千万次,并吸引了成千上万的评论。同时,他写道,日益增长的经济压力导致他无法再做出与其价值观相一致的决定。
在告别信中,夏尔马不仅概述了他离开的原因,还发出了严厉的警告:"世界正处于危险之中。他将当前的形势描述为 "多重危机",即多种相互关联的危机同时发生。他认为,这种情况已经发生。他明确表示,他所关注的不仅限于技术威胁,如人工智能或生物武器或生物武器等技术威胁,而是延伸到更广泛的相互关联的全球危机--包括不断加剧的地缘政治紧张局势。
夏尔马强调,在日常工作中坚持自己的价值观是多么困难。即使是原则性很强的组织,也会不断面临转移工作重点或做出务实妥协的压力。与其他领先的人工智能公司相比,Anthropic是一家以安全为中心、以价值观为导向的公司,这使得他的批评显得更加重要。
夏尔马计划学习哲学--社区对此表示尊重
值得注意的是,Mrinank Sharma 计划完全离开科技行业,转而学习哲学。总的来说,X 社区的反应是尊重和理解。许多用户称赞他在人工智能安全方面所做的工作,并祝愿他一切顺利。一些批评者认为,如果他留在公司,可能会有更大的影响力。夏尔马反驳说,离开公司后,他可以更自由地发表公开言论。这表明他可能会继续关注科技领域的发展,并从远处分享他的观点。
除了有关全球危机的言论外,夏尔马的告别信中还有一些引人关注的内容。在脚注中,他引用了一本以大卫-J-坦普尔(David J. Temple)为笔名出版的所谓 "CosmoErotic Humanism "的著作。据报道,这个名字与马克-加夫尼(Marc Gafni)有关,他是一位精神导师,过去曾因被指控性行为不端而受到批评。虽然夏尔马没有对这一联系发表评论,但这一提法引起了人们对他下台决定背后的思想影响的质疑。
目前还不清楚夏尔马的辞职会对 Anthropic 的未来产生什么影响。聊天机器人 Claude 背后的公司目前正在开展一项大型广告活动,,将其人工智能助手宣传为无广告的替代品。.在这种情况下,他离职的时机可能会带来不便。
资料来源
MrinankSharma通过 X(原 Twitter)
图片来源:PIRO4DPIRO4D/Pixabay
» Notebookcheck多媒体笔记本电脑Top 10排名
» Notebookcheck游戏笔记本电脑Top 10排名
» Notebookcheck低价办公/商务笔记本电脑Top 10排名
» Notebookcheck高端办公/商务笔记本电脑Top 10排名
» Notebookcheck工作站笔记本电脑Top 10排名
» Notebookcheck亚笔记本电脑Top 10排名
» Notebookcheck超级本产品Top 10排名
» Notebookcheck变形本产品Top 10排名
» Notebookcheck平板电脑Top 10排名
» Notebookcheck智能手机Top 10排名
» Notebookcheck评测过最出色的笔记本电脑屏幕
» Notebookcheck售价500欧元以下笔记本电脑Top 10排名
» Notebookcheck售价300欧元以下笔记本电脑Top 10排名

