来自华尔街日报的报道:与 SAM ALTMAN 发生冲突的 OpenAI 董事成员 Helen Toner 分享了她的看法
AI 学者 Helen Toner 在接受采访时,阐述了她在 OpenAI 内部权力斗争中的立场。
作者:MEGHAN BOBROWSKY
日期:2023年12月8日 星期五 上午8:47
图片:Helen Toner 在 2023 年 9 月 27 日于加利福尼亚州达纳角的丽思卡尔顿酒店,参加 Vox Media 主办的 2023 代码大会时的演讲。(照片由 Jerod Harris 为 Vox Media 拍摄)
来自澳大利亚的 31 岁学者 Helen Toner,原本鲜为人知,直到她成为了解雇人工智能公司共同创始人 Sam Altman 的四名董事会成员之一,从而步入了公众视野。
在上月发生的 Altman 被罢免并最终重返 OpenAI CEO 职位的事件中,Toner 成为了 AI 安全倡导者与优先追求技术进步者之间紧张关系的代表人物。
Toner 坚称,解雇 Altman 的原因并非安全问题,而是由于缺乏信任。她认为,这一决定符合 OpenAI 董事会负责任建设 AI 系统的职责。
“我们解雇 Sam 的目标是加强 OpenAI,让它更好地实现其使命,”她在接受《华尔街日报》采访时表示。
在 Altman 被解雇后引发的员工反抗中,Toner 坚持了自己的看法。她说,当时 OpenAI 的一位律师警告她,如果董事会的决定导致公司崩溃,她可能违反了她的受托责任。
“他试图说明,如果公司因此解体,我们不立即辞职就是违法的,因为我们将违反我们的受托责任,”她在采访中说。“但 OpenAI 是一个非常特别的机构,其非营利使命——确保通用人工智能 (AGI) 造福全人类——始终是最重要的,”她补充道。
最终,Toner 和其他一些董事会成员选择辞职,为 Altman 重返公司高层扫清了障碍。
在采访中,Toner 没有透露具体原因,只是表示她和其他三名成员投票决定解雇 OpenAI 的 Altman。在 Altman 被罢免之前,他和 Toner 有过冲突。
去年 10 月,华盛顿一家智库的策略总监 Toner 参与撰写了一篇关于 AI 安全的论文。这篇论文指出,OpenAI 推出 ChatGPT 之后,引发了主要科技公司的紧迫感,促使他们加速推出 AI 产品。论文还提到,作为 OpenAI 的竞争对手,Anthropic 通过推迟发布其聊天机器人,避免了进一步炒作 AI。
文章发布后,Altman 对 Toner 表达了不满,指责她如此公开地批评公司,对 OpenAI 造成了伤害。随后,他开始暗中行动,据了解情况的人士透露。
Altman 曾试图说服其他董事会成员解雇 Toner。后来,一些董事交流了他们与 Altman 的讨论内容。他们认为,在与一位董事的对话中,Altman 给人留下了误解,好像另一位董事认为应该让 Toner 离职。
这时,一些了解内情的人士表示,OpenAI 的多位董事已对 Altman 的诚信产生怀疑。他企图撤换 Toner 的行为,加上《纽约客》杂志之前的报道,逐渐削弱了他们对 Altman 的信任,并最终导致他在感恩节前的星期五意外被解雇。
董事会成员对他们的决定带来的后果并没有做好充分准备。
据悉,包括 Toner 在内的成员们对员工在没有 Altman 的情况下愿意放弃公司感到惊讶,同时对管理团队大力支持被罢免的 CEO 感到意外。
危机高峰时,Toner 在社交媒体平台 X 上将自己的账户设置为私密状态。
在紧张的谈判中,OpenAI 的一名律师表示,董事会解雇 Altman 可能导致公司崩溃。“那实际上是符合使命的,”Toner 当时回应,让一些高管感到震惊。
后来,Toner 解释说,她的这番话是对律师所用的“恐吓策略”的回应。她试图表达的是,OpenAI 的持续存在并非该非盈利机构更广泛使命的必要条件,即创造对人类有益的通用人工智能(AGI)。研究人员同时也担心,能比大多数人类做得更好的 AGI 系统可能带来危害。
“在这个案例中,我们当然都非常努力地工作,以确保公司能持续取得成功,”她补充道。
OpenAI 有一个独特的架构,由一个非营利董事会负责监督,Toner 就是这个董事会的成员,她们监管着公司的盈利分支。这个董事会的使命是为了“人类利益”,而非投资者。
在接受采访时,Toner 没有回答关于她与 Altman 相互作用的问题。她没有对是否会采取不同做法发表评论,但表示她出发点是好的。
在 Altman 重返公司领导层之前,他曾提议为自己在处理 Toner 论文问题上的行为向她道歉,这是熟悉此事的人士透露的。但最终,他在没有实现这一姿态的情况下回到公司领导岗位。
Toner 在 AI 安全领域以勇于挑战普遍信念的批判性思维者身份而出名。
包括 OpenAI 投资者 Vinod Khosla 在内的 Altman 的一些支持者,曾公开表达对 Toner 和另一位前 OpenAI 董事会成员 Tasha McCauley 的不满。McCauley 投票赞成解雇 Altman,并与推动有效利他主义的组织有关联。
“拥有像‘乔治敦大学安全与新兴技术中心战略总监’这样的头衔可能会误导人们对企业创新过程的复杂性有错误的理解,”Khosla 在科技新闻出版物《the Information》的一篇文章中提到 Toner 和她目前的职位时这样写道。
“OpenAI 董事会成员对‘有效利他主义’的信仰及其错误应用可能已经阻碍了人工智能带给世界的巨大好处,”他在权力斗争期间如是写道。
Toner 曾是有效利他主义社区的积极成员,这个社区虽然多样,但共同信仰的是在世界上做好事的理念——哪怕仅仅是赚很多钱并把它捐给有需要的人。近年来,Toner 开始与 EA 运动保持一定距离。
“就像任何团体一样,自 2014 年以来,这个社区和我都经历了很大的变化,”她说。
Toner 于 2014 年从澳大利亚墨尔本大学获得化学工程学位,此后在包括 Open Philanthropy 在内的一些公司担任研究分析师,这家基金会是根据有效利他主义哲学进行资助的。
2019 年,她在北京花了九个月时间研究 AI 生态系统。回到澳大利亚后,Toner 帮助在乔治敦大学建立了一个名为安全与新兴技术中心的研究机构,并继续在那里工作。
2021年,她接替了她的前任经理 Holden Karnofsky 进入 OpenAI 董事会,此时 Holden 刚从董事会辞职。值得一提的是,Holden 的妻子是 OpenAI 主要竞争对手 Anthropic 的联合创始人。
“Helen 对全球 AI 领域有着深刻的理解,并且特别重视安全问题,这对我们的工作和使命至关重要,”Altman 评价 Helen 加入董事会时如是说。
新董事会成员以及回归的董事 Adam D’Angelo,让人们窥见了 OpenAI 未来发展的可能方向。相较于 Toner、McCauley 和被接替的第三位董事 Ilya Sutskever(OpenAI 的首席科学家),前财政部长 Larry Summers 和前 Salesforce 联席 CEO Bret Taylor 显得更具有传统的商业思维。
目前董事会中已不再有女性成员,不过公司预计在未来几个月将扩大董事会规模。
“我认为从现在开始最好的方式就是向前看,” Toner 表示。
https://t.co/5Tn3oqgu7K
点击图片查看原图