OpenAI:周末大事记
2023 年 11 月 20 日,TheZvi 发布
大约在四个 GPT 和七年前,OpenAI 的创始人们在企业领域诞生了一个新实体。这个实体的构思是为了自由,承诺旨在让所有人在人工通用智能(AGI)问世时能够平等生活。
如今,我们正卷入一场激烈的企业战争之中,测试着这个实体,或者说任何这样构思和致力的实体,是否能够长期存续。
重要的不是理论,而是实践。在关键时刻会发生什么?
那么,发生了什么呢?是什么引发了这一系列事件?接下来将会发生什么?
在很大程度上,我们甚至比平时更加一无所知。我们不应该假装知道的比实际更多。
我不打算在这里尝试解释或用无休止的反应和引用轰炸大家,而是会尽力只列出关键事实。
(注:以下提到的所有时间均为东部标准时间。)
事实如何,女士?
我们能确定或至少几乎确定些什么?
这是 OpenAI 的企业结构,赋予其 501c3 组织的董事会有聘请和解雇 CEO 的权力。它明确致力于其非营利使命,优先于对任何次级实体股东的职责。投资者被告知,公司没有任何盈利的义务:
OpenAI 提供的 OpenAI 非常规结构的块状图。
图 1
图 2
以下是我们所知的最值得注意的事实,据我所知:
1. 周五下午 3:28,OpenAI 董事会解雇了 Sam Altman,立即任命 CTO Mira Murati 为临时 CEO。他们通过一个不包括时任董事长 Greg Brockman 的 Google Meet 进行了这一决定。
2. Greg Brockman,Altman 的老朋友和盟友,被撤销董事会主席职务,但董事会表示他将继续担任总裁。作为回应,他选择辞职。
3. 董事会几乎没有通知任何人。微软只得到了一分钟的预警。
4. 据我们所知,Mira Murati 是唯一被告知的人,这发生在周四晚上。
5. 董事会声明称:“Altman 先生的离职是董事会经过深思熟虑的审查过程后作出的决定,认为他在与董事会的沟通中并不始终如一,阻碍了董事会行使其职责的能力。董事会不再对他继续领导 OpenAI 的能力有信心。”
6. 董事会在一份声明中说:“OpenAI 是专门为了推进我们的使命而设立的:确保人工通用智能(AGI)造福全人类。董事会将继续全力支持这一使命。我们感谢 Sam 对 OpenAI 的创立和成长所做的诸多贡献。同时,我们认为在公司向前发展的过程中需要新的领导。作为公司研究、产品和安全功能的负责人,Mira 非常合适担任临时 CEO 的角色。我们对她在这个过渡期间领导 OpenAI 充满信心。”
7. 目前的 OpenAI 董事会成员包括:OpenAI 首席科学家 Ilya Sutskever、独立董事 Quora CEO Adam D’Angelo、技术企业家 Tasha McCauley 以及乔治敦安全与新兴技术中心的 Helen Toner。
8. 通常情况下,501c3 组织的董事会必须由非公司员工占多数。但 OpenAI 的董事会声称,由于 Sam Altman 没有任何股权,多数成员并没有公司利益。
9. 针对许多人称之为“董事会政变”的说法,Sutskever 表示:“你可以这么说,我理解你为什么选择这个词,但我不同意。这是董事会履行其非营利使命的职责,即确保 OpenAI 构建能造福全人类的 AGI。”当被问及“这些幕后的撤换是否是治理世界上最重要公司的好方法?”时,他回答说:“我同意这不理想。百分之百。”
10. 除此之外,董事会在公开场合未发表任何言论。我愿意直言不讳地说,无论最初的理由是什么,这次撤换尝试考虑不足,计划不周,且搞砸了。要么他们有充分的理由证明这些行动是合理的并需要分享这些理由,要么他们没有。
11. Altman 与董事会之间发生了各种冲突。我们不知道它们都是什么。我们确实知道董事会觉得 Altman 行动太快,对安全问题关注不足,过于专注于构建消费产品,同时还创立了其他公司。ChatGPT 是一个很棒的消费产品,但却加速了 AI 的发展,与 OpenAI 公开声明的非营利使命相悖。
12. OpenAI 此前计划进行一次高额认购的股票出售,估值达到 860 亿美元,预计几周后结束。
13. 董事会成员 Adam D’Angelo 在今年 1 月的《福布斯》中表示:“没有一种结果是这个组织成为五大科技公司之一。这是一件根本不同的事情,我希望我们能为世界做更多的好事,而不仅仅是成为另一家变得那么大的公司。”
14. Sam Altman 在 10 月 16 日说:“在 OpenAI 的历史中——最近一次是在过去几周内——我四次有幸在我们推开无知的面纱、向前推进发现的边界时在场。能够做到这一点是我一生职业的荣耀。”有人猜测,事件的驱动力全部或部分来自 OpenAI 内部的秘密能力提升,可能来自一个名为 Gobi 的系统,甚至可能与开玩笑的说法“AI 已在内部实现”有关,但我们没有具体证据。
15. Ilya Sutskever 共同领导了超对齐任务组,对我们获得 AGI 的时间线非常短,非常关心 AI 的存在风险。
16. Sam Altman 参与创立了多家新的重要科技公司。他正在寻求从沙特筹集数百亿美元来创办一家芯片公司。他还参与了其他有关 AI 硬件公司的讨论。
17. Sam Altman 一再声明,包括向国会表示,他非常重视来自 AI 的存在风险。他是 OpenAI 企业结构的创立者之一。他签署了 CAIS 信函。在发布 GPT-4 之前,OpenAI 花费了六个月时间进行安全工作。他明白其中的风险。人们可以质疑 OpenAI 在安全方面的记录,包括那些离开创立 Anthropic 的人。但这不是一个纯粹的“末日论者与加速主义者”的故事。
18. Sam Altman 在权力游戏方面非常擅长,例如争夺企业控制的斗争。多年来,他赢得了员工的忠诚,其中许多人步调一致地行动,使用强烈的战略模糊性。手段玩得很好。
19. 几乎所有的风险投资、科技、创始人、金融 Twitter 都一致谴责董事会解雇 Altman 以及他们的做法,许多员工也是如此,他们呼吁 Altman 返回公司或创立新公司并吸引所有人才。在线上普遍的观点是,无论其企业结构如何,解雇建立公司的 Altman 或危及 OpenAI 的价值都是不可接受的。员工、股东、合作伙伴和其他人联合起来夺回控制权是正确和必要的。
20. 那些圈子里的谈话认为,这将永远彻底败坏 EA 或“末日论者”或对 AI 安全的任何担忧。是的,他们每周都这么说,但这次声音更大、更可信。《纽约时报》却误解了这一点。无论如何,这是一场灾难。
21. 相比之下,那些关心存在风险的人和其他一些人指出,OpenAI 独特的企业结构正是为了这种情况而设计的。他们还大多指出,董事会在决策和沟通上处理得非常糟糕,但还有很多未知之数,试图避免草率下结论。
22. 因此,我们现在正在回答这个问题:法律是什么?我们有法律吗?权力最终在哪里?最终重要的是领袖的魅力吗?你雇佣的人和你的文化吗?企业结构能帮助我们吗,还是商业利益和利润动机最终占据主导地位?
23. 对董事会施加了巨大压力,要求他们恢复 Altman 的职位。他们在周六和周日被给予了两个太平洋时间下午 5 点的最后期限,要求辞职。微软及其 CEO Satya Nadella 的援助被征召。我们不知道微软在此事上使用了什么或没有使用什么杠杆。
24. Sam Altman 推文表示“我非常爱 openai 团队。”许多 OpenAI 的员工回应了心形表情,包括 Mira Murati。
25. 应员工包括 Mira Murati 和其他高管的邀请,Sam Altman 周日访问了 OpenAI 办公室。他推文“这是我第一次也是最后一次戴上这些”,并附上了他访客通行证的照片。
26. 董事会当时似乎不在大楼内。
27. 媒体报道称董事会原则上同意辞职,但在替代董事会成员选择上和是否需要发表声明免除 Altman 过错上遇到了障碍,这对他们来说可能在法律上具有危险性,鉴于他们最初的声明。
28. 彭博社周日晚上 11:16 报道,临时 CEO Mira Murati 计划重新聘请 Altman 和 Brockman,而董事会寻求另一位 CEO。
29. OpenAI 董事会聘请前 Twitch CEO Emmett Shear 担任新 CEO。他在这里发布了他的初始声明。我对他有所了解。如果董事会需要从外部聘请一位认真对待存在风险的新 CEO,他似乎是一个非常出色的选择,我想不出一个更好的选择。他面临的任务可能是不可能完成的,也可能不是。Shear 在他的笔记中的 PPS:PPS:“在我接受这份工作之前,我检查了更换的原因。董事会并不是因为在安全方面的任何具体分歧撤掉了 Sam,他们的理由完全不同。如果没有董事会对商业化我们出色模型的支持,我不会疯到接受这份工作。”
30. 新任 CEO Emmett Shear 在放慢 AI 发展方面发表了言论,尽管并不是停止。他的末日概率(p(doom))在 5% 到 50% 之间。他说过“我的 AI 安全言论 100% 是‘你们正在构建一个外星神,当它达到临界阈值时将真正摧毁世界,但在此之前看起来无害。’”这里是一个带有更多内容的线索和视频链接,文字记录在这里或有字幕的剪辑。这是他几天前在推特上发布的 2×2 派系图。
31. 微软 CEO Satya Nadella 周一凌晨 2:53 发帖:我们仍然致力于与 OpenAI 的合作,对我们的产品路线图、我们在 Microsoft Ignite 上宣布的继续创新的能力以及继续支持我们的客户和合作伙伴有信心。我们期待着了解 Emmett Shear 和 OAI 的新领导团队,并与他们合作。我们非常兴奋地分享 Sam Altman 和 Greg Brockman 将与同事一起加入微软,领导一个新的先进 AI 研究团队的消息。我们期待迅速为他们提供成功所需的资源。
32. Sam Altman 转推上述内容,并称“使命继续。”Brockman 确认。其他领导包括 GPT-4 负责人 Jackub Pachocki、Szymon Sidor 和 Aleksander Madry。
33. Nadella 接着回复:“Sam,我非常兴奋地邀请你作为这个新团队的 CEO,为创新设定新的节奏。多年来,我们已经学会了如何给予创始人和创新者在微软内部建立独立身份和文化的空间,包括 GitHub、Mojang Studios 和 LinkedIn,我期待着你也能做到这一点。”
34. Ilya Sutskever 周一早上 8:15 发帖:“我深感遗憾参与了董事会的行动。我从未想伤害 OpenAI。我热爱我们一起建立的一切,我将竭尽所能重新团结公司。”Sam 用三个心形表情转推。超对齐团队的另一位负责人 Jan Leike 发推称,他在危机期间工作了整个周末,董事会应该辞职。
35. 微软股价在周五盘后下跌 -1%,但在周一早上和开盘时回到了大致原来的价值。一切都已计入价格。谷歌或标普也没有发生重大变动。
36. OpenAI 的 770 名员工中有 505 名,包括 Ilya Sutskever,签署了一封信,要求董事会辞职并恢复 Altman 和 Brockman 的职位(后来声称达到约 743 人),否则他们将转移到微软,在 Altman 领导下的新子公司工作,那里为每位 OpenAI 员工都有职位。信的全文如下:“致 OpenAI 董事会,OpenAI 是世界领先的 AI 公司。我们,OpenAI 的员工,开发了最佳模型,推动了该领域的新前沿。我们在 AI 安全和治理方面的工作塑造了全球规范。我们构建的产品被全世界数百万人使用。直到现在,我们所工作和珍视的公司从未处于如此强大的地位。你终止 Sam Altman 和撤换 Greg Brockman 从董事会的过程危及了所有这些工作,破坏了我们的使命和公司。你的行为清楚地表明,你没有能力监督 OpenAI。当我们都意外地了解到你的决定时,OpenAI 的领导团队迅速采取行动稳定公司。他们认真倾听了你的担忧,并尽力在各方面与你合作。尽管多次要求你提供具体事实的证据,你从未提供任何书面证据。他们也越来越意识到,你无法履行职责,且是在不诚信地谈判。领导团队建议,向前迈进的最稳定路径——最能服务我们的使命、公司、利益相关者、员工和公众——将是你辞职,并任命一个合格的董事会,以稳定地领导公司向前发展。领导层与你日以继夜地合作,寻找双方都能接受的结果。然而在你最初决定后的两天内,你再次更换了临时 CEO Mira Murati,违背了公司的最佳利益。你还告诉领导团队,允许公司被摧毁‘将符合使命’。你的行为已明显表明,你无法监督 OpenAI。我们无法为或与那些缺乏能力、判断力和对我们的使命及员工的关心的人一起工作。我们,以下签名者,可能会选择辞去 OpenAI 的职位,并加入 Sam Altman 和 Greg Brockman 领导的新宣布的微软子公司。微软已向我们保证,如果我们选择加入,这个新子公司将为所有 OpenAI 员工提供职位。除非所有现任董事会成员辞职,并且董事会任命两位新的首席独立董事,例如 Bret Taylor 和 Will Hurd,并恢复 Sam Altman 和 Greg Brockman 的职位,否则我们将立即采取这一步骤。”
37. 有人谈论 OpenAI 可能会完全解体,ChatGPT 可能在几天后就无法工作,等等。
38. 这件事远未结束,仍在发展中。
39. 我们仍然有很多不知道的。
40. 这个周末对每个人来说都非常紧张。我们大多数人,包括我在内,真诚地希望这一切都没有发生。根据我们所知,实际重要的故事中没有恶人。只有在高度紧张的情况下尽力而为的人,他们面临巨大的风险,拥有完全不同的信息和不同的世界模型以及什么将导致好结果。简而言之,对于那些在任何一方或试图处理这一情况的人,而不是吐槽:❤️。
稍后,当我们了解更多时,我将有许多其他事情要说,许多反应要引用和回应。但现在,请大家尽力保持理智,帮助世界尽可能好地度过这一切。
https://t.co/dYMsvGnFRM
点击图片查看原图
点击图片查看原图