回不去的Altman，难以调和的OpenAI路线之争
“周六解雇，周日和解，周一回去上班。”原本吃瓜群众以为Sam Altman会照着乔布斯的剧本来演。
Altman以为自己回来靠谱了，周日带着访客证记录推文一则：“这是我第一次也是最后一次戴这玩意儿来这儿了”。
（来源：X）
结果剧本又给OpenAI董事会撕烂了，“不好意思！我们找到人了。”内外逼宫下的董事会决定一条路走到黑，硬是不让人回来，还任命了新的临时CEO（Twitch前高管埃米特·谢尔）。
看着自己培养的合作伙伴彻底黑化，微软大哥倒吸一口凉气，不要是吧，那来我这干吧。目前这一幕，以OpenAI前高管Sam Altman和Greg Brockman加入微软新AI研究团队结束。
（来源：X）
王者归来，乔布斯花了整整12年。OpenAI的内部矛盾，从公司成立，到大模型作为商业化工具大范围推广时一直存在，作为一个以非营利标签自居，亟需融资继续生存的商业实体，商业营利和技术安全不一致的冲突让天秤加速倾斜。
被“流放”48小时
简单回顾一下此次“政变”，公司前总裁Greg Brockman（与Sam一同被董事会除名，后自行辞去职务）在事发后提供了事情的详细经过。
大意就是，公司首席科学家兼董事会成员Ilya主导了此次“政变”，先后在两人不在场的情况下，召开会议将Sam和Greg除名，Sam被直接解雇，原本可以留下来的Greg火速辞职。除了接任CEO的米拉在前一天晚上知晓，管理团队其他成员都是临时才知道这次人事巨震。
同一时间，OpenAI官网迅速发布一篇文章宣布Sam Altman被解雇的决定，在阐释原因时用了“始终不坦诚”的评价形容Altman和董事会的沟通，使得董事会对他的领导失去了信心。
（来源：Open AI公告）
Sam和Greg，一个CEO，一个总裁兼董事会主席，先后被董事会赶出门是什么感受？
一脸懵逼。
（来源：X）
Sam被逐出公司后，投资人立马坐不住了。
连OpenAI最大的金主爸爸，微软同样为Altman被解雇的决定感到措手不及，他们声称事先并不知情，而是等到决定做出前那几分钟才知晓。
ChatGPT能取得这么快的进展并不是Altman一个人的功劳，但将ChatGPT成功商业化，为公司带来百亿美元融资却要仰仗Altman早年在创投圈积累的强大人脉和资源。没了他充当公司的门面，竞争对手追赶OpenAI的机会将大大提升。
况且OpenAI还在为新一轮融资进行着谈判，外界投资者本要向OpenAI员工所持股份进行要约收购，身为融资高手的Altman一走，要约收购就没办法顺利进行下去。
由于这些投资人没有董事会席位，对公司治理没有决策权，与之紧密沟通的Altman就是他们选出的代理人，他在公司的地位和外部投资人的利益攸关，因此在其离职后开始向公司董事会施压，要求让Altman“官复原职”。
但员工已经开始逼宫。
部分OpenAI的员工要求在北美时间周六下午5点前，整个董事会必须集体辞职，并迎回Altman，否则他们就会辞职并跟随Altman。临时CEO Mira Murati、首席战略官Jason Kwon、首席运营官Brad Lightcap，都站在了Altman这一边，希望董事会辞职。
据The Verge援引一位接近Altman的消息人士称，OpenAI董事会目前原则上已经同意辞职，并允许二人回归，不过由于形势仍不明朗，董事会成员一直犹豫不决，以至于错过了员工要求的截止时间。
在此之前，随着两人离职，三名忠于Altman的骨干级研究人员也在周五离开了公司，因这一消息而辞职：GPT-4负责人兼OpenAI研究总监Jakub Pachocki；人工智能风险评估团队负责人Aleksander Madry和开源基线研究员Szymon Sidor。
Altman回归的一大条件，同样是现有董事会必须走人。
整场闹剧，或者站在Sam的视角称之为一场“政变”，决定做得很草率，公关写得很草率，董事会架构更是草率，只要三票就能把CEO赶走，而且除了公司内部成员，独立董事的数量居然占了一半。
政变再早个几年，根本不会成功，因为当时董事会里还有像马斯克、里德·霍夫曼等大佬坐镇，但后来都因为利益冲突离开。19年Altman引入微软融资，为了不违背初衷同时让公司能够持续运转，Altman开创性地协调了营利和非营利组织的天然矛盾。
OpenAI的结构不寻常，它的营利主体是由一个非营利性501(c)(3)公共慈善机构拥有，前者可以接受投资并设定回报率，但是要在后者的治理下展开运作，而后者又由董事会来领导。
与传统公司不同，OpenAI的董事会的任务不是最大化股东价值，他们也没有持有OpenAI的股权。相反，他们的宣言使命是确保创造出对社会“广泛有益”的人工通用智能（AGI）。
为了让董事会身份背景更加多元，除了Sam、Greg、Ilya三个联合创始人，OpenAI还引进了Adam D'Angelo、Tasha McCauley以及Helen Toner来担任独立董事。
三位独董，D’Angelo是北美“知乎”Quora的创始人；McCauley是名利场跨界来的，美国演员约瑟夫·高登-莱维特的妻子；Toner是搞政治学术研究的，毕生都在和官员打交道。
可以看出，三位是跟OpenAI，甚至跟AI都无关的纯路人，却在公司重要事项上有三票话语权，这就是戏剧性的一面，奇葩的董事会架构设置把Sam Altman回归的路堵死了。
可毕竟基本都是门外汉，三个独立董事不可能在Sam下台这件事上独立形成共识，因此外界几乎对董事会剩余一位公司内部成员，首席科学家Ilya Sutskever，策划这场“政变”的可能性达成了一致。
何以至此？
安全主义vs加速主义
“政变”具体导火索不详，但显然不仅仅归咎于Sam的沟通不当，锁定核心人物后发现，矛盾依然围绕着OpenAI内部研究和产品的派系斗争逐渐激化，更深层次地，是AI安全主义和硅谷技术乐观主义相互对立的一面。
在Ilya联合其他成员推动Altman和Greg下台的叙事里，这位当初从谷歌Deep Mind跳槽的天才科学家并不把自己当成Altman的“沃兹尼亚克”（与乔布斯共同创立苹果），而更像是将AI安全放置在商业利益之上的“奥本海默”。
Gillett News报道称：“Ilya认为作为CEO的山姆没有针对减轻AI风险给予足够的重视，Ilya还对自己在公司中的作用减弱表示不满。”在谈到被指控发动政变时，Ilya表示这是董事会为了非盈利组织的使命所做的决定，即确保OpenAI能够构建对全人类有益的AGI。
Altman和Greg显然是技术乐观派的代表，管理着GPT商业化的进度并且想要加快运用他们的研究成果。但Ilya却越来越担心OpenAI是否坚持了管理非营利组织创造有益的AGI的使命。
曾担任Ilya博士生导师的AI先驱杰弗里·辛顿表示，过去几年，OpenAI大语言模型的快速进展让Ilya对AGI即将到来更加充满信心，从而更加专注于预防其可能带来的危险。
本月早些时候，公司举行了第一次“开发者大会”，在会上Altman推出了GPTs，ChatGPT的自定义版本，增加GPT Store并允许通过收益分成来丰富开发生态。
在内部一些技术安全派看来，没有经过充分审查就利用ChatGPT来挣钱是不够谨慎的，已经和公司非营利的主旨背道而驰。
可Altman不但不听劝，还要继续抬高公司的估值进行新一轮融资。
之后Greg和Altman开始全力融资，11月9日Greg与法国总统马克龙会面，随后在巴黎举行了投资者会议，意图吸引主权财富基金和欧洲家族式的大额投资。
13日在伦敦接受《金融时报》的采访时，Altman首次确认他们已经开始开发GPT-5，并正在为此筹集资金。16日在APEC首席执行官峰会上，Altman确认了技术突破，称几周前他们再度打开了“无知之幕”。
但开发日后，使用量激增给他们的服务器带来严重过载，使得筹资堆砌算力变得愈发紧迫。OpenAI经历了包括ChatGPT及其API的大规模中断。CNBC报道，开发者大会三天后，微软出于安全考虑短暂限制了员工访问ChatGPT。
据传闻，17日董事会会议上，Ilya带来两名23岁的资深工程师向董事会报告了项目的进展和潜在风险。当他表示他们不应该再筹资，不应该扩张，以及Sam擅自进行巡演时，会议变成了一场辩论，最终Ilya大发雷霆，随后推动两位联合创始人一并出局。
把时间线拉长一些，短短一年之内，Altman帮助Open AI从一家混合型研究公司转变为一家处于全面增长模式的硅谷科技公司，年营收已经超过10亿美元。
部分硅谷科技精英崇尚着一种技术创新的价值观——有效加速主义（e/acc），就是说人类应该无条件地加速技术创新，通过快速迭代来颠覆社会结构，并认为技术颠覆可能会带来的社会风险本质上会迫使人类不断去适应，从而达到更高的意识水平。
虽然没有证据证明Altman笃信这一派观点，但从OpenAI近一年取得的成就看得出，Altman是懂如何“加速”的。
而要理解技术宅大神Ilya的立场则更加复杂。Ilya对OpenAI技术越有信心，对AGI的信仰越让他走向Altman的对立面。
在《麻省理工科技评论》的专访中，Ilya表示自己并不打算构建下一个GPT或图像生成模型DALL-E，而是打算弄清楚如何阻止超级人工智能变得不受控制。
他认为ChatGPT可能是有意识的，他眼中的超级人工智能跳出人类思考的局限，有着更深入的洞察力，而随着能力变得更强大，人类无法可靠地评估AI，这会带来无法估计的风险。
7月，Ilya领导发起了一项”超级对齐”活动，利用公司未来20%的算力资源，该项目旨在帮助引导超级人工智能走向人类价值观和目标，开发更多上游人工智能安全技术，为本十年实现AGI的可能性做好准备。
“对齐”的本质，是让人工智能模型按照明确的指令做事，而超级对齐，是Open AI专门用于超级智能的对齐术语。Ilya本人表示这是“兴趣驱使”，他更关心的并不是AI是否具有情感，而是AI是否对人类有真正的爱。
听上去像科幻小说，但不妨仔细理解一下。技术大牛可能对怎么赚钱不感兴趣，但对AGI的理解真的比我们高了不少层。
现在对于我们而言AI只是个工具，而Ilya已经站在数字生命体的角度去思考，所谓“真正的爱”，是无条件、超越人性、守护价值观的爱。
Ilya打算从AGI诞生的一开始，就给他植入底层原则，如同阿西莫夫著名的“机器人三定律”，通过目前基于人类反馈的强化学习可能还无法实现，但只有我们日后为超级数字生命体植入这一原则，才不会真来一出“黑客帝国”。
为何不等AGI诞生再慢慢调整？Ilya表示等不了，现在就得做。从描述上倒推进度，OpenAI的研发团队可能真的积累了一些能载入史册的成果。Altman想快点用，Ilya觉得不安全，应该多堆资源在他的项目里，这里既有资源分配的分歧，也有对于如何平衡进步和安全的矛盾。
尾声
技术乐观主义和AI安全主义在OpenAI成长史里如同两块分分合合的橡皮泥，一边受到快速商业化的推动，另一边则坚持必须极其谨慎地加以控制AI。马斯克是典型的AI威胁论代表，曾经的骨干研究人员也由于同样的分歧出走创立Anthropic。
但两位创始人的离开，意味着OpenAI的融资计划可能要泡汤了，即使能够实现，缺少灵魂人物掌舵，OpenAI未来商业前景的不确定性陡然增加，内部派系矛盾的不断激化也会削弱公司未来的招聘能力，原本860亿美元的估值剩下多少，对于计划参与投标的员工都会是巨大的打击。
而累计已经在OpenAI上花了130亿美元的微软成了和事佬，既然要求Altman回归的谈判走向破裂，这边与OpenAI还要继续合作，不得不将两人先收入麾下，放在一个新的AI研究团队下，也给其他想跟着Altman跳槽的员工吃了颗定心丸，防止人才资源迅速地涌向竞争对手。
但就这样么？通过挽救这场劳动纠纷，微软与OpenAI是否能继续稳定地合作，对OpenAI内部治理没有投票权的金主爸爸是否着意更多？
据外媒报道，微软曾考虑争夺OpenAI董事会的位置，或作为没有投票权的观察员加入，前提是阿尔特曼复职。但目前谈判失败，董事会成员是否会重新进行调整，目前尚不清楚。
二进宫暂时是失败了，但剧情反转格外激烈。
乔布斯的王者归来之所以传奇，在于一直被诟病不懂技术的他不像工程师般追求极致的技术成果，但更懂得倾听用户的声音，把出色的功能塞进更大的愿景里，兜售出百八十亿美元的成就。
站在乔布斯的视角，技术的优越性，恰好也是它的偏见所在，伟大产品的CEO需要站在市场和研发中间，让市场为技术路线实现反馈；而OpenAI的象牙塔，有凌驾于市场的价值追求。
两个故事能否成功“对齐”，要看在未来公司商业化进度和AI技术运用上，Altman、微软、以及OpenAI新晋管理层如何角力了。
本文来自微信公众号：格隆汇APP （ID：hkguruclub），作者：弗雷迪
相关推荐
OpenAI的成功，为什么难以复制？
大模型太烧钱，快把OpenAI烧没了
被删除的Sam Altman谈话纪要，讲了什么？
硅谷新王Sam Altman，站在聚光灯下
想要改变一切的OpenAI，正在被改变
22.5 亿美元融资之下的自动驾驶路线之争
离开马斯克的OpenAI终踏上商业化之路
进击的OpenAI，自研芯片背后的AI棋局
Anthropic刚拿到天价融资，OpenAI就打了一巴掌回去
Sam Altman是我们这个时代的奥本海默吗？
网址: 回不去的Altman，难以调和的OpenAI路线之争 http://m.xishuta.com/newsview98590.html
