没有杀死，安全加速，会更强大 | OpenAI“政变”续四
奥特曼团队终于与赶走他的OpenAI董事会达成原则协议，恢复其CEO职位，组成了临时董事会，主席由前Salesforce联席CEO 泰勒（Bret Taylor）担任，美国前财长萨默斯（Larry Summers) 进入董事会，现任董事、Quora CEO 丹杰罗继续留任。
奥特曼回归的消息，发表于OpenAI在社交媒体X的官方账号，还没有同步出现在官网上。这与当初董事会开除奥特曼时不一样。
谈判一度卡于奥特曼和丹杰罗。员工哗变要求董事会全部辞职，丹杰罗代表原董事会坚持留下了，然后阻止奥特曼回到董事会，奥特曼最终做出让步。
原董事会主席、总裁布洛克曼也回归，但具体职位待定，也无法回到董事会。
联合创始人、首席科学家苏茨克沃、麦考利、托纳三人离开董事会。托纳只说了一句话：“可以睡个好觉了。”她的有效利他主义倾向，早已经让奥特曼和公司管理层不耐烦。
至此，4天之内从董事会“政变”到全体员工“哗变”，硅谷历史上前所未有的一场企业乱局，暂告一段落。
这个“原则上”的方案，还是留下了几处伏笔：
首先，奥特曼仍然需要证明自己是清白的。妥协方案包括将对这次董事会突然罢免奥特曼“政变“事件，聘请外部律所进行独立调查。但目前的原则协议，只是暂时说明了对奥特曼的指控是不成立的。据媒体采访知情人士，董事会的确也没有抓住奥特曼的把柄，就是感觉对其信任感越来越弱。他们被律师反复要求不准对外讲具体原因。
第二，未来的董事会，可能将会恢复到2021年之前的9人，目前的3位董事需要再找到6个人，不那么容易。微软可能要求至少一个董事席位，这样其他投资机构可能也会要求有席位。
第三，盈利公司股东进入董事会，非盈利机构将不存在绝对控制权。这可能也是对原有架构的一个微调。
新任董事长Bred Taylor，对于OpenAI的未来治理架构，将有很大的影响力。
据说谢尔要求提供证据，否则就辞职，起到了决定性的作用，迫使董事会妥协。这可能是谢尔一生中最有意思的72小时。
事件历时96小时，跌宕回转，几乎全部是在电话中进行的。而整个科技界和全球的群众基本上都是在社交媒体上吃这个大瓜的。
在周五中午奥特曼遭到罢免，布洛克曼宣布辞职后，震惊了整个科技界。在董事会不提供任何详细信息和指控证据的情况下，OpenAI盈利公司最重要的投资者，如微软、Thrive Capital、老虎基金、红杉基金，以及OpenAI的管理层和员工，要求恢复奥特曼的职位。
据当地媒体报道，奥特曼遭免职后的第一件事，就是给纳德拉打电话，他们策划了一个反击董事会、让奥特曼重回公司的方案，然后准备了plan B，即奥特曼和布洛克曼加入微软，再吸引OpenAI的员工大批加入。
OpenAI的管理层，包括临时CEO Mira，都跑到奥特曼的家中，建立起了策反董事会的作战室。
整个周末，奥特曼、纳德拉、Mira等发出的每一条信息，每一张照片，直到OpenAI员工的转发，都是精心策划的。直到周一演变成为几乎全体员工的集体“哗变”。
而纳德拉坐镇后台，宣布奥特曼和布洛克曼加入微软，并且提出将为加入的OpenAI员工提供相当于在OpenAI的待遇和激励。稳住了这支全球顶尖的AI人才团队，基本上没有被竞争对手趁机挖走。
最终达成临时协议，微软CEO纳德拉在表示欢迎之余，指出要建立一个“稳定的、沟通良好的、有效的治理结构”。
OpenAI的非盈利/盈利架构，这并非第一次受到考验。2019年为了接受微软的投资，奥特曼设计出这个架构之前，已经逼走了马斯克；架构设立之后，发生过大量员工离职，包括目前主要竞争对手Anthropic公司的创始人Daniela 和 Dario Amodei兄妹，与有效利他主义纠葛很深。
但是对OpenAI真正的考验，是在ChatGPT发布，引发了一场智能计算的范式改变之后。
再过一周，就是ChatGPT发布一周年。
过去的一年，OpenAI改变了世界 ，改变了AI，也改变了自己。
尤其是从上周五到本周二，全世界看到了这家企业近乎决定生死的使命感，看到了一家正在走向伟大的公司濒临崩溃的边缘，整个硅谷和全世界的AI界，像注视深渊一般，注视了它整整四天。
这次罢免奥特曼事件的具体原因和过程仍然不透明。但是基本可以肯定的是，随着AI系统的自主性越来越强，人们对其安全越来越担心。
正是出于对安全的担心，OpenAI设计出了一个非盈利与盈利的架构，它要同时承载安全与创新，控制与加速，人类利益与商业利益，是一个矛盾的统一体。
如果AI公司继续加速研发下一代大模型，那它只有一个选择，同时加大对安全的投入，加速对齐技术。同时，监管机构也将加快建立安全标准，尤其是对先进大模型推出前的测试。
2022年，OpenAI收入为2.8亿美元，2023年至今，它的年化收入已达到13亿美元。2023年初时，它以290亿美元的估值，从微软那里融资100亿美元。2023年底时，它准备以800亿-900亿美元估值，为它的GPT-5融资。
预计这一轮融资将超过百亿美元。不仅GPT-5是一个更大的模型，而且对其安全的研发和工程投资将会大幅度增加。
辛顿等国际AI学界要求大模型公司研发投入的三分之一投入到安全。目前OpenAI已经将其GPU的20%用于苏茨克沃负责的对齐研发。
所有的前沿AI公司，也都将是AI安全公司。
OpenAI从“政变”到“哗变”，请看我们过去几天的连续报道：
OpenAI“政变”始末
剧情开始反转 | OpenAI“政变”续一
微软的无限游戏 | OpenAI“政变”续二
“董事会都对不齐，怎么让AI对齐人类” | OpenAI“政变”续三
发布于：上海
相关推荐
OpenAI正在杀死创业公司？
起诉OpenAI
更强的GPT-4，更封闭的OpenAI
讲个笑话：不透明的AI更安全
OpenAI首席科学家最新访谈：对模型创业两点建议、安全与对齐、Transformer够好吗？
谷歌和OpenAI，没有护城河
微软会收购OpenAI吗？
蚕食OpenAI
“看完OpenAI大会，很庆幸没拿到融资”
OpenAI做芯片不意外，OpenAI不做芯片才意外
网址: 没有杀死，安全加速，会更强大 | OpenAI“政变”续四 http://m.xishuta.com/newsview99120.html
