OpenAI動蕩的五天:利益戰(zhàn)勝了理想

彭新2023-11-26 08:55

就在阿爾特曼(Sam Altman)在拉斯維加斯出席上周末的體育盛會——F1大賽時(shí),收到了一條谷歌會議鏈接。

點(diǎn)開這條鏈接之前,阿爾特曼像一位搖滾明星般被世人矚目。一年前他所在的公司OpenAI發(fā)布了ChatGPT、徹底敲開了AI時(shí)代的大門后,阿爾特曼一直在公開場合露面——舉辦發(fā)布會,開啟公司宏大的商業(yè)化進(jìn)程;與各國政要會面,確定全球AI政策議程;他還將敲定一筆融資,對OpenAI的估值將達(dá)到860億美元,是今年早些時(shí)候的近三倍。

回到酒店,他加入了會議,發(fā)現(xiàn)公司董事會成員都在盯著他。不妙的是,自己最親密的盟友、OpenAI董事長、CTO布羅克曼(Greg Brockman)也不在場,董事會成員、OpenAI首席科學(xué)家伊利亞·蘇茨克韋爾(Ilya Sutskever)告訴阿爾特曼,他被解雇了,這個(gè)消息很快就會傳出去,關(guān)于阿爾特曼為何解雇并沒有任何解釋。

隨后,就是那份震驚世界的公告。

OpenAI在官網(wǎng)公告中稱,罷免阿爾特曼符合公司的使命。這是在董事會經(jīng)過慎重審查之后得出的結(jié)論,阿爾特曼在與董事會的溝通中“始終不坦誠”,阻礙了董事會履行職責(zé)的能力,因此董事會不再對他繼續(xù)領(lǐng)導(dǎo)OpenAI的能力抱有信心。同時(shí),布羅克曼從董事會中除名,但繼續(xù)擔(dān)任公司職務(wù)。

消息公布后,錯(cuò)愕的布羅克曼憤然宣布離職。他在社交媒體上說,“我對8年前從我的公寓開始這一事業(yè)(OpenAI)感到驕傲,我們一起經(jīng)歷了低谷和高光,克服了許多困難,但得知今天的新聞后,我退出(I quit)?!?/p>

OpenAI原董事會成員包括阿爾特曼、布羅克曼、伊利亞、問答網(wǎng)站Quora首席執(zhí)行官Adam D'Angelo、Tasha McCauley以及Helen Toner組成。在罷免阿爾特曼的行動中,有四位董事支持這一決定。

在OpenAI故事的起點(diǎn),參與各方曾期待實(shí)現(xiàn)一個(gè)實(shí)現(xiàn)各自抱負(fù)的宏偉藍(lán)圖,但8年后,最新一幕卻是一場令人驚訝的風(fēng)波。它不是“茶杯里的風(fēng)暴”,而是牽動著人工智能世界的未來。

五天后,風(fēng)波暫時(shí)平息。11月22日,OpenAI表示,阿爾特曼將在被董事會解雇幾天后,重新?lián)喂镜氖紫瘓?zhí)行官,并組建由布萊特·泰勒(Bret Taylor)、拉里·薩默斯(Larry Summers)和亞當(dāng)·迪安杰羅(Adam D'Angelo)組成的新董事會,泰勒將擔(dān)任董事會主席。

新董事會已接手公司,其中布萊特·泰勒為Facebook首席技術(shù)官,他還曾擔(dān)任全球知名SaaS公司Salesforce的CEO和Twitter董事長;拉里·薩默斯是著名經(jīng)濟(jì)學(xué)者,曾任職美國前財(cái)長;亞當(dāng)·迪安杰羅是此次事件發(fā)生前OpenAI的董事會成員、問答網(wǎng)站Quora的首席執(zhí)行官。OpenAI還表示,各方正在努力“合作厘清細(xì)節(jié)”,在五天前參與罷免阿爾特曼的四名董事會成員中,有三名不會成為初始董事會成員。

“如果你看現(xiàn)在這個(gè)董事會的組成,應(yīng)該說這就是各方的最大公約數(shù),是結(jié)束現(xiàn)在這場’政變’的最大公約數(shù)?!币晃魂P(guān)注此事的科技業(yè)觀察人士稱,臺面上的沖突暫告一段落,但未來博弈依舊還未結(jié)束。舞臺將轉(zhuǎn)至公司內(nèi)部,阿爾特曼仍未掌握董事會,OpenAI最大的投資方微軟也未列席其中,甚至數(shù)天前選擇支持解雇阿爾特曼的亞當(dāng)·迪安杰羅還依舊名列新董事會成員名單,這家科技公司的未來仍不太確定。

而曾堅(jiān)決要求將阿爾特曼從公司中清理出去的OpenAI首席科學(xué)家伊利亞,目前處境微妙。在事件中,他的態(tài)度曾發(fā)生大幅反轉(zhuǎn),“我從未有意傷害OpenAI,我愛我們一起創(chuàng)造的一切,我會盡可能使公司團(tuán)聚。”他在社交媒體上說,并在一封超過700名OpenAI員工聯(lián)署公開信中參與署名,指責(zé)原董事會的行為已表明董事會沒有能力監(jiān)管OpenAI,并要求原董事會辭職。

被激怒的OpenAI投資人也向原董事會施壓,要求召回阿爾特曼重新?lián)喂綜EO,包括微軟、興盛資本(Thrive Capital)等OpenAI投資方均在積極撮合阿爾特曼。微軟甚至表示,若阿爾特曼無法回歸,將會加入微軟并領(lǐng)導(dǎo)一個(gè)新的先進(jìn)AI研究團(tuán)隊(duì),并歡迎OpenAI離職員工加入。

董事會聯(lián)合罷免管理層,卻遭到大多數(shù)股東和員工集體反對,導(dǎo)致公司陷入僵局,是商業(yè)史上罕見的一幕。一來一回的事態(tài)發(fā)展,更將OpenAI內(nèi)部隱藏的矛盾徹底踢爆,業(yè)內(nèi)一片嘩然。

阿爾特曼則是責(zé)怪自己沒有更好地管控董事會,他認(rèn)為董事會被一些過度關(guān)注AI安全并受“有效利他主義”影響的人接管了,這些恐懼失控的AI可能會對人類生存構(gòu)成威脅的董事會成員們,對于公司前景并不是特別關(guān)心。

從2015年成立,到之后陷入罷免創(chuàng)始人風(fēng)波,OpenAI呈現(xiàn)了人工智能加速時(shí)代下,一家理想主義公司的崎嶇命運(yùn)。

OpenAI的成立,最初是多方共識的結(jié)果。

阿爾特曼與埃隆·馬斯克、領(lǐng)英創(chuàng)始人里德·霍夫曼等幾位科技領(lǐng)袖于2015年底組局成立了OpenAI。帶著10億美元的投資承諾,OpenAI目標(biāo)是開發(fā)“通用人工智能(AGI)”技術(shù),希望實(shí)現(xiàn)這一目標(biāo)以造福人類,并將專利和研究成果全部開放。

從0到1的發(fā)展過程中,OpenAI的進(jìn)展緩慢而燒錢,早期的目標(biāo)是讓AI能夠掌握一款名為《刀塔2》的電子競技游戲,因?yàn)樗麄儼l(fā)現(xiàn)最有前途的技術(shù)路線需要海量數(shù)據(jù)和大量計(jì)算資源,亟需大筆資金才能運(yùn)作。那時(shí),還在為創(chuàng)業(yè)加速器YC工作的阿爾特曼,角色變得重要了起來。

2019年初,阿爾特曼辭去YC總裁的職務(wù),接手已經(jīng)運(yùn)轉(zhuǎn)4年的OpenAI。他在OpenAI做的第一件事,就是組建子盈利公司,然后自己擔(dān)任首席執(zhí)行官(CEO),尋找融資。

阿爾特曼沒有要求獲得OpenAI的股份,在最新的一輪內(nèi)部沖突使得阿爾特曼處于不利位置之前,他在OpenAI的地位與他的創(chuàng)始人身份、以及其和硅谷的深厚關(guān)系有關(guān)。

期間,阿爾特曼和馬斯克之間出現(xiàn)過裂痕。隨著特斯拉銷量激增、加大了人工智能研究投入,馬斯克便退出OpenAI董事會,稱雙方有“利益沖突”。

OpenAI的潛力迎來了微軟的注意,2019年7月,微軟宣布將向OpenAI投資10億美元。阿爾特曼在隨后的一次活動中透露,微軟投資的10億美元是現(xiàn)金,而不僅是OpenAI使用微軟Azure云計(jì)算服務(wù)的使用額度。后來,微軟可能累計(jì)向OpenAI投資了超過130億美元,成為OpenAI最大的投資人。

即使如此巨額的投資,也沒有讓微軟在日后OpenAI的公司治理中保有足夠的話語權(quán)。一方面,OpenAI制定了復(fù)雜的財(cái)務(wù)設(shè)計(jì)來保證非盈利初衷:董事會下設(shè)非盈利組織OpenAI Nonprofit,該組織全資擁有一家“有限盈利公司”,該實(shí)體有權(quán)控制和管理營利性子公司。

此外,投資者最多只能獲得其初始投資本金100倍的投資回報(bào)。OpenAI不向投資者分配股權(quán),而是分配不涉及所有權(quán)的未來利潤,微軟僅是這家“有限盈利公司”的少數(shù)股東,并無決策權(quán)。

簡單來說,一個(gè)非營利董事會控制著OpenAI公司的運(yùn)營,并能夠更換其領(lǐng)導(dǎo)層。

后來,即使是阿爾特曼自己,也承認(rèn)這一架構(gòu)非常奇怪(可能也是馬斯克退出的原因之一),在OpenAI做最新一輪融資時(shí),一些潛在投資者被其復(fù)雜的結(jié)構(gòu)嚇退了,它后來也導(dǎo)致了阿爾特曼短暫下臺。

把阿爾特曼趕走的OpenAI原董事會,過去一年也不穩(wěn)定,它先后失去了三位董事會成員,其中最引人注目的是里德·霍夫曼。里德·霍夫曼將自己創(chuàng)辦的職場社交平臺領(lǐng)英賣給微軟后,對于創(chuàng)建OpenAI營利性子公司的計(jì)劃一直是主要支持者。其他離開的OpenAI董事會成員還有腦機(jī)接口公司Neuralink高管Shivon Zilis和美國德州前眾議員Will Hurd。

外界認(rèn)為,過去一年OpenAI董事會的變動,使得該機(jī)構(gòu)倒向?qū)W術(shù)派和外部人士,“他們對阿爾特曼及其愿景的忠誠度沒那么高?!薄度A爾街日報(bào)》稱。

特殊的非盈利目標(biāo)和與“奇怪”的公司架構(gòu)設(shè)計(jì),讓OpenAI有了一種崇高的使命感,獲得了獨(dú)立發(fā)展的空間,但這種架構(gòu)極不穩(wěn)定,也為矛盾埋下種子——在在這家公司逐漸變得利益牽扯眾多、訴求各異的過程中,一旦環(huán)境發(fā)生變化,暫時(shí)的穩(wěn)定狀態(tài)被打破,事態(tài)走向不可控制。

OpenAI的特殊性在于,它的董事會不需要向投資人負(fù)責(zé),而董事會成員更關(guān)心公司的使命、愿景、價(jià)值觀是否實(shí)現(xiàn)。這也是原董事會一再堅(jiān)定要求解雇阿爾特曼的原因,因?yàn)榘柼芈チ硕聲男湃危此麤]有領(lǐng)導(dǎo)OpenAI去構(gòu)建造福人類的通用人工智能。

原董事會隨后向OpenAI員工解釋稱,這是一個(gè)治理問題,是董事會如何履行職責(zé)并推進(jìn)OpenAI使命的核心問題,他們的目的很明確:換掉阿爾特曼。

在這場政變式的公司動蕩前,OpenAI內(nèi)部曾發(fā)生過一次嚴(yán)重的內(nèi)部不和。

2021年,當(dāng)OpenAI前員工Dario Amodei、Daniela Amodei等人愈發(fā)擔(dān)心公司變得過于商業(yè)化,并在安全問題上與OpenAI管理層發(fā)生沖突后,他們選擇離開,成立了對手企業(yè)Anthropic。

Anthropic的幾位聯(lián)合創(chuàng)始人在OpenAI看到,只要為AI模型提供更多的數(shù)據(jù)和計(jì)算能力,就能讓模型變得更智能,而不需要對模型底層架構(gòu)做出重大更改。這讓他們擔(dān)心,當(dāng)模型越來越大,便會觸及某種危險(xiǎn)的臨界點(diǎn)。

用阿爾特曼的話說,Dario Amodei等人出走創(chuàng)業(yè)的最大動機(jī)之一是對如何獲得安全的生成式人工智能與OpenAI不同,分歧主要發(fā)生在2019年OpenAI拿到微軟投資以后,過快的商業(yè)化進(jìn)展超過Anthropic創(chuàng)始團(tuán)隊(duì)的預(yù)期。

"作為OpenAI的安全團(tuán)隊(duì),我們關(guān)注到的是,在訓(xùn)練大型語言模型和生成模型時(shí),把安全放在首要位置。"Daniela Amodei說。為了保障其理想主義式的研究,Anthropic已注冊為一家治理結(jié)構(gòu)特殊的公益公司, 這種法律結(jié)構(gòu)使其免受市場壓力影響。

目前,Anthropic被普遍認(rèn)為是OpenAI的“最強(qiáng)對手”,他們也被視為人工智能行業(yè)早期理想回蕩至今的具象。

對比來看,從這次“政變”具體操作上,OpenAI董事會和阿爾特曼看起來是倉促地進(jìn)入了風(fēng)暴。

很多年來,在硅谷,一個(gè)由人工智能研究人員和活動人士組成的圈子一直發(fā)出警告:人工智能系統(tǒng)正變得過于強(qiáng)大,失控的人工智能可能會對人類的生存構(gòu)成威脅。

通用人工智能的發(fā)展正在逐漸加速。2015年的時(shí)候,還有業(yè)界專家指出,擔(dān)憂AI對人類的威脅就像“擔(dān)心火星上人口過?!?,八年之后,這個(gè)威脅確實(shí)變得更明顯了。

這使得人工智能末日論者和有效利他主義者正逐漸走向主流,他們公開呼吁,警告監(jiān)管機(jī)構(gòu)認(rèn)真對待人工智能安全問題。受這些觀念影響的就包括一些OpenAI原董事會成員,直到上周五,他們扳倒了世界頂級人工智能公司的首席執(zhí)行官。

導(dǎo)致原董事會決定罷免阿爾特曼的并不是某一具體事件,而是隨著時(shí)間推移,信任在流失,這讓他們越來越感到不安。此外,阿爾特曼不斷增加的AI相關(guān)外部投資項(xiàng)目也讓事情變得更加復(fù)雜,這讓董事會對OpenAI如何使用自己的技術(shù)產(chǎn)生了疑問。

但原董事會按照自己的主張取得了部分成功,他們擔(dān)心阿爾特曼在建立功能強(qiáng)大、可能有害的人工智能系統(tǒng)方面進(jìn)展過快,于是阻止了他。這對于他們的追求來說是一場勝利,即使這是以犧牲公司為代價(jià)。

反噬也是巨大的,因?yàn)樗麄兾茨苴A得OpenAI員工的支持。如果OpenAI最終因阿爾特曼被解雇而受到無法彌補(bǔ)的傷害,人們會指責(zé)原董事會破壞了硅谷最有前途的初創(chuàng)企業(yè)之一,無法在理念上的妥協(xié), 將導(dǎo)致公司架構(gòu)的持續(xù)性將受到威脅。

在阿爾特曼回歸后,OpenAI的做法可能照舊,兩種觀點(diǎn)之間的斗爭似乎結(jié)束了。在接下來的幾個(gè)月里,新董事會有很多工作要做。他們需要再次來擴(kuò)大董事會,探索對OpenAI的治理結(jié)構(gòu)進(jìn)行實(shí)質(zhì)性變革,包括微軟在內(nèi)的投資者和高管都期待一種新的制衡機(jī)制,來限制董事會突然趕走創(chuàng)始人,最終危及數(shù)以十億美元計(jì)商業(yè)利益。但他們不再會具有否決權(quán),也不會像過去的董事會那樣有能力立即關(guān)閉公司。

但這不是原董事會在推動OpenAI“政變”時(shí)想象的場景。推動政變的伊利亞·蘇茨克韋爾等原董事會成員,對人工智能既恐懼又敬畏,擔(dān)心人工智能技術(shù)超出人類的控制能力,希望將技術(shù)的破壞性影響降到最低。

最終,企業(yè)利益戰(zhàn)勝了對未來的擔(dān)憂,人工智能作為一項(xiàng)有可能引領(lǐng)第四次工業(yè)革命的技術(shù),不太可能長期被那些想要減緩其發(fā)展的人所控制。《紐約時(shí)報(bào)》感嘆“人工智能現(xiàn)已屬于資本主義”。

我們正在加速沖向風(fēng)險(xiǎn)嗎?

來源:界面新聞 作者:彭新

版權(quán)與免責(zé):以上作品(包括文、圖、音視頻)版權(quán)歸發(fā)布者【彭新】所有。本App為發(fā)布者提供信息發(fā)布平臺服務(wù),不代表經(jīng)觀的觀點(diǎn)和構(gòu)成投資等建議

熱新聞