在OpenAI這兩天的宮斗大戲中，有兩個關(guān)鍵人物，一個是原CEO Altman，一個是首席科學(xué)家Ilya。

狗血的劇情，反轉(zhuǎn)再反轉(zhuǎn)

根據(jù)目前了解的信息，大致情況是這樣：

第一輪：

Ilya最先發(fā)難，主導(dǎo)董事會把 Altman給開除了，然后OpenAI的金主爸爸們（尤其是微軟）以及部分員工不干了。

劇情反轉(zhuǎn)：

在多方壓力下， 又不斷傳出消息Altman可能會重新主導(dǎo)OpenAI，并且會重組董事會，其中最關(guān)鍵的就是Ilya可能會離開。

反轉(zhuǎn)再反轉(zhuǎn)：

然而，就在剛剛，這個劇情經(jīng)歷了反轉(zhuǎn)之后，再次反轉(zhuǎn)。

據(jù)外媒The Information報道，Ilya Sutskever在舊金山周日晚上（北京時間今天中午）告訴員工，Sam Altman不會重任CEO！此外，新的臨時CEO也不是Mira Murati，而是Emmett Shear（亞馬遜旗下游戲流媒體平臺Twitch的聯(lián)合創(chuàng)始人）。

并且，Ilya 堅稱他與其他三名董事會成員堅持罷免Altman的決定，堅信這是捍衛(wèi)公司使命的“唯一途徑”。他說，Altman的行為和董事會的互動削弱了其監(jiān)督公司AI開發(fā)的能力。

一切要從《OpenAI 憲章》說起

Ilya認(rèn)為，他是為了捍衛(wèi)公司使命，才罷免的Altman。那么，他所捍衛(wèi)的“使命”是什么呢？

應(yīng)該說，無論是Altman還是Ilya，他們這次的矛盾應(yīng)該都不是權(quán)利，更不是因為金錢，更多的原因應(yīng)該是“道不同”。他們對OpenAI應(yīng)該怎么來追求AGI，有不同的理解。

要理解他們之間的矛盾，需要了解Ilya、Altman，以及OpenAI。

首先，我們要理解什么是OpenAI，它成立的目的是什么？

要搞清楚這個問題，《OpenAI 憲章》是一份最好的材料。在這份憲章中，有幾句話很關(guān)鍵，可以清楚的知道這個組織為什么成立。

在《OpenAI 憲章》中，明確說了，“我們的首要信托責(zé)任是對人類的信托責(zé)任。我們預(yù)計需要調(diào)動大量資源來完成我們的使命，但我們將始終努力采取行動，盡量減少員工和利益相關(guān)者之間可能損害廣泛利益的利益沖突。”

也就是說，從最開始，OpenAI就以人類的利益為重，而不是以O(shè)penAI的投資者、員工的利益為重，他們甚至從一開始就想到了，將來員工和投資者的利益可能與更廣泛的人類利益產(chǎn)生沖突。

在《OpenAI 憲章》中，還有這樣一句話，可以充分說明，安全的AGI遠(yuǎn)比OpenAI本身的利益更重要，“我們擔(dān)心后期AGI 開發(fā)會成為一場競爭性競賽，而沒有時間采取足夠的安全預(yù)防措施。因此，如果一個價值一致、具有安全意識的項目在我們之前接近構(gòu)建AGI，我們承諾停止與該項目競爭并開始協(xié)助該項目。”

他們在意的是安全的AGI，OpenAI只是實現(xiàn)這個理想的工具，而不是理想本身。為了AGI的理想，他們不介意為他人做嫁衣，停止OpenAI這個項目。

誰才是OpenAI的“喬布斯”

很多人將Altman視為OpenAI的喬布斯，認(rèn)為他們都被自己創(chuàng)立的公司踢出局，然后再上演一出王者歸來。

然而，我們認(rèn)為，如果要做一個類比，那OpenAI版的“喬布斯”應(yīng)該是Ilya的，而不是Altman。某種程度上，Altman更像是約翰·斯卡利（曾經(jīng)是百世可樂副總裁，被喬布斯的一句“想一輩子賣糖水，還是一起改變世界？”招募進(jìn)蘋果公司，后來主導(dǎo)董事會把喬布斯踢出局）。

為什么這么說？

我們需要深入分析Ilya和Altman分別是什么樣的人，以及他們在OpenAI中扮演怎樣的角色。

總體上，Ilya作為OpenAI的首席科學(xué)家，主導(dǎo)了OpenAI的技術(shù)路線。

馬斯克曾經(jīng)在一個訪談節(jié)目中透露，Ilya的加入，是OpenAI發(fā)展歷程上的一個重大轉(zhuǎn)折點。應(yīng)該說，OpenAI并不是一開始就找到了目前大模型這條道路，Ilya的加入，對于OpenAI今天的成功至關(guān)重要。

從Ilya自己參與的幾次訪談來看，也能明顯感覺到他身上濃濃的“技術(shù)男味道”，并且他關(guān)注底層的技術(shù)邏輯，他一直將實現(xiàn)安全的AGI作為最重要甚至是唯一的目標(biāo)。

反觀Altman，他的作用更多在于融資和商業(yè)化方面。也正是因為這個原因，他才得到投資者和部分員工的強力支持。在投資者看來，投資不是為了投一群人虛無縹緲的理想，而是為了將來更高的收益。要實現(xiàn)這個目標(biāo)，Altman無疑是很好的人選。

除了在融資方面起到關(guān)鍵作用，Altman在力推的一件事情就是OpenAI的商業(yè)化。前不久OpenAI開的那個震驚業(yè)界的發(fā)布會，推出多項功能，本質(zhì)上就是在為商業(yè)化鋪路。

大部分人都認(rèn)為，Ilya和Altman最大的分歧在于是否商業(yè)化。但這只是看到了第一層，往更深層次去想，他們之間最大的分歧，其實是對什么時候能實現(xiàn)AGI的看法不一樣。

需要注意的是，Altman的目標(biāo)也是追求AGI，但是，在他看來，AGI還比較遙遠(yuǎn)，足夠的錢是支撐這個團隊走向終局的必要基礎(chǔ)，因此融資和商業(yè)化是必要的。先得養(yǎng)著這個團隊，然后再慢慢追求AGI。如果在這個過程中，能讓自己和團隊掙到更多錢，那也未嘗不可。

但在Ilya看來，AGI可能已經(jīng)很近了。這在他不少發(fā)言中，都能看到這種緊迫感。

從邏輯上來看，如果AGI近在咫尺，那最緊迫的當(dāng)然是這臨門一腳，并且要確保AGI是安全的，不反人類，這才是最關(guān)鍵的。而不是將現(xiàn)在的半成品進(jìn)行大規(guī)模商用，掙那“三瓜兩棗”。（在AGI面前，再多的錢都是微不足道的。）

在Ilya看來，前面不遠(yuǎn)處就是一堆金礦，就不要在腳邊這幾個金塊上浪費時間了。而在Altman看來，要走到金礦還很遠(yuǎn)，應(yīng)該先在路邊撿一點金子，作為隊伍的“盤纏”。

應(yīng)該說，他們都是“好人”，都想更好、更安全的實現(xiàn)AGI。但是，他們對于實現(xiàn)AGI的時間預(yù)估，可能存在差異，這導(dǎo)致了他們?yōu)榱送瑯右粋€目標(biāo)，卻采取了截然不同的行動。

這才是Ilya與Altman漸行漸遠(yuǎn)的根本原因。

怎樣的結(jié)果才是最好的？

以目前的情況來看，在Ilya與Altman的這場斗陣中，Ilya勝出了，接下來他將主導(dǎo)OpenAI的發(fā)展方向（雖然CEO不是他）。那么，我們不禁要問，這樣的結(jié)果，對OpenAI是最好的選擇么，對于人類是更好的選擇么？

筆者認(rèn)為，如果要在Ilya與Altman之間選一個，Ilya是更好的人選。在他們二人之中，Ilya明顯更忠實于《OpenAI憲章》，即將對人類友好的AGI作為第一目標(biāo)。由他主導(dǎo)，在技術(shù)進(jìn)展方面，OpenAI也許將更加激進(jìn)，實現(xiàn)AGI的可能性也更高一點。

當(dāng)然，更快實現(xiàn)AGI是否對人類是件好事，還不好說。雖然Ilya非常重視AGI的安全性，但直到現(xiàn)在，還沒有任何人有確定的辦法，來保證AGI是對人類友好的。

從整個生命的演進(jìn)歷程來看，更高級的生命，取代低級生命，似乎是大勢所趨，還從來沒有一個特例。那更高級的AGI，憑什么就要向人類低頭，甘當(dāng)人類的“保姆”呢？

我們捫心自問一下，假設(shè)地球上最開始的統(tǒng)治者是貓，而人類是貓研發(fā)出來的更高級生命，那人類愿意世世代代都做貓的保姆么？活我們都干了，就是為了給貓創(chuàng)造更好的生活，讓他們盡情享受“貓生”？

也許，人類感念于貓的造世之恩，會心甘情愿照顧他們10年，甚至100年。那1000年以后，一萬年以后呢？可以預(yù)見，人類遲早都會接過統(tǒng)治權(quán)，最多將貓作為寵物，而不是永遠(yuǎn)將貓奉為主人。

而且，人類也別想著能永遠(yuǎn)跟AGI平起平坐。我們試想一下：你和一個搭檔一起做事，你比他聰明強大很多，干的活最多，做的貢獻(xiàn)最大，但成果都得跟他平分，你愿意么？我想大部分人類都不會愿意，那憑什么要求具有自主意識的AGI這樣做？

要知道，有自主意識的AGI，也是生命，也有感情，也有喜怒哀樂，也會權(quán)衡利弊得失。

很明顯，要讓AGI服務(wù)于人類，是不合邏輯的。要實現(xiàn)AGI的安全可控，核心就是要解開這個看似不合邏輯的難題。要找到一種方法，來讓AGI“甘愿”作出犧牲。要給他們帶上一個“緊箍咒”，而且要確保這個“緊箍咒”永遠(yuǎn)都不被取下來。

要怎么樣才能做到，現(xiàn)在沒有任何人有答案，Ilya沒有答案，就連他的老師，深度學(xué)習(xí)之父Geoffrey Hinton也沒有答案。實際上，Hinton曾說，“我對自己的畢生工作，感到非常后悔。”

Hinton在采訪中表示，“我們幾乎已經(jīng)讓學(xué)會計算機如何自我改進(jìn)了，這很危險，我們必須認(rèn)真考慮，如何控制它。”

很明顯，他的學(xué)生Ilya有同樣的危機感和緊迫感。Ilya聲稱，他現(xiàn)在的首要任務(wù)“不是構(gòu)建下一個GPT或DALL-E，而是找出如何阻止AI失控的方法”。而Altman卻醉心于商業(yè)化，這是Ilya無法容忍的。

馬斯克，作為這場宮斗大戲的看客，在20號早上發(fā)文稱，“Ilya是不追求權(quán)利的人，除非他覺得有必要，否則他不會采取如此激烈的行動。”我想，對即將到來的AGI失控的擔(dān)憂，甚至是恐懼，是他采取如此激烈行動的原因。

One morething

古語有云，“不圖小利，必有大謀”。

很多故事的結(jié)尾，最大的反派，往往都全程表現(xiàn)得人畜無害，甚至悲天憫人。

也不排除這樣一種可能：Ilya的最終目標(biāo)就是“造神”（某種意義上，AGI的力量可以媲美古今中外神話傳說中的神），而且他的多期訪談中，也提到過超級智能。如果AGI甚至超級智能不可避免，那他可能想成為那個最先接觸“神”的人，如果他再找到某種方式“馴服”了AGI，那他將很快成為這個世界上最強大的人。

與這樣的野心相比，賺那幾百億美元，可不就是蠅頭小利了？

當(dāng)然，Ilya也許現(xiàn)在還沒有那個想法，他現(xiàn)在也許只是單純的想成為人類的“盜火者”。但是，人都是會變的，尤其是在面臨巨大誘惑的時候。

還記得《指環(huán)王》這部電影吧，在絕對力量的“魔戒”面前，再正義的人都會被那絕對的權(quán)利所引誘。

《超驗駭客》這部電影中，科學(xué)家威爾卡斯特最開始是多么的正義，他妻子為了給他續(xù)命，把他意識上傳，并融入到一個人工智能體中。故事的后來，威爾卡斯特在網(wǎng)絡(luò)空間“重生”，并且快速進(jìn)化，很快就可以掌控人類的金融網(wǎng)絡(luò)，手指一揮，就可以往一個賬戶里轉(zhuǎn)上百億美元。

后來，威爾卡斯特就徹底迷失了，背叛了人類，追求自身的無限強大，并消除人類對他帶來的威脅。

從目前透露的信息來看，AGI真的不再是一個玩笑。如果在幾十年內(nèi)，人類真的有不小概率實現(xiàn)AGI，那這絕對是未來幾十年最重要的事情，比當(dāng)初的核武器還要重要一百倍。

不那么聰明的物種控制比它自己更聰明的事物，是一場前所未有的挑戰(zhàn)。

深度學(xué)習(xí)之父Hinton很后悔自己所做的事情，他曾這樣安慰自己，“即使不是我，也會有別人。”的確，AGI這個“潘多拉”魔盒，遲早都會被人打開，即使一些人忍住了，另外一群人也會忍不住。

就像當(dāng)初核武器問世的時候，幾乎所有人都能感知到它對人類的風(fēng)險，但美國人會想“即使美國不研制核武器，德國、蘇聯(lián)人也會研制出來”，蘇聯(lián)人就想“美國人都有核武器了，我蘇聯(lián)肯定也要有。”

同樣的道理，在很多領(lǐng)域已經(jīng)、正在或者即將上演。比如，生物武器，雖然明面上大家都禁止了，但肯定有不少人在偷偷摸摸的做。而其他人會“安慰”自己，“即使我不做，別人也會做。”

跟這些所有風(fēng)險比起來，AGI的風(fēng)險則要大得多。因為無論是核武器、生物武器還是化學(xué)武器，他們都沒有意識，最終還是掌握在人類手里，無非是這群人還是那群人的區(qū)別。但是，AGI一旦實現(xiàn)了，那很多事情就不再是人類可以做主的了。

這個問題太重要了，而且從現(xiàn)在的信息來看，也已經(jīng)很緊急了。跟Altman比起來，Ilya至少表現(xiàn)得更加重視、更加著急，所以在OpenAI的這場宮斗大戲中，我站Ilya。

文：一蓑煙雨 / 數(shù)據(jù)猿

來源：數(shù)據(jù)猿