陳永偉/文 2024年3月1日,馬斯克向加州高等法院提交了一份46頁的起訴書,將OpenAI的CEO山姆·奧特曼(Sam Altman)、總裁格利高里·布羅克曼(Gregory Brockman),以及OpenAI的八個關聯(lián)實體告上了法庭。有意思的是,在密密麻麻地列出了一串被告后,馬斯克還意猶未盡地加上了一句“Does 1 through 100”,意為還有很多潛在的被告沒有被列出。
在起訴書中,馬斯克直斥奧特曼等人違背了當年共同創(chuàng)建OpenAI時的初心,把一個原本為讓AI技術惠及全人類而創(chuàng)立的非營利組織搞成了封閉的微軟子公司,并懇請法院撥亂反正,要求OpenAI恢復其最初的非營利屬性,對包括大語言模型GPT在內的主要產(chǎn)品進行開源。為了說服法院支持其主張,馬斯克還在起訴書中披露了大量先前并不為人所知的細節(jié)。
作為OpenAI早期的共同創(chuàng)立者,馬斯克與奧特曼之間的關系曾一度非常不錯。在聊天機器人程序ChatGPT成功發(fā)布之后,馬斯克還立即在自己的社交媒體上對其進行了轉發(fā)和推薦,并向奧特曼和OpenAI送上了不少溢美之詞。然而,在此之后,馬斯克就在ChatGPT的開源、AGI(Artificial General Inteligence,通用人工智能)的風險等問題上和奧特曼產(chǎn)生了嚴重的分歧。由此,兩人的關系急轉直下。馬斯克開始在各種場合激烈抨擊奧特曼,而奧特曼也會適時地對馬斯克的指責進行回懟。而這一次的對簿公堂,可以被視為兩人的矛盾全面升級的標志。
需要指出的是,馬、奧二人之間的紛爭其實是AI(Artificial Inteligence,人工智能)領域眾多爭議的一個集中體現(xiàn)。例如,在AI發(fā)展中,究竟應該采用開源策略還是閉源策略?對于AGI,應該采用怎樣的發(fā)展策略?初創(chuàng)AI企業(yè)與在位的科技巨頭之間,又應該是一種怎樣的關系?這些問題都交織在了這個案件當中,因此,這個案件就有了尤其重要的意義。
那么,這個案件的走向會如何?對于這個案件所涉及的各方面問題,我們又應該如何看?且讓我們慢慢說來。
馬斯克到底告了什么?
在對本案的相關問題進行探討之前,我們需要先花一些時間,看看馬斯克究竟在起訴書中提出了哪些指控和訴求。
總體來說,馬斯克對奧特曼和OpenAI提出的指控包括五項:違反合同(Breach of Contract)、違背承諾(Promissory Estoppel)、違反信托責任(Breach of Fiduciary Duty)、不公平商業(yè)行為(Unfair Business Practices),以及會計審計(Accounting)。
(1)違反合同
起訴書中指出,在OpenAI的創(chuàng)始合同中,對其性質進行了兩項規(guī)定:(a)OpenAI將是一個為人類利益開發(fā)AGI的非營利組織,而非為股東利潤最大化服務的營利公司;(b)OpenAI將是開源的,它只會平衡反向的安全考慮,而不會因專有的商業(yè)原因保持其技術的封閉和保密。
根據(jù)馬斯克的陳述,為了確保這兩項條款的履行,在2015年到2020年期間,他曾陸續(xù)向OpenAI提供了數(shù)千萬美元的資金支持。不僅如此,在他和OpenAI方面的溝通中,后者曾多次向其保證會持續(xù)遵守上述原則。為了對這一點進行說明,馬斯克在起訴書的最后還附上了一份奧特曼給他的郵件。在郵件中,奧特曼寫道:“OpenAI的使命將是創(chuàng)建第一個通用AI,并用它來為個人賦能——它將是看起來最安全的未來的分布式版本。更一般地說,安全應該是首要的要求……技術將由基金會擁有,并用于‘世界的利益’。”
馬斯克認為,現(xiàn)在的OpenAI已經(jīng)以多種方式違反了協(xié)議。比如:(a)它將GPT-4獨家授權給了微軟,這就違背了創(chuàng)始合同中規(guī)定的為人類利益開發(fā)A-GI,而非為追求最大化股東利潤的營利公司服務的基本原則。(b)它未向公眾披露GPT-4的架構、硬件、訓練方法和訓練計算等細節(jié)信息,還在公眾和GPT-4之間設置了“付費墻”,要求他們按量付費使用,以推動被告和微軟自己的私人商業(yè)利益。這就違反了創(chuàng)始合同中關于技術開源的約定。(c)允許營利公司微軟加入OpenAI的董事會,并對OpenAI的非營利活動,如OpenAI的技術是否免費向公眾開放、OpenAI對A-GI的獲取等施加過度的影響和控制。
馬斯克指出,被告的違約讓自己蒙受了損失。盡管具體的損失金額仍不清楚,但肯定已經(jīng)超出了法院管轄所要求的最低金額。據(jù)此,他認為有權要求被告繼續(xù)履行創(chuàng)始合同的約定。
(2)違背承諾
馬斯克指出,OpenAI方面為了引誘其進行資金的捐贈,并投入相關的資源來幫助自身的發(fā)展,曾反復向其承諾,將遵守創(chuàng)始合同中規(guī)定的非營利性以及對技術的開源。根據(jù)馬斯克的陳述,正是由于這些承諾,他才在多年中對OpenAI進行持續(xù)支持。然而,正如前面所指出的,OpenAI已經(jīng)通過多種方式背棄了創(chuàng)始合同中的規(guī)定,這就讓其先前的承諾淪為了虛假承諾。
(3)違反信托責任
馬斯克指出,根據(jù)加州的法律,Ope-nAI對其負有信托責任,有義務將其提供的貢獻按照其目的進行使用。然而,OpenAI在很多方面違背了上述責任。
馬斯克認為,OpenAI違背合同協(xié)議的行為不僅完全違背了自己向其提供捐贈的初衷,而且讓自己造成了損失,因而已經(jīng)構成了對信托責任的違背。
(4)不公平的商業(yè)行為
馬斯克認為,OpenAI方面背棄創(chuàng)始合同中非營利原則和開源承諾的行為,不僅造成了違約,還涉嫌用虛假承諾募集資金。這已經(jīng)違背了加州商業(yè)和職業(yè)法典第17510條第8款的規(guī)定,構成了不公平的商業(yè)行為。根據(jù)加州商業(yè)和職業(yè)法典第17200條的規(guī)定,Ope-nAI方面應當立即停止相關的行為,并且返還從事此類行為期間收到的所有款項。
(5)會計審計
馬斯克還指出,OpenAI多年來都在利用其非營利屬性,以及開源的承諾進行資金的募集,然而,OpenAI不僅違背了自己作出的這些承諾,而且并沒有透露募集到的各種資金的去向。據(jù)此,馬斯克認為應該對OpenAI進行全面的會計審計。
基于以上幾點指控,馬斯克向法院提出了十項訴求。歸納起來,這些訴求包括如下幾個方面:(1)希望法院下令要求被告恢復執(zhí)行其承諾。(2)希望法院下令對GPT-4、Q*及其他OpenAI正在開發(fā)的下一代大型語言模型是否構成AGI并因此超出OpenAI對微軟的許可范圍進行司法確定。如果它們中的任何一項被確認為構成AGI,則應該將其排除在對微軟的授權之外。(3)希望法院下令要求被告賠償原告因被告違反協(xié)議而遭受的損失。(4)希望法院要求對OpenAI的資金使用情況進行會計審計。(5)希望法院頒發(fā)禁令,防止被告繼續(xù)從事不公平的商業(yè)行為。
馬斯克會成功嗎?
馬斯克對奧特曼和OpenAI的起訴會成功嗎?在當前這個階段,我們還很難作出明確的判斷。不過,很多評論人士認為,馬斯克要想贏得這場官司恐怕并沒有那么容易。
比如,著名科技媒體The Verge的主編尼利·帕特爾(Nilay Patel)就在網(wǎng)站上發(fā)表了一篇文章,題目非常直接,就叫《埃隆·馬斯克針對OpenAI的法律案件糟糕得離譜》(Elon Musk’sle galcase against OpenAI ishilariously bad)。在文中,帕特爾戲謔地說,作為目前世界上最為富有的人,馬斯克的想法正在變得越來越“抽象”(abstract)。他指出,馬斯克指責奧特曼和OpenAI違背了合同,但即使是法學院的新生都知道,合同必須是以一定的規(guī)范寫下來的,然而馬斯克在起訴書中所說的“創(chuàng)始合同”卻是一個人們共同認同的理念,并沒有任何的文字版本。雖然馬斯克出示了OpenAI的公司章程以及與奧特曼之間的通信,但從法律角度看,這些都不能算是合同。既然連合同都不存在,那么所謂的違背合同也就自然不成立了。至于馬斯克指責奧特曼和OpenAI違背承諾,帕特爾認為這更是一個理論上的問題,在現(xiàn)實中,幾乎沒有任何案例來作為支撐。對于馬斯克提出的對OpenAI進行會計審計的請求,帕特爾認為這根本沒有法律依據(jù)。因為根據(jù)加州的法律,只有當OpenAI欠了馬斯克錢的時候,他才有權要求這么做,而他對OpenAI的捐贈并不構成其債務。基于以上分析,帕特爾認為馬斯克對OpenAI發(fā)起的這場法律行動完全是他的又一次任意妄為,法院應該會很快按照《聯(lián)邦民事訴訟規(guī)則》,以“未能陳述主張”(failure to state a claim)為由將其訴訟駁回。《紐約時報》上的一篇專欄文章也對馬斯克的訴訟前景表達了憂慮。文章指出,除了帕特爾提出的幾點外,馬斯克的訴訟還面臨著很多問題:首先,鑒于OpenAI登記的性質為非營利組織,因此按照法律規(guī)定,只有州檢察長可以對其提起訴訟,馬斯克作為個人并不具備對其起訴的資格。其次,OpenAI的注冊地在特拉華州,因而即使它真的存在對馬斯克的合同違約,馬斯克也應該在特拉華州,而非加州對其進行起訴。再次,在起訴書中,馬斯克試圖要求法官和陪審團來對GPT等產(chǎn)品是否構成AGI作出裁決,這種讓非專業(yè)人士進行專業(yè)技術判斷的請求似乎過于兒戲。基于以上判斷,幾位作者認為,這場訴訟更多只是一場“商界的熱門肥皂劇”,大概率會不了了之。
公義還是私心?
既然從法律層面看這場官司的前景并不樂觀,那么馬斯克為什么還要花這么大的精力去發(fā)動這樣一場訴訟呢?鑒于馬斯克一貫以來我行我素的個性,我們很難猜出他的真實想法。但很多人認為,這很大程度上是基于馬斯克本人的“酸葡萄”心理而進行的一次妄為。比如,OpenAI的首席戰(zhàn)略官杰森·權(Jason Kwan)就直言,馬斯克提起訴訟,很可能源于他對如今不再參與公司事務的遺憾。在我看來,盡管這種看法多少有點“以小人之心度君子之腹”的嫌疑,但它很可能是最接近真相的答案。這一點,我們可以從歷史當中得到很多的佐證。
在馬斯克向法院提交的起訴書中,他對整個OpenAI的歷史進行了十分詳細的回顧,以至于有人戲稱這份起訴書為最權威的OpenAI簡史。然而,在2018年他離開OpenAI這個問題上,他卻似乎有意進行了模糊化的處理。不過,根據(jù)很多公開的新聞報道,我們可以拼湊出故事的大致情節(jié)。
最初,馬斯克因看到了谷歌和Deep Mind合作的成功,意識到了AI可能在數(shù)年內取得重大的發(fā)展,AGI可能由此到來。出于防范AGI風險的考慮,他和奧特曼等人一起創(chuàng)立了OpenAI。當時的他們認為,防止AGI風險的最好辦法,就是由他們自己,而非像谷歌這樣的壟斷巨頭首先制造出AGI。正是出于這個想法,在最初的一段時間,馬斯克向OpenAI提供了大量的贊助經(jīng)費。
然而,到2018年,OpenAI并沒有取得太大的進展,反而是Deep Mind因Alpha Go、Alpha Zero等一系列產(chǎn)品的成功而名聲大噪。由此,馬斯克開始懷疑支持OpenAI這個決定的正確性。正好在這個時候,特斯拉要上馬自動駕駛,需要一名優(yōu)秀的科學家來出任首席架構師。一番物色之下,他就看上了OpenAI的創(chuàng)始成員之一安德烈·卡帕斯(Andrej Karpathy),并花重金挖走了他。馬斯克這種“兔子吃窩邊草”的行為讓奧特曼等OpenAI的管理層十分不滿,雙方由此發(fā)生了糾紛。馬斯克就勢提出,由自己全權接管OpenAI,但這個提議立即遭到了OpenAI管理層的集體拒絕。最終,馬斯克不得不放棄了這個想法,并以存在利益沖突為理由,宣布離開了OpenAI。
令馬斯克沒有想到的是,在其離開后不久,OpenAI的科學家們就從谷歌的Transformer模型中找到了靈感,并開發(fā)出了初版的GPT模型。此后不久,OpenAI又和微軟達成了合作,接受了微軟10億美元的投資。在微軟的大力支持之下,OpenAI的發(fā)展開始走上了快車道,陸續(xù)推出了GPT-2、GPT-3等產(chǎn)品,并在2022年11月底發(fā)布了劃時代的ChatGPT。
可以看出,OpenAI的成功讓馬斯克十分懊喪。為了追趕OpenAI,他于2023年7月成立了自己的AI公司xAI,并對其投入了大量的資源進行支持。然而,至少到目前,xAI的表現(xiàn)還遠不如OpenAI,甚至其研發(fā)的Gork模型還被爆出套殼ChatGPT,這實在是讓馬斯克大為尷尬。令人玩味的是,盡管根據(jù)馬斯克本人宣稱,xAI所開發(fā)的模型都將會向社會開源,但在這家公司的簡介中,也十分清楚地說明了它將和特斯拉以及推特(已更名為“X”)進行緊密的合作。由此可見,馬斯克并沒有要求這家公司完全堅持自己的初心——至少,它還可能在相當程度上為相關營利企業(yè)提供服務。在這種情況下,他還執(zhí)拗地用非營利的理念來要求OpenAI,就不得不令人懷疑他所提起的起訴更可能是一場針對商業(yè)對手發(fā)動的法律侵擾了。
開源還是閉源?
盡管在很多評論人士看來,馬斯克發(fā)動的訴訟動機并不純粹,并且獲勝的可能性也不大,但這場案件本身的意義仍然可能是非常巨大的。因為在這個案件當中,涉及太多事關AI未來發(fā)展的大問題。
第一個問題是開源和閉源之爭。在本案中,這是馬斯克和OpenAI爭論的兩大焦點之一。
我們知道,“閉源模型”(closed-source model)和“開源模型”(open-source model)是生成式AI的兩大流派。其中,閉源模型的源代碼和技術細節(jié)完全被其提供商控制,不對外進行公開,也不允許用戶對這些模型本身進行更改。例如,OpenAI的GPT、谷歌的Gemini、百度的文心一言等,都屬于閉源模型。開源模型的提供商則會將模型的源代碼和技術細節(jié)公開,并允許用戶根據(jù)其自身需要對模型進行任意的使用和修改。例如,Meta的LLaMA、StabilityAI的Stable Diffusion等,就屬于開源模型的代表。當然,在現(xiàn)實中,閉源模型和開源模型之間也未必涇渭分明,模型的提供商會根據(jù)具體情況對模型的開放程度進行調整。一些模型的初期版本曾是開源的,但后續(xù)版本則進行了閉源。比如,GPT在3.0版本之前會通過論文公開其具體的技術細節(jié),但在3.5版本之后,則不再公開。而阿里云的通義千問、智譜AI的GLM等,則在早期是閉源模型,隨后逐漸進行了開源。
需要指出的是,在很多討論中,人們會把開源等同于不營利,閉源等同于營利,甚至在馬斯克的起訴書中,也隱隱有這種傾向。但是,這個認識其實是不對的。無論是開源模型還是閉源模型,都可以營利,只是營利模式存在著差異。一般來說,閉源模型主要通過向用戶提供使用許可、訂閱服務,以及云服務等方式來獲取收入。以GPT為例:個人用戶可以按月向OpenAI支付訂閱費以獲得使用權;企業(yè)用戶可以向OpenAI申請API(Application Programming Interface,應用編程界面),并按照使用量向其支付費用。除此之外,微軟的Office365以及Azure云也都搭載了GPT模型,用戶可以通過購買云服務來使用該模型。相比之下,開源模型并不直接向用戶售賣或收費,而是通過提供服務或支持、雙授權(即同時授權模型的開源版本和閉源版本)等間接的方式來獲取收入。以Stable Diffusion為例:StabilityAI主要通過向用戶提供咨詢,以及為用戶提供定制版的Stable Diffusion來獲取收益。
很明顯,在馬斯克的起訴書中,存在著一個潛在的假設,即開源模型先天地優(yōu)于閉源模型。但如果細究起來,我們不難發(fā)現(xiàn),這兩類模型其實是各有利弊的。一般來說,閉源模型通常由專業(yè)的團隊加以研發(fā),因而更為穩(wěn)定和優(yōu)質。不過,由于閉源模型對其關鍵技術的保密性更強,其包含的新技術的擴散性會較弱。相比之下,開源模型則主要由社區(qū)維護,模型的穩(wěn)定性和質量可能會略為遜色。但是,開源模型會大幅度降低模型的可得門檻,會比閉源模型更容易推廣和擴散。并且,隨著模型使用人數(shù)的增加,開源模型會更容易發(fā)展出相關的使用生態(tài),也會更容易實現(xiàn)模型的技術迭代。
從最近一年多AI領域的發(fā)展,我們可以看到,開源和閉源兩類模型之間的關系并不是互斥的。或者更確切地說,它們呈現(xiàn)了一種默契的互補關系。具體來說,這一波生成式AI的基礎是Transformer架構。這個架構最早是由谷歌提出的,并對關鍵的技術進行了開源。有意思的是,在這個架構提出之初,并沒有受到太多的重視,甚至關于它的開創(chuàng)性論文在投稿時還遭到了拒絕。后來,這個架構雖然被廣泛應用,但在此基礎上做出的爆款產(chǎn)品也寥寥無幾。可以說,直到ChatGPT這個閉源模型的橫空出世,Transformer的價值才真正地得到了體現(xiàn)。在此之后,LLaMA、Claude等一大批模型又涌現(xiàn)出來,讓開源模型得到了一次新的爆發(fā)。從這個案例可以看出,雖然很多認同互聯(lián)網(wǎng)精神的人從內心更為認同開源模型,認為它們在道德上是更優(yōu)的,但在實踐中,受制于變現(xiàn)相對困難等問題,它們往往會在發(fā)展的某個階段遇到難以跨越的門檻。在這個時候,閉源模型的發(fā)展反而可能會對它們起到助推的作用。
值得注意的是,人們心中潛藏的對開源模型的道德認可似乎正在各種立法活動上體現(xiàn)。比如,歐洲去年出臺了《人工智能法案》,其中對AI模型做出了很多管制。不過,開源模型獲得了很大的豁免權,除非它們被歸為了高風險模型,否則《法案》中的相關管制將不適用于它們。在美國,拜登發(fā)布的一項總統(tǒng)令中將開源模型稱為“雙重用途基礎模型”,并明確指出它可以帶來重大的創(chuàng)新好處,應該予以支持。雖然從一個角度看,類似的法律和政策可以對開源模型的發(fā)展起到巨大的推動作用,但從另一個角度看,它們也可能將閉源模型置于一個不公平的競爭位置,從而對其發(fā)展造成抑制。可以想象,雖然這次馬斯克對OpenAI的起訴未必會成功,但它很可能會大幅強化“開源優(yōu)于閉源”的觀念,進而推動更多類似的法律和政策的出臺。由此產(chǎn)生的后果,是值得我們進一步關注和評估的。
如何看待巨頭和新創(chuàng)企業(yè)的合作
馬斯克訴OpenAI案背后,第二個需要關注的問題是科技巨頭和新創(chuàng)企業(yè)的合作問題。
應該說,OpenAI和微軟之間的合作形式是非常新穎的。雖然在起訴書中,馬斯克并沒有列出它們合作的具體辦法,但相關信息很容易在網(wǎng)上搜索得到。具體來說,OpenAI為和微軟合作,專門成立了一家營利的子公司。微軟向這家營利實體投資130億美元,以獲得其49%的股份和75%的利潤分成權。隨著微軟從OpenAI所獲利潤收入的增加,其在OpenAI的股份占比將逐漸減少。最終,當微軟從OpenAI獲得的利潤超過1500億美元后,OpenAI將回收微軟手中的全部股份。在這個合作框架達成之后,微軟還向OpenAI提供了大量資源和技術的支持。作為回報,OpenAI也對微軟獨家授權,允許其優(yōu)先使用自己開發(fā)的AI產(chǎn)品,甚至在GPT-4模型正式發(fā)布之前,微軟的必應搜索和Of-fice365已經(jīng)搭載了這款模型。
有很多人曾對微軟為何會愿意花如此大的力量援助OpenAI表示過疑問。在他們看來,微軟本身就有很強的AI研發(fā)能力——關于這一點,微軟自己也承認了,并且馬斯克在起訴書中也有提及。那么,微軟為什么不直接依靠本公司的研發(fā)團隊來開發(fā)AI,而要將有限的資源不斷投入到OpenAI這家獨立的公司呢?其實,這就是微軟的高明之處。對于像微軟這樣的上市企業(yè),其研發(fā)的投入和回報都是必須公開的信息。像AI模型研發(fā)這樣需要長期、大量投入,回報又高度不確定的投資很可能會影響企業(yè)的市值,甚至可能會因此而被董事會否決。相比之下,將類似的研發(fā)轉移到獨立的新創(chuàng)公司就可以有效地回避這樣的風險。與此同時,對于微軟這樣的科技巨頭,人們對其自研的AI產(chǎn)品出現(xiàn)的問題的容忍性通常很低。比如,谷歌在其AI大模型Bard的發(fā)布會上出現(xiàn)的錯誤就導致其股價下跌了7.68%。相比之下,對于那些由初創(chuàng)企業(yè)開發(fā)的模型,人們的容忍程度會更高,因而類似的風險也可以很好地被避免。所以,微軟全力幫助OpenAI,讓它來代替自己從事AI的研發(fā),其實是一種有效規(guī)避各方面風險的創(chuàng)新策略。而對于OpenAI這樣的新創(chuàng)企業(yè)而言,利用微軟的資源來扶助自己的發(fā)展也絕對是一件好事。這種互惠互利,就是支撐微軟和OpenAI得以長期合作的基礎。
但需要指出的是,這種對微軟和OpenAI雙方都有利的合作方案,對于整個市場可能是不利的。從根本上看,這種合作就是一種縱向并購。根據(jù)經(jīng)濟學原理,雖然這種并購可能促進創(chuàng)新,但同時它也可能造成排除和限制競爭的效果。根據(jù)反壟斷法,類似規(guī)模的并購一般需要經(jīng)過經(jīng)營者集中審查,但由于從形式上看,這種合作和傳統(tǒng)的并購有很大的不同,所以它實際上可以輕松地規(guī)避本應該有的審查。
基于以上原因,這種新型的投資合作關系已經(jīng)引起了很多國家和地區(qū)的反壟斷執(zhí)法機關的重視。比如美國聯(lián)邦貿易委員會、歐盟委員會,以及英國競爭管理局都已經(jīng)分別對微軟和OpenAI之間的這種關系展開了調查,以明確微軟是否通過財務合作事實上獲取了OpenAI的控制權。不過,到目前為止,上述調查都還在進行中,究竟對于這種合作關系如何進行評價和規(guī)制,依然是一個開放性的問題。在這種背景下,馬斯克訴OpenAI中披露出的各種信息很有可能被這些機構作為重要的參考信息,并對未來的相關政策制定產(chǎn)生比較大的影響。
如何應對AGI
馬斯克訴OpenAI案背后,第三個需要關注的問題是如何應對AGI的風險。
在馬斯克的起訴書被公開之后,很快就有人發(fā)現(xiàn)了一個細節(jié):雖然馬斯克把奧特曼、布羅克曼,以及OpenAI的所有關聯(lián)實體都列為了被告,但他卻故意漏掉了一個重要的人物——伊利亞·薩斯克維爾(llya Sutskever)。在OpenAI崛起的過程中,薩斯克維爾可謂功不可沒。然而,在去年那場針對奧特曼的公司政變中,薩斯克維爾最終落敗。自此之后,就很少再有他的消息。盡管關于這場政變的細節(jié)外界并不得而知,但根據(jù)一些媒體的報道,薩斯克維爾與奧特曼之間的分歧主要產(chǎn)生在對待AGI的態(tài)度上。一些研究表明,GPT已經(jīng)在很多問題上展現(xiàn)出了“AGI的火花”,而OpenAI的內部項目Q*則已經(jīng)研發(fā)出了可以突破限制,自己主動進行學習的AGI產(chǎn)品。薩斯克維爾看到這一切后,認為出于安全的考慮,應該減緩AGI的開發(fā)速度,因此才和奧特曼發(fā)生了沖突,從而最終釀成了公司政變。
在起訴書中,馬斯克也援引了上述傳聞,并將OpenAI研發(fā)AGI,并獨家授權微軟使用的行為作為了一項重要的起訴理由。盡管如前所述,從法律角度看,馬斯克在這方面的訴求可能很難得到支持,但其引發(fā)的問題卻是值得我們深思的。
目前,關于應對AGI的可能風險,存在著不同的觀點:第一種是馬斯克在創(chuàng)辦OpenAI時的主張,即爭取讓一群“好人”首先研發(fā)出AGI,從而將其發(fā)展方向掌握在自己的手中。從后來的實踐看,這個主張并沒有真正的實踐價值。第二種是以薩斯克維爾為代表的“超級對齊”派。他們認為,AGI的發(fā)展必須完全符合人類的價值觀。但現(xiàn)實證明,這種觀點不僅很難操作,而且也難以得到以營利為目的的企業(yè)的支持。第三種則是以奧特曼為代表的“有效加速”派。持這種觀點的人認為,對于AGI應該順其自然,在發(fā)展中解決各種問題。很明顯,這種觀點雖然有助于AGI的發(fā)展,但其蘊含的風險也是巨大的。由此可見,在應對AGI問題上,人們還沒有找到一個完全一致的答案。在這種情況下,馬斯克對OpenAI的起訴或許可以進一步激發(fā)人們對這個問題的思考,從而為破解這個問題提供一些有益的啟發(fā)。