2018年2月,馬斯克退出OpenAI之前究竟發(fā)生了什么?這個問題,曾經(jīng)是我設(shè)想中如果有機(jī)會當(dāng)面向馬斯克提問,最想問的一個問題。
去年11月,OpenAI董事會為何開除阿爾特曼?OpenAI究竟有沒有實(shí)現(xiàn)通用人工智能(AGI)?這是OpenAI宮斗事件以來,馬斯克最為關(guān)心的問題。
3月1日,馬斯克向舊金山法庭提起訴訟,告OpenAI和阿爾特曼違約。起訴書洋洋萬言,清晰的回顧了OpenAI創(chuàng)辦的歷程,包括馬斯克和阿爾特曼的決裂,我的問題基本得到了解答。
而馬斯克的問題則構(gòu)成了起訴書的核心,同時,這個訴訟他提請了陪審團(tuán)審判。希望審判過程能夠抽絲剝繭,為至今仍蒙在鼓中的大眾揭示亂象背后的原委。
在詳細(xì)閱讀起訴書的過程中,老瓦作了一些簡單整理和擴(kuò)展,方便反復(fù)研究。本文字?jǐn)?shù)總計約2萬4千。
埃隆馬斯克(ELON MUSK)
訴
薩姆阿爾特曼(SAMUEL ALTMAN), 一位個人
格雷格布羅克曼(GREGORY BROCKMAN), 一位個人
OPENAI公司, 一家公司
OPENAI L.P.,一家有限合伙公司
OPENAI, L.L.C.,一家有限責(zé)任公司
OPENAI GP, L.L.C.,一家有限責(zé)任公司
OPENAI OPCO, LLC,一家有限責(zé)任公司
OPENAI GLOBAL, LLC,一家有限責(zé)任公司
OAI CORPORATION, LLC,一家有限責(zé)任公司
OPENAI HOLDINGS, LLC,一家有限責(zé)任公司
以及無名氏1至100,包括首尾
控告
(1) 違反合同
(2) 允諾禁反言
(3) 違反信托責(zé)任
(4) 基于《加州商業(yè)和職業(yè)法典》第17200節(jié)及以下條款定義的不正當(dāng)競爭
(5) 會計
原告埃隆馬斯克(以下簡稱“原告”)根據(jù)所掌握的信息和事實(shí)指控如下:
當(dāng)事人
1. 2019年之前,原告是居住在加利福尼亞州的個人。自2019年起,原告是得克薩斯州居民。
2. 據(jù)所知所信,原告聲稱薩姆阿爾特曼是加利福尼亞州舊金山縣的居民。
2019年的薩姆阿爾特曼
3. 據(jù)所知所信,原告聲稱格雷格布羅克曼是加利福尼亞州舊金山縣的居民。
2019年的格雷格布羅克曼
4. OpenAI公司是一家根據(jù)特拉華州法律于2015年12月8日注冊成立的非營利性組織。OpenAI, Inc.在加利福尼亞州州務(wù)卿處注冊為外國公司,其主要營業(yè)地址為加州舊金山第18街3180號(注:先鋒大廈),郵編94110。
OpenAI的總部位于舊金山一座不起眼的小樓先鋒大廈中
5. OpenAI, L.P.是一家根據(jù)特拉華州法律于2018年9月19日成立的有限合伙公司,原名為SummerSafe, L.P.。OpenAI, L.P.在加州州務(wù)卿處注冊為外國有限合伙公司,主要營業(yè)地點(diǎn)為加州舊金山第18街3180號,郵編94110。
6. OpenAI, L.L.C.是一家于2020年9月17日在特拉華州成立的有限責(zé)任公司。OpenAI, L.L.C.的主要營業(yè)地位于加利福尼亞州。
7. OpenAI GP, L.L.C.是一家于2018年9月19日在特拉華州成立的有限責(zé)任公司。OpenAI GP, L.L.C.是一家在加州州務(wù)卿處注冊的外國有限責(zé)任公司,其主要營業(yè)地為加州舊金山第18街3180號,郵編94110。
8. OpenAI OpCo, LLC是一家于2018年9月19日在特拉華州成立的有限責(zé)任公司。OpenAI OpCo, LLC在加州州務(wù)卿處注冊為州外有限責(zé)任公司,其主要營業(yè)地址為加州舊金山拜恩街1960號,郵編94110。
9. OpenAI Global, LLC 是一家于2022年12月28日在特拉華州成立的有限責(zé)任公司。OpenAI Global, LLC在加州州務(wù)卿處注冊為州外有限責(zé)任公司,主要營業(yè)地址為加州舊金山拜恩街1960號,郵編94110。
10. OAI Corporation, LLC是一家在特拉華州成立的有限責(zé)任公司。OAI Corporation, LLC的主要營業(yè)地點(diǎn)在加利福尼亞州。
11. OpenAI Holdings, LLC是一家于2023年3月17日在特拉華州成立的有限責(zé)任公司。OpenAI Holdings, LLC在加州州務(wù)卿處注冊為一家州外有限責(zé)任公司,其主要營業(yè)地點(diǎn)位于加州舊金山拜恩街1960號,郵編94110。
12. 在下文中,“OpenAI公司”僅指非營利實(shí)體或非營利機(jī)構(gòu),而“OpenAI”則泛指OpenAI, Inc.、OpenAI, L.P.、OpenAI, L.L.C.、OpenAI GP, L.L.C.、OpenAI OpCo, LLC、OpenAI Global, LLC、OAI Corporation, LLC和/或OpenAI Holdings, LLC。
13. 原告目前不知道無名氏1到無名氏100的姓名和身份。
管轄權(quán)和審判地
14. 據(jù)所知所信,原告聲稱,本訴訟所依據(jù)的許多事情、陳述和事件都發(fā)生在加利福尼亞州的舊金山郡,絕大多數(shù)被告都居住在該郡或在該郡設(shè)有主要營業(yè)場所,本訴訟所依據(jù)的絕大多數(shù)事情、陳述和事件都發(fā)生在加利福尼亞州。
一般性指控
案件概述
A. 通用人工智能(AGI)的風(fēng)險
15. 20世紀(jì)以來,美國逐漸從以人類勞動為主的經(jīng)濟(jì)轉(zhuǎn)向以人類知識為主的經(jīng)濟(jì),經(jīng)濟(jì)價值越來越多地主要由人類的智慧創(chuàng)造。
進(jìn)入本世紀(jì)后,另一種模式的轉(zhuǎn)變已經(jīng)開始:通過人工智能(AI)創(chuàng)造價值。早期的人工智能程序能夠在某些單體的任務(wù)中勝過人類。幾乎緊接著可編程計算機(jī)的發(fā)明,人工智能就在一些高度形式化(formalized)的問題上表現(xiàn)出超人的性能,比如在道路網(wǎng)絡(luò)中尋找最快路徑。
在需要更多創(chuàng)造力的問題上,人工智能花費(fèi)了更長的時間才取得了優(yōu)勢。1996年,IBM的“深藍(lán)”人工智能程序擊敗了當(dāng)時的國際象棋世界冠軍加里卡斯帕羅夫(Gary Kasparov)。這些程序雖然有用,但基本上都是一招鮮它們的智能并不通用。深藍(lán)擁有大量只能下國際象棋的處理器陣列。尋找路徑的算法可以解決迷宮問題,也可以確定汽車的行駛路線,但它們無法繪制圖畫。
IBM深藍(lán)機(jī)組和國際象棋世界冠軍卡斯帕羅夫
16. 從2000年代末和2010年代初開始,一種被稱為“深度學(xué)習(xí)”的舊有算法首次可以在低成本硬件上實(shí)現(xiàn)。一夜之間,這幾乎引發(fā)了所有人工智能項(xiàng)目的性能革命。新的、頂級的算法被開發(fā)出來,用于將語音轉(zhuǎn)化為文本、進(jìn)行語言間的翻譯以及識別照片中顯示的食物種類。
深度學(xué)習(xí)的特點(diǎn)之一是,在設(shè)計算法時不需要了解手頭任務(wù)的大量知識。它們從訓(xùn)練實(shí)例中學(xué)習(xí)每項(xiàng)任務(wù),本質(zhì)上是對自己進(jìn)行編程。這意味著它們比深藍(lán)等早期系統(tǒng)更具通用性。
17. 隨著深度學(xué)習(xí)算法變得越來越智能,一些全球頂尖的人工智能研究人員將目光投向了后來被稱為通用人工智能(AGI)的領(lǐng)域。AGI的基本概念是一種通用的人工智能系統(tǒng)一臺像人類一樣能夠執(zhí)行各種任務(wù)的機(jī)器。
18. 馬斯克早就認(rèn)識到,AGI將對人類構(gòu)成嚴(yán)重威脅也許是我們今天面臨最大的生存威脅。他的擔(dān)憂與斯蒂芬霍金(Stephen Hawking)和太陽計算機(jī)公司(Sun)創(chuàng)始人比爾喬伊(Bill Joy)等名人在他之前提出的擔(dān)憂如出一轍。
我們的整個經(jīng)濟(jì)都是建立在人類共同努力、為一項(xiàng)艱巨的任務(wù)提出最佳解決方案的基礎(chǔ)之上的。如果一臺機(jī)器能比我們更好地解決幾乎所有任務(wù),那么這臺機(jī)器在經(jīng)濟(jì)上就會比我們更有用。正如喬伊警告的那樣,有了強(qiáng)大的人工智能,“未來就不需要我們了”。
馬斯克公開呼吁采取各種措施來應(yīng)對AGI的危險,從自愿暫停到進(jìn)行監(jiān)管,但很大程度上人們對此置若罔聞。
19. 不過,雖然在馬斯克等人看來,AGI是對生存的威脅,其他人則認(rèn)為AGI是利潤和權(quán)力的來源。
20. 2014年,谷歌收購了一家專注于深度學(xué)習(xí)的研究機(jī)構(gòu)DeepMind。DeepMind最初的研發(fā)成果之一是下棋算法AlphaZero。
但與以往算法不同的是,AlphaZero采用了“強(qiáng)化學(xué)習(xí)”,即程序通過與不同版本的軟件進(jìn)行對弈來學(xué)習(xí)下棋。一開始,它只是隨機(jī)的下棋,并不了解棋局的策略。當(dāng)一個版本的軟件在與另一個版本的軟件對弈中獲勝時,獲勝程序的內(nèi)部路徑就會得到“強(qiáng)化”,而這一過程重復(fù)進(jìn)行。
21. AlphaZero迅速成為世界上最強(qiáng)的國際象棋系統(tǒng)。令人震驚的是,同一程序還被宣布為世界上另外兩種難度極高的游戲的最強(qiáng)玩家。
用谷歌/DeepMind的話說:“從隨機(jī)下棋開始,在除了游戲規(guī)則之外沒有任何領(lǐng)域知識的情況下,AlphaZero在24小時內(nèi)就在國際象棋、將棋(一種日本棋類)和圍棋中達(dá)到了超人的水平,并在每種情況下都令人信服地?fù)魯×艘粋世界冠軍程序”。
2016年3月,DeepMind開發(fā)的圍棋AI AlphaGo在韓國首爾以4:1戰(zhàn)勝職業(yè)九段棋手李世石。賽后韓國棋院授予AlphaGo為榮譽(yù)九段
22. 有了DeepMind團(tuán)隊,谷歌立即在AGI的競爭中一馬當(dāng)先。馬斯克對這一發(fā)展深感不安。他當(dāng)時認(rèn)為(現(xiàn)在依然如此),AGI落到谷歌這樣一家封閉的營利性公司手中,會給人類帶來特別嚴(yán)重的毒害。
2014年,要在核心業(yè)務(wù)上與谷歌競爭已經(jīng)足夠困難。谷歌已經(jīng)從我們的搜索、電子郵件以及圖書館中的幾乎每本書中收集了獨(dú)一無二的大量數(shù)據(jù)。盡管如此,在當(dāng)時,各家公司仍然有可能通過卓越的人類智慧和辛勤的工作與谷歌競爭。而AGI將使競爭變得幾乎不可能。
B. OpenAI公司的創(chuàng)辦協(xié)議
23. 阿爾特曼聲稱與馬斯克一樣,對AGI構(gòu)成的威脅感到擔(dān)憂。2015年,阿爾特曼寫道:“超人機(jī)器智能(SMI)的發(fā)展可能是人類繼續(xù)生存的最大威脅。還有其他一些我認(rèn)為更有可能發(fā)生的威脅... 但不太可能像SMI那樣毀滅宇宙中的每一個人類”。
同年晚些時候,阿爾特曼向馬斯克提出了一個建議:他們聯(lián)手成立一個非營利性人工智能實(shí)驗(yàn)室,努力嘗試在人工智能競賽中趕上谷歌,但它將與谷歌分庭抗禮。
24. 與布洛克曼一起,三人共同商定,這個新實(shí)驗(yàn)室:(a) 將是一個為人類利益開發(fā)AGI的非營利性機(jī)構(gòu),而不是一個追求股東利潤最大化的營利性公司;(b) 將是開源的,只考慮安全因素,而不會出于專有商業(yè)原因?qū)ζ浼夹g(shù)進(jìn)行封閉和保密(“創(chuàng)辦協(xié)議”)。
為體現(xiàn)創(chuàng)辦協(xié)議,馬斯克將這個新的人工智能實(shí)驗(yàn)室命名為“OpenAI”,這個實(shí)驗(yàn)室將在人工智能競賽中與谷歌/DeepMind競爭,并作為其重要的制衡力量。但這樣做是為了造福人類,而不是造福一家私營的營利性公司(更不是世界上最大的科技公司之一)的股東。
25. 除了其他的留存,OpenAI公司2015年12月8日的《公司注冊證書》中也有“創(chuàng)辦協(xié)議”(注:附錄一),其中申明“由此產(chǎn)生的技術(shù)將造福于公眾,公司將尋求在適當(dāng)時候?yàn)楣娎娑_源技術(shù)。本公司不是為任何人的私人利益而組建的”!豆咀宰C書》還確認(rèn),公司的所有財產(chǎn)都“不可撤銷地”用于以上商定的目的。
26. 根據(jù)阿爾特曼、布羅克曼和OpenAI公司與馬斯克多次重申的“創(chuàng)辦協(xié)議”,馬斯克是創(chuàng)立OpenAI公司的幕后推手,他在最初的幾年中提供了大部分資金,為研究方向提供建議,最重要的是,他招募了一些世界頂尖的科學(xué)家和工程師為這家非營利企業(yè)工作,其中包括首席科學(xué)家伊利亞蘇茨克維(Ilya Sutskever)。
面對谷歌/DeepMind不遺余力的招募,再加上谷歌/DeepMind提供的豐厚報酬,為OpenAI公司招募人才是一項(xiàng)艱巨的任務(wù)。沒有馬斯克的創(chuàng)始貢獻(xiàn)和早期領(lǐng)導(dǎo),就不會有OpenAI公司。從OpenAI公司成立到2020年9月14日,馬斯克一直在為OpenAI公司做出貢獻(xiàn)。
伊
利亞的X和領(lǐng)英頭像
27. OpenAI最初的研究是公開進(jìn)行的,公司提供免費(fèi)和公開的設(shè)計、模型和代碼。當(dāng)OpenAI公司的研究人員發(fā)現(xiàn),一種最初由谷歌發(fā)明的名為“transformer”的算法可以在沒有任何顯式訓(xùn)練的情況下完成許多自然語言任務(wù)時,整個社區(qū)如雨后春筍般發(fā)展,以增強(qiáng)和擴(kuò)展OpenAI公司發(fā)布的模型。這些社區(qū)擴(kuò)展到了開源的草根組織和商業(yè)實(shí)體。
28. 阿爾特曼于2019年成為OpenAI公司的首席執(zhí)行官。2020年9月22日,OpenAI與微軟達(dá)成協(xié)議,向微軟獨(dú)家授權(quán)其GPT-3語言模型。
不過,OpenAI發(fā)表了一篇詳細(xì)的論文,介紹了GPT-3的內(nèi)部結(jié)構(gòu)和訓(xùn)練數(shù)據(jù),使社區(qū)能夠自己創(chuàng)建類似的模型。最關(guān)鍵的是,微軟的許可只適用于OpenAI的預(yù)備AGI(pre-AGI)技術(shù)。微軟沒有獲得AGI的任何權(quán)利。至于OpenAI何時達(dá)到AGI,則由OpenAI公司的非營利性董事會決定,而非微軟。
C. 2023年違反創(chuàng)辦協(xié)議
29. 2023年,被告阿爾特曼、布羅克曼和OpenAI將創(chuàng)辦協(xié)議付之一炬。
30. 2023年3月,OpenAI發(fā)布了迄今為止最強(qiáng)大的語言模型GPT-4。GPT-4不僅能夠進(jìn)行推理,它比普通人更擅長推理。它在統(tǒng)一律師資格考試中的得分排在90分位。在GRE語文評估中,它的得分達(dá)到了99分位。它甚至在高級侍酒師考試中獲得了77%的高分。
此時,阿爾特曼讓OpenAI徹底背離了其最初的使命和向公眾提供技術(shù)和知識的歷史慣例。GPT-4的內(nèi)部設(shè)計除了對OpenAI以及微軟(據(jù)所知所信)之外,一直都是完全保密的。沒有任何科學(xué)出版物介紹GPT-4的設(shè)計。相反,只有吹噓性能的新聞稿件。
據(jù)所知所信,這種保密主要是出于商業(yè)考慮,而非安全性。盡管GPT-4是OpenAI利用原告和其他人的貢獻(xiàn)開發(fā)出來的,旨在造福公眾,但它現(xiàn)在已成為微軟事實(shí)上的專有算法,微軟已將其集成到Office軟件套件中。
3月16日,微軟重磅發(fā)布集成了GPT-4的AI辦公助手Microsoft 365 Copilot,并接入了微軟全家桶產(chǎn)品中。以ppt應(yīng)用為例,用戶可以輸入主題、場合、風(fēng)格等關(guān)鍵詞,Copilot可直接生成完整ppt
31. 此外,據(jù)所知所信,GPT-4是一種AGI算法,因此明確不屬于微軟與OpenAI于2020年9月簽訂的排他性許可的范圍。在這方面,微軟自己的研究人員曾公開表示,“鑒于GPT-4功能的廣度和深度,我們認(rèn)為有理由將其視為通用人工智能(AGI)系統(tǒng)的一個早期
(但仍不完整)的
版本”。
此外,據(jù)所知所信,OpenAI目前正在開發(fā)一種被稱為Q*(Q星)的模型,有更強(qiáng)的理由相信它是AGI。如前所述,微軟只對OpenAI的某些預(yù)備AGI技術(shù)擁有權(quán)利。但就微軟的許可而言,OpenAI是否達(dá)到了AGI,由OpenAI公司的董事會決定。
2023年11月,董事會發(fā)生了政變。2023年11月17日,OpenAI公司董事會解雇了阿爾特曼,因?yàn)?ldquo;他沒有始終如一地對董事會坦誠相待”,董事會“對他繼續(xù)領(lǐng)導(dǎo)OpenAI的能力失去了信心”。
在接下來幾天一系列令人震驚的事態(tài)發(fā)展中,阿爾特曼和布羅克曼與微軟聯(lián)手,利用微軟對OpenAI公司的巨大影響力,迫使OpenAI公司董事會大多數(shù)成員辭職,其中包括首席科學(xué)家伊利亞蘇茨克維。阿爾特曼于11月21日重新?lián)蜲penAI公司首席執(zhí)行官。
據(jù)所知所信,新董事會成員由阿爾特曼親自挑選,并得到了微軟的支持。新的董事會成員缺乏充足的人工智能專業(yè)知識,據(jù)所知所信,他們沒有能力獨(dú)立判斷OpenAI是否以及何時達(dá)到了AGI,也就無法獨(dú)立判斷OpenAI開發(fā)的算法是否超出了微軟的許可范圍。
32. 2023年發(fā)生的這些事件構(gòu)成了對創(chuàng)辦協(xié)議的公然違反,被告實(shí)質(zhì)上已經(jīng)顛覆了創(chuàng)辦協(xié)議。時至今日,OpenAI公司的網(wǎng)站仍然宣稱其宗旨是確保AGI“造福全人類”。但實(shí)際上,OpenAI公司已經(jīng)變成了世界上最大的科技公司微軟事實(shí)上的一個閉源子公司。
在新董事會的領(lǐng)導(dǎo)下,該公司不僅僅是在開發(fā),事實(shí)上是在完善一個通用人工智能,以實(shí)現(xiàn)微軟的利潤最大化,而不是造福人類。它的技術(shù),包括GPT-4都是閉源的,主要是為了服務(wù)微軟的專有商業(yè)利益。
事實(shí)上,在2023年11月的大戲上演時,微軟首席執(zhí)行官曾夸口說,“即使OpenAI明天就消失了”,也沒關(guān)系。他解釋說,“我們擁有所有的知識產(chǎn)權(quán)和能力”。“我們擁有人才,我們擁有算力,我們擁有數(shù)據(jù),我們擁有一切”。“我們在他們之下,在他們之上,在他們周圍”。
33. 提起本案,是為了迫使OpenAI遵守創(chuàng)辦協(xié)議,回到其為人類利益開發(fā)AGI的使命上來,而不是為被告?zhèn)人和世界上最大的技術(shù)公司謀取私利。
詳細(xì)指控
A. 馬斯克對AGI落入壞人之手的擔(dān)憂
34. 2012年,埃隆馬斯克遇到了DeepMind一家營利性人工智能公司的聯(lián)合創(chuàng)始人德米斯哈薩比斯(Demis Hassabis)。大約在這個時候,馬斯克和哈薩比斯在加利福尼亞霍桑的SpaceX工廠會面,他們共同在那里討論了社會面臨的最大威脅。在這次談話中,哈薩比斯強(qiáng)調(diào)了人工智能的發(fā)展給社會帶來的潛在危險。
2012世界德?lián)湎盗匈悮W洲站,德米斯獲得第七名。圖為德米斯在小盲位
35. 在與哈薩比斯的這次談話之后,馬斯克對人工智能成為超級智能、超越人類的智能并威脅人類的潛在可能越來越擔(dān)憂。事實(shí)上,擔(dān)心人工智能的危險和DeepMind正在進(jìn)行的研究的人不止馬斯克一個。據(jù)報道,在與哈薩比斯和DeepMind的投資者會面后,其中一位投資者說,他能為人類所做的最好的事情,就是當(dāng)時就地槍斃哈薩比斯。
2012年2月,為慶祝阿蘭圖靈誕辰一百周年,包括德米斯哈薩比斯四位科學(xué)家和企業(yè)家在《自然》雜志上發(fā)表了一篇題為“大腦是否為機(jī)器智能的一個良好模型”的文章,對神經(jīng)科學(xué)和計算機(jī)之間的鴻溝進(jìn)行了評估
36. 馬斯克開始和他朋友圈里的人討論人工智能和DeepMind,比如時任谷歌母公司Alphabet首席執(zhí)行官的拉里佩奇(Larry Page)。在與佩奇的談話中,馬斯克經(jīng)常提到人工智能的危險性,但令馬斯克震驚的是,佩奇對此并不在意。
例如,2013 年,馬斯克與佩奇就人工智能的危險進(jìn)行了一次熱烈的交流。他警告說,除非采取保障措施,否則“人工智能系統(tǒng)可能會取代人類,使我們這個物種變得無關(guān)緊要,甚至滅絕”。佩奇回應(yīng)說,這只不過是“進(jìn)化的下一個階段”,并聲稱馬斯克是一個“物種主義者”他更偏向于人類而不是智能機(jī)器。馬斯克回答說:“嗯,是的,我支持人類”。
2013年,時任谷歌CEO的拉里佩奇
37. 2013年底,馬斯克得知谷歌正計劃收購DeepMind,這讓他憂心如焚。當(dāng)時,DeepMind是業(yè)內(nèi)最先進(jìn)的人工智能公司之一。讓馬斯克深感擔(dān)憂的是,DeepMind的人工智能技術(shù)將會落入一個如此輕率地看待它和它威力的人手中,并可能將其設(shè)計和能力隱藏起來。
38. 為了防止這項(xiàng)強(qiáng)大的技術(shù)落入谷歌之手,馬斯克和PayPal的聯(lián)合創(chuàng)始人盧克諾塞克(Luke Nosek)試圖籌集資金收購DeepMind。在一次長達(dá)一小時的通話中,馬斯克和諾塞克做了最后一次努力,說服哈薩比斯不要將DeepMind賣給谷歌。馬斯克告訴哈薩比斯,“人工智能的未來不應(yīng)由拉里佩奇控制”。
2007年《財富》雜志拍攝的“Paypal黑手黨”合影。5為盧克諾塞克,Paypal的聯(lián)合創(chuàng)始人,并負(fù)責(zé)營銷。拍攝當(dāng)天馬斯克因日程沖突,未能入鏡
39. 馬斯克和諾塞克的努力沒有成功。2014年1月有報道稱,DeepMind將被谷歌收購。然而,這并沒有阻止馬斯克繼續(xù)確保人工智能可以安全地被開發(fā)和實(shí)踐。
40. 在谷歌收購DeepMind之后,馬斯克開始“舉辦自己的系列晚宴,討論如何對抗谷歌和促進(jìn)人工智能安全”。馬斯克還主動聯(lián)系美國總統(tǒng)奧巴馬,討論人工智能和人工智能安全問題。
2015年,馬斯克和奧巴馬總統(tǒng)進(jìn)行了一次會面,期間馬斯克解釋了人工智能的危險,并主張進(jìn)行監(jiān)管。馬斯克感覺奧巴馬總統(tǒng)理解人工智能的危險,但監(jiān)管從未出臺。
2015年,奧巴馬在白宮會見馬斯克。奧巴馬手里展示的,是一份印有孩提時期馬斯克頭像的《彭博商業(yè)周刊》
41. 盡管遭遇這些挫折,馬斯克仍繼續(xù)倡導(dǎo)安全的人工智能實(shí)踐。2015年,馬斯克似乎找到了一個能理解他對人工智能的擔(dān)憂,以及避免首個AGI落在谷歌這樣的私營公司手中的期望的人:被告薩姆阿爾特曼。
42. 此時,阿爾特曼是硅谷創(chuàng)業(yè)加速器Y Combinator的總裁。在此之前,阿爾特曼曾參與過多家初創(chuàng)企業(yè)。
43. 阿爾特曼似乎與馬斯克一樣對人工智能感到擔(dān)憂。在2014年的一篇公開博文中,阿爾特曼表示,如果人工智能問世,將“成為有史以來最大的技術(shù)發(fā)展”。阿爾特曼指出,有許多公司正在朝著實(shí)現(xiàn)AGI的方向大步邁進(jìn),但他也承認(rèn)一個不幸的現(xiàn)實(shí),即“優(yōu)秀的公司對此非常保密”。
44. 2015年2月25日,阿爾特曼還表達(dá)了他對所謂“超人機(jī)器智能”發(fā)展的擔(dān)憂,他認(rèn)為這種智能“可能是對人類繼續(xù)生存的最大威脅”,并強(qiáng)調(diào)“作為一名矢志于生存和繁衍的人類,我覺得我們應(yīng)該與之抗?fàn)?rdquo;。
此外,阿爾特曼還批評了那些認(rèn)為“超人機(jī)器智能”危險,但卻認(rèn)為“永遠(yuǎn)不會發(fā)生或肯定非常遙遠(yuǎn)”的人。他指責(zé)這些人進(jìn)行的是“草率、危險的思考”。
45. 事實(shí)上,在2015年3月初,阿爾特曼就贊揚(yáng)了政府監(jiān)管作為確保人工智能被安全創(chuàng)造出來的手段的重要性,并表示“一群擁有大量資源的非常聰明的人”以及很可能“以某種方式”涉及的美國公司,將是最有可能首先實(shí)現(xiàn)“超人機(jī)器智能”的群體。
46. 當(dāng)月晚些時候,阿爾特曼聯(lián)系了馬斯克,詢問他是否有興趣就人工智能問題起草一封致美國政府的公開信。兩人開始準(zhǔn)備這封信,并與技術(shù)和人工智能領(lǐng)域有影響力的人士接觸,希望他們能簽名。沒過多久,整個行業(yè)的人都聽到了關(guān)于這封信的傳言。
47. 例如,2015年4月,哈薩比斯聯(lián)系馬斯克,稱他從多個渠道獲悉,馬斯克正在起草一封致總統(tǒng)的信,呼吁對人工智能進(jìn)行監(jiān)管。
馬斯克向哈薩比斯解釋了監(jiān)管人工智能的想法,他說“如果以良好的方式完成,從長遠(yuǎn)來看,這很可能會加速人工智能的發(fā)展。如果沒有監(jiān)管為大眾提供安慰,很可能會出現(xiàn)這樣的情況:人工智能造成巨大傷害,在此之后,人工智能研究因危害公共安全而被禁止。”
48. 在哈薩比斯就有關(guān)人工智能公開信聯(lián)系馬斯克的五天后,哈薩比斯宣布谷歌-DeepMind人工智能道德委員會召開第一次會議,該委員會是谷歌和DeepMind兩年前在谷歌收購DeepMind時承諾成立的。馬斯克應(yīng)邀成為委員會成員,并提議在加利福尼亞霍桑的SpaceX公司召開第一次會議。
第一次會議后,馬斯克清楚地認(rèn)識到,這個委員會并不是一個嚴(yán)肅的機(jī)構(gòu),而是一個試圖延緩人工智能監(jiān)管的幌子。
49. 《公開信》后來于2015年10月28日發(fā)表,有超過一萬一千人簽名,其中包括馬斯克、斯蒂芬霍金和史蒂夫沃茲尼亞克(Steve Wozniak)。
15年10月28日,由“聲明未來研究所”出面發(fā)表的《穩(wěn)健而有益的人工智能的研究重點(diǎn):一封公開信》,原文:https://futureoflife.org/open-letter/ai-open-letter/
B. OpenAI公司的創(chuàng)辦協(xié)議
50. 2015年5月25日,阿爾特曼給馬斯克發(fā)送電子郵件,稱他“一直在思考是否有可能阻止人類發(fā)展人工智能。我認(rèn)為答案幾乎肯定是否定的。如果真的要發(fā)展,似乎也應(yīng)該由谷歌以外的人先這么做”。
阿爾特曼有一個想法:Y Combinator啟動一個人工智能的“曼哈頓計劃”。(不幸的是,“曼哈頓計劃”這個稱謂可能過于貼切了)。他建議說:“我們可以通過某種非營利性組織,讓這項(xiàng)技術(shù)屬于全世界,但如果成功了,研究人員也可以獲得類似初創(chuàng)公司的報酬。顯然,我們會遵守/積極支持所有的法規(guī)”。
馬斯克回答說:“也許值得談?wù)劇?rdquo;
51. 經(jīng)過進(jìn)一步溝通,阿爾特曼于2015年6月24日給馬斯克發(fā)了一封電子郵件,提出了這個新的“人工智能實(shí)驗(yàn)室”的詳細(xì)建議。“使命將是創(chuàng)建第一個通用人工智能,并將其用于個人賦權(quán)即看起來最安全的分布式的未來版本。更籠統(tǒng)地說,安全應(yīng)該是第一等的要求。”“這項(xiàng)技術(shù)將歸基金會所有,并用于‘造福世界’”。
他建議從一個7到10人的小組開始,然后擴(kuò)大。他還提出了一個治理結(jié)構(gòu)。馬斯克回答說:“全部同意”。
15年6月24日阿爾特曼發(fā)給馬斯克的郵件(部分)及馬斯克的回復(fù),源:起訴信附錄二
52. 此后不久,阿爾特曼開始招募其他人幫助該項(xiàng)目的開發(fā)。值得注意的是,阿爾特曼找到了格雷格布羅克曼,希望他能為項(xiàng)目提供幫助。
53. 2015年11月,阿爾特曼通過電子郵件讓布羅克曼與馬斯克溝通。關(guān)于這個項(xiàng)目,布羅克曼告訴馬斯克:“我希望我們作為一個中立的團(tuán)體進(jìn)入這個領(lǐng)域,尋求廣泛合作,將對話轉(zhuǎn)向人類的勝利,而不是任何特定的團(tuán)體或公司(我認(rèn)為這是引導(dǎo)我們成為一家領(lǐng)先的研究機(jī)構(gòu)的最佳方式)”。
馬斯克對成立一個中立的人工智能研究小組的可能性持樂觀態(tài)度,他告訴布羅克曼,他將承諾提供資金。
54. 馬斯克為新實(shí)驗(yàn)室起了一個反映創(chuàng)辦協(xié)議的名字:“開放人工智能研究所”,簡稱“OpenAI”。
OpenAI入口處寫著阿克頓勛爵的名言:“權(quán)力的分散帶來自由,權(quán)力的集中造成專制”
55. 馬斯克牢記了創(chuàng)辦協(xié)議的這些原則,與阿爾特曼和布羅克曼聯(lián)手正式啟動了該項(xiàng)目。甚至在項(xiàng)目公開宣布之前,馬斯克就積極參與其中。例如,馬斯克就員工的薪酬方案向布羅克曼提供建議,與布羅克曼分享他的薪酬和留住人才的策略。
56. 2015年12月8日,OpenAI公司向特拉華州州務(wù)卿提交了一份《公司注冊證書》。該證書以書面形式記錄了創(chuàng)辦協(xié)議:
第三:本公司是一家非營利性公司,其組織宗旨完全符合1986年《國內(nèi)稅收法典》第501(c)(3) 條(經(jīng)修訂)或未來美國國內(nèi)稅收法典相應(yīng)條款的慈善和/或教育目的。公司的具體目的是為人工智能相關(guān)技術(shù)的研究、開發(fā)和傳播提供資金。由此產(chǎn)生的技術(shù)將造福于公眾,公司將尋求在適用的情況下為公眾利益開放技術(shù)源代碼。本公司并非為任何人的私人利益而組建...
第五條:本公司的財產(chǎn)不可撤銷地專用于本章程第三條所述目的,本公司的凈收入或資產(chǎn)的任何部分均不得歸屬于本公司的任何董事、高級職員或成員,也不得歸屬于任何個人。本公司解散或清算時,其資產(chǎn)在償付或準(zhǔn)備償付本公司所有債務(wù)和負(fù)債后,應(yīng)分配給專門為慈善、教育和/或宗教目的而組織和運(yùn)作的非營利基金、基金會或公司,并根據(jù)《國內(nèi)稅收法典》第501(c)(3)條或任何未來聯(lián)邦稅法的相應(yīng)條款確立其免稅地位,或分配給聯(lián)邦政府、州政府或地方政府,用于公共目的。
57. OpenAI 公司于2015年12月11日公開宣告成立。在公告中,馬斯克和阿爾特曼被任命為聯(lián)合主席,布羅克曼被任命為首席技術(shù)官。公告強(qiáng)調(diào),OpenAI旨在“造福人類”,其研究將“不承擔(dān)經(jīng)濟(jì)責(zé)任”:
OpenAI是一家非營利性人工智能研究公司。我們的目標(biāo)是以最有可能造福全人類的方式推進(jìn)數(shù)字智能的發(fā)展,而不受制于產(chǎn)生經(jīng)濟(jì)回報的需要。由于我們的研究不需要承擔(dān)經(jīng)濟(jì)責(zé)任,我們可以更好地關(guān)注對人類的積極影響。
https://openai.com/blog/introducing-openai
C. 馬斯克在OpenAI公司起步階段的關(guān)鍵作用
58. 在發(fā)布公告當(dāng)天的一封電子郵件中,馬斯克寫道:“我們最重要的考慮是招聘最優(yōu)秀的人才”。他承諾,幫助招聘工作將是他“全天候的最高優(yōu)先級”。他承認(rèn),“你們所熟知的那些組織,兵強(qiáng)馬壯遠(yuǎn)甚于我們,但我們有正確的立場,而這極為重要。我喜歡這樣的勝算”。
馬斯克利用自己的人脈、地位和影響力做出了努力。OpenAI公司是埃隆馬斯克資助的項(xiàng)目,馬斯克擔(dān)任聯(lián)合主席,這兩點(diǎn)對于OpenAI公司的招募工作非常重要,尤其是在面對谷歌/DeepMind的招募競爭時。如果沒有馬斯克的參與以及他大量的支持努力和資源他對創(chuàng)辦協(xié)議的考慮OpenAI公司很可能永遠(yuǎn)不會起步。
59. 最重要的初始招聘之一是首席科學(xué)家一職。阿爾特曼、布羅克曼和馬斯克都希望當(dāng)時在谷歌擔(dān)任研究科學(xué)家的伊利亞蘇茨克維擔(dān)任這一職務(wù)。蘇茨克維博士在是否離開谷歌并加入項(xiàng)目的問題上反反復(fù)復(fù),但最終,還是在公開宣告OpenAI公司的當(dāng)天,由馬斯克給蘇茨克維博士打了一通電話,說服他加入項(xiàng)目,擔(dān)任OpenAI公司的首席科學(xué)家。
2016年12月,在西班牙巴塞羅那舉行的機(jī)器學(xué)習(xí)頂級會議NIPS 2016上,伊利亞身穿OpenAI的T恤,作了題為“宇宙中的元學(xué)習(xí)”(Meta Learning in the Universe)的報告
60. 在接下來的幾個月里,馬斯克積極為OpenAI公司招兵買馬。谷歌/DeepMind針對OpenAI公司提出了越來越大方的招聘邀約,試圖扼殺這家新興企業(yè)。
二月底,馬斯克給布洛克曼和阿爾特曼發(fā)郵件,重申“我們需要不惜一切代價獲得頂尖人才。讓我們提高待遇水準(zhǔn)。如果在某些時候,我們需要重新考慮現(xiàn)有員工的薪酬,那也沒問題。我們要么獲得世界上最好的人才,要么就被Deepmind打敗。只要能引進(jìn)王牌人才,什么代價我都愿意。Deepmind給我?guī)砹藰O大的精神壓力。如果他們勝出,以他們一心統(tǒng)治世界的理念,這將是個壞消息。受惠于他們的人才水平,他們顯然正在取得重大進(jìn)展,而且他們也應(yīng)該取得重大進(jìn)展”。
2016年9月,阿爾特曼在特斯拉加州工廠采訪馬斯克。馬斯克說:“這顯然就是整個團(tuán)隊創(chuàng)建OpenAI的原因,那就是,幫助傳播人工智能技術(shù),這樣,它就不會集中在少數(shù)人的手中”
61. 馬斯克不僅僅是在利用自己的關(guān)系和影響力代表OpenAI公司進(jìn)行招聘。當(dāng)他告訴布洛克曼和阿爾特曼要“提高”待遇,“不惜一切代價得到頂尖人才”時,他就是為這些更高的待遇提供資金的人。
僅在2016年,馬斯克就向OpenAI公司捐贈了超過1500萬美元,超過了其他任何捐贈者。他提供的資金使OpenAI公司得以組建一支由頂尖人才組成的團(tuán)隊。同樣,2017年,馬斯克向OpenAI公司捐贈了近2000萬美元,同樣超過了其他任何捐贈者。從2016年到2020年9月,馬斯克總共向OpenAI公司捐助了超過4400萬美元。
62. 此外,馬斯克還通過馬斯克工業(yè)有限責(zé)任公司(Musk Industries LLC)租賃了OpenAI公司位于舊金山先鋒大廈的初始辦公場所,并支付了月租金。馬斯克定期造訪OpenAI公司,并出席公司的重要里程碑活動,例如2016年向OpenAI公司捐贈第一臺DGX-1人工智能超級計算機(jī)。馬斯克會收到OpenAI公司的最新進(jìn)展,并提供反饋和建議。
2016年8月,Nvidia首席執(zhí)行官黃仁勛(上圖左一)向OpenAI捐贈第一臺DGX-1人工智能超級計算機(jī)。左三為馬斯克,左四伊利亞
D. 阿爾特曼和布羅克曼反復(fù)確認(rèn)創(chuàng)辦協(xié)議
63. 2017年,布羅克曼和其他人建議將OpenAI公司從非營利性公司轉(zhuǎn)變?yōu)闋I利性公司。
在經(jīng)過數(shù)周的一系列溝通后,馬斯克告訴布羅克曼、蘇茨克維博士和阿爾特曼:“要么你們自己做點(diǎn)什么,要么繼續(xù)將OpenAI作為一家非營利性公司。我不會再資助OpenAI,除非你們堅定地承諾留下來,否則我就是個實(shí)質(zhì)上是在為一家初創(chuàng)公司提供免費(fèi)資金的傻子。討論結(jié)束。”
64. 作為回應(yīng),阿爾特曼告訴馬斯克:“我仍然對非營利結(jié)構(gòu)充滿熱情!”最終,布羅克曼和蘇茨克維向馬斯克表示,他們也決心繼續(xù)采用非營利結(jié)構(gòu),并表示他們將在接下來的一年里致力于籌款,以支持該非營利組織。
65. 2018年2月21日,馬斯克辭去了OpenAI公司聯(lián)合主席的職務(wù)。盡管如此,馬斯克仍基于并延展創(chuàng)辦協(xié)議,繼續(xù)向OpenAI公司捐款。例如,2018 年,馬斯克向OpenAI公司捐贈了約350萬美元。他還繼續(xù)從布羅克曼、蘇茨克維博士和阿爾特曼那里獲得有關(guān)OpenAI公司的最新信息。
66. 2018年4月,阿爾特曼向馬斯克發(fā)送了一份OpenAI章程草案,并征求他的反饋意見。章程草案將OpenAI的使命描述為確保AGI“造福全人類”。
它指出:“我們承諾利用我們在AGI部署方面獲得的任何影響力,確保其用于造福全人類,并避免使人工智能或AGI的使用損害人類或不適當(dāng)?shù)丶袡?quán)力。我們的首要信托責(zé)任是面對全人類的。我們預(yù)計,需要調(diào)集大量資源來完成我們的使命,但我們將始終恪盡職守,盡量減少可能損害廣泛利益的利益沖突...”。
67. 2019年3月11日,OpenAI公司宣布將成立一家營利性子公司:OpenAI, L.P.。準(zhǔn)投資者們被告知,在條款摘要的頂部有一個“重要警告”,即該營利實(shí)體“存在的目的是推進(jìn)OpenAI公司(非營利組織)的使命,即確保開發(fā)安全的通用人工智能并造福全人類。普通合伙人對這一使命的義務(wù)和《OpenAI公司章程》中提出的原則,優(yōu)先于任何創(chuàng)造利潤的義務(wù)”。
相應(yīng)的,投資者被明確告知,“以捐贈的精神看待對OpenAI LP的任何投資,將是明智的”。
https://openai.com/blog/openai-lp
68. 公告發(fā)布后,馬斯克聯(lián)系了阿爾特曼,要求他“明確表達(dá)我在OpenAI的營利部門中沒有經(jīng)濟(jì)利益”。然而,馬斯克在2019年捐贈了額外的348萬美元,繼續(xù)支持非營利組織OpenAI公司。
69. 2020年9月22日,OpenAI宣布將其某些預(yù)備AGI技術(shù)獨(dú)家授權(quán)給微軟。根據(jù)“創(chuàng)辦協(xié)議”,OpenAI的網(wǎng)站稱,AGI被描述為“一個在最具經(jīng)濟(jì)價值的工作上超越人類的高度自主系統(tǒng)”,它被排除在與微軟的知識產(chǎn)權(quán)許可和其他的商業(yè)條款之外,這些條款僅適用于預(yù)備AGI技術(shù)”。不過,OpenAI的董事會“決定我們何時達(dá)到AGI”。
https://openai.com/blog/openai-licenses-gpt-3-technology-to-microsoft
E. OpenAI轉(zhuǎn)變公司結(jié)構(gòu)
70. 在宣布成立OpenAI, L.P. 之后的幾年里,OpenAI的公司結(jié)構(gòu)變得越來越復(fù)雜。2020年9月17日,OpenAI, L.L.C.在特拉華州成立。OpenAI, L.L.C.的唯一成員是OpenAI OpCo, LLC。
71. OpenAI OpCo, LLC于2018年9月19日在特拉華州成立,其唯一成員為OpenAI Global, LLC。
72. OpenAI Global, LLC于2022年12月28日在特拉華州成立。據(jù)所知所信,OpenAI Global, LLC與OpenAI, L.P.一樣,也是一個利潤上限營利實(shí)體。OpenAI Global, LLC有兩名成員:微軟公司和OAI Corporation, LLC。
73. OAI Corporation, LLC是一家在特拉華州成立的有限責(zé)任公司。OAI Corporation, LLC的唯一成員是OpenAI Holdings, LLC。
74. OpenAI Holdings, LLC于2023年3月17日在特拉華州成立,擁有多個成員,包括OpenAI公司、Aestas有限責(zé)任公司和多位個人成員。
75. 據(jù)所知所信,OpenAI公司通過其普通合伙人OpenAI GP, L.L.C.管理OpenAI, L.P.和OpenAI Global, LLC,OpenAI GP, L.L.C.于2018年9月19日在特拉華州注冊為有限責(zé)任公司。OpenAI GP, L.L.C.由OpenAI公司(非營利組織)全資擁有,并由非營利組織的董事會控制。根據(jù)OpenAI的章程,董事會對股東沒有信托責(zé)任;相反,其唯一的信托責(zé)任是對人類。
76. 據(jù)所知所信,至少OpenAI, L.P.和OpenAI GP LLC的最初成立,是為了促進(jìn)和資助OpenAI公司在“創(chuàng)辦協(xié)議”中聲明的非營利使命。
OpenAI官方展示的公司結(jié)構(gòu)圖,包括和微軟的關(guān)系https://openai.com/our-structure
F. OpenAI技術(shù)的發(fā)展從AI到AGI
77. OpenAI最初的工作與DeepMind如出一轍。OpenAI使用強(qiáng)化學(xué)習(xí)來玩游戲。不過,OpenAI并沒有玩國際象棋,而是參加了Dota 2的比賽,這是一款移動棋子比國際象棋多得多的策略游戲。OpenAI團(tuán)隊迅速構(gòu)建了一個新的模型,擊敗了衛(wèi)冕世界冠軍團(tuán)隊,證明了“自我強(qiáng)化學(xué)習(xí)可以在高難度任務(wù)中取得超人的表現(xiàn)”。
2019年4月,在舊金山舉辦的Dota 2全球總決賽中,OpenAI派出的人工智能選手“OpenAI Five”以2:0擊敗了世界冠軍戰(zhàn)隊OG
78. 同時,在谷歌,一種名為Transformer的算法誕生了,它解決了深度學(xué)習(xí)在理解長文本序列時遇到的許多問題。該算法是“大語言模型”的一個范例,用于將文本從一種語言翻譯成另一種語言,其工作原理是在源語言中的單詞之間建立關(guān)聯(lián),并將這些關(guān)聯(lián)映射到目標(biāo)語言中。
79. OpenAI的研究人員繼續(xù)這項(xiàng)研究,并很快取得了另一項(xiàng)驚人的成果:通過使用谷歌Transformer架構(gòu)的前半部分,深度神經(jīng)網(wǎng)絡(luò)可以在大量文本語料庫上進(jìn)行預(yù)訓(xùn)練,并用于生成新的文本。2018年1月,OpenAI發(fā)布了這個生成式預(yù)訓(xùn)練transformer(GPT)的源代碼和訓(xùn)練好的模型,同時還發(fā)布了一篇詳細(xì)描述該模型及其功能的論文。
80. 2019年,OpenAI發(fā)布了第二代模型GPT-2。同樣的,這次發(fā)布伴隨著一篇詳細(xì)描述該模型的論文。發(fā)布指出,與以往需要在特定任務(wù)中訓(xùn)練的模型不同,“當(dāng)一個大語言模型在一個足夠大且足夠多樣化的數(shù)據(jù)集上訓(xùn)練時,它能夠在許多領(lǐng)域和數(shù)據(jù)集上表現(xiàn)出色”。
事實(shí)證明,這些模型與以往的人工智能系統(tǒng)截然不同。無需訓(xùn)練系統(tǒng)執(zhí)行特定任務(wù),只需“要求”它們用自然的語言執(zhí)行新任務(wù)即可。
81. 根據(jù)“創(chuàng)辦協(xié)議”的規(guī)定,OpenAI公開發(fā)布了GPT-2的完整版本。值得注意的是,盡管“人類認(rèn)為GPT-2的輸出令人信服”、“GPT-2可以被微調(diào)后錯誤使用”以及“檢測GPT生成的文本具有挑戰(zhàn)性”,但OpenAI還是這樣做了。當(dāng)時,OpenAI表示將發(fā)布完整的開放版本,希望“對未來強(qiáng)大模型的開發(fā)者有所幫助”。
在發(fā)布該版本的同時,OpenAI還發(fā)布了一篇由OpenAI科學(xué)家以及獨(dú)立的社會和技術(shù)科學(xué)家共同撰寫的詳細(xì)論文。這篇論文解釋了公開發(fā)布模型而非封閉模型所帶來的諸多益處。
82. 事實(shí)證明,這些模型的發(fā)布對未來強(qiáng)大模型的開發(fā)者非常有用。整個社區(qū)如雨后春筍般發(fā)展,以增強(qiáng)和擴(kuò)展OpenAI發(fā)布的模型。這些社區(qū)既有開源的草根組織,也有商業(yè)實(shí)體。
83. 2020年,OpenAI公布了其模型的第三個版本GPT-3。它使用了“1750億個參數(shù),是之前任何非稀疏語言模型的10倍”。同樣的,OpenAI宣布了這一模型的開發(fā)情況,并發(fā)表了一篇研究論文,描述了其完整的實(shí)現(xiàn)過程,供其他人借鑒。
https://github.com/openai/gpt-3
84. 2022年,谷歌公司的研究人員利用這些成果證明,一個名為“思維鏈提示”的小變化就能讓“大語言模型執(zhí)行復(fù)雜的推理”。東京大學(xué)和谷歌的研究人員迅速擴(kuò)展了谷歌的成果,并表明OpenAI的GPT-3可以像人類一樣,“只需在每次回答前加上‘讓我們一步步思考’”,就能以循序漸進(jìn)的方式推理一個全新的問題。
85. 通往通用人工智能的道路清晰可見。而通往它的時間線正在急劇壓縮。
86. 2023年3月14日,OpenAI發(fā)布了新一代模型GPT-4。這一代模型不僅能夠推理,而且推理能力比普通人更強(qiáng)。在統(tǒng)一律師資格考試中,GPT-4的得分排在90分位。它在GRE語文評估中的得分達(dá)到了99分位。它甚至在高級侍酒師考試中獲得了77%的高分。
根據(jù)OpenAI自己的客觀衡量標(biāo)準(zhǔn),GPT-4已經(jīng)能夠在各種具有經(jīng)濟(jì)價值的任務(wù)中表現(xiàn)出優(yōu)于人類的智能。
https://openai.com/gpt-4
87. 研究界并沒有忽視這一發(fā)展。在一份題為“通用人工智能的火花”的詳細(xì)分析報告中,微軟的研究人員指出“GPT-4可以解決新穎而困難的任務(wù),這些任務(wù)橫跨數(shù)學(xué)、編程、視覺、醫(yī)學(xué)、法律、心理學(xué)等等,它不需要任何特殊的提示。此外,在所有這些任務(wù)中,GPT-4的表現(xiàn)都非常接近人類水平,而且往往大幅超越之前的模型,如基于GPT-3.5的ChatGPT”。
88. 他們將GPT-4的性能與基于GPT-3的系統(tǒng)的性能進(jìn)行了比較,發(fā)現(xiàn)“沒有什么能與GPT-4的輸出相提并論”。在數(shù)學(xué)問題上,他們表明“GPT-4給出的解決方案是正確的,論證也是合理的,而ChatGPT(基于GPT-3)產(chǎn)生了不正確的解決方案,(就人類而言)這反映了對逆函數(shù)概念的理解缺乏”。
在另一個例子中,他們顯示“GPT-4給出了一個正確的解決方案,而ChatGPT則在沒有任何明確方向或目的的情況下開始重新排列條件,并最終得出了一個不正確的解決方案。”
微軟這篇題為《
通用人工智能的火花:GPT-4的初期實(shí)驗(yàn)》的文章,分析了GPT-4的大量實(shí)測結(jié)果,圖為其中一個分析:GPT-4用Javascript語言生成了一個復(fù)雜的三維HTML游戲
89. 微軟自己的科學(xué)家承認(rèn),GPT-4“達(dá)到了通用智能的形式”,而且“鑒于GPT-4能力的廣度和深度,我們相信可以合理地將其視為通用人工智能系統(tǒng)的早期(但仍不完整的)版本”。
G. 2023年創(chuàng)辦協(xié)議被違反
90. 根據(jù)創(chuàng)辦協(xié)議,被告開發(fā)AGI的目的是為了造福人類,而不是為任何營利性公司或個人牟利。但被告在達(dá)到AGI的門檻后,卻違反創(chuàng)辦辦議,從根本上背離了他們的使命。
GPT-4是一個完全封閉的模型。GPT-4的內(nèi)部設(shè)計仍然是一個迷,沒有發(fā)布任何代碼。OpenAI沒有發(fā)表過任何一篇描述其內(nèi)部設(shè)計的論文;只有一些吹噓其性能的新聞稿。GPT-4的內(nèi)部細(xì)節(jié)只有OpenAI知道,據(jù)所知所信,微軟也知道。因此,GPT-4與“開放式人工智能”背道而馳。它的封閉是出于商業(yè)原因:微軟可以通過向公眾出售GPT-4大賺一筆,而如果OpenAI按要求向公眾免費(fèi)提供該技術(shù),就不可能實(shí)現(xiàn)這一點(diǎn)。
與創(chuàng)辦協(xié)議背道而馳的是,被告選擇使用GPT-4,并不是為了造福人類,而是將其作為專有技術(shù),為世界上最大的公司實(shí)現(xiàn)利潤最大化。此外,OpenAI的整個開發(fā)過程現(xiàn)在都被蒙上了一層神秘的面紗,公眾只能通過謠傳和孤立的溝通片段來了解接下來可能發(fā)布的內(nèi)容。
91. 研究人員指出,基于GPT架構(gòu)的人工智能仍然存在的一個局限是,它們的輸出是一次生成一部分,無法“回溯”。這些問題在以前的人工智能研究中就出現(xiàn)過,而且在其他應(yīng)用中已基本解決。在尋路和走迷宮時,人工智能必須能夠在沿途存在死胡同的情況下找到正確的路徑。實(shí)現(xiàn)這一點(diǎn)的標(biāo)準(zhǔn)算法稱為“A*”(讀作A星)。
92. 路透社報道稱,OpenAI正在開發(fā)一種名為Q*的秘密算法。雖然尚不清楚Q*是什么,但路透社報道稱,OpenAI的幾名員工曾寫信警告Q*的潛在威力。
或許現(xiàn)在,或許將來,Q*似乎可能成為OpenAI開發(fā)的更清晰、更引人注目的通用人工智能的一部分。作為一種AGI,它將明確超出OpenAI與微軟簽訂的許可范圍,將必須為了廣大公眾的利益而整體開放。
2023年11月22日,路透社報道,在OpenAI首席執(zhí)行官薩姆阿爾特曼被流放四天之前,幾位員工研究人員給董事會寫了一封信,警告他們一個強(qiáng)大的人工智能發(fā)現(xiàn)(公司內(nèi)部密碼代號為Q*)可能會威脅人類。
93. 就與微軟的協(xié)議而言,由OpenAI董事會決定OpenAI是否達(dá)成了AGI。而在下文將詳細(xì)描述的一系列令人震驚的事態(tài)發(fā)展中,OpenAI公司董事會的大多數(shù)成員被迫于2023年11月22日辭職,據(jù)所知所信,接替他們的人員是由阿爾特曼和微軟欽點(diǎn)的。
94. 2023年11月17日,OpenAI公司董事會解雇了阿爾特曼。OpenAI在一篇博客文章中宣布,阿爾特曼已被解雇,而且他的“離開是董事會經(jīng)過深思熟慮的審查后得出的結(jié)論,他在與董事會的溝通中沒能始終保持坦誠,這妨礙了董事會履行職責(zé)的能力。董事會不再相信他有能力繼續(xù)領(lǐng)OpenAI”。
95. 布羅克曼也被董事會除名,但他被告知將保留其在OpenAI的職務(wù)。
96. 當(dāng)時,董事會成員包括海倫托納(Helen Toner)、亞當(dāng)?shù)习布澹ˋdam D'Angelo)、塔莎麥考利(Tasha McCauley)、蘇茨克維博士、布羅克曼和阿爾特曼。
除擔(dān)任董事會成員外,托納女士還是人工智能治理中心(GovAI)的研究員和顧問,以及喬治城安全與新興技術(shù)中心的戰(zhàn)略總監(jiān)。
麥考利女士是蘭德公司(RAND Corporation)的高級管理科學(xué)家,該公司是一家專門從事公共政策決策研究的非營利機(jī)構(gòu)。她還是GovAI的顧問。
迪安吉洛是阿爾特曼復(fù)職后唯一留任的董事會成員,他是一家科技公司的首席執(zhí)行官和企業(yè)家。
解雇事件發(fā)生時,OpenAI六人董事會中除阿爾特曼和布羅克曼的其余四人。從左至右:
亞當(dāng)?shù)习布澹?/p>
海倫托納,
蘇茨克維博士,
塔莎麥考利
97. 選擇在OpenAI公司董事會中加入多名具有深厚人工智能政策經(jīng)驗(yàn)的學(xué)者和公共政策專家,是經(jīng)過深思熟慮的,他們中的大多數(shù)人與公司沒有經(jīng)濟(jì)利益關(guān)系。董事會成員在經(jīng)濟(jì)上無利害關(guān)系,在公共服務(wù)方面有良好的記錄,這樣的組成確保了董事會將非營利組織的主要受益者人類放在經(jīng)濟(jì)的成功之前。
董事會的這一保障措施是為了推進(jìn)OpenAI公司的非營利性使命和創(chuàng)辦協(xié)議:安全地創(chuàng)建造福人類的AGI,而非營利性公司的金錢利益。
98. 據(jù)所知所信,阿爾特曼被解雇的部分原因是OpenAI在實(shí)現(xiàn)AGI方面取得了突破。事實(shí)上,有新聞報道稱,OpenAI董事會成員和高管之間對于OpenAI下一代Q*的安全問題和潛在威脅存在分歧。
99. 阿爾特曼下臺的消息迅速傳開。在董事會宣布解雇阿爾特曼之后,布羅克曼宣布他將與阿爾特曼一起離開OpenAI。
100. 據(jù)報道,當(dāng)微軟首席執(zhí)行官薩蒂亞納德拉(Satya Nadella)得知阿爾特曼被解雇的消息后,他非常憤怒。作為OpenAI營利子公司49%的股東,納德拉認(rèn)為,在解雇阿爾特曼之前,應(yīng)該征求微軟的意見。
然而,此時除了阿爾特曼之外,OpenAI公司的董事會與微軟沒有任何關(guān)聯(lián),對營利子公司的投資者也沒有受托責(zé)任。相反,據(jù)所知所信,阿爾特曼是微軟和OpenAI公司之間的主要聯(lián)絡(luò)人。
101. 納德拉邀請阿爾特曼和布羅克曼領(lǐng)導(dǎo)一個新的微軟人工智能研究實(shí)驗(yàn)室,不受OpenAI公司人道主義使命的約束。納德拉明確表示,微軟的新實(shí)驗(yàn)室將歡迎離開OpenAI的員工,并提供相同的薪水。
納德拉11月20日在X發(fā)帖,宣布
阿爾特曼和布羅克曼加入微軟
102. 微軟相信,通過其在OpenAI營利子公司的實(shí)質(zhì)性所有權(quán),如果OpenAI公司不復(fù)存在,它就可以完全扣押OpenAI公司的研究工作。事實(shí)上,在阿爾特曼被解雇后不久的一次采訪中,納德拉曾表示:
“我們對自己的能力非常有信心。我們擁有所有的知識產(chǎn)權(quán)和能力。即使OpenAI明天就消失,老實(shí)說,我也不想讓我們的任何客戶為此擔(dān)心,因?yàn)槲覀儞碛欣^續(xù)創(chuàng)新的所有權(quán)利。我們不僅可以為產(chǎn)品提供服務(wù),還可以繼續(xù)做我們正在做的合作項(xiàng)目。我們有人、有算力、有數(shù)據(jù),我們擁有所有的一切。”
11月20日,在《和卡拉斯韋什爾在一起》播客節(jié)目上,納德拉說出了上面這番話
103. 盡管微軟聲明他們有能力在沒有OpenAI的情況下正常運(yùn)作,但他們從未放棄確;謴(fù)阿爾特曼作為OpenAI公司首席執(zhí)行官的計劃。在阿爾特曼被解雇后的幾天里,OpenAI公司董事會面臨著來自律師和包括微軟在內(nèi)的主要股東的越來越大的壓力,他們要求恢復(fù)阿爾特曼的職務(wù)。
104. 在要求復(fù)職的過程中,托納女士成為了特別的目標(biāo)。在這些努力中,OpenAI的一名律師告訴托納女士,如果OpenAI因阿爾特曼被解雇而失敗,她和董事會可能會面臨違反對投資者的信托責(zé)任的索賠。
海倫托納,OpenAI前董事,現(xiàn)任喬治城大學(xué)安全與新興技術(shù)中心(CSET)戰(zhàn)略和基礎(chǔ)研究基金主任。她曾住在北京,作為牛津大學(xué)人工智能治理中心的研究附屬機(jī)構(gòu)員工,研究中國的人工智能生態(tài)系統(tǒng)
105. 然而,OpenAI公司董事會從未對投資者承擔(dān)信托責(zé)任。事實(shí)上,營利子公司的所有投資者都被告知,公司對其使命的責(zé)任優(yōu)先于對投資者的責(zé)任,OpenAI公司的網(wǎng)站明確表示,公司只對人類負(fù)有信托責(zé)任。
106. 托納女士將律師的行為描述為一種恐嚇策略,她認(rèn)為,繼續(xù)罷免阿爾特曼,實(shí)際上會推進(jìn)公司的使命,即促進(jìn)人類的安全而非盈利。然而,這些都沒有打消股東們和阿爾特曼推動復(fù)職的念頭。
107. 此外,微軟對OpenAI公司及其董事會有很大的強(qiáng)制性權(quán)力。在阿爾特曼被解雇期間,首席執(zhí)行官納德拉在談到微軟與OpenAI的關(guān)系時說:
“我們就在其中,我們在他們之下,在他們之上,在他們周圍。我們做內(nèi)核優(yōu)化,我們構(gòu)建工具,我們搭建基礎(chǔ)設(shè)施。這就是為什么很多行業(yè)分析師都會說:‘哇,這真是微軟和OpenAI的聯(lián)合項(xiàng)目’。而現(xiàn)實(shí)情況是,正如我所說,我們在所有這些方面都充分自給自足”。
這番話同樣是11月20日,納德拉在《和卡拉斯韋什爾在一起》播客節(jié)目上說的
108. 此外,在被解雇時,微軟只支付了其向OpenAI承諾的100億美元投資的一小部分,這使得微軟對“獨(dú)立的”非營利性董事會具有嚴(yán)重的影響力。此外,如果微軟不提供OpenAI所依賴的云計算系統(tǒng),該公司就會功力盡散。
109. 阿爾特曼和微軟對董事會施加的壓力一直持續(xù)到11月21日,阿爾特曼恢復(fù)了OpenAI公司首席執(zhí)行官的職位,而布羅克曼也重新加入公司擔(dān)任總裁。阿爾特曼復(fù)職后提出的條件之一是,托納女士、麥考利女士和蘇茨克維博士辭去董事會職務(wù)。
塔莎麥考利,OpenAI前董事,2010年在美國奇點(diǎn)大學(xué)擔(dān)任新創(chuàng)實(shí)驗(yàn)室主任,負(fù)責(zé)指導(dǎo)機(jī)器人學(xué)課程。2011年協(xié)同創(chuàng)辦機(jī)器人公司Fellow Robots。2018年創(chuàng)立GeoSim Systems公司
110. 據(jù)所知所信,阿爾特曼回歸后親自挑選了一個新的董事會,該董事會缺乏類似的技術(shù)專長,也沒有任何人工智能治理方面的實(shí)質(zhì)性背景,而上一屆董事會正是據(jù)此設(shè)計的。迪安吉洛是一位技術(shù)公司的首席執(zhí)行官和企業(yè)家,是阿爾特曼回歸后前董事會中唯一留任的成員。
新董事會的成員在以利潤為中心的企業(yè)或政治方面比在人工智能倫理和治理方面有更多的經(jīng)驗(yàn)。據(jù)報道,他們也是“阿爾特曼的忠實(shí)粉絲”。其中兩位新董事會成員是布雷特泰勒(Bret Taylor)和拉里薩默斯(Larry Summers)。
泰勒對硅谷并不陌生,一直積極參與灣區(qū)各種以利潤為導(dǎo)向的企業(yè)。2024年2月14日,泰勒和前谷歌高管克萊巴沃爾(Clay Bavor)創(chuàng)辦了一家初創(chuàng)公司,專注于為企業(yè)打造人工智能聊天機(jī)器人。
薩默斯博士是一位經(jīng)濟(jì)學(xué)家,據(jù)所知所信,在2023年11月之前,他并沒有從事人工智能創(chuàng)業(yè)的經(jīng)驗(yàn)。
微軟還在董事會中獲得了一個觀察員席位,從而可以密切關(guān)注這棵看似非營利的搖錢樹。
從左至右:新任董事
拉里薩默斯,
布雷特泰勒和留任董事
亞當(dāng)?shù)习布?/p>
111. 隨著阿爾特曼的復(fù)職和董事會的重組,OpenAI的公司結(jié)構(gòu)一夜之間土崩瓦解,該結(jié)構(gòu)的設(shè)計初衷是在非營利公司、營利子公司、董事會和首席執(zhí)行官之間建立一個制衡系統(tǒng),以確保非營利使命的踐行。OpenAI公司曾經(jīng)精心打造的非營利結(jié)構(gòu)被一個純粹以盈利為目的的首席執(zhí)行官和一個在AGI和人工智能公共政策方面技術(shù)能力較差的董事會所取代。董事會現(xiàn)在專為微軟保留了一個觀察員席位。
通過這次重組,OpenAI公司放棄了它的非營利性使命:為全人類開發(fā)AGI,從而使其不被一家大型營利性公司所掌控。因?yàn)樵谶@樣的公司中,巨大的權(quán)力將以不適當(dāng)?shù)姆绞郊小?/p>
112. OpenAI公司董事會在人工智能方面的技術(shù)專長、中立性、以及對OpenAI公司非營利性使命的承諾,對OpenAI公司的使命尤為重要,因?yàn)榛谂c微軟的許可協(xié)議,是由董事會來決定OpenAI是否已經(jīng)達(dá)到了AGI。這意味著,董事會的任務(wù)是確定OpenAI最強(qiáng)大、最先進(jìn)的技術(shù)事實(shí)上是否被排除在微軟的獨(dú)家許可范圍之外。
鑒于微軟可以對公眾關(guān)閉大門并擁有巨大的經(jīng)濟(jì)利益,OpenAI公司新成立的董事會將有充分的理由推遲做出OpenAI已經(jīng)達(dá)到AGI的結(jié)論。恰恰相反,OpenAI達(dá)到AGI,就像《安妮》中的“明天”一樣,總是遙遙無期,這將確保微軟獲得OpenAI最新技術(shù)的許可,而公眾將被拒之門外,這恰恰與創(chuàng)辦協(xié)議背道而馳。
“明天”是70年代音樂劇《安妮》的主題曲:“太陽會出來/明天/賭上你所有的錢/明天/會有太陽”
113. OpenAI的行為可能會對硅谷產(chǎn)生震撼性的影響,如果允許其成立,則可能代表著技術(shù)初創(chuàng)公司的范式轉(zhuǎn)變。重要的是,要反思一下這里發(fā)生的事情:一家非營利性初創(chuàng)公司募集了數(shù)千萬美元的捐款,其明確目的是為公眾利益開發(fā)AGI技術(shù),而在實(shí)現(xiàn)公司創(chuàng)立所設(shè)的里程碑之前不久,該公司已成為世界最大公司的封閉式營利合作伙伴,從而使被告?zhèn)儌人致富。
如果這種商業(yè)模式成立,它將從根本上重新定義風(fēng)險資本在加利福尼亞州及其他地區(qū)的實(shí)踐方式。相比較于從一開始就成立營利性實(shí)體,“聰明的”投資者會成立非營利組織,利用稅前捐款為研發(fā)提供資金,一旦他們的技術(shù)得到開發(fā)和驗(yàn)證,就會將由此產(chǎn)生的知識產(chǎn)權(quán)資產(chǎn)投入到一家新的營利性企業(yè)中,從而使自己和他們追求利潤最大化的合作企業(yè)中飽私囊。
加利福尼亞州或美國其他任何地方的法律都不應(yīng)該是這樣運(yùn)作的,而且這也不應(yīng)該是第一個持相反觀點(diǎn)的法院。
114. 為了進(jìn)一步理解這一點(diǎn)的重要性,如果OpenAI的新商業(yè)模式成立,那么通過向非營利組織捐款,投資者每“投資”1美元,就能從州政府和聯(lián)邦政府那里以減免所得稅的形式獲得大約50美分的回報,這樣他們每1美元投資的凈成本只有50美分。
然而,在OpenAI的新商業(yè)模式下,與那些以傳統(tǒng)方式投資于營利性公司,但并不會立即獲得稅收減免的投資者一樣,他們也獲得了“營利性”的好處,而且由政府并最終由公眾提供資金。從投資的角度來看,與采用新的OpenAI商業(yè)模式的實(shí)體競爭,就像打一場籃球比賽,對方投籃得分是自己的兩倍。
如果法院認(rèn)可OpenAI的行為,那么任何想要在硅谷保持競爭力的初創(chuàng)企業(yè)都必須遵循OpenAI的游戲規(guī)則,這將成為初創(chuàng)企業(yè)的標(biāo)準(zhǔn)操作程序,從而損害合法的非營利組織、政府的稅收,并最終損害加州及其他地區(qū)的人民。
值得注意的是,OpenAI的營利子公司最近的估值接近800億美元。
H. 2023年11月至今:阿爾特曼的OpenAI
115. 關(guān)于董事會“深思熟慮的審查流程”究竟揭示了什么并導(dǎo)致最初解雇阿爾特曼,公眾仍然一無所知。然而,對于馬斯克和廣大公眾來說,有一點(diǎn)是清楚的:為了追求利潤,OpenAI已經(jīng)放棄了其“不可改變”的非營利性使命。無數(shù)領(lǐng)導(dǎo)者和知識分子都公開評論了OpenAI成為“封閉的營利性人工智能”的反諷和悲劇。
116. 例如,2023年11月29日,麻省理工學(xué)院的經(jīng)濟(jì)學(xué)家在《洛杉磯時報》上發(fā)表了一篇評論,表達(dá)了對OpenAI新的利潤驅(qū)動指令的擔(dān)憂。用他們的話說,“ 破壞和無節(jié)制的增長已經(jīng)成為科技行業(yè)的宗教,而阿爾特曼一直是最虔誠的大祭司之一。”
經(jīng)濟(jì)學(xué)家們強(qiáng)調(diào),新董事會更有可能允許阿爾特曼盡快擴(kuò)大OpenAI的規(guī)模,而不管社會成本有多嚴(yán)重。
《洛杉磯時報》刊發(fā)的評論:“觀點(diǎn):OpenAI的大戲標(biāo)志著人工智能進(jìn)入了一個可怕的新時代”https://www.latimes.com/opinion/story/2023-11-29/openai-sam-altman-firing-chatgpt-artificial-intelligence
117. 非營利性消費(fèi)者權(quán)益組織Public Citizen的總裁在今年早些時候給加州總檢察長羅布邦塔(Rob Bonta)寫了一封公開信,對OpenAI的營利性子公司是否對非營利性組織進(jìn)行了不適當(dāng)?shù)目刂,或者非營利性組織的目的是否已經(jīng)在阿爾特曼和微軟的領(lǐng)導(dǎo)下轉(zhuǎn)向營利表示擔(dān)憂。信中建議,如果該非營利組織放棄其最初的使命,則應(yīng)將其解散,并將收益捐給另一家慈善企業(yè)。
118. 《連線》雜志在2024年1月進(jìn)行的一項(xiàng)調(diào)查發(fā)現(xiàn),OpenAI最近還關(guān)閉了公眾訪問以前可獲得的“關(guān)鍵文件”的權(quán)限。根據(jù)OpenAI最初的透明度承諾,OpenAI的國稅局文件顯示,自其成立以來,任何公眾都可以查看其公司治理文件、財務(wù)報表和利益沖突規(guī)則的副本。
然而,當(dāng)《連線》索取這些文件時,OpenAI表示它已經(jīng)改變了政策。因此,盡管OpenAI長期以來一直標(biāo)榜其對透明度的承諾,公眾卻無法獲得有關(guān)2023年11月事件的信息。
《連線》雜志文章:“OpenAI 悄然取消了向公眾公開重要文件的承諾”https://www.wired.com/story/openai-scrapped-promise-disclose-key-documents/
119. 獲取OpenAI的文件可以讓公眾了解,OpenAI是否為了討好微軟和其他股東而改變了其治理方式。至少,為了照顧微軟在董事會中的席位,改變不得不做出。
據(jù)報道,目前阿爾特曼正在與中東投資者討論籌集高達(dá)7萬億美元的資金,以開發(fā)人工智能芯片制造工廠的全球網(wǎng)絡(luò)。如果說,來自微軟的100億美元足以讓它在董事會中占有一席之地,那么我們可以想象,這些新的潛在投資會給投資者帶來多大的影響力。
尤其令人擔(dān)憂的是,一位潛在的捐贈者是阿拉伯聯(lián)合酋長國的國家安全顧問,而美國官員對阿拉伯聯(lián)合酋長國與中國的關(guān)系感到擔(dān)憂。此外,阿爾特曼曾被引述討論過將阿拉伯聯(lián)合酋長國作為測試人工智能技術(shù)的“監(jiān)管沙盒”的可能性。
120. 此外,了解OpenAI的利益沖突政策,對于了解董事會是否有能力控制阿爾特曼利用OpenAI來促進(jìn)自己的經(jīng)濟(jì)利益非常重要。例如,在2019年阿爾特曼擔(dān)任首席執(zhí)行官時,OpenAI簽署了一份意向書,向阿爾特曼投入巨資的一家初創(chuàng)公司購買價值5100萬美元的芯片。
121. 雖然OpenAI公司曾是基于與公眾公開交流的安全、負(fù)責(zé)任的AGI開發(fā)的先驅(qū),它現(xiàn)在卻關(guān)上了大門,將其營利子公司的最大投資者引入了對人類負(fù)有唯一信托責(zé)任的董事會,并繼續(xù)秘密地走向以利潤為中心的未來,這可能會對人類造成災(zāi)難性的影響。
122. 馬斯克與阿爾特曼和布羅克曼共同創(chuàng)立并資助了OpenAI公司,以換取并依靠“創(chuàng)辦協(xié)議”確保AGI能夠造福人類,而不是營利性公司。
2023年發(fā)生的事情證明,他對OpenAI公司的貢獻(xiàn)被扭曲,使得被告和世界上最大的公司受益。這是公然背叛創(chuàng)辦協(xié)議,顛覆了該協(xié)議,歪曲了OpenAI公司的使命。
試想一下,你向一家聲稱自己的使命是保護(hù)亞馬遜雨林的非營利組織捐款,而該非營利組織卻成立了一家以營利為目的的亞馬遜伐木公司,利用捐款的成果來砍伐雨林。這就是OpenAI公司的故事。
23年5月16日,馬斯克在特斯拉得州超級工廠接受CNBC電視臺主持人采訪時,吐槽OpenAI往ClosedAI的轉(zhuǎn)變:“
以非營利性的名義成立一家公司,然后把知識產(chǎn)權(quán)轉(zhuǎn)讓給一家營利性公司,賺取大量的錢,如果這樣做合法,不應(yīng)該每個人都這么做嗎?這不應(yīng)該成為默認(rèn)模式嗎?”
第一訴因
違反合同
針對所有被告
123. 原告僅重申并引用本起訴書中對其聲稱違反合同所必需的段落,并將其納入本起訴書。
124. 從2015年OpenAI公司成立到2020年9月,原告出資數(shù)千萬美元,為OpenAI公司的研究方向提供了不可或缺的建議,并在為OpenAI公司招募世界級人才方面發(fā)揮了關(guān)鍵作用,以換取創(chuàng)辦協(xié)議及作為其考慮,具體來說,OpenAI公司 (a) 將是一家為人類利益開發(fā)AGI的非營利性公司,而不是一家追求股東利潤最大化的營利性公司;(b) 將開源,僅平衡安全因素,不會出于專有商業(yè)原因而對其技術(shù)進(jìn)行封閉和保密。
除其他留存,OpenAI公司的創(chuàng)始章程以及原告與被告在多年期間的大量書面通信中都體現(xiàn)了這一創(chuàng)辦協(xié)議,例如:
a. “公司的具體目的是為人工智能相關(guān)技術(shù)的研究、開發(fā)和傳播提供資金。由此產(chǎn)生的技術(shù)將造福于公眾,公司將尋求在適用的情況下為公眾利益開放技術(shù)源代碼。本公司并非為任何人的私人利益而組建”。
b. 阿爾特曼說:“使命將是創(chuàng)建第一個通用人工智能,并將其用于個人賦權(quán)即看起來最安全的分布式的未來版本。更籠統(tǒng)地說,安全應(yīng)該是第一等的要求... 這項(xiàng)技術(shù)將歸基金會所有,并用于‘造福世界’”。原告回答:“全部同意”。
125. 被告以多種單獨(dú)和獨(dú)立的方式違反了創(chuàng)辦協(xié)議,至少包括:
a. 向微軟獨(dú)家授權(quán)GPT-4,一個微軟自己的科學(xué)家描寫的可以“合理地被視為通用人工智能(AGI)系統(tǒng)的早期(但仍不完整的)版本”,盡管雙方同意OpenAI開發(fā)AGI是為了造福人類,而不是為了謀求股東利潤最大化的營利性公司的私人商業(yè)利益,更不是為了世界上最大的公司。
b. 未向公眾披露GPT-4的架構(gòu)、硬件、訓(xùn)練方法和訓(xùn)練計算等細(xì)節(jié),并在公眾與GPT-4之間設(shè)置“付費(fèi)墻”,要求按令牌付費(fèi)使用,以推進(jìn)被告和微軟自身的私人商業(yè)利益,盡管他們同意OpenAI的技術(shù)將開源,只平衡對立的安全考慮。
c. 允許微軟(一家公開上市的營利性公司)在OpenAI公司董事會中占有一個席位,并對OpenAI的非營利性活動施加不當(dāng)影響和控制,例如,決定是否以及在何種程度上向公眾免費(fèi)提供和開放OpenAI公司的技術(shù),以及決定OpenAI是否已達(dá)到AGI。
23年11月6日,在OpenAI首屆開發(fā)者日DevDay活動中,阿爾特曼和微軟CEO納德拉同臺演講
126. 作為被告違約行為的直接和近因,原告遭受的損失金額目前尚不明了,但已大大超過本法院的最低管轄金額35,000美元,如有必要,將在庭審中予以證明。
127. 原告還尋求并有權(quán)要求被告具體履行合同義務(wù)。
第二訴因
允諾禁反言
針對所有被告
128. 原告重申并引用本原告起訴書中對其聲稱“允諾禁反言”的必要段落。
129. 為了誘使原告在數(shù)年內(nèi)向OpenAI公司捐款數(shù)百萬美元,并誘使原告提供大量時間和其他資源,使OpenAI公司如本文所稱啟動運(yùn)營,被告多次向原告進(jìn)行包括書面的承諾,OpenAI (a) 將是一家為人類利益開發(fā)AGI的非營利性公司,而不是一家追求股東利潤最大化的營利性公司;(b) 將是開源的,只考慮安全因素,不會出于專有商業(yè)原因?qū)ζ浼夹g(shù)進(jìn)行封閉和保密。
130. 在這樣做的過程中,被告合理地預(yù)期原告會(正如他所做的)信賴他們的承諾,并向OpenAI公司提供資金、時間和其他資源。
131. 原告合理地信賴了被告的虛假承諾,最終向OpenAI公司提供了數(shù)千萬美元,以及他的時間和其他資源,條件為OpenAI將保持非營利性,不可撤銷地致力于為公眾創(chuàng)造安全、開源的AGI。
但隨后,OpenAI卻放棄了其“不可撤銷”的非營利性使命,停止向公眾提供基本信息,轉(zhuǎn)而將其AGI算法獨(dú)家授權(quán)給世界上最大的營利性公司,這與被告向原告做出的承諾背道而馳。
132. 只有通過執(zhí)行被告的反復(fù)承諾才能避免不公正。如果不裁定具體執(zhí)行,那么被告必須至少歸還與原告被盜用的捐款相等的金額,以及“創(chuàng)辦協(xié)議”的第三方受益人所受損害的金額,這一金額目前尚不明了,如有必要,將在庭審中予以證明,但這一金額將大大超過本法院的最低管轄金額35,000美元。
第三訴因
違反信托責(zé)任
針對所有被告
133. 原告重申并引用了本起訴書中對其違反信托責(zé)任之訴所必需的段落。
134. 根據(jù)加利福尼亞州法律,被告對原告負(fù)有信托責(zé)任,包括將原告的捐款用于原先設(shè)定的目的的責(zé)任。例如,《加州商業(yè)與職業(yè)法典》第17510.8節(jié)。被告多次違反對原告的信托責(zé)任,包括
a. 將從原告處獲得的資金以及由這些資金資助的知識產(chǎn)權(quán)和衍生作品用于“營利”目的,這直接違反了雙方協(xié)議的字面和明確意圖,從而違反了被告對原告的合同承諾,也違反了被告對雙方協(xié)議明確的第三方受益人(即公眾)的承諾。例如,被告將微軟自己的科學(xué)家撰寫的可以“合理地被視為通用人工智能(AGI)系統(tǒng)的早期(但仍不完整的)版本”的GPT-4獨(dú)家授權(quán)給微軟使用,這違背了OpenAI公司為人類利益開發(fā)AGI的不可撤銷的非營利使命。
b. 未向公眾披露GPT-4的架構(gòu)、硬件、訓(xùn)練方法和訓(xùn)練計算等細(xì)節(jié),并在公眾和GPT-4之間設(shè)置“付費(fèi)墻”,要求按令牌付費(fèi)使用,以推進(jìn)被告和微軟自己的私人商業(yè)利益,盡管他們同意OpenAI的技術(shù)將會開源,僅平衡抗衡性的安全考慮。
c. 允許微軟這家公開上市的營利性公司在OpenAI公司董事會中占有一席之地,并對OpenAI公司的非營利性活動施加不當(dāng)影響和控制,例如,決定是否以及在何種程度上向公眾免費(fèi)提供OpenAI的技術(shù)。
135. 由于被告違反信托責(zé)任的直接和近似結(jié)果,原告和創(chuàng)辦協(xié)議明確的第三方受益人遭受了損失,損失金額目前尚不明了,但大大超過了本法院的最低管轄金額35,000美元,如有必要,將在庭審中予以證明。
136. 原告尋求并有權(quán)要求被告具體履行合同義務(wù),作為對被告違反信托責(zé)任的補(bǔ)救。
第四訴因
不公平商業(yè)行為《加州商業(yè)和職業(yè)法典》第17200節(jié)及以下條款
針對所有被告
137. 原告重申并引用本起訴書中對其不公平商業(yè)行之訴所必需的段落。
138. 《加利福尼亞州商業(yè)和職業(yè)法典》第17200節(jié)及以下各節(jié)規(guī)定,任何從事、曾經(jīng)從事或擬從事不公平商業(yè)行為的個人或?qū)嶓w均可被禁止。
139. 被告向原告和其他人募集捐款,并謊稱所有這些資金都將用于“創(chuàng)辦協(xié)議”中闡明的基本目的,從而構(gòu)成了不正當(dāng)競爭和其他不正當(dāng)商業(yè)行為。
140. 如果沒有被告的不正當(dāng)競爭行為和其他不正當(dāng)商業(yè)行為,原告就不會向OpenAI公司進(jìn)行捐贈或提供其他貢獻(xiàn)。
141. 由于被告的行為,原告受到了欺騙,而其他公眾也可能受到欺騙。
142. 在從事上述不正當(dāng)競爭行為時,如前所述,被告至少違反了《加州商業(yè)與職業(yè)法典》第17510.8條。
143. 由于被告的這些和其他行為的直接和近似結(jié)果,原告遭受了損害,并有權(quán)追回被告和被告的一致行動者因這些不正當(dāng)競爭行為和其他不正當(dāng)商業(yè)行為而獲得的所有收益和賠償。
144. 原告有權(quán)要求歸還和/或沒收被告在從事這些行為時收取的任何及所有款項(xiàng),以及根據(jù)《商業(yè)與職業(yè)法典》第17200節(jié)及以下條款規(guī)定的遲延利息。原告還要求禁止被告今后再次從事此類活動,并要求法院下達(dá)強(qiáng)制執(zhí)行令。
第五訴因
會計
針對所有被告
145. 原告重申并引用本起訴書中對其會計之訴所必需的段落。
146. 如上所述,在多年的時間里,被告向原告募集了數(shù)千萬美元的捐款,并陳述和保證OpenAI公司仍將是一家非營利機(jī)構(gòu),不可撤銷地致力于為公眾創(chuàng)造安全的AGI,并且所有捐贈資金都將按照這一“不可撤銷”的任務(wù)使用。據(jù)所知所信,被告還基于同樣的陳述向他人募集了數(shù)千萬美元的捐款。
147. 與本文所述原告捐款的明確目的相反,被告將從原告處收到的款項(xiàng)以及由這些款項(xiàng)資助的知識產(chǎn)權(quán)和衍生作品用于“營利”目的,包括為私人謀利,也可能為被告?zhèn)人本身謀利,這直接違反了雙方協(xié)議的文字和明確意圖。
148. 由于被告掌握著與原告和其他人向OpenAI公司提供的慈善捐款的使用情況,以及由這些捐款資助的知識產(chǎn)權(quán)和衍生作品相關(guān)的財務(wù)信息,原告目前無法在不進(jìn)行會計核算的情況下確定其在資產(chǎn)中的權(quán)益或資產(chǎn)的使用、分配或分發(fā)情況。因此,原告有權(quán)要求進(jìn)行會計核算。
尋求判決
因此,原告請求對被告做出如下判決:
A. 請求法院下達(dá)命令,強(qiáng)制被告具體履行其多次做出的合同承諾,包括但不限于
i. 頒布命令,要求被告繼續(xù)遵循OpenAI的長期做法,向公眾提供OpenAI開發(fā)的人工智能研究和技術(shù),以及
ii. 禁止被告利用OpenAI公司或其資產(chǎn)為被告?zhèn)人、微軟或任何其他特定個人或?qū)嶓w謀取經(jīng)濟(jì)利益;
B. 要求司法認(rèn)定GPT-4構(gòu)成通用人工智能,因此不屬于OpenAI向微軟頒發(fā)的許可范圍;
C. 要求司法認(rèn)定Q*和/或其他正在開發(fā)的OpenAI下一代大語言模型構(gòu)成通用人工智能,并且不在OpenAI對微軟的許可范圍內(nèi);
D. 與上述A到C項(xiàng)一致的禁止令,并使其生效;
E. 根據(jù)《商業(yè)與職業(yè)法典》第17200節(jié)及以下條款,被告在從事上述不公平和不正當(dāng)行為時收到的任何和所有款項(xiàng),除遲延利息和罰款外,應(yīng)予以恢復(fù)原狀和/或沒收;
F. 對于原告和其他人捐贈給OpenAI公司的資金、由這些資金資助的知識產(chǎn)權(quán)或衍生作品,以及被告將這些資金用于個人利益或任何個人或第三方實(shí)體的利益,進(jìn)行會計核算;
G. 對于一般、補(bǔ)償和懲罰性損害賠償,將在庭審中予以證明,這當(dāng)中的每一項(xiàng),原告將捐獻(xiàn)給非營利組織或慈善機(jī)構(gòu);
H. 根據(jù)《加州民事訴訟法》第1021.5條,要求支付律師費(fèi);
I. 按最高法定利率計算的判決前和判決后利息;以及
J. 法院認(rèn)為公正和適當(dāng)?shù)钠渌袥Q。
要求陪審團(tuán)審判
原告特此要求由陪審團(tuán)對所有可由陪審團(tuán)適當(dāng)審理的問題、索賠和/或訴訟理由進(jìn)行審判。
日期:2024年2月29日
埃隆馬斯克的原告律師
朱欽文(Morgan Chu)
艾倫海因里希
伊安賈布倫
阿比蓋爾塞勒斯
賈斯汀庫
亨利懷特
朱欽文(Morgan Chu),著名華裔美國知識產(chǎn)權(quán)律師,被全美法學(xué)雜志列為全美最頂尖十大出庭律師。朱欽文兄弟三杰。二哥朱棣文是諾貝爾獎得主,大哥朱筑文在斯坦福大學(xué)擔(dān)任研究工作
附錄1
非股份公司OpenAI公司的公司注冊證書
第一:公司名稱為“OpenAI公司”(以下簡稱“公司”)。
第二:公司在特拉華州的注冊地址為2711 CenterviJle Road, Suite 400, Wilmington, New Castle County, Delaware 19808。該地址的注冊代理名為 Corporation Service Company。
第三:本公司是一家非營利性公司,其組織目的完全符合1986年《美國國內(nèi)稅收法》第 501(c)(3)條(經(jīng)修訂)或未來任何美國國內(nèi)稅收法相應(yīng)條款的慈善和/或教育目的。該公司的具體目的是為人工智能相關(guān)技術(shù)的研究、開發(fā)和推廣提供資金。由此產(chǎn)生的技術(shù)將造福于公眾,公司將尋求在適用的情況下為公眾利益而開放技術(shù)源代碼。
本公司的組織目的不是為任何人謀取私利。為實(shí)現(xiàn)其宗旨,公司將從事任何根據(jù)特拉華州一般公司法可以組織非營利公司的合法活動。
第四:根據(jù)《美國國內(nèi)稅收法》第501(c)(3)條的規(guī)定,本公司的組織和運(yùn)作完全是為了第四條所述目的。本公司活動的主要部分不得包括進(jìn)行宣傳或以其他方式試圖影響立法,本公司不得代表任何公職候選人參與或介入任何政治運(yùn)動(包括出版或分發(fā)聲明)。
盡管本章程有任何其他規(guī)定,本公司不得從事下列公司/組織不得從事的任何其他活動:(a)根據(jù)《國內(nèi)稅收法》第501(c)(3)條或任何未來聯(lián)邦稅法的相應(yīng)條款免征聯(lián)邦所得稅的公司/組織,或(b)根據(jù)《國內(nèi)稅收法》第170(c)(2)條或任何未來聯(lián)邦稅法的相應(yīng)條款可扣除捐款的公司/組織。
第五:本公司的財產(chǎn)不可撤銷地專用于本章程第三條規(guī)定的目的,本公司的凈收入或凈資產(chǎn)的任何部分均不得歸本公司的任何董事、高級職員或成員所有,也不得歸任何個人所有。
本公司解散或清算時,其資產(chǎn)在償付或撥備償付本公司所有債務(wù)和負(fù)債后,應(yīng)分配給專門為慈善、教育和/或宗教目的而組織和運(yùn)作的非營利基金、基金會或公司,該基金、基金會或公司已根據(jù)《國內(nèi)稅收法》第50l(c)(3)條或任何未來聯(lián)邦稅法的相應(yīng)條款確立其免稅地位,或應(yīng)分配給聯(lián)邦政府、州政府或地方政府,用于公共目的。
第六:公司不得擁有任何資本股份。
第七:公司不得有任何成員。
第八:公司注冊人的姓名和通信地址如下
喬納森李維
335 Pioneer Way
加利福尼亞州山景城94041
我,Jonathan Levy,為根據(jù)特拉華州法律成立一家公司,特此制作、歸檔并記錄本證書,并證明本證書所述事實(shí)屬實(shí),并特此于2015年12月8日簽字。
于2015年12月8日簽署。
授權(quán)官員
/s/Jonathan Levy Jonathan Levy