展會(huì)信息港展會(huì)大全

50封往來郵件揭秘OpenAI的緣起、發(fā)展與矛盾
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-11-18 07:55:43   瀏覽:65次  

導(dǎo)讀:當(dāng)?shù)貢r(shí)間11月14日,特斯拉 CEO 埃隆馬斯克 (Elon Musk)針對OpenAI 的起訴升級,增加了新的原告和被告。隨著起訴文件的更新,馬斯克、薩姆奧特曼(Sam Altman)、伊利亞蘇茨克弗 (Ilya Sutskever) 和格雷格布羅克曼 (Greg Brockman) 之間的大量電子郵件已作為法庭訴訟程序的一部分被公布。一個(gè)名為LessWrong的在線論壇和社區(qū)把大約50封郵件按照時(shí)間線進(jìn)行了整理,這些郵件的時(shí)間從 ......

50封往來郵件揭秘OpenAI的緣起、發(fā)展與矛盾

當(dāng)?shù)貢r(shí)間11月14日,特斯拉 CEO 埃隆馬斯克 (Elon Musk)針對OpenAI 的起訴升級,增加了新的原告和被告。

隨著起訴文件的更新,馬斯克、薩姆奧特曼(Sam Altman)、伊利亞蘇茨克弗 (Ilya Sutskever) 和格雷格布羅克曼 (Greg Brockman) 之間的大量電子郵件已作為法庭訴訟程序的一部分被公布。

一個(gè)名為LessWrong的在線論壇和社區(qū)把大約50封郵件按照時(shí)間線進(jìn)行了整理,這些郵件的時(shí)間從2015 年5月25日到2019年3月11日。

這些郵件肯定不是OpenAI發(fā)展過程中的全部,但是從這些公開的內(nèi)容中可以看到OpenAI的緣起、發(fā)展與矛盾,以及不同階段不同創(chuàng)始人、核心人員的不同觀點(diǎn)。

以下是公開的郵件內(nèi)容:

薩姆奧特曼致伊隆馬斯克- 2015525

一直在思考是否有可能阻止人類發(fā)展人工智能。

我認(rèn)為答案幾乎肯定是否定的。

如果無論如何都要實(shí)現(xiàn)這個(gè)目標(biāo),那么最好由谷歌以外的其他人先來做。

有沒有想過 YC 啟動(dòng)人工智能曼哈頓計(jì)劃是否是個(gè)好主意?我的感覺是,我們可以讓前 50 名中的許多人參與其中,我們可以將其構(gòu)建為通過某種非營利組織屬于世界的技術(shù),但如果成功,從事該技術(shù)的人將獲得與初創(chuàng)公司類似的報(bào)酬。顯然,我們會(huì)遵守/積極支持所有法規(guī)。

薩姆

伊隆馬斯克致薩姆奧特曼 2015525

可能值得談?wù)?br/>

薩姆奧特曼致伊隆馬斯克- 2015624

任務(wù)是創(chuàng)建第一個(gè)通用人工智能,并將其用于個(gè)人賦能即未來看起來最安全的分布式版本。更一般地說,安全應(yīng)該是首要要求。

我認(rèn)為我們最好從 7-10 人開始,然后計(jì)劃從那里開始擴(kuò)大。我們在 Mountain View 有一棟不錯(cuò)的額外建筑,他們可以享用。

我認(rèn)為,對于治理結(jié)構(gòu),我們應(yīng)該從 5 個(gè)人開始,我建議你、比爾蓋茨、皮埃爾奧米迪亞、達(dá)斯汀莫斯科維茨和我。該技術(shù)將歸基金會(huì)所有,并用于“造福世界”,如果不清楚如何應(yīng)用,我們 5 個(gè)人將做出決定。研究人員將獲得可觀的財(cái)務(wù)收益,但這與他們所構(gòu)建的東西無關(guān),這應(yīng)該可以消除一些沖突(我們將向他們支付有競爭力的薪水,并給他們 YC 股權(quán)作為收益)。我們會(huì)持續(xù)討論哪些工作應(yīng)該開源,哪些不應(yīng)該開源。在某個(gè)時(shí)候,我們會(huì)找一個(gè)人來管理團(tuán)隊(duì),但他/她可能不應(yīng)該加入治理委員會(huì)。

除了管理之外,你還會(huì)以其他方式參與嗎?我認(rèn)為這對讓工作朝著正確的方向發(fā)展非常有幫助,可以讓最優(yōu)秀的人才參與其中。理想情況下,你會(huì)每月或每隔一段時(shí)間過來和他們談?wù)勥M(jìn)展情況。我們一般把以某種有限方式參與 YC 的人稱為“兼職合伙人”(例如,我們就是這樣稱呼 Peter Thiel 的,盡管目前他參與度很高),但我們可以隨便叫他們。即使你不能真正花時(shí)間在上面,但可以公開支持,這可能仍然對招聘非常有幫助。

我認(rèn)為,制定監(jiān)管信函的正確計(jì)劃是等待這件事開始實(shí)施,然后我就可以發(fā)布它,并附上這樣的信息:“既然我們正在這樣做,我一直在思考世界需要什么樣的約束才能確保安全!蔽液芨吲d你也成為簽名者。我還懷疑,在它發(fā)布后,會(huì)有更多人愿意支持它。

薩姆

伊隆馬斯克致薩姆奧特曼- 2015624

全部同意

格雷格布羅克曼致伊隆馬斯克(抄送:薩姆奧特曼)- 20151122

嘿,Elon,

之前聊天很愉快。

正如我在電話中提到的,這是博客文章的最新早期草稿:(Sam、Ilya 和我正在考慮新名字;希望得到您的任何意見。)

顯然,還有很多其他細(xì)節(jié)需要更改,但我很好奇您對這種信息傳遞方式有何看法。我不想手下留情,如果感覺合適,我很樂意傳播更強(qiáng)烈的信息。我認(rèn)為最重要的是我們的信息能夠吸引研究界(或者至少吸引我們想要雇用的那部分人)。我希望我們能以中立的團(tuán)體身份進(jìn)入該領(lǐng)域,尋求廣泛合作,并將對話轉(zhuǎn)向人類勝利,而不是任何特定的團(tuán)體或公司。(我認(rèn)為這是讓我們成為領(lǐng)先研究機(jī)構(gòu)的最佳方式。)

我附上了我們一直在使用的錄用通知模板,薪資為17.5萬美元。以下是我發(fā)給別人的電子郵件模板:

附件是您的 YCR 正式錄取通知書!請簽名并注明日期。接下來還會(huì)有兩份文件:

另外還有一封信,向您提供您出席的每個(gè) YC 批次的 0.25%(作為擔(dān)任 YC 顧問的補(bǔ)償)。

隨意雇傭、保密信息、發(fā)明轉(zhuǎn)讓和仲裁協(xié)議

(由于這是我們提供的第一批官方優(yōu)惠,因此請?jiān)復(fù)局械娜魏慰部,如果發(fā)現(xiàn)任何奇怪之處,請告訴我。

我們計(jì)劃提供以下福利:

健康、牙科和視力保險(xiǎn)

無限假期,建議每年四周

帶薪育兒假

當(dāng)你展示 YC AI 工作或被 YC AI 邀請參加會(huì)議時(shí),可獲得付費(fèi)出席資格

我們也很樂意提供簽證支持。當(dāng)您準(zhǔn)備好討論簽證相關(guān)問題時(shí),我很樂意讓您與 YC 的 Kirsty 聯(lián)系。

如果您有任何問題,請告訴我  我隨時(shí)可以與您聊天!期待合作 :)。

gbd

伊隆馬斯克致薩姆奧特曼 2015128

正確寫出開篇摘要部分非常重要。這將是每個(gè)人都會(huì)讀到的內(nèi)容,也是媒體最常引用的內(nèi)容。這份新聞稿的全部目的是吸引頂尖人才。不確定格雷格是否完全明白這一點(diǎn)。

---- OpenAI 是一家非營利性人工智能研究公司,其目標(biāo)是以最有可能造福全人類的方式推進(jìn)數(shù)字智能,且不受產(chǎn)生財(cái)務(wù)回報(bào)義務(wù)的束縛。

我們公司的根本理念是將人工智能技術(shù)作為所有人類個(gè)體意志的延伸,盡可能廣泛地傳播,在自由精神的指導(dǎo)下,確保數(shù)字智能的力量不會(huì)過度集中,并朝著人類總體所期望的未來發(fā)展。

這個(gè)項(xiàng)目的成果尚不確定,而且薪酬也比其他公司提供的低,但我們相信目標(biāo)和結(jié)構(gòu)是正確的。我們希望這對該領(lǐng)域的佼佼者來說是最重要的。

薩姆奧特曼致伊隆馬斯克- 2015128

這怎么樣?__

OpenAI 是一家非營利性人工智能研究公司,其目標(biāo)是以最有可能造福全人類的方式推進(jìn)數(shù)字智能,且不受產(chǎn)生財(cái)務(wù)回報(bào)義務(wù)的束縛。

由于我們沒有任何財(cái)務(wù)義務(wù),我們可以專注于最大限度地發(fā)揮人類的積極影響,并盡可能廣泛地傳播人工智能技術(shù)。我們認(rèn)為人工智能應(yīng)該是個(gè)人意志的延伸,本著自由的精神,不應(yīng)集中在少數(shù)人的手中。

這個(gè)項(xiàng)目的成果尚不確定,而且薪酬也比其他公司提供的低,但我們相信目標(biāo)和結(jié)構(gòu)是正確的。我們希望這對該領(lǐng)域的佼佼者來說是最重要的。

薩姆奧特曼致伊隆馬斯克- 20151211

剛剛得到消息……

明天,deepmind 將向 openAI 中的每個(gè)人提供大量反報(bào)價(jià),試圖消滅它。

你對我主動(dòng)給每個(gè)人每年增加 10-20 萬的薪酬有什么異議嗎?我認(rèn)為他們都是為了這里的使命而努力,但這對每個(gè)人來說都是一個(gè)很好的信號,我們會(huì)隨著時(shí)間的推移照顧他們。

聽起來 DeepMind 正計(jì)劃為此發(fā)動(dòng)戰(zhàn)爭,他們實(shí)際上一直在 NIPS 上逼迫人們。

伊隆馬斯克致薩姆奧特曼- 20151211

伊利亞 (Ilya) 是否已經(jīng)堅(jiān)定地表示同意了呢?

如果有人有任何疑問,我也很樂意親自打電話給他們。我已經(jīng)告訴艾瑪,這是我每天 24 小時(shí)的首要任務(wù)。

薩姆奧特曼致伊隆馬斯克- 20151211

是的,承諾了,承諾了。只是做出了承諾。

伊隆馬斯克致薩姆奧特曼- 20151211

驚人的

薩姆奧特曼致伊隆馬斯克- 20151211

每個(gè)人都感覺很好,說著“接受 DeepMind 的提議吧,可惜他們沒有‘做正確的事’”這樣的話

太平洋標(biāo)準(zhǔn)時(shí)間下午 1:30 發(fā)布新聞

伊隆馬斯克致:Ilya Sutskever、Pamela VagataVicki Cheung、Diederik KingmaAndrej Karpathy、John D. SchulmanTrevor Blackwell、Greg Brockman(抄送:Sam Altman- 20151211

祝賀你有一個(gè)美好的開始!

你們所熟知的組織在人數(shù)和武器上都遠(yuǎn)遠(yuǎn)落后于我們,但我們有優(yōu)勢,這對我們來說很重要。我喜歡這種勝算。

我們最重要的考慮是招募最優(yōu)秀的人才。任何公司的產(chǎn)出都是公司內(nèi)部人員的矢量和。如果我們能夠隨著時(shí)間的推移吸引最有才華的人,并且我們的方向正確,那么 OpenAI 就會(huì)獲勝。

為此,請認(rèn)真考慮誰應(yīng)該加入。如果我能在招聘或其他方面提供幫助,我愿意為您效勞。我建議密切關(guān)注那些尚未完成研究生甚至本科教育但顯然才華橫溢的人。最好在他們?nèi)〉猛黄浦熬妥屗麄兗尤搿?br/>

期待共同合作,

伊隆

格雷格布羅克曼致伊隆馬斯克(抄送:薩姆奧特曼)- 2016221

大家好,

我們目前正在進(jìn)行公司成立后的第一輪全職工作。顯然,做好這些工作非常重要,因?yàn)橛绊懯情L期的。我還不太愿意自己做決定,希望得到任何指導(dǎo)。

以下是我們目前正在做的事情:

創(chuàng)始團(tuán)隊(duì):27.5 萬美元薪水 + 25bps 的 YC 股票

- 還可以選擇永久轉(zhuǎn)換為 12.5 萬美元年度獎(jiǎng)金或等值的 YC 或 SpaceX 股票。我不知道是否有人接受了我們的提議。

新報(bào)價(jià):年薪 17.5 萬美元 + 年薪 12.5 萬美元 || 等值 YC 或 SpaceX 股票。獎(jiǎng)金取決于績效評估,您可能獲得 0% 或遠(yuǎn)高于 100% 的獎(jiǎng)金。

特殊情況:gdb + Ilya + Trevor

該計(jì)劃是保持基本不變的工資,并使用獎(jiǎng)金倍數(shù)作為獎(jiǎng)勵(lì)表現(xiàn)出色的人的方式。

一些說明:

- 我們對股票變現(xiàn)前的 8 年使用 20% 的年化折扣,12.5 萬美元的獎(jiǎng)金相當(dāng)于 YC 的 12 個(gè)基點(diǎn)。因此最終價(jià)值更像是 75 萬美元。這個(gè)數(shù)字聽起來更令人印象深刻,盡管顯然很難準(zhǔn)確估值。

- 創(chuàng)始團(tuán)隊(duì)最初每人獲得 17.5 萬美元的薪酬。實(shí)驗(yàn)室成立后的第二天,我們主動(dòng)將每個(gè)人的薪水提高了 10 萬美元,告訴他們,一旦實(shí)驗(yàn)室取得成功,我們將為他們提供經(jīng)濟(jì)支持,并要求他們承諾忽略所有反要約,相信我們會(huì)為他們提供資金。

- 我們目前正在采訪 Brain 的 Ian Goodfellow,他是我們所沒有的領(lǐng)域中兩位頂尖科學(xué)家之一(另一位是 DeepMind 的忠實(shí)擁護(hù)者 Alex Graves)。他是 Brain 中最好的人,所以 Google 會(huì)爭取他。我們將他納入創(chuàng)始團(tuán)隊(duì)的報(bào)價(jià)中。

一些薪資數(shù)據(jù)點(diǎn):

- DeepMind 為約翰提供了每年 25 萬美元的全額薪酬,他認(rèn)為自己可以輕松地將薪酬談至 30 萬美元。

- FAIR 口頭向 Wojciech 提供約 125 萬美元/年薪(但沒有具體信件)

- Andrew Tulloch 在 FB 的年薪為 80 萬美元。(很多是可兌現(xiàn)的股票。)

- Ian Goodfellow 目前在 Google 的年薪為 16.5 萬美元現(xiàn)金 + 60 萬美元股票。

- 蘋果有點(diǎn)絕望,向人們提供 55 萬美元現(xiàn)金(可能加上股票)。我認(rèn)為沒有哪個(gè)好人會(huì)答應(yīng)。

我心中有兩個(gè)具體的候選人:

- 安德魯幾乎要說“是”了。但他對大幅減薪感到擔(dān)憂。

- Ian 表示他主要不關(guān)心錢,但灣區(qū)物價(jià)昂貴 / 他想確保自己能買得起房子。我不知道如果 Google 開始向 Ilya 透露他們給出的數(shù)字,會(huì)發(fā)生什么。

我的直接問題是:

1. 我預(yù)計(jì)安德魯會(huì)嘗試談判。我們是否應(yīng)該堅(jiān)持他的提議,并告訴他只有當(dāng)他足夠興奮接受這種減薪時(shí)才加入(并且其他人留下了更多)?

2. 伊恩將于周三接受面試并(我確信)收到錄用通知。我們應(yīng)該將他的錄用通知視為最終決定,還是愿意根據(jù) Google 的錄用通知做出調(diào)整?

3. 根據(jù) 1 + 2 的答案,我想知道這種固定策略是否合理。如果我們保留它,我覺得我們必須真正說服人們接受獎(jiǎng)金乘數(shù)。也許一個(gè)選擇是使用簽約獎(jiǎng)金作為杠桿來讓人們簽約?

4. 非常次要,但我們的實(shí)習(xí)生薪酬也低于市場水平:每月 9000 美元。(FB 提供 9000 美元 + 免費(fèi)住房,谷歌提供全包 11000 美元/月。)薪酬對實(shí)習(xí)生來說遠(yuǎn)不如對全職員工重要,因?yàn)榻?jīng)驗(yàn)是首要的。但我認(rèn)為我們可能已經(jīng)失去了一位對此持懷疑態(tài)度的候選人?紤]到每小時(shí)的薪酬比全職員工低得多,我們是否應(yīng)該考慮增加薪酬?

我很樂意隨時(shí)聊聊此事。

gbd

伊隆馬斯克致格雷格布羅克曼(抄送:薩姆奧特曼)- 2016222

我們需要盡一切努力來獲得頂尖人才。讓我們更上一層樓。如果在某個(gè)時(shí)候我們需要重新審視現(xiàn)有員工的薪酬,那也沒關(guān)系。

要么我們能找到世界上最優(yōu)秀的人才,要么我們就會(huì)被 Deepmind 打敗。

無論需要做什么,只要能培養(yǎng)出頂尖人才,我都愿意。

Deepmind 讓我精神壓力極大。如果他們贏了,那對他們一心一意統(tǒng)治世界的理念來說將是一個(gè)壞消息。他們顯然正在取得重大進(jìn)展,而且他們應(yīng)該取得進(jìn)展,因?yàn)槟抢锏娜瞬潘胶芨摺?br/>

格雷格布羅克曼致伊隆馬斯克(抄送:薩姆奧特曼)- 2016222

聽得清清楚楚。聽起來是個(gè)好計(jì)劃。計(jì)劃繼續(xù)與 sama 就具體事宜進(jìn)行合作,但如果您想隨時(shí)了解最新情況,請告訴我。

gbd

Greg BrockmanElon Musk,(抄送:Sam Teller- 2016321

嗨,Elon,

我接受了 Wired 雜志關(guān)于 OpenAI 文章的采訪,事實(shí)核查人員向我發(fā)送了一些問題。我想與您就兩個(gè)問題進(jìn)行同步,以確保它們聽起來合理/與您所說的一致:

OpenAI 是否正在放棄其全部研究成果?

無論何時(shí),我們都會(huì)采取最有可能造福世界的行動(dòng)。從短期來看,我們認(rèn)為最好的方法是放棄我們的研究成果。但從長遠(yuǎn)來看,這可能不是最好的方法:例如,最好不要立即分享一項(xiàng)潛在的危險(xiǎn)技術(shù)。在任何情況下,我們都會(huì)放棄我們所有研究成果,并希望這些成果歸于全世界,而不是任何一家機(jī)構(gòu)。

OpenAI 是否認(rèn)為,讓盡可能多的人擁有最復(fù)雜的人工智能是人類防止過于聰明的人工智能落入私人手中、以某種方式向世界發(fā)動(dòng)攻擊以達(dá)到惡意目的的最好機(jī)會(huì)?

我們相信,利用人工智能來擴(kuò)展個(gè)人意志是確保人工智能保持有益的最有希望的途徑。這很有吸引力,因?yàn)槿绻性S多具有大致相同能力的代理,它們就可以控制任何一個(gè)壞人。但我不會(huì)聲稱我們擁有所有的答案:相反,我們正在建立一個(gè)既能尋找這些答案,又能采取最佳行動(dòng)的組織,無論答案是什么。

謝謝!

gbd

伊隆馬斯克致格雷格布羅克曼(抄送:薩姆特勒)- 2016321

聽起來不錯(cuò)

薩姆特勒致伊隆馬斯克2016427

[亞歷克斯湯普森轉(zhuǎn)發(fā)給伊隆馬斯克的消息]

嗨,薩姆,

希望您今天過得愉快,很抱歉打斷您問另一個(gè)問題。Maureen想看看馬斯克先生對扎克伯格先生自采訪以來的一些公開評論有何反應(yīng)。特別是,他將馬斯克先生稱為“歇斯底里的人”,因?yàn)樗麑θ斯ぶ悄芨械娇謶,并教?xùn)那些“散布恐慌”的人人工智能的危險(xiǎn)。我在下面提供了扎克伯格先生評論的更多細(xì)節(jié)。

最近在德國被問及馬斯克的擔(dān)憂時(shí),扎克伯格稱其為“歇斯底里”,并稱贊了人工智能的突破,其中包括一個(gè)系統(tǒng),他聲稱該系統(tǒng)可以通過手機(jī)對皮膚病變進(jìn)行癌癥診斷,準(zhǔn)確度堪比“最好的皮膚科醫(yī)生”。

他說:“除非我們真的把事情搞砸了,否則機(jī)器永遠(yuǎn)都是服從的,而不是“超人”。

“我認(rèn)為我們可以開發(fā)人工智能,讓它為我們工作并幫助我們……有些人散布恐慌,說人工智能會(huì)帶來巨大的危險(xiǎn),但在我看來,這種說法過于牽強(qiáng),而且比起由于疾病蔓延、暴力等原因造成的災(zāi)難,這種可能性要小得多!被蛘哒缢谒脑路莸Facebook開發(fā)者大會(huì)上表達(dá)的理念:“選擇希望而不是恐懼!

亞歷克斯湯普森《紐約時(shí)報(bào)》

伊隆馬斯克致薩姆特勒- 2016427

歷史清楚地表明,強(qiáng)大的技術(shù)是一把雙刃劍。人工智能可以說是所有技術(shù)中最強(qiáng)大的,但如果你認(rèn)為它只有一把劍,那就太愚蠢了。

微軟的人工智能聊天機(jī)器人最近的例子表明,人工智能可以迅速產(chǎn)生極其負(fù)面的影響。明智的做法是謹(jǐn)慎對待人工智能的出現(xiàn),確保其權(quán)力得到廣泛分配,而不是由任何一家公司或個(gè)人控制。

這就是我們創(chuàng)建 OpenAI 的原因。

Sam AltmanElon Musk,(抄送:Sam Teller- 2016916

以下是微軟的條款。6000萬美元的計(jì)算費(fèi)用為1000萬美元,以及我們對他們在云中部署的內(nèi)容的意見。如果您有任何反饋,請告訴我。

薩姆

Microsoft/OpenAI 條款

伊隆馬斯克致薩姆奧特曼(抄送:薩姆特勒)- 2016916

這實(shí)際上讓我感到惡心。這太糟糕了,這正是我對他們的期望。

CNTK v2、Azure BatchHD-Insight的評估、推廣和使用:OpenAI將評估CNTK v2Azure BatchHD-Insight的研究成果,并就Microsoft如何改進(jìn)這些產(chǎn)品提供反饋。OpenAI將與Microsoft合作,向其研究和開發(fā)者生態(tài)系統(tǒng)推廣這些產(chǎn)品,并將Microsoft Azure作為其首選的公共云提供商。OpenAI將自行決定采用這些產(chǎn)品,只要這對其研究有意義

假設(shè)我們愿意讓微軟將空閑的計(jì)算時(shí)間捐贈(zèng)給 OpenAI,并讓大家知道這一點(diǎn),但我們不想簽訂任何合同或同意“宣傳”。他們可以隨時(shí)關(guān)閉我們的服務(wù),我們也可以隨時(shí)離開。

Sam AltmanElon Musk,(抄送:Sam Teller- 2016916

我讀完該部分后也有同樣的反應(yīng),他們已經(jīng)同意放棄。

我們最初只是希望捐贈(zèng)太空周期,但團(tuán)隊(duì)希望更確定是否有可用容量。但我會(huì)與微軟合作,確保沒有任何附加條件

伊隆馬斯克致薩姆奧特曼(抄送:薩姆特勒)- 2016916

我們應(yīng)該低調(diào)行事。無論如何都不確定。沒有合同。

Sam AltmanElon Musk,(抄送:Sam Teller- 2016916

好的,看看我能從這個(gè)方向得到多少錢。

薩姆特勒致伊隆馬斯克2016920

微軟現(xiàn)在愿意以 5000 萬美元的價(jià)格簽訂該協(xié)議,并“由 OpenAI 自行決定采取誠意行動(dòng)”,并擁有隨時(shí)終止合同的完全權(quán)利。無需宣傳。不附加任何條件。看起來不像是微軟蹩腳的營銷棋子?梢岳^續(xù)嗎?

伊隆馬斯克致薩姆特勒 2016921

如果他們不在主動(dòng)消息傳遞中使用這個(gè)功能,我沒意見。如果看起來不像微軟的營銷婊子,那么價(jià)值將遠(yuǎn)遠(yuǎn)超過 5000 萬美元。

伊利亞蘇茨克韋爾致伊隆馬斯克、格雷格布羅克曼- 2017720

- 機(jī)械手現(xiàn)在可以在模擬中解決魔方:

實(shí)體機(jī)器人將于九月做同樣的事情

- 1v1 機(jī)器人不再可利用

它不再能被“非常規(guī)”策略打敗

有望在一個(gè)月內(nèi)擊敗所有人類

- 運(yùn)動(dòng)競技機(jī)器人:

- 發(fā)布了一個(gè)可以同時(shí)從各個(gè)角度欺騙相機(jī)的對抗樣本:

- DeepMind 直接使用了我們的一種算法來產(chǎn)生他們的跑酷結(jié)果:

DeepMind 的成果:

DeepMind 的技術(shù)論文明確指出他們直接使用了我們的算法

- 接下來:

設(shè)計(jì)盈利結(jié)構(gòu)

與 Cerebras 協(xié)商合并條款

對 Cerebras 進(jìn)行更多盡職調(diào)查

Shivon Zilis致埃隆馬斯克(抄送:Sam Teller- 2017828

伊隆,

正如我提到的,Greg 要求在本周末討論一些事情。Ilya 最終加入了,他們幾乎分享了他們?nèi)栽谒伎嫉乃惺虑。這是那次隨機(jī)談話的提煉……歸結(jié)為 7 個(gè)未解答的問題,下面是他們的評論。請注意,我并不提倡任何這些,只是組織和分享我聽到的信息。

1. 短期控制結(jié)構(gòu)?

- 是否要求絕對控制?他們想知道,如果其他人(不僅僅是他們?nèi)齻(gè)人,也許是更廣泛的董事會(huì))對方向意見不一,那么是否存在某種創(chuàng)造性的否決條款?

2. 控制和過渡的持續(xù)時(shí)間?

-*不可協(xié)商*的條款似乎是一項(xiàng)鐵定的協(xié)議,即如果創(chuàng)建了 AGI,則不會(huì)讓任何一個(gè)人擁有絕對控制權(quán)。滿足這一條件意味著,無論他們?nèi)税l(fā)生什么,都可以保證在 2-3 年的初始階段后分配對公司的權(quán)力。

3. 花費(fèi)的時(shí)間?

-Elon 想花多少時(shí)間在這上面?他實(shí)際上能花多少時(shí)間在這上面?時(shí)間范圍是多長?是每周一小時(shí),還是十小時(shí),還是介于兩者之間?

4. 花費(fèi)的時(shí)間該如何處理?

-他們真的不知道他喜歡在其他公司如何度過時(shí)間,也不知道他想如何花時(shí)間在這件事上。Greg 和 Ilya 相信他們可以很好地構(gòu)建 SW/ML 方面。他們對硬件方面沒有信心。他們似乎希望 Elon 能花一些時(shí)間在這方面,因?yàn)檫@是他們的弱點(diǎn),但他們確實(shí)希望他在他感興趣的所有領(lǐng)域都能得到幫助。

5. 花費(fèi)的時(shí)間與控制量的比例?

-他們喜歡時(shí)間少/控制少,喜歡時(shí)間多/控制多,不喜歡時(shí)間少/控制多。他們擔(dān)心如果花費(fèi)的時(shí)間太少,就沒有足夠的時(shí)間討論相關(guān)背景信息,從而做出正確的決定。

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港