劃重點(diǎn)
01OpenAI CEO Sam Altman在與哈佛大學(xué)教授Patrick Chung的對(duì)談中，分享了AI技術(shù)的未來走向和社會(huì)影響。
02Altman認(rèn)為AI技術(shù)的潛力遠(yuǎn)未被完全開發(fā)，未來幾年將會(huì)有更大的進(jìn)展，創(chuàng)業(yè)者應(yīng)選擇利用AI技術(shù)快速進(jìn)步的策略。
03他提到，OpenAI一開始選擇了非營利的模式，但隨著AI研發(fā)規(guī)模和資源需求越來越大，后來轉(zhuǎn)變?yōu)?ldquo;有限利潤(rùn)”模式。
04此外，OpenAI在技術(shù)開發(fā)過程中非常注重安全性和責(zé)任感，如在決定是否部署重大技術(shù)如GPT-5時(shí)，會(huì)進(jìn)行極其慎重的考量。
以上內(nèi)容由騰訊混元大模型生成，僅供參考
奧特曼分享早期創(chuàng)業(yè)經(jīng)驗(yàn)：創(chuàng)業(yè)就是一場(chǎng)“持久戰(zhàn)”，誰堅(jiān)持到最后誰贏
近日， OpenAI CEO Sam Altman 與其首位投資人& X Fund 管理合伙人 Patrick Chung 在哈佛大學(xué)展開了一次對(duì)談，重點(diǎn)討論了 AI 的未來走向、其對(duì)社會(huì)的影響，以及 Sam Altman 和 OpenAI 團(tuán)隊(duì)在這一領(lǐng)域的最新研究方向。
Altman 強(qiáng)調(diào)， AI 技術(shù)的進(jìn)步不會(huì)像許多人預(yù)測(cè)的那樣很快進(jìn)入停滯期，反而會(huì)持續(xù)帶來戲劇性的發(fā)展。他認(rèn)為， AI 的潛力遠(yuǎn)未被完全開發(fā)，未來幾年將會(huì)有更大的進(jìn)展。創(chuàng)業(yè)者應(yīng)該預(yù)見到 AI 技術(shù)會(huì)不斷變得更強(qiáng)大，而不是基于現(xiàn)有技術(shù)做短期投資決策。
AI 創(chuàng)業(yè)者的戰(zhàn)略通常有兩種選擇：一種是賭 AI 技術(shù)已接近頂峰，另一種是賭技術(shù)會(huì)大幅提升。他建議創(chuàng)業(yè)者選擇第二種策略，即利用 AI 技術(shù)的快速進(jìn)步，通過基礎(chǔ)模型的增強(qiáng)逐步提升業(yè)務(wù)的有效性，而不是僅僅將有限的資源投入到特定場(chǎng)景中的小幅改進(jìn)。
他還提到， OpenAI 一開始選擇了非營利的模式，但如果能回到過去，他可能會(huì)選擇營利性結(jié)構(gòu)。他解釋說，隨著 AI 研發(fā)的規(guī)模和資源需求越來越大， OpenAI 需要找到可持續(xù)的商業(yè)模式來支持其技術(shù)進(jìn)步。這也是 OpenAI 后來轉(zhuǎn)變?yōu)?ldquo;有限利潤(rùn)”模式以確保技術(shù)發(fā)展能夠獲得足夠資金支持的原因。
OpenAI 每年都會(huì)推出那些人們?cè)J(rèn)為不可能實(shí)現(xiàn)的技術(shù)。特別是在 GPT 系列模型的發(fā)展上， OpenAI 從 GPT-3 到 GPT-4，不斷通過規(guī)�；图夹g(shù)的提升，創(chuàng)造出更智能、更有價(jià)值的產(chǎn)品。
此外，在技術(shù)開發(fā)過程中， OpenAI 非常注重安全性和責(zé)任感，尤其是在決定是否部署重大技術(shù)如 GPT-5 時(shí)。他表示， OpenAI 會(huì)對(duì)這些重要決策進(jìn)行極其慎重的考量，不會(huì)僅憑科學(xué)好奇心推動(dòng)這些決定。
Altman 還表示， OpenAI 的策略是持續(xù)探索下一個(gè)技術(shù)突破，而不是僅僅滿足于當(dāng)前的成就。OpenAI 并不太關(guān)注競(jìng)爭(zhēng)對(duì)手，而是專注于推動(dòng)新范式的創(chuàng)新，只追隨目前的技術(shù)進(jìn)展并不是好的創(chuàng)業(yè)策略。真正的挑戰(zhàn)在于找到未來可能實(shí)現(xiàn)的突破，并成為第一個(gè)實(shí)現(xiàn)它的人。
以下為這次對(duì)談的主要內(nèi)容，enjoy～
Patrick Chung：
我們認(rèn)識(shí)已經(jīng)快 20 年了。那最近你在忙什么呢？說到很久以前，我給你帶來了一個(gè)禮物。這是我們第一次見面時(shí)，你為你的第一家公司做的第一次融資展示。
Sam Altman：
我還沒見過這個(gè)呢，自那以后就沒見過。
Patrick Chung：
這家公司叫 Viendo，后來變成了 Looped。所以當(dāng)你看著這個(gè)，如果你可以回到 19 歲的Sam Altman，你會(huì)對(duì)那時(shí)的自己說些什么是你現(xiàn)在知道但當(dāng)時(shí)不知道的？
Sam Altman：
我認(rèn)為你可以在這個(gè)世界上有所作為，而這并沒有被很好地教授。我 19 歲時(shí)肯定不知道，當(dāng)時(shí)我對(duì)自己期望不高，也在做錯(cuò)誤的事情。
你會(huì)很快學(xué)到這些，但當(dāng)時(shí)我不確定自己是否能做到。我認(rèn)為進(jìn)步的方式就是，人們要非常努力工作，堅(jiān)定自己的信念，并致力于此。
這是世界變得更好，事情發(fā)生的唯一方式。而且你不需要等待或獲得許可，哪怕你在世界上默默無聞、資源極少，也能取得令人驚訝的成就。我是這么認(rèn)為的。
Patrick Chung：
你 19 歲的時(shí)候就知道這些嗎？因?yàn)楫?dāng)時(shí)我見到你時(shí)，似乎你已經(jīng)表現(xiàn)出了這種精神。
Sam Altman：
我很快就明白了，一旦你開始行動(dòng)，你會(huì)發(fā)現(xiàn)，哦，原來是這么回事。但在開始公司之前，我肯定沒有這種意識(shí)。
Patrick Chung：
大家對(duì) AI 、 OpenAI 以及人類命運(yùn)都充滿了濃厚的興趣，我們稍后會(huì)聊到這些。但今天我們主要的觀眾是學(xué)生，他們看到你，心生向往，夢(mèng)想著能夠在世界上產(chǎn)生像你一樣的影響。
我覺得你現(xiàn)在連一半的成就還沒有完成，他們可能會(huì)想知道你是如何做到的。所以我想回到更早的時(shí)候，看看你的“超級(jí)英雄起源故事”。
可以和我們談?wù)?0年級(jí)時(shí)的Sam Altman嗎？你是如何成長(zhǎng)的？你的家庭生活是怎樣的？當(dāng)時(shí)你一天的生活是怎樣的？
Sam Altman：
我當(dāng)時(shí)就是個(gè)電腦迷。我不知道，我基本就是坐在家里玩電腦。
Patrick Chung：
用的是什么電腦？
Sam Altman：
當(dāng)時(shí)我已經(jīng)有一臺(tái) iMac了，算是第二代。我不是只玩游戲，雖然也確實(shí)玩游戲，但更多的是學(xué)習(xí)編程之類的事情。我有一個(gè)很普通的高中生活，沒什么特別值得講的。我上學(xué)，和朋友們一起玩，做運(yùn)動(dòng)，當(dāng)然也會(huì)用電腦。
Patrick Chung：
你玩什么運(yùn)動(dòng)？
Sam Altman：
我打水球，這是我最常做的運(yùn)動(dòng)。我也游泳，還練擊劍。
Patrick Chung：
在典型的美國高中電影里，會(huì)有一些小團(tuán)體，比如運(yùn)動(dòng)健將、書呆子等等。你屬于哪個(gè)小團(tuán)體？
Sam Altman：
我肯定更偏向書呆子那一類。
Patrick Chung：
結(jié)果對(duì)你來說還挺不錯(cuò)的，對(duì)吧？
Sam Altman：
不過我也很喜歡運(yùn)動(dòng)。
Patrick Chung：
除了水球，你還玩其他運(yùn)動(dòng)嗎？
Sam Altman：
嗯，主要是水球，不過我也游泳，因?yàn)樗麄冏屛揖氂斡尽?/p>
Patrick Chung：
不錯(cuò)。
Sam Altman：
所以我平時(shí)訓(xùn)練時(shí)會(huì)游泳。
Patrick Chung：
那你在高中時(shí)，你最大的恐懼是什么？你在高中有什么害怕的事情嗎？
Sam Altman：
我不知道，就像是普通的青春期煩惱吧。我沒特別大的擔(dān)憂。
Patrick Chung：
你很快樂？
Sam Altman：
是的，沒有什么特別煩惱的事。
Patrick Chung：
所以你并沒有在擔(dān)心人類的命運(yùn)？
Sam Altman：
沒有，當(dāng)時(shí)我只是享受當(dāng)下，每天過得很開心。
Patrick Chung：
不過你在高中應(yīng)該學(xué)得很好，因?yàn)槟闵暾?qǐng)并被斯坦福和哈佛錄取了。
Sam Altman：
對(duì)，我也被哈佛錄取了。
Patrick Chung：
是什么讓你選擇了斯坦福？你是怎么考慮大學(xué)的？是因?yàn)榇蠹叶忌暾?qǐng)大學(xué)，所以你也申請(qǐng)，還是你真的很想去斯坦福？
Sam Altman：
完全是默認(rèn)的選擇，從來沒想過不上大學(xué)。我知道我想學(xué)計(jì)算機(jī)科學(xué)，所以我去了斯坦福。我覺得那是個(gè)很棒的地方，特別是計(jì)算機(jī)科學(xué)系，那里的人就是我想要待在一起的。
Patrick Chung：
你到斯坦福后，還做了什么其他事情？你當(dāng)時(shí)是一年級(jí)新生，對(duì)吧？
Sam Altman：
有趣的是，雖然我確實(shí)上了計(jì)算機(jī)科學(xué)課，但我不記得為什么，決定也選了很多其他的課程。事后看來，這些課程都比我當(dāng)時(shí)預(yù)料的要有用得多。學(xué)科學(xué)課很棒，寫作課也很棒。
Patrick Chung：
寫作？真的嗎？是創(chuàng)意寫作嗎？
Sam Altman：
對(duì)，創(chuàng)意寫作課。
Patrick Chung：
也許預(yù)示了未來的發(fā)展？
Sam Altman：
哈哈，我也在想。但斯坦福提供的廣泛視角真的很棒。而且，像很多人一樣，最重要的是，我身邊有一群非常聰明的人，他們都在追求各種有趣的想法。
我在大一到大二的暑假期間在 AI 實(shí)驗(yàn)室工作。當(dāng)時(shí)人工智能完全不奏效，但我仍然覺得它非常酷。后來我花了一段時(shí)間才重新回到這個(gè)領(lǐng)域。
Patrick Chung：
你是在 AI 實(shí)驗(yàn)室里找到你最感興趣的人嗎？是在計(jì)算機(jī)科學(xué)系、創(chuàng)意寫作課，還是其他地方？
Sam Altman：
嗯，計(jì)算機(jī)科學(xué)系是我的“部落”，確實(shí)是這樣。
Patrick Chung：
當(dāng)時(shí)你是在 Andrew Ng 的實(shí)驗(yàn)室，對(duì)吧？
Sam Altman：
是的，就是他的實(shí)驗(yàn)室。
Patrick Chung：
是什么讓你感到興奮？因?yàn)楫?dāng)時(shí)，正如 Andrew 所說， AI 還在邊緣地帶，沒什么核心的影響。
Sam Altman：
我喜歡那些一旦成功就會(huì)產(chǎn)生巨大影響的事物，哪怕它們成功的概率不高。如果 AI 能成功，它會(huì)是最酷、最重要、最激動(dòng)人心的事物之一，所以值得去追求。
盡管成功的幾率不大，但預(yù)期價(jià)值很高，所以我想去研究它。不過當(dāng)時(shí)的感覺是，我們對(duì)如何做完全沒有頭緒。
Patrick Chung：
你看到了這一點(diǎn)。
Sam Altman：
事實(shí)證明我們確實(shí)不知道該怎么做。神經(jīng)網(wǎng)絡(luò)并不是一個(gè)新概念。
Patrick Chung：
這很有趣，因?yàn)槟愕玫搅藛l(fā)，然后你在大二時(shí)決定休學(xué)創(chuàng)業(yè)，帶著你手上的商業(yè)計(jì)劃書開始了公司運(yùn)營。這也是我們認(rèn)識(shí)的方式。
我們花了很長(zhǎng)時(shí)間在 Looped上，遇到了許多困難，比如要與運(yùn)營商達(dá)成合作。你在 19 歲時(shí)是如何完成那些大公司都難以做到的事情的？你在那個(gè)年紀(jì)能與這些大公司達(dá)成合作，這是怎么做到的？
Sam Altman：
Paul Graham 常常說的一句話，雖然沒有成為備受推崇的建議，但我覺得應(yīng)該如此，那就是你應(yīng)該盡力保持“resolutely resourceful”。令人驚訝的是，如果你不斷尋找新的解決問題的方式，你就能找到解決方案。
我認(rèn)為這是生活中最重要的技能之一，而且這種能力出乎意料地是可以學(xué)習(xí)或傳授的，并且在幾乎所有場(chǎng)景中都能奏效。
Patrick Chung：
能給我們舉個(gè)例子，說明這種方法是如何奏效的嗎？
Sam Altman：
比如你剛提到的例子，我們需要與一家移動(dòng)運(yùn)營商達(dá)成合作，但他們通常不會(huì)與初創(chuàng)企業(yè)或技術(shù)公司合作。
我們大概嘗試了 30 多種方式接觸這家公司。有一次，關(guān)鍵的決策者最終決定見我們，理由是“我見你們是因?yàn)槟銈兲珶┝?rdquo;。
我們不斷嘗試，直到成功。而大多數(shù)人可能在第一次被忽略的郵件或第一條未找到合適聯(lián)系人時(shí)就會(huì)放棄，但我們堅(jiān)持了很多次。對(duì)
于我們來說，這是公司的生死攸關(guān)的問題，所以我們非常有動(dòng)力去做，最終確實(shí)通過了大概 30 個(gè)不同的接觸點(diǎn)。
Patrick Chung：
你是如何判斷什么時(shí)候該放棄的？19 歲時(shí)，你給一家大公司的首席技術(shù)官發(fā)郵件，他們不斷忽略你。你怎么知道什么時(shí)候該停止呢？
Sam Altman：
我認(rèn)為這里確實(shí)有個(gè)平衡點(diǎn)，你可能會(huì)走得太遠(yuǎn)，沒有及時(shí)學(xué)習(xí)或調(diào)整。我在 YC 期間遇到的一個(gè)問題是，創(chuàng)業(yè)者總是問我，如何知道該放棄創(chuàng)業(yè)？我花了很多時(shí)間試圖總結(jié)出一個(gè)標(biāo)準(zhǔn)，但從未成功。
這些事情都是判斷性的，你可以通過大量數(shù)據(jù)和多次嘗試來學(xué)習(xí)，但很難說有一個(gè)適用于所有場(chǎng)景的固定公式。
Patrick Chung：
你在 YC 任職很長(zhǎng)時(shí)間，見證了世界上一些最杰出的創(chuàng)始人、初創(chuàng)公司和技術(shù)的發(fā)展，遠(yuǎn)早于其他人。你顯然在那段時(shí)間沒有被任何一家吸引，或者自己?jiǎn)?dòng)什么新項(xiàng)目。但最終當(dāng)你決定創(chuàng)辦 OpenAI 時(shí)，為什么選擇了非營利組織的形式？
Sam Altman：
當(dāng)時(shí)我知道我想做一些與 AI 相關(guān)的事情，但你得回到2015年的心態(tài)。我們知道深度學(xué)習(xí)有些有趣的事情正在發(fā)生，且隨著規(guī)模的增加表現(xiàn)會(huì)更好，但除此之外我們一無所知。
我們成立了 OpenAI ，第一天的早上我清楚地記得，大家坐在一起面面相覷，不知道接下來要做什么。我們決定先做一些研究，寫論文，想出一些點(diǎn)子。最初我們甚至沒有任何產(chǎn)品或收入來源的想法，語言模型的概念也遠(yuǎn)未成型。
當(dāng)時(shí)我們完全不知道會(huì)做出一些人們真正愿意使用的產(chǎn)品，只想著做些研究，看看能否實(shí)現(xiàn)一些東西。這就是為什么我們選擇了非營利形式，因?yàn)槲覀兤鸪踔皇窍肟纯茨芊窀闱宄?AI 的方向，而不是想著如何盈利。
Patrick Chung：
你當(dāng)時(shí)怎么能有這樣的信念？因?yàn)槟阏f你剛開始研究實(shí)驗(yàn)室，感覺就像是在瞎碰運(yùn)氣，看看有什么成功的可能。
Sam Altman：
其實(shí)也不完全是碰運(yùn)氣。2012 年，我的聯(lián)合創(chuàng)始人 Ilya 和其他人在做 AlexNet 時(shí)，我認(rèn)為那是我們應(yīng)該醒悟的時(shí)刻。
我們知道深度學(xué)習(xí)有效，也知道它隨著規(guī)模的擴(kuò)大而表現(xiàn)得更好。雖然我們后來才學(xué)到它會(huì)以可預(yù)測(cè)的方式隨著規(guī)模增長(zhǎng)而提升，但這已經(jīng)是個(gè)重大突破了。
大家當(dāng)時(shí)應(yīng)該意識(shí)到這一點(diǎn)，但花了我?guī)啄甑臅r(shí)間才完全接受這個(gè)現(xiàn)實(shí)。最終我覺得，我們真的應(yīng)該在這方面做點(diǎn)什么，應(yīng)該推動(dòng)這個(gè)領(lǐng)域的發(fā)展。
即便如此，盡管我們知道這些“秘密”，要找到具體的方向還是非常困難。我們坐在那里思考，“我們?cè)撛趺醋觯?rdquo;
最后我們決定用電子游戲作為實(shí)驗(yàn)環(huán)境，因?yàn)樗峁┝艘粋�(gè)很有趣的測(cè)試環(huán)境，你能通過得分或?qū)箤＜襾砗饬窟M(jìn)展。
我們也覺得機(jī)器人技術(shù)很酷，所以也做了一些機(jī)器人項(xiàng)目。經(jīng)過多次摸索，我們最終證明了深度學(xué)習(xí)有效并且隨著規(guī)模的擴(kuò)大表現(xiàn)更好。
然后某個(gè)時(shí)候，有人對(duì)無監(jiān)督學(xué)習(xí)和語言模型產(chǎn)生了好奇，這促成了 GPT-1 的誕生。然后又有人提議，既然我們已經(jīng)知道規(guī)模很重要，那我們就把它擴(kuò)大到 GPT-2 。
Patrick Chung：
在那個(gè)時(shí)間點(diǎn)，你是全職投入 OpenAI 了嗎？
Sam Altman：
差不多是那個(gè)時(shí)候吧。
Patrick Chung：
能不能回溯一下，是什么讓你決定全職投入？是哪一條線讓你覺得，“好吧，現(xiàn)在這件事足夠真實(shí)了，我要全職投入了”？
Sam Altman：
這是一個(gè)漸進(jìn)的過程，但就在那個(gè)時(shí)候，我們開始真正理解語言模型的潛力，能夠衡量它的進(jìn)展，比如后來成為著名的“規(guī)模損失”論文。
我們發(fā)現(xiàn)，這不僅僅是隨著規(guī)模的增大變得更好，而且它以驚人的可預(yù)測(cè)方式變得更好。只要我們投入更多資源，或者找到更有效的提升方式，這個(gè)系統(tǒng)就會(huì)變得越來越智能。
對(duì)我來說，這可能是我有生之年聽到的最重要的新知識(shí)。當(dāng)然，歷史上有更重要的東西，但這是我在親歷的事情中，最重要的發(fā)現(xiàn)之一。我曾經(jīng)有過一種奇怪的體驗(yàn)，告訴別人這些發(fā)現(xiàn)，試圖讓別人給我們資金去推動(dòng)這項(xiàng)研究。
很多人不理解，當(dāng)時(shí)我就在想，“我是瘋了嗎？還是我們都陷入了某種迷信？”因?yàn)檫@明明應(yīng)該像地震一樣震撼整個(gè)世界。但是那時(shí)候，我們已經(jīng)意識(shí)到我們需要繼續(xù)推動(dòng)，接下來是 GPT-3 ，然后是 3.5，接著是 4。
Patrick Chung：
你當(dāng)時(shí)有了這樣的洞見，為什么世界上其他人沒有意識(shí)到呢？
Sam Altman：
其實(shí)，自從2012年的突破以來，我覺得世界應(yīng)該更加關(guān)注這個(gè)領(lǐng)域。在那之后，我們也經(jīng)歷了很多時(shí)刻，比如 GPT-2 、規(guī)模損失論文、 GPT-3 ，然而為什么直到 GPT-3.5，世界才開始真正關(guān)注？我到現(xiàn)在也不完全明白為什么是那個(gè)時(shí)刻，而不是其他時(shí)候。
Patrick Chung：
是不是因?yàn)槟惆阉唐坊耍龀闪艘粋�(gè)產(chǎn)品？
Sam Altman：
GPT-3 已經(jīng)通過 API 被很多人使用了，尤其是在技術(shù)行業(yè)內(nèi)部有很多興奮點(diǎn)，但它似乎還沒有完全達(dá)到突破的點(diǎn)。
我們未來會(huì)做出比 ChatGPT 更好的東西，但為什么是 ChatGPT ，而不是別的版本，我至今仍覺得不太容易解釋清楚。
Patrick Chung：
作為 CEO，你需要做很多產(chǎn)品決策，能不能跟我們分享一個(gè)你在 OpenAI 做出的艱難的產(chǎn)品決策？
Sam Altman：
我們的產(chǎn)品決策通常是研究決策的延伸，我們選擇研究的方向以及決定不研究哪些方向，往往是最困難、也是最重要的。
在產(chǎn)品方面， ChatGPT 的行為是一個(gè)例子，決定它應(yīng)該拒絕什么、不拒絕什么，它的使用邊界在哪里，如何找到對(duì)齊點(diǎn)（alignment），這些都是最難的產(chǎn)品決策。
Patrick Chung：
能給我們舉一個(gè)具體的例子嗎？
Sam Altman：
例如， ChatGPT 應(yīng)該提供法律建議嗎？
Patrick Chung：
你是說提供法律建議？
Sam Altman：
有很多理由不這樣做，特別是由于 ChatGPT 的“幻覺”問題或者常見的不準(zhǔn)確性，認(rèn)為它不應(yīng)該提供法律建議是很合理的。但另一方面，世界上有很多人無法負(fù)擔(dān)法律建議。如果我們能提供，即便不完美，或許也是比沒有更好的選擇。
Patrick Chung：
那么，你們是怎么思考這個(gè)問題的，最后做出了什么樣的決定？
Sam Altman：
現(xiàn)在大多數(shù)情況下它不會(huì)提供法律建議，但在某些場(chǎng)景下、某些方式下，它還是可以做到。不過考慮到我們運(yùn)營的不同地區(qū)的法律規(guī)定，以及這種情況出錯(cuò)時(shí)可能帶來的后果，目前我們基本上不提供這類功能。
