劃重點：
1OpenAI的首席執(zhí)行官山姆奧特曼（Sam Altman）曾表示，如果使用不當(dāng)，人工智能會讓所有人都消亡。
2在倡導(dǎo)人工智能可能性的同時，奧特曼敦促政策制定者制定規(guī)則和通過監(jiān)管來減輕人工智能可能帶來的危險。
3奧特曼倡導(dǎo)用普世的基本收入計劃來緩和不平等，“它將大幅提升人們的平均收入”。
4OpenAI去年的營收約為2800萬美元，奧特曼稱公司并不以盈利為目的，未來營收增速會低于市場普遍的預(yù)期。
5我們能夠管理好人工智能，我對此非常有信心。但如果我們對風(fēng)險不是非常警惕，如果不坦率地談?wù)撍赡軙兊枚嗝丛愀�，我們就不會成功地管理它�?/p>
6奧特曼：我是一個中西部的猶太人，我認(rèn)為這充分解釋了我確切的心理模型，非常樂觀，并為任何時候事情變得超級糟糕做好了準(zhǔn)備。
7奧特曼：我們還需要很多年，我不知道需要多少年，但至少需要很多年，人工智能才能影響經(jīng)濟(jì)。
科技新聞訊 當(dāng)前人工智能熱潮中最引人注目的人物當(dāng)屬OpenAI的首席執(zhí)行官山姆奧特曼（Sam Altman）�！稌r代周刊》前主編愛德華費爾森塔爾（Edward Felsenthal）日前對奧特曼進(jìn)行了專訪。
這位38歲的連續(xù)創(chuàng)業(yè)的企業(yè)家最近因談?wù)撊斯ぶ悄艿娘L(fēng)險而聞名，但重點是人工智能所帶來風(fēng)險的可能性。這種能夠?qū)θ祟惖目陬^命令做出自然反應(yīng)的新技術(shù)具有革命性，奧特曼甚至為它設(shè)想了應(yīng)用場景--最終像電影《星際迷航》(Star Trek)一樣。
奧特曼的公司OpenAI成立只有7年時間，目前的員工還不到500人。在OpenAI位于舊金山教會區(qū)的總部的通風(fēng)、光線充足的大廳里，通過管道傳遞一些長笛和鯨魚的聲音，它幾乎會被誤認(rèn)為是一個水療中心。但在6個月的時間里，該公司通過其病毒式產(chǎn)品ChatGPT，將人工智能帶入公眾的視野。幾乎沒有人質(zhì)疑OpenAI是這場革命的先鋒。最終，這場革命將改變世界，不管是好是壞，兩者都有可能。
被采用速度最快的產(chǎn)品
幾乎可以肯定的是，ChatGPT是科技史上被采用速度最快的產(chǎn)品。它也是功能更豐富的產(chǎn)品之一，能夠響應(yīng)大量的用戶提示，從“給我講個笑話”到“起草10張幻燈片，提出增加發(fā)廊收入的想法。”它可以寫詩，解釋科學(xué)概念。奧特曼說，他如今用ChatGPT來完成日常任務(wù)，比如從他眾多的電子郵件收件箱中提取主要郵件，或者“起草一條我很難處理的推文。”本質(zhì)上，ChatGPT是一個超級強(qiáng)大的自動完成工具，但它有其局限性，包括令人不安的無法區(qū)分真實和虛構(gòu)。OpenAI關(guān)于這一點的警告放在文本輸入框的下面，并沒有阻止人們使用它完成作業(yè)、投資建議，甚至是治療。
面向消費者的人工智能產(chǎn)品之前已經(jīng)上市，但ChatGPT的文本對話界面引起了轟動。在2022年11月30日發(fā)布之后的幾天里，OpenAI的員工被粘在他們的電腦屏幕上。隨著使用數(shù)量的增加，他們在公司的Slack頻道上發(fā)布不斷增加的用戶數(shù)據(jù)。OpenAI的人力副總裁黛安尹（Diane Yoon）說：“它只是以越來越陡的角度不斷上升。”根據(jù)Similarweb的數(shù)據(jù)，兩個月后，ChatGPT的獨立訪問用戶數(shù)量超過了1億。相比較而言，Instagram用了30個月才達(dá)到這個水平。
引發(fā)科技巨頭的軍備競賽
這也引發(fā)了一場軍備競賽。隨后，谷歌發(fā)布內(nèi)部“紅色警報”，并將旗下兩個人工智能實驗室--Google Brain和DeepMind--合并為一家公司。已對OpenAI投資30億美元的微軟，隨后又追加了100億美元投資。今年3月，OpenAI再次加大賭注，發(fā)布了一款名為GPT-4的更強(qiáng)大的工具。
磨煉所有的承諾，才是真正的恐懼。毫無疑問，人工智能會像其他的新型技術(shù)一樣，即使能夠創(chuàng)造出新的工作崗位，也會讓更多的工作消失。這也增強(qiáng)了壞人的能力，讓他們用偽裝成真相的虛假內(nèi)容和聽起來像我們所愛的人的虛假聲音來淹沒我們。我們能相信自己看到或聽到的嗎？奧特曼承認(rèn)，令人不安的事實是，答案可能是否定的。“你不能再相信自己在電話里聽到的聲音，”他說。“我們只是需要開始告訴人們這一天即將到來。”
如果落入壞人之手，這些工具可能會引發(fā)更嚴(yán)重的問題，發(fā)動網(wǎng)絡(luò)攻擊或給金融市場帶來災(zāi)難。如果人工智能能夠自己制定計劃并付諸行動--特別是如果這些計劃與人類價值觀不“一致”--那么可以想象它們會認(rèn)為人類是實現(xiàn)目標(biāo)的障礙。奧特曼本人最近加入了數(shù)十名科技領(lǐng)袖和科學(xué)家的行列，簽署了一份聲明，將人工智能的發(fā)展視為與流行病和核戰(zhàn)爭同等的風(fēng)險。他在今年初曾表示，最糟糕的情況是“所有人都消亡”。
這已經(jīng)成為奧特曼的名片，在倡導(dǎo)人工智能可能性的同時，敦促政策制定者制定規(guī)則來減輕危險。“我是中西部的猶太人，”在圣路易斯長大的奧特曼說。“我認(rèn)為這充分解釋了我的確切心理模型--非常樂觀，并為任何時候事情變得超級糟糕做好了準(zhǔn)備。”奧特曼的成功來自于調(diào)整自己適應(yīng)全新環(huán)境的能力。在他的職業(yè)生涯中，適應(yīng)性是引導(dǎo)他在20多歲和30多歲時獲得巨額財富的一部分。他作為合伙人幫助創(chuàng)辦了數(shù)千家新公司，后來成為知名創(chuàng)業(yè)加速器Y Combinator的總裁。這也讓奧特曼相信，作為一個物種，人類可以避免人工智能可能帶來的最壞情況。“社會能夠適應(yīng)，因為人類比許多所謂的專家想象的要聰明和精明得多，”他說。“我們可以做到這一點。”
倡導(dǎo)普世基本收入計劃
在強(qiáng)調(diào)人工智能風(fēng)險的同時，奧特曼認(rèn)為無論如何都要勇往直前。他是人工智能監(jiān)管的直言不諱的倡導(dǎo)者，對于哪些應(yīng)該適用于他的公司，他有自己的看法。他是一位公開的資本主義者，他說他在OpenAI中沒有股份，構(gòu)建他的公司以限制投資者的利潤；因為許多人認(rèn)為人工智能會加劇不平等，奧特曼還倡導(dǎo)用普世的基本收入計劃來緩和不平等。盡管他和他的同事承認(rèn)他們對技術(shù)將如何發(fā)展的洞察力有限，但他表示相信這些模型有能力不斷改進(jìn)。
OpenAI董事會成員海倫托勒（Helen Toner）說：“甚至創(chuàng)造它們的人也不知道它們能做什么，不能做什么。我預(yù)計，我們真正了解GPT-4能做和不能做的所有事情可能還需要幾年時間。”
我們能夠在多大程度上信任正在“調(diào)整”這些強(qiáng)大的機(jī)器算法的人類--包括他們的意圖和能力--將是未來幾年反復(fù)出現(xiàn)的重大問題之一。在與OpenAI各部門員工的交談中，對人工智能危險的認(rèn)識幾乎是一個普遍的話題。這與煙草、化石燃料和社交媒體高管的劇本大相徑庭，他們花了數(shù)年時間否認(rèn)可能的危害，但最終被迫承認(rèn)現(xiàn)實。
OpenAI的人力副總裁黛安尹表示，OpenAI沒有使用“競爭對手”這個詞，這是對在該領(lǐng)域與他人合作以避免不良結(jié)果的重要性的肯定。當(dāng)被問及人工智能軍備競賽時，公司發(fā)言人反對這一比喻，稱“整個軍備競賽不是由我們引發(fā)的。”
當(dāng)然，很難否認(rèn)OpenAI在引發(fā)行業(yè)發(fā)展中沒有發(fā)揮重要作用。“這是一場競賽，”人道技術(shù)中心（the Center for Humane Technology）的聯(lián)合創(chuàng)始人、倫理學(xué)家特里斯坦哈里斯（Tristan Harris）說，但主要參與者之間的合作將是關(guān)鍵。“我們需要協(xié)調(diào)，因為這不是為了讓OpenAI更加安全。這不會有任何作用，因為其他人只會發(fā)展的越來越快。”哈里斯擔(dān)心“能力的進(jìn)步是指數(shù)級的，安全措施的進(jìn)步是線性的”，并擔(dān)心“推出人工智能服務(wù)是出于商業(yè)動機(jī)，而不是對我們希望看到的世界的有意識的考慮。”
奧特曼認(rèn)為，ChatGPT界面比iPhone界面簡單是一種進(jìn)步，并表示這是受他小時候喜歡發(fā)短信的啟發(fā)。奧特曼說，給ChatGPT起一個“可怕的”機(jī)器人名字是經(jīng)過深思熟慮的；他擔(dān)心將人工智能工具擬人化的誘惑，這可能會削弱人類和機(jī)器之間的區(qū)別。這是另一個二元性：ChatGPT被訓(xùn)練來提醒用戶它沒有自己的觀點。然而，ChatGPT的人性化特質(zhì)--它的對話界面，它對第一人稱代詞的自由使用--是讓它迅速走紅的關(guān)鍵因素。
盡管微軟進(jìn)行了大量投資，并轉(zhuǎn)向了一種盈利模式，即使有上限，也能獲得100倍的回報，但OpenAI仍然認(rèn)為自己是一個研究實驗室，致力于確保通用人工智能“造福全人類”的最初使命。公司的文化就是由它定義的。OpenAI首席運營官布拉德萊特卡普（Brad Lightcap）表示:“如果這個項目在60、70年前開始，可能會是政府資助的項目。”
據(jù)報道，OpenAI去年的營收約為2800萬美元，還不到一般汽車經(jīng)銷商收入的一半。但是奧特曼說，他并沒有立即感受到將公司的商業(yè)成功提升到與其影響力水平相當(dāng)?shù)膲毫�。�?dāng)被問及他花了多少時間擔(dān)心競爭時，他說，“你不會相信我，但幾乎沒有。”他說，讓他夜不能寐的不是來自谷歌的LaMDA、Meta的LLaMA和Anthropic的Claude等語言模型的激烈競爭。“這與誰獲得更多或更少的市場份額是完全不同的，”奧特曼說。“我們必須想出如何管理這件事，并讓它順利進(jìn)行。”
跨越六大洲的閃電旅行
在《時代周刊》對奧特曼進(jìn)行專訪后不久，開始了跨越六大洲的為期五周的閃電旅行。他說，這次旅行的目的是讓他走出硅谷的辦公室。從某種程度上說，這也是一次勝利之旅--隨著民族國家意識到他所引領(lǐng)的技術(shù)的力量，這也是鼓勵和影響全球人工智能監(jiān)管的一次嘗試。在訪問期間，奧特曼在美國參議院發(fā)表了講話，會見了英國和印度總理，就即將出臺的歐盟人工智能法案發(fā)表了意見。
5月24日，奧特曼在倫敦一所大學(xué)的報告廳演講。排隊的人群沿著馬路蜿蜒向前，繞過一個拐角。演講結(jié)束后，奧特曼沒有消失在后臺，而是跳進(jìn)人群中，被學(xué)生和記者包圍。他擺出自拍姿勢，勇敢地回答問題。穿過旋轉(zhuǎn)門后，他與抗議者進(jìn)行了短暫的討論。其中一人舉著一個牌子，上面寫著“停止自殺式AGI競賽”。在奧特曼的身旁，并沒有看到保鏢或公關(guān)人員的身影，這與馬克扎克伯格（Mark Zuckerberg）等人的做法截然不同。
就像在他之前的科技公司一樣，奧特曼所說的和幕后發(fā)生的事情之間有一些共同點。在倫敦的活動中，奧特曼告訴記者，由于歐盟即將出臺人工智能法案，OpenAI可能會決定在歐盟“停止運營”。在去年與歐盟官員的一次會議上，OpenAI反駁了要求ChatGPT等“通用”人工智能模型遵守與被歐盟視為“高風(fēng)險”的人工智能工具相同的規(guī)則的措辭。
在《時代周刊》的專訪中，奧特曼對社會適應(yīng)人工智能風(fēng)險的最終能力深表樂觀。例如，為了確保你在電話上聽到或在視頻上看到的人是他們所說的人，他預(yù)見將使用技術(shù)和社會舉措的混合方式，如驗證身份的密碼或密鑰。他看到人工智能最終完成大量占據(jù)我們?nèi)粘Ｉ畹某Ｒ?guī)任務(wù)的前景，同時努力應(yīng)對“發(fā)現(xiàn)癌癥的治療方法”等提示。奧特曼說：“激動人心的部分幾乎太長了，無法一一列舉。”
奧特曼也思考了OpenAI在創(chuàng)建ChatGPT時是否做了“一些非常糟糕的事情”。長期以來，奧特曼一直被報道是一個末日預(yù)言者--隨時準(zhǔn)備著槍支、藥品和防毒面具。他翻了翻白眼，認(rèn)為這種描述有些夸張，但他補(bǔ)充說，他確實覺得生存主義是“一種有趣的愛好”。“聽著，如果AGI出了問題，沒有任何掩體能幫助任何人，”他說。“可怕的是，把這個杠桿放到這個世界上，肯定會產(chǎn)生不可預(yù)測的后果。”
以下是《時代周刊》前主編愛德華費爾森塔爾（Edward Felsenthal）對奧特曼專訪的全文：
問：你在日常生活中用ChatGPT做什么？
答：我每天用它做的一件事是幫助歸納。我真的不能再繼續(xù)關(guān)注我的收件箱了，但是我做了一件小事來幫助它為我總結(jié)，并從未知發(fā)件人那里提取重要的內(nèi)容，這非常有幫助。我每天早上都把它貼在那里。我用它為下周要見的人翻譯了一篇文章，為此做準(zhǔn)備。這是一件有趣的事情，我用它來幫我起草一條我很難理解的推文。
問：ChatGPT發(fā)布后獲得全球用戶的追捧，你對此感到驚訝嗎？
答：我們認(rèn)為它會讓人們興奮，許多人確實已經(jīng)對這項技術(shù)非常興奮了。所以從某種意義上來說，就像是，“哇，這些數(shù)字快瘋了。這看起來很瘋狂。”但我記得第一周的很多討論是，為什么以前沒有發(fā)生這種情況？
問：其他的人工智能產(chǎn)品之前已經(jīng)出現(xiàn)了。
答：我認(rèn)為用戶體驗非常重要。不僅僅是用戶界面，還有我們調(diào)整模型的方式，使之具有特定的對話風(fēng)格。它很大程度上是受短信的啟發(fā)。我很早以前就是用短信，也是短信的超級用戶。
問：隨著技術(shù)更深入地融入我們的生活，未來的界面會是什么樣子？
答：你可以用雙向語音來做到這一點，而且感覺是即時的。你將能夠像兩個人一樣交談，那將是非常強(qiáng)大的。你可以(最終)想象一個世界，就像你所說的那樣，它就像《星際迷航》中的全息甲板。但我認(rèn)為最重要的是，你想發(fā)生的事情有多少能從相對少量的對話中發(fā)生。隨著這些模型更好地了解你，并且有能力做更多的事情，你真的可以想象一個世界，在那里你與模型進(jìn)行相當(dāng)簡單和簡短的對話，然后大量的事情會以你的名義完成。
問：是通過我們的手機(jī)還是無處不在？
答：我覺得它無處不在，一下子就會這樣�，F(xiàn)在，人們?nèi)匀惶幱谡f“我是一家人工智能公司”的階段。但很快，我們就會期望我們使用的所有產(chǎn)品和服務(wù)都融入一些智能，就像今天的移動應(yīng)用一樣。
問：你把這項技術(shù)描述為對人類生存的最大威脅和人類最大的潛在進(jìn)步。
答：毫無疑問，這項技術(shù)最令人困惑的地方之一就是它的整體能力--既有好的一面，也有潛在的壞的一面。我認(rèn)為我們可以做很多事情來最大化好的方面，管理和減輕壞的方面，但可怕的是，把這個杠桿放到世界上肯定會有不可預(yù)知的后果。令人興奮的部分幾乎太長了，無法一一列舉，但我認(rèn)為這正在改變?nèi)藗兊墓ぷ鞣绞健Ｋ诟淖內(nèi)藗兊膶W(xué)習(xí)方式。它將改變?nèi)藗兣c世界互動的方式。從深層次上來說，人工智能是這個世界，也是人們一直想要的技術(shù)�？苹靡呀�(jīng)談?wù)撊斯ぶ悄茉S久了。
問：作為父母，想想看，有一件事似乎很可怕，那就是我們怎么知道我們的孩子真的是我們的孩子。你接到一個電話稱：“我需要錢，我需要幫助。”
答：這將是一個真正的問題，而且很快就會成為一個真正的問題。這不僅僅是作為父母，也是考慮到我們自己的父母，他們已經(jīng)不成比例地成為這些勒索電話的受害者。我想我們都需要開始告訴人們這一天即將到來。你不能再相信電話里聽到的聲音了。社會能夠適應(yīng)，因為人們比我認(rèn)為許多所謂的專家所認(rèn)為的要聰明和精明得多。
問：我需要和我的孩子說暗語嗎？
答：我認(rèn)為這將是許多解決方案的疊加。人們會用視頻來驗證暗語。這可能會在一段時間起到作用。技術(shù)解決方案會有所幫助。人們也會交換密鑰和許多其他想法。我們只是需要一個技術(shù)和社會解決方案的組合，以不同的方式運作。我很擔(dān)心，但我們會適應(yīng)的。我們很擅長這個。
問：埃里克施密特（Eric Schmidt）和喬納森海特（Jonathan Haidt）認(rèn)為，人工智能將使我們在社交媒體方面的問題變得更糟。你擔(dān)心嗎？
答：我認(rèn)為社交媒體現(xiàn)在處于一個非常不穩(wěn)定的時期，我當(dāng)然對此感到緊張。我也能看到人工智能讓它變得更好的許多方法。我認(rèn)為這些事情很難預(yù)測。
問：你說過人工智能最糟糕的情況是所有人都消亡？
答：我們能夠管理好人工智能，我對此非常有信心。但如果我們對風(fēng)險不是非常警惕，如果不坦率地談?wù)撍赡軙兊枚嗝丛愀�，我們就不會成功地管理它�?/p>
問：過去有報道稱你是末日預(yù)言家。
答：如果生成式人工智能（AGI）出現(xiàn)了問題，任何掩體都幫不了任何人。所以我認(rèn)為它被夸張地諷刺了。我確實認(rèn)為生存主義是一個有趣的愛好。有趣的是，在疫情早期，很多人都認(rèn)為，“也許這是個好主意。”但是我并沒有在這上面花費太多的時間和精力。我認(rèn)為AGI會發(fā)展得非常好。我認(rèn)為確實存在我們必須應(yīng)對的風(fēng)險，但我認(rèn)為碉堡與此無關(guān)。
我是一個中西部的猶太人，我認(rèn)為這充分解釋了我確切的心理模型，非常樂觀，并為任何時候事情變得超級糟糕做好了準(zhǔn)備。
問：公眾為什么要信賴像OpenAI這種以營利為目的的公司？
答：首先，我們不是一家以營利為目的的公司。我們是一個非營利組織，擁有一家有利潤上限的子公司。我們認(rèn)真思考并設(shè)計了一種結(jié)構(gòu)，在這種結(jié)構(gòu)中，我們的非營利組織對有利潤上限的子公司擁有完全的控制權(quán)和治理權(quán)，可以為其投資者和員工賺一定的錢，讓我們做我們需要做的事情。開發(fā)這些模型的代價卻是非常高昂。
問：設(shè)置利潤封底還是要盈利的。
答： 當(dāng)然可以。而且我也不覺得盈利不好。我非常贊成資本主義。我認(rèn)為這是我們迄今為止發(fā)明的最不壞的系統(tǒng)。所以我完全贊同人們從中獲利。我覺得這很好。我只是認(rèn)為這項技術(shù)的發(fā)展需要一個不同于普通的激勵系統(tǒng)。
問：你能提供一些你認(rèn)為政府在管理人工智能方面的角色的細(xì)節(jié)嗎？
答：我認(rèn)為我們需要對超過一定功率閾值的模型進(jìn)行監(jiān)管。我們可以用能力來定義，這是最好的�；蛘呶覀兛梢杂脛�(chuàng)建模型的計算能力來定義它，這是最簡單的，但我認(rèn)為并不完美。我認(rèn)為像那樣的模型需要向政府報告。它們應(yīng)該受到政府的監(jiān)管，應(yīng)該由外部組織進(jìn)行審計，應(yīng)該被要求通過一些安全問題的評估。這將是一個非常好的政策。我希望這在某個時候會成為全球性的。
問：你談到了一個全球性的機(jī)構(gòu)，我們需要一個監(jiān)督委員會，就像我們看待原子能那樣。
答：是的。我不是這方面的專家。此外，你應(yīng)該對任何要求自己監(jiān)管的公司持懷疑態(tài)度。但我認(rèn)為我們呼吁的是對我們影響最大的東西。我們說你必須對邊境的人進(jìn)行最嚴(yán)格的管理。但我認(rèn)為這些系統(tǒng)已經(jīng)非常強(qiáng)大，并將變得更加強(qiáng)大。我們以前曾作為一個全球社區(qū)走到一起，尋求非常強(qiáng)大的技術(shù)，這些技術(shù)帶來了巨大的風(fēng)險，為了獲得巨大的好處，我們必須克服這些風(fēng)險。
問：其他具體建議？
答：有一些小的短期的事情，我認(rèn)為希望是沒有爭議的。我認(rèn)為所有生成的內(nèi)容都應(yīng)該被標(biāo)記為已生成。事實上，我們甚至不能就此達(dá)成一致，這似乎是一個失誤。我還可以談?wù)勎艺J(rèn)為在短期內(nèi)有好處的其他細(xì)節(jié)。但是，我認(rèn)為這個世界真正需要的是，在非常強(qiáng)大的訓(xùn)練硬件上進(jìn)行類似國際原子能機(jī)構(gòu)的國際協(xié)調(diào)，這需要一段時間，而且非常重要。人工智能倡導(dǎo)者需要開始倡導(dǎo)這一點。自國際原子能機(jī)構(gòu)以來，這種情況還沒有真正以有意義的方式出現(xiàn)過。
問：你認(rèn)為在美國可以做些什么？
答：我認(rèn)為我們肯定可以完成短期人工智能監(jiān)管。讓我們這樣識別所有生成的內(nèi)容。讓我們要求對這些系統(tǒng)的安全標(biāo)準(zhǔn)進(jìn)行獨立審計。我認(rèn)為這是可行的。我有點樂觀地認(rèn)為，長期合作也是可行的。
問：最近有報道稱，OpenAI的合作伙伴微軟和谷歌已經(jīng)在歐盟游說，希望一些規(guī)定不適用于通用人工智能。我們?nèi)绾未_保法規(guī)在發(fā)生時是全面和真實的？
答：我們有責(zé)任輔導(dǎo)政策制定者和公眾我們認(rèn)為正在發(fā)生的事情，我們認(rèn)為可能會發(fā)生的事情，并把技術(shù)推向世界，讓人們可以看到它。我們認(rèn)為部署ChatGPT這樣的東西對我們的使命非常重要，這樣人們可以獲得一些經(jīng)驗，感受這些系統(tǒng)的能力和局限性。我們的機(jī)構(gòu)和社會的作用是找出我們的社會想要什么。
問：你支持普世基本收入，并表示擔(dān)心人工智能將加深世界上已經(jīng)嚴(yán)重的不平等。但你也對我說，你認(rèn)為在我們有(實現(xiàn)這一目標(biāo)的)政治意愿之前，還有很長的路要走。
答：我希望人工智能可以減少不平等，更重要的是，我希望它可以大幅提升人們的整體收入。如果沒有人陷入貧困，如果每個人的生活都在逐年改善，如果我們真的能夠大幅提高人們的生活水平，我對這個世界上有身價萬億的富豪沒有意見。我意識到不是每個人都同意這一點。但我認(rèn)為人工智能非常自然，我們在我們都經(jīng)歷過的這場漫長的技術(shù)革命中一次又一次地看到了這一點，它將大幅提升人們的平均收入。
問：現(xiàn)在的你和ChatGPT發(fā)布前的你有什么不同嗎？
答：忙得不可開交，真不容易。我也有很多人的焦慮投射到我身上，這也很難，但我一直認(rèn)為你可以通過你能適應(yīng)的東西來給自己驚喜。人類的適應(yīng)能力令人難以置信。所以這感覺就像是新的常態(tài)。除了太多的電子郵件，我已經(jīng)習(xí)慣了其他的一切。
問：我們做錯了什么？
答：我認(rèn)為人們在框架中犯的一個錯誤是，這是一種工具還是一種生物？甚至那些知道它是一種工具的人，因為它很容易被擬人化，陷入了過度的創(chuàng)作中。我認(rèn)為這是個錯誤。我認(rèn)為這會導(dǎo)致錯誤的想法。這是一個工具。
問：然而，真正的政策到位需要數(shù)年時間。
答：確實是這樣。我過去每年都要為此去幾次華盛頓。那里的政客都非常友好。他們對你微笑，說：“哦，是的，這個人工智能的事情，可能很重要。”但他們并不在乎。我們相信這一策略的原因之一是，對于人們來說，認(rèn)真對待它，真正參與它，理解它，僅僅告訴他們是不夠的。你必須向人們展示，人們需要自己使用這項技術(shù)，了解它的局限性、好處和風(fēng)險。對話真的需要現(xiàn)在就開始，因為解決這個問題需要一段時間，但每個政府現(xiàn)在都在認(rèn)真關(guān)注。
問：你在幾年前的摩爾定律文章中寫道，這將極大地加速不平等，你談到了以某種形式重新分配收入的必要性。什么時候？公司已經(jīng)從人工智能中賺了大錢。知道這應(yīng)該何時發(fā)生的標(biāo)志是什么？
答：有趣的是，當(dāng)我寫那篇文章的時候，我就被批評了。“你瘋了，這種東西沒有任何意義。完全不可能。”現(xiàn)在這些人又說：“你做得還不夠。我們需要馬上做這件事。我們需要把這些東西放在適當(dāng)?shù)奈恢谩?rdquo;我的感覺是，我們還需要很多年，我不知道需要多少年，但至少需要很多年，人工智能才能影響經(jīng)濟(jì)，我們需要并且在政治上有能力完成這樣的事情。但我不認(rèn)為我們還有幾十年的時間。
我仍然希望基本收入能夠出現(xiàn)。我認(rèn)為這只是一個好的政策，但現(xiàn)在看起來在政治上不可行。
問：在生成人工智能的早期，我們聽到每個人都在用社交媒體做類比。你覺得呢？
答：其實兩者完全不同。就我們必須如何思考它而言，這種類比更接近于核材料或合成生物學(xué)。社交媒體有很強(qiáng)的社會效應(yīng)。一個人在沒有人傾聽的情況下使用社交媒體，對世界的影響極其有限。但是一個擁有核材料的人或者一個制造病原體的人可能會對世界產(chǎn)生巨大的影響。現(xiàn)在，一個人也可以做很多好事；一個人可以治愈癌癥或者一小部分人可以治愈癌癥。(但)這不是一種天生的社交體驗。
問：六個月后，一年后會發(fā)生什么？
答：會有很多事情發(fā)生。我們會在某個時候把圖像、音頻和視頻放進(jìn)去，模型會變得更智能。但是我認(rèn)為人們真正值得高興的是現(xiàn)在，如果你嘗試一件事情1萬次，并從1萬個答案中選出最好的一個，這對大多數(shù)問題來說都很好，但不是所有其他的問題。GPT-4在大多數(shù)時候擁有知識，但你并不總是得到它的最佳答案。我們怎樣才能在任何時候都給你最好的答案呢？如果我們能搞清楚這一點，這就像一個開放的研究難題，這將是一件大事。
問：你曾談到經(jīng)濟(jì)可能會放緩。
答：這是百分之百的事情。
問：在微軟投資之后，OpenAI的估值已經(jīng)大幅飆升？開啟營收引擎模式給你帶來了什么樣的壓力？
答：不太多。我們是一家專注于自身使命的公司。
問：OpenAI是否會專注于營收？
答：我想會。但是我們的營收不會像其他人想的那么多。我們的營收增速會比本來的模樣慢得多。
問：當(dāng)前對人工智能領(lǐng)域和初創(chuàng)公司的投資爆炸式增長給你帶來了什么壓力？
答：你可能不會相信我的，但幾乎沒有。我至少多年來一直堅持這么說。這和其他任何東西都不一樣。社會將會發(fā)生根本性的變化。這與誰獲得多一點或少一點的市場份額是完全不同的。我們必須想辦法解決這個問題，讓事情進(jìn)展順利。（無忌）
