不久前，谷歌DeepMind團(tuán)隊重磅發(fā)布全新的「阿爾法」模型AlphaQubit，能以高精度識別量子計算錯誤。這是AI+量子計算另一個令人興奮的交叉點，有望預(yù)定下一個諾獎級AI？
此前，新晉諾獎得主、谷歌DeepMind CEO Demis Hassabis 在《泰晤士報》和《泰晤士報商業(yè)版》主辦的科技峰會上發(fā)表演講，Hassabis回顧了DeepMind的創(chuàng)立，談了 AGI、AlphaFold 和 AI 的未來。
谷歌DeepMind CEO Demis Hassabis說，將人工智能視為普通技術(shù)是錯誤的，人工智能將具有“劃時代的意義”，很快將治愈所有疾病、解決氣候和能源問題并豐富我們的生活，AGI大概需要 10 年時間，因為還需要 2 到 3 項重大創(chuàng)新，下一項就是基于代理的系統(tǒng)。
事實上，Hassabis 30 年前就開始研究 AI 了！從游戲 AI 到神經(jīng)科學(xué)，他一直堅信 AI 的潛力。2010年，DeepMind的想法是，深度學(xué)習(xí)剛剛在學(xué)術(shù)界被發(fā)明出來。時至今日，獲得諾獎的Demis Hassabis又有了新的認(rèn)知轉(zhuǎn)變和看法。本文整理了萬字訪談的精華，以下，Enjoy：
文丨opencat
照例先給大家劃個重點（訪談全文附在文后）：
Demis Hassabis看見了什么？Hassabis已經(jīng)在游戲的微觀世界中看到了一點，并且理解得很清楚：從一個隨機(jī)的系統(tǒng)AlphaZero開始8小時就可以訓(xùn)練出超越最頂尖人類的國際象棋實體，雖然這只是游戲狹窄領(lǐng)域，但一定會擴(kuò)展出世界模型。
DeepMind 的初心：Hassabis 30 年前就開始研究 AI 了！從游戲 AI 到神經(jīng)科學(xué)，他一直堅信 AI 的潛力。2010 年，他創(chuàng)立 DeepMind，因為他看到了深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)的巨大潛力，以及 GPU 等硬件的快速發(fā)展。他想打造一個通用的、能自我學(xué)習(xí)的 AI 系統(tǒng)，這正是 DeepMind 的初心！
游戲 AI，AGI 的“練兵場”：DeepMind 早期專注于游戲 AI，是因為游戲可以快速驗證算法的有效性，而且容易進(jìn)行基準(zhǔn)測試。但他們的目標(biāo)不僅僅是贏得游戲，而是開發(fā)通用的 AI 技術(shù)，并將其應(yīng)用于其他領(lǐng)域，例如科學(xué)和商業(yè)。
AlphaFold：AI for Science 的典范：Hassabis 一直對用 AI 解決科學(xué)難題充滿熱情，而蛋白質(zhì)折疊問題是他最想攻克的目標(biāo)之一。AlphaFold 的成功（Hassabis因AlphaFold 獲得2024諾貝爾化學(xué)獎），證明了AI 在科學(xué)領(lǐng)域的巨大潛力！
多模態(tài)模型，AGI 的關(guān)鍵：Hassabis 認(rèn)為，多模態(tài)模型是 AGI 系統(tǒng)的關(guān)鍵組成部分，例如 DeepMind 的 Gemini 模型，它可以處理文本、圖像、音頻、視頻和代碼等多種輸入。
通往 AGI 的道路：更強(qiáng)大的 Agent：現(xiàn)在的聊天機(jī)器人大多是被動的問答系統(tǒng)，而未來的 AI 系統(tǒng)需要更主動、更智能，能夠像 AlphaGo 一樣進(jìn)行規(guī)劃和推理，并在現(xiàn)實世界中采取行動。
AGI 時代，還有多遠(yuǎn)？Hassabis 預(yù)計，我們距離 AGI 還有大約 10 年的時間。
DeepMind 的未來：DeepMind 將繼續(xù)以研究為導(dǎo)向，同時也會加大產(chǎn)品研發(fā)的投入，與谷歌的其他部門合作，將 AI 技術(shù)應(yīng)用于更多產(chǎn)品和服務(wù)中。
AGI 時代，人類將進(jìn)入富足時代！Hassabis 認(rèn)為，AGI 將徹底改變經(jīng)濟(jì)和社會，消除能源和資源的稀缺性，讓人類進(jìn)入一個物質(zhì)極大豐富的時代。我們需要提前思考如何分配這些財富，例如，是否應(yīng)該實行全民基本收入制度，
以下訪談全文：
主持人：我想，在座的各位幾乎都知道DeepMind，也知道它現(xiàn)在在做什么。讓我們先簡單回顧一下您的故事，因為您在2010年左右創(chuàng)立了DeepMind，而在此之前，人工智能經(jīng)歷了40年的寒冬，作為一名科學(xué)記者，我當(dāng)時并沒有關(guān)注人工智能。DeepMind為何在那個時候出現(xiàn)？是有什么有利因素嗎？
Demis Hassabis：嗯，我研究人工智能實際上已經(jīng)超過30年了，最初是做游戲，為游戲設(shè)計人工智能，以及模擬游戲。后來我學(xué)習(xí)了計算機(jī)科學(xué)和神經(jīng)科學(xué)，并且一直在觀察人工智能領(lǐng)域的發(fā)展。在您提到的90年代的人工智能寒冬時期，都是邏輯系統(tǒng)，也就是所謂的專家系統(tǒng)。你們很多人可能還記得深藍(lán)在國際象棋比賽中擊敗了加里卡斯帕羅夫（俄羅斯國際象棋棋手，國際象棋特級大師，前國際象棋世界冠軍），這些都是預(yù)編程系統(tǒng)，實際上是程序員和系統(tǒng)設(shè)計者解決了問題，并將其封裝成規(guī)則。計算機(jī)、人工智能系統(tǒng)實際上根本不智能，它只是在執(zhí)行這些啟發(fā)式方法。這樣做的問題是，最終會得到脆弱的系統(tǒng)，它們無法學(xué)習(xí)新東西，當(dāng)然也無法發(fā)現(xiàn)新東西，因為它們顯然天生就受到設(shè)計者或程序員已知能力的限制。
所以對我來說，很明顯，在整個90年代，我在劍橋和麻省理工學(xué)院學(xué)習(xí)期間，這仍然是主流觀點，尤其是在那些地方，邏輯系統(tǒng)才是正道。我認(rèn)為這就是出現(xiàn)很多人工智能寒冬的原因，因為它們天生就脆弱且局限。所以在2010年，DeepMind的想法是，我們可以看到深度學(xué)習(xí)剛剛在學(xué)術(shù)界被發(fā)明出來。
強(qiáng)化學(xué)習(xí)是我們發(fā)現(xiàn)的東西，大腦中的多巴胺系統(tǒng)，動物和包括人類在內(nèi)都使用強(qiáng)化學(xué)習(xí)來學(xué)習(xí)。
因此，對我來說，顯而易見的是，我們需要構(gòu)建的是一個能夠自學(xué)且通用的學(xué)習(xí)系統(tǒng)，這就是DeepMind的起源。然后我們也看到了GPU和硬件加速等技術(shù)的進(jìn)步。所以我使用了第一代GPU，它是用于計算機(jī)圖形、計算機(jī)游戲的，但它們是非常通用的，事實證明，世界上的一切都是矩陣乘法。我們很早就開始了，我們覺得這就像一個阿波羅計劃，需要付出巨大的努力才能將所有這些新奇的想法和成分整合在一起可以取得非�？斓倪M(jìn)展，結(jié)果也確實如此。
主持人：這是您在普林斯頓時期預(yù)想的結(jié)果嗎？您是否想過15年后，我會在這里與您對話，人工智能會成為熱門話題，并且蛋白質(zhì)折疊問題會被解決？
Demis Hassabis：實際上，它大致沿著我們計劃的路線發(fā)展，當(dāng)然，過程中也有一些小插曲和意想不到的事情，但當(dāng)我們在2010年開始時，我們認(rèn)為要達(dá)到通用人工智能大約需要20年的時間。我認(rèn)為我們可能距離這個目標(biāo)還有10年左右的時間。從現(xiàn)在開始，大致是那個時間線，用人工智能系統(tǒng)進(jìn)行科學(xué)研究，在通往人工智能的道路上解決科學(xué)問題一直是我的主要熱情所在。蛋白質(zhì)折疊一直是我最想解決的科學(xué)難題之一，如果我們能夠取得突破，它將帶來變革。
主持人：好的，讓我們回到這一點，我認(rèn)為我們也應(yīng)該談?wù)勅斯ぶ悄�，因為有趣的是，自從ChatGPT出現(xiàn)以來，我們作為一個社會一直在非常深入地討論人工智能，它與您一直在做的人工智能是截然不同的，作為一名觀察者，您的人工智能一直都非常具體，觀察它有點奇怪，你知道，它開始做一些毫無意義的事情。它非常擅長電腦游戲。
Demis Hassabis：我不會說它們毫無意義，但它們更多的是為了好玩，也許你可以這么說。我們從游戲入手，部分原因是我的游戲背景以及認(rèn)真下棋等等。但我可以看到，游戲與人工智能一直有著悠久的歷史。從圖靈和香農(nóng)在人工智能領(lǐng)域的早期開始，所有這些偉大的，他們都是從象棋程序開始的。幾乎每個AI先驅(qū)都這樣做過。而且，它一直是我們的試驗場。你能用你的算法思想快速取得進(jìn)展嗎？然后很容易衡量你的水平，如果你能擊敗世界冠軍或最好的計算機(jī)，那么你就知道你做得很好。但關(guān)鍵是，它們始終是達(dá)到目的的手段，而不是目的本身。所以我們的想法是:
不要僅僅為了擊敗圍棋或國際象棋的冠軍，而是要以一種能夠推廣到其他領(lǐng)域的方式來做到這一點，包括科學(xué)和商業(yè)應(yīng)用。這就是我們用深度強(qiáng)化學(xué)習(xí)和AlphaGo所做的，所有這些都是非常通用的系統(tǒng)，我們至今仍在使用。
現(xiàn)在，當(dāng)你談到像AlphaFold或我們的科學(xué)程序，它們解決了蛋白質(zhì)折疊等問題時，你真正感興趣的是解決方案本身。如果你找到了治療癌癥的方法，你不會在乎它是如何做到的。你只想要治療癌癥的方法。所以你真的想全力以赴。所以你首先要做的就是把你所有的通用技術(shù)作為基線。然后你再看領(lǐng)域本身，如果這個領(lǐng)域?qū)ι鐣蛏虡I(yè)足夠有價值，那么你就在上面添加定制的東西。這就是你如何得到像AlphaFold這樣的突破性程序。但最終DeepMind的目標(biāo)，從我們創(chuàng)立之初到現(xiàn)在，仍然是實現(xiàn)通用人工智能，這意味著一個通用的系統(tǒng)，它能夠開箱即用地完成任何你能完成的認(rèn)知任務(wù)。完全通用，就像阿蘭圖靈在50年代所定義的那樣，能夠計算任何可計算的東西。這是人工智能作為一個領(lǐng)域的最初目標(biāo)，也是DeepMind的目標(biāo)。
當(dāng)然，你最近看到的是像這些語言模型之類的東西。實際上是ChatGPT進(jìn)入了大眾市場，進(jìn)入了公眾的視野。但實際上，所有頂級實驗室，包括谷歌和DeepMind，都在研究語言模型。我們有自己的內(nèi)部模型，叫做Chinchilla，谷歌也有他們的模型。當(dāng)然，它們都是基于Transformer架構(gòu)的，這是谷歌研究院發(fā)明的，所有當(dāng)前的模型都是基于它的。所以這是一個激動人心的時刻，因為語言顯然是一種通用能力。這就是為什么每個人都對聊天機(jī)器人感到非常興奮的原因。而且非常有趣，而且有點出乎意料的是，這項技術(shù)能夠擴(kuò)展到如此程度。我認(rèn)為我們比以往任何時候都更接近構(gòu)建這些類型的通用系統(tǒng)。但目前你仍然需要專門的系統(tǒng)來在特定領(lǐng)域做到最高水平。
主持人：大型語言模型更接近AGI嗎？我的意思是，它感覺更像是在與人互動，而這感覺就像AGI。但它真的是嗎？
Demis Hassabis：我認(rèn)為，多模態(tài)，現(xiàn)在甚至不應(yīng)該說是大型語言模型，因為它們不僅僅是大型語言模型。它們也是多模態(tài)的。例如，我們的Gemini模型從一開始就是多模態(tài)的。它們可以處理任何輸入。視覺、音頻、視頻、代碼，所有這些東西，以及文本。所以我認(rèn)為我的觀點是，這將成為AGI系統(tǒng)的一個關(guān)鍵組成部分，但可能僅憑它本身還不夠。
我認(rèn)為從現(xiàn)在到我們實現(xiàn)AGI，還需要兩到三個重大創(chuàng)新。這就是為什么我給出的時間表是超過10年的原因。其他人，我的一些同事和同行，以及我們的一些競爭對手，他們的時間表比這要短得多。但我認(rèn)為10年左右是比較合適的。
主持人：這與DeepMind內(nèi)部的，我猜是內(nèi)部的緊張關(guān)系是如何協(xié)調(diào)的呢？因為我感覺，尤其是在早期，你們就像世界上資金最雄厚的大學(xué)實驗室之一。就像貝爾實驗室之類，一個偉大的商業(yè)研究機(jī)構(gòu)。但現(xiàn)在你們正在做一些非常有用的事情，你們有一系列的，我的意思是，你提到了蛋白質(zhì)折疊，但你們還有天氣預(yù)報。你們剛剛在國際數(shù)學(xué)奧林匹克競賽中獲得了一枚獎牌。對不起，我相信如果你自己去參加的話，你也能獲得金牌，但你們的系統(tǒng)獲得了一枚銀牌。你們正在做所有這些其他的事情。你們在背后也在做嗎？你們有團(tuán)隊在思考嗎？但是現(xiàn)在我們需要繼續(xù)前進(jìn)，制造AGI？
Demis Hassabis：是的，我們有一個很大的組織。正如你所說，我們最初的DeepMind模式有點像貝爾實驗室，它是世界上最好的工業(yè)實驗室之一，能夠發(fā)明未來，能夠長遠(yuǎn)思考。我們真正展示了這種模式能夠做什么。我認(rèn)為它在為我們今天看到的各種技術(shù)奠定基礎(chǔ)方面非常有效。所以我認(rèn)為任何類型的深度技術(shù)初創(chuàng)公司都需要時間來發(fā)展其成熟的技術(shù)。
在過去的兩三年里，我們已經(jīng)到了一個非常激動人心的時刻，這項技術(shù)已經(jīng)相當(dāng)成熟。它已經(jīng)準(zhǔn)備好應(yīng)用于各種領(lǐng)域。很明顯，有科學(xué)、數(shù)學(xué)、醫(yī)學(xué)，以及所有這些領(lǐng)域的進(jìn)步�？梢运闶菓�(yīng)用科學(xué)。如果你愿意，但也有生產(chǎn)力和商業(yè)應(yīng)用，比如聊天機(jī)器人或重新構(gòu)想工作流程和電子郵件等等，這還處于萌芽階段，以及幫助編碼等等。我們顯然也致力于所有這些工作，我們是谷歌的引擎。谷歌擁有令人難以置信的，我想是150億用戶，以及平臺和產(chǎn)品，而人工智能是所有這些的核心，新的功能不斷涌現(xiàn)，來自我們DeepMind開發(fā)的一些技術(shù)。
這在某種程度上是很好的，因為產(chǎn)品所需的技術(shù)類型實際上與你無論如何都會進(jìn)行的AGI研究類型有90%的相似之處。這些東西已經(jīng)有很多融合了，而在五年前或十年前，如果你想將人工智能融入產(chǎn)品中，你必須這樣做，因為通用系統(tǒng)和學(xué)習(xí)系統(tǒng)還不夠好，你必須回到邏輯網(wǎng)絡(luò)，專家系統(tǒng)。像早期那一代的助手，例如，都仍然建立在那種舊的技術(shù)之上，這就是為什么它們很脆弱，它們不能泛化，最終它們也沒那么有用，而建立在這些學(xué)習(xí)系統(tǒng)上的新一代助手將更加強(qiáng)大。而且，實際上，非常令人興奮，我實際上認(rèn)為像Gemini以及我們自己對未來多模式助手的設(shè)想，目前稱為Astra，它們是通往AGI系統(tǒng)的關(guān)鍵路徑，因為它們實際上推動了朝著這個方向的研究。所以，這里有一段Astra工作的視頻。
以下視頻來源于谷歌黑板報：
Demis Hassabis：這只是一個能夠在日常生活中幫助你的通用助手的開始。我聽到要把它做成員工。也會有不同的形式。你可以在手機(jī)上看到它，你可以在眼鏡上看到它。我無法形容這會有多么神奇。如果我們回到五年前，你告訴我我們會走到今天這一步，你只需用相機(jī)指向某個東西，它就能完全理解空間環(huán)境。這真是太不可思議了。就好像它有概念，它理解什么是物體，甚至能認(rèn)出我們所在的街區(qū)。僅僅是通過窗戶看到的周圍景色。像記住你把東西放在哪里的記憶，這可能非常有用，就像一個助手一樣。個性化和所有這些東西都在這個我稱之為下一代助手的產(chǎn)品中出現(xiàn)。我稱之為通用助手，因為我想象你把它隨身攜帶在不同的設(shè)備上。它是同一個助手，無論它是和你玩游戲，還是在你的桌面上幫助你工作，或者是在移動設(shè)備上陪你旅行。
主持人：是這樣嗎？我認(rèn)為我理解對了。有些人會認(rèn)為這是通往通用智能的一步。如果沒有我們還沒有的秘密武器，那么它本質(zhì)上就是這個目標(biāo)。它與我們目前使用的方法之間沒有無法彌合的差距。它只是你達(dá)到了70%，你達(dá)到了80%，你達(dá)到了90%嗎？還是有什么其他的東西需要解決？
Demis Hassabis：嗯，我們肯定需要這些系統(tǒng)，我相信你們所有人都已經(jīng)體驗過各種最先進(jìn)的聊天機(jī)器人了。這些系統(tǒng)非常被動，它們是問答系統(tǒng)。它們對于回答問題，也許做一些研究，總結(jié)一些文本之類的事情很有用。
我們接下來想要的是更多基于代理的系統(tǒng)，能夠完成你給它的特定目標(biāo)或任務(wù)。這當(dāng)然是我使用助手，數(shù)字助手需要做的。你計劃一個假期，你在城市里旅行，你告訴它幫你訂票。所以它們需要能夠在世界上行動，執(zhí)行動作并進(jìn)行規(guī)劃。所以我們需要規(guī)劃、推理、行動，我們需要更好的記憶，我們需要個性化，所以它需要了解你的喜好，記住你告訴它的內(nèi)容和你喜歡的東西。所以所有這些技術(shù)都是需要的。
現(xiàn)在，我給出的簡略說法是:
我們的一些游戲程序，比如擊敗了圍棋世界冠軍的AlphaGo，它有規(guī)劃和推理能力，盡管是在這個狹窄的游戲領(lǐng)域。我們必須引入這些技術(shù)，并將它們應(yīng)用于像Gemini這樣的多模態(tài)模型，它們基本上是世界模型，正如你剛才看到的，它理解它周圍的世界。但是如何在雜亂的現(xiàn)實世界中進(jìn)行規(guī)劃，而不是像游戲這樣的干凈的環(huán)境呢？所以我認(rèn)為這是下一個需要取得的重大突破。
主持人：那這個系統(tǒng)也能應(yīng)用AlphaGo級別的游戲和采用某種方法嗎？
Demis Hassabis：是的，沒錯。有兩種方式可以實現(xiàn)，這是我們內(nèi)部以及學(xué)術(shù)界目前正在進(jìn)行的非常有趣的辯論。你可以想象，你希望你的通用代理系統(tǒng)能夠做的一件重要的事情就是使用工具。這些工具可以是硬件，比如機(jī)器人或物理世界中的東西，但它們當(dāng)然也可以是其他軟件，比如計算器，諸如此類。但它們也可以是其他人工智能系統(tǒng)。所以你可以擁有，你可以想象一個像大腦一樣的通用人工智能系統(tǒng)，然后調(diào)用像AlphaFold或AlphaGo這樣的東西來下圍棋或折疊蛋白質(zhì)，或者因為它是全數(shù)字化的，你可以想象將這種能力折疊到通用大腦中，折疊到Gemini中。但這需要權(quán)衡取舍，因為這樣你是否會用專門的信息超載它，比如太多的棋局，然后這會讓它在語言方面變得更差。
這是一個開放的研究問題，你是想把它分離成一個工具，即使是一個通用人工智能可以在特定情況下使用的AI工具，還是你想把它融入到主系統(tǒng)中。有些東西你想融入到主系統(tǒng)中，比如編碼和數(shù)學(xué)，因為事實證明，如果你把它放在主系統(tǒng)中，它實際上會讓一切變得更好。所以有點像你在學(xué)習(xí)理論和兒童發(fā)展理論等等，實際上為了思考哪些東西可能是通用的，并且最好放在主系統(tǒng)中而不是外圍工具中。
主持人：你現(xiàn)在組織還有多少比例是一個科學(xué)組織？你還有多少比例在努力成為貝爾實驗室？
Demis Hassabis：我們永遠(yuǎn)都會是一個以研究為主導(dǎo)的組織。這就是我們現(xiàn)在在Google DeepMind所做的。但我們越來越多地?fù)碛幸粋�越來越大的產(chǎn)品應(yīng)用團(tuán)隊，與谷歌的其他部門進(jìn)行互動。但我們?nèi)匀辉噲D讓我們的基礎(chǔ)研究稍微不受其影響，這樣它就可以根據(jù)我們自己的研究路線圖進(jìn)行更長遠(yuǎn)的、更具藍(lán)天意義的思考，而不僅僅是由產(chǎn)品路線圖所主導(dǎo)。
主持人：您個人是如何跟上這一切的呢？
Demis Hassabis：嗯，我努力，我的意思是，我曾經(jīng)在18個月前說過，我會保留我的晚上時間，而且我是一個很自律的人。所以我把午夜到凌晨3點的時間留給思考、閱讀論文和提出想法，我仍然在倫敦。但現(xiàn)在我在加州有很多團(tuán)隊。所以很多黃金思考時間都被與美國的電話會議占據(jù)了。想想如何騰出這些時間。
主持人：我們可以把計時器放在這里嗎，如果可以的話。否則，我們會讓你錯過你的飲料，而且我不確定我們還有多少時間。未來會怎樣？我認(rèn)為你是其中的一員，你是簽署了其中一封公開信的人之一，警告說，你知道，真正的生存風(fēng)險，但這并沒有特別明確的定義。你對希望、炒作和末日持什么立場？
Demis Hassabis：我認(rèn)為這個等式的兩邊都有很多瘋狂的炒作。有一種現(xiàn)在被稱為末日陣營的人，他們認(rèn)為肯定會出錯。然后還有那些波莉安娜陣營的人，他們認(rèn)為這只是另一種技術(shù),以前在移動互聯(lián)網(wǎng)時代就見過這種情況，它會像那樣發(fā)展壯大，但是我們作為一個社會和作為人類適應(yīng)性很強(qiáng)，沒什么特別的。
顯然這是錯的。我認(rèn)為，這比互聯(lián)網(wǎng)或移動設(shè)備之類的東西要重要得多。我認(rèn)為這是一個劃時代的定義。我一直這樣認(rèn)為，我想對更多人來說，這一點正變得越來越清晰，但我從我還是個孩子的時候就一直這樣認(rèn)為，這就是為什么我畢生致力于此的原因。
我認(rèn)為它可以做到。它將產(chǎn)生難以置信的影響。當(dāng)然，我做這一切的原因是因為我認(rèn)為人工智能對世界將產(chǎn)生難以置信的積極影響。我認(rèn)為我們距離用人工智能治愈所有疾病的目標(biāo)已經(jīng)不遠(yuǎn)了，通過材料科學(xué)和新能源以及我認(rèn)為人工智能可以發(fā)明的其他東西來幫助應(yīng)對氣候變化，以及在我們的日常生活中，只是提高生產(chǎn)力，豐富我們的日常生活，平凡的管理工作。我認(rèn)為，平凡的管理工作可以自動處理。我認(rèn)為這些都很棒，而且很快就會實現(xiàn)。
但是這些系統(tǒng)存在風(fēng)險，它們是新技術(shù)的新系統(tǒng)，它們非常強(qiáng)大。
我已經(jīng)在游戲的微觀世界中看到了這一點，我理解得很清楚，比如下棋，你從一個隨機(jī)的系統(tǒng)AlphaZero開始，到了早上喝咖啡休息的時候，它可以打敗我，然后到了午餐時間，它已經(jīng)比世界冠軍更厲害了，然后到了下午，在大約8個小時內(nèi)，它就比最好的國際象棋，高端的、硬編碼的國際象棋計算機(jī)更厲害了。
所以它是世界上有史以來最偉大的國際象棋實體，在8個小時內(nèi)從隨機(jī)變成了這樣。我實際上觀察了這個過程超過8個小時，這真是太不可思議了，當(dāng)然，那只是一個游戲，而且范圍很窄。
但我認(rèn)為沒有理由認(rèn)為這種能力不能推廣到這些更通用的語言和世界模型系統(tǒng)中。所以它將非常強(qiáng)大，但必須謹(jǐn)慎處理。而且我認(rèn)為我們根本不知道。所以我簽署那封信的原因是我只是想給那些認(rèn)為這里沒什么可看的，實際上有一些未知風(fēng)險的波莉安娜主義者一些壓力。
我們需要定義，我認(rèn)為我們有時間，但十年時間對于即將到來的如此重大的事情來說并不長。所以我們需要對可控性等方面進(jìn)行更多研究，從理論層面理解這些系統(tǒng)的作用。你知道，非常重要的事情，比如我們?nèi)绾螢橄到y(tǒng)定義目標(biāo)和價值觀，以及我們?nèi)绾未_保它們堅持這些目標(biāo)和價值觀。這些都是當(dāng)前新興技術(shù)的未知數(shù)。所以我想說我是一個謹(jǐn)慎的樂觀主義者。所以我認(rèn)為如果我們齊心協(xié)力，我們就能解決這個問題。我們在國際范圍內(nèi)這樣做，讓所有最優(yōu)秀的人才都參與進(jìn)來。我們現(xiàn)在就開始行動。我很高興看到在英國和美國成立的人工智能安全研究所，我們將倡導(dǎo)這種情況的發(fā)生，并測試最新的模型。但我們需要更多這樣的機(jī)構(gòu)。我只是在鼓勵這種情況的發(fā)生。而且我認(rèn)為，如果有足夠的時間，有足夠的腦力,人類的聰明才智,我們會做好的。但風(fēng)險是存在的，我們不能抄近路，我們需要認(rèn)真對待它。我認(rèn)為應(yīng)該懷著敬畏之心。我認(rèn)為這項技術(shù)值得我們?nèi)ヅΑ?br/>
主持人：你所說的有點嚇人。我的意思是，如果你從國際象棋中發(fā)生的事情進(jìn)行概括，國際象棋還好。但假設(shè)我每天去辦公室工作，靠下棋謀生，不是靠打敗其他人，而是因為它對下棋有一些功利價值。你所說的系統(tǒng)可能會消除幾乎所有的人類價值。
Demis Hassabis：我認(rèn)為即將出現(xiàn)一些重要的哲學(xué)討論。它們很快就會出現(xiàn)。我們?nèi)绾畏峙�？我們�?yīng)該生活在一個AGI運作的零和世界中。所以激進(jìn)的富足。像能源之類的東西不應(yīng)該短缺，因此資源和其他東西也不應(yīng)該短缺。我認(rèn)為這確實改變了經(jīng)濟(jì)的動態(tài)，我指的是長遠(yuǎn)來看。所以我們現(xiàn)在需要開始思考這個問題，為它做好準(zhǔn)備。我們希望如何分配這些額外的富足和財富。無論是某種普遍基本供應(yīng)還是其他類似的東西。我們需要現(xiàn)在就開始思考這個問題，經(jīng)濟(jì)學(xué)家和像他們這樣的人。我覺得他們需要現(xiàn)在就開始研究這個問題。
主持人：最后一個問題英國。我們在英國，美國正走向人工智能的中心。我們正在討論英國是否需要更多計算能力，政府是否需要支持它。這是必需的嗎？我們有哪些可能會落后的方面？
Demis Hassabis：我認(rèn)為這是一個巨大的增長領(lǐng)域，我認(rèn)為英國政府應(yīng)該鼓勵它。我想說的是，更重要的是鼓勵國內(nèi)投資，地方投資，規(guī)劃許可等等。我認(rèn)為這是一個建立新世界的絕佳機(jī)會。我認(rèn)為這是一個巨大的機(jī)遇。許多大公司都認(rèn)為英國是一個吸引人的研究和開展業(yè)務(wù)的地方。我們在這里有一個很棒的生態(tài)系統(tǒng)。我們擁有一流的大學(xué)。這就是我們DeepMind在這里的原因之一。我們在這里有助于建立一個由英國優(yōu)秀初創(chuàng)公司組成的生態(tài)系統(tǒng)，這些公司基于人工智能或與人工智能相鄰。所以我認(rèn)為政府只需要釋放這種潛力，讓公司很容易在這里投資和建設(shè)，包括大型數(shù)據(jù)中心。
