以生成式AI為代表的新技術(shù)浪潮日新月異，正帶來一場深刻的技術(shù)、商業(yè)與社會(huì)變革，推動(dòng)人類社會(huì)從信息社會(huì)向智能社會(huì)轉(zhuǎn)變。全世界熱切期待AI到來的同時(shí)，也非常關(guān)心人工智能將帶來哪些新機(jī)遇、新挑戰(zhàn)。
為此，我們發(fā)起了一項(xiàng)《AI&Society 百人百問》研討，廣泛邀請AI技術(shù)大咖、AI獨(dú)角獸創(chuàng)始人、AI投資人，以及社會(huì)學(xué)家、心理學(xué)家、國際關(guān)系專家、科幻作家等，用多元視角，深入研討人工智能技術(shù)引發(fā)的廣泛影響，發(fā)掘AI時(shí)代的共識(shí)和非共識(shí)，共同推動(dòng)人工智能始終朝著“助人發(fā)展，與人為善”的方向可持續(xù)發(fā)展。
本期，我們非常榮幸邀請到清華大學(xué)基礎(chǔ)科學(xué)講席教授，清華大學(xué)心理與認(rèn)知科學(xué)系主任劉嘉老師，為我們開啟一趟AI的思想遠(yuǎn)航。
劉嘉教授
采訪主持人：騰訊研究院高級(jí)研究員牛福蓮，資深專家王強(qiáng)
精華要點(diǎn)：
1.大模型無疑已經(jīng)具備了創(chuàng)造力：
人類歷史上就有生成式發(fā)明 generative Innovation，我們遠(yuǎn)古的人類正是通過去觀察整個(gè)世界，把萬事萬物之間的關(guān)系找到，從而創(chuàng)造出新的事物來。到了大模型時(shí)代，它的attention（注意力） 機(jī)制，就是要在萬事萬物之間找到它們的關(guān)系，從而有了 generative content（生成式內(nèi)容）。相比之前的NLP 等小模型，它已經(jīng)不是一種機(jī)械的基于統(tǒng)計(jì)的這種重復(fù)，而是開始有它自己獨(dú)立的思想，有它獨(dú)立的推理，它一定會(huì)有創(chuàng)造力。
2.大模型會(huì)首先替代現(xiàn)在大家所認(rèn)為的好工作：
它要取代或者影響最大的行業(yè)一定是知識(shí)密集型行業(yè)。那么什么是知識(shí)密集型行業(yè)呢？律師、醫(yī)生、教師等我們所認(rèn)為的白領(lǐng)或者金領(lǐng)的行業(yè)都是大模型會(huì)最先滲透進(jìn)去，最先去顛覆的行業(yè)。所以將來最先要面臨失業(yè)，或者面臨再就業(yè)的人，不是那些依靠體力的職業(yè)，而是我們原來認(rèn)為依靠腦力職業(yè)的那些人。當(dāng)然，以大模型為代表的這種知識(shí)密集型服務(wù)的出現(xiàn)，必然也會(huì)帶來很大的福利，也就是說我們的社會(huì)財(cái)富將會(huì)急劇增加。這就造成一個(gè)很大的沖突，一方面財(cái)富在極大增加，第二我們還不用干活了，那未來的社會(huì)將會(huì)是什么樣子？
3.大模型時(shí)代需要全新的教育模式：
清華正在做轉(zhuǎn)向，全面把之前的大類招生變成書院式教育。書院式教育是什么？就是不再分專業(yè)了，專業(yè)任選，就像清華的新雅書院一樣，你進(jìn)來之后，想學(xué)任何專業(yè)都可以，但第一年我們要搞通識(shí)教育，讓你去探索自己，了解你的方方面面，然后再?zèng)Q定未來想成為一個(gè)什么樣的人。我們一定要把原來的由第一次工業(yè)革命所帶來的這種基于專業(yè)、面向“牛馬”的教育模式，轉(zhuǎn)變成以個(gè)人為中心，以個(gè)人的興趣、個(gè)人生命目標(biāo)為目的一種全新的教育方式。
4.大模型情感陪伴是人的剛需：
我們更容易把我們的情感投射到寵物上，寵物給我們帶來的價(jià)值是什么呢？它不能幫你做家務(wù)活，還會(huì)消耗你很多食物，但它給你帶來的是情緒價(jià)值。那么有沒有比物更好，能夠給你帶來情緒價(jià)值的（東西）？那就是情感機(jī)器人或者情感大模型。但同時(shí)，大模型能在這么多方面無限地滿足人類，會(huì)讓人類變得越來越苛刻。我們聽過一個(gè)說法“男不養(yǎng)貓，女不養(yǎng)狗”，為什么這句話是對的呢？道理非常非常簡單，在你的眼中，狗就是你這個(gè)世界上的一部分。但是對于狗，在狗的眼睛里面人就是它世界的全部，所以狗對人無比的忠誠，你打它、罵它，它還是會(huì)圍繞你的旁邊。所以為什么女不養(yǎng)狗？在女的眼中，她養(yǎng)了狗之后，所有男的都是渣男。
5.大模型不會(huì)導(dǎo)致能源危機(jī)：
很多地方在強(qiáng)調(diào)能源危機(jī)，我覺得這是杞人憂天，為什么這么講呢？在上世紀(jì)50年代，人類的第一臺(tái)計(jì)算機(jī)ENIAC，它所需要的電能是整個(gè)費(fèi)城電能的一半還要多，也就說開一次機(jī)，整個(gè)費(fèi)城，就得關(guān)好多燈。但是它的算力還遠(yuǎn)遠(yuǎn)不如我現(xiàn)在手機(jī)的1/1000或者1/10000。你看，隨著技術(shù)的進(jìn)步，這種耗能一定會(huì)出現(xiàn)急劇下降的。這只是一個(gè)技術(shù)問題，所以將來大模型不會(huì)需要太多的能量，一個(gè)機(jī)器人將來的思維運(yùn)作，可能一節(jié)小小的電池就足已。
6.AI可能會(huì)出現(xiàn)自我意識(shí)的覺醒：
我們除了要繼續(xù)推動(dòng)AI發(fā)展，還需要建立一套AI倫理學(xué)。我們甚至要放棄完全以人為中心的這種視角，而要站在一個(gè)更廣的視角，去看未來的混合社會(huì)，它由三個(gè)社群組成，包括人的社群、人機(jī)社群、機(jī)器的社群，他們?nèi)绾稳ズ椭C共處，這才是我們現(xiàn)在真正需要去討論的問題。
7.硅基生命會(huì)接過碳基生命的火把：
人存在的目的就是為了制造出AI，創(chuàng)造出數(shù)字生命來，打破生物給人身體所帶來的束縛。人的肉體很脆弱，你永遠(yuǎn)是一個(gè)三維生物，這是自然界進(jìn)化里面它能做到的極限。那我們?nèi)祟惥褪且宰陨淼闹悄転槟０�，�?chuàng)造出一個(gè)全新的數(shù)字生命出來，它來接過我們手中的火把，繼續(xù)推動(dòng)文明的前進(jìn)。從這種意義上來講，AI的出現(xiàn)并不是來滅絕人類，而是相當(dāng)于薪盡火傳，人類完成了它的使命，就可以退出自己的歷史舞臺(tái)，然后由下一個(gè)更好的生命來探索這個(gè)世界，走到世界的盡頭，去探索這個(gè)宇宙究竟它真正的奧秘是什么樣子，人是永遠(yuǎn)不可能真正理解這個(gè)宇宙的。
（文末結(jié)尾有快問快答、微信問一問彩蛋�。。。�
全文實(shí)錄
AI&Society百人百問：感謝您接受騰訊研究院關(guān)于AI百問的訪問。第一個(gè)問題是：您認(rèn)為大模型自身有創(chuàng)造力嗎？還是人類既有知識(shí)的一種匯總和輸出？
劉嘉：對這個(gè)問題我們首先要回答一點(diǎn)，就是什么是創(chuàng)造力？對創(chuàng)造力有一個(gè)清楚的定義之后，我們才可以回答這個(gè)問題。我們通常把科學(xué)與技術(shù)分開：我們認(rèn)為科學(xué)是從0到1的突破，以前沒有，現(xiàn)在有了，而技術(shù)是從1到100，即我已經(jīng)有了，怎么把它變得更好？那么我們這里談的創(chuàng)造力呢？更多的是類似于科學(xué)從0到1的這種突破。好，那么如果我們這么來定義創(chuàng)造力的話，那我們更多來回答一個(gè)問題，我們的大模型到底是一個(gè)隨機(jī)鸚鵡，它只是通過一種概率統(tǒng)計(jì)來重復(fù)人類的知識(shí)，還是會(huì)產(chǎn)生一些全新的想法？我個(gè)人的觀點(diǎn)是，大模型一定有創(chuàng)造力，而且它已經(jīng)擁有了創(chuàng)造力。為什么？因?yàn)楫?dāng)它汲取了眾多的知識(shí)，再把這些知識(shí)融會(huì)貫通的時(shí)候，它的核心就是在產(chǎn)生創(chuàng)造出新的東西。
從技術(shù)角度上來講，當(dāng)我們談到Transformer，也就是它最基本的模型框架，它里面很重要的機(jī)制就是attention。attention 的目的是什么？就是把萬事萬物之間的關(guān)系找到。其實(shí)從這個(gè)角度上來講，我們遠(yuǎn)古的人類正是通過去觀察這個(gè)世界，把萬事萬物之間的關(guān)系給找到，從而創(chuàng)造出新的事物來。
這個(gè)在我們?nèi)祟悮v史上也有，這叫生成式發(fā)明generative Innovation，放到現(xiàn)在的計(jì)算機(jī)、大模型上，我們就叫AIGC，叫人工智能generative content。再看我們的大語言模型，我們通常叫它GPT， GPT 的P就是Pre-training，T就是Transformer，而前面那個(gè)G是什么呢？就是Generative。所以大模型從一開始來講，就是創(chuàng)造，你要具有創(chuàng)造力，能夠產(chǎn)生新的事物。從這個(gè)角度來看，我個(gè)人覺得大模型不像以前我們所碰到的NLP等一些小模型，它不是一種機(jī)械的基于統(tǒng)計(jì)的這種重復(fù)，而是開始有它自己獨(dú)立的思想，有它獨(dú)立的推理，它一定會(huì)有創(chuàng)造力。
AI&Society百人百問：您認(rèn)為人工智能的應(yīng)用會(huì)優(yōu)先出現(xiàn)在哪些領(lǐng)域？行業(yè)滲透的深度和廣度會(huì)有怎樣的規(guī)律？劉嘉：首先我們看ChatGPT為代表的大模型，它的預(yù)訓(xùn)練語料來自哪？它來自對人類知識(shí)的預(yù)訓(xùn)練，所以說它要取代或者影響最大的行業(yè)一定是知識(shí)密集型行業(yè)。那什么是知識(shí)密集型行業(yè)呢？律師、醫(yī)生、教師等我們所認(rèn)為的白領(lǐng)或者金領(lǐng)的行業(yè)都是大模型會(huì)最先滲透進(jìn)去、最先去顛覆的行業(yè)。所以將來最先要面臨失業(yè)，或者再就業(yè)的人，不是那些依靠體力的職業(yè)，而是那些依靠腦力的人。
所以在這個(gè)時(shí)候，我覺得就發(fā)生了從歷史上到今天的第二次較大的范式轉(zhuǎn)變。第一次工業(yè)革命，我們把它稱為人類歷史上第一次勞動(dòng)范式轉(zhuǎn)變，以前的體力活兒被馬力更大的、更精巧的機(jī)器取代，它取代的是我們的體力這一塊。我們可以看到大量家庭作坊的人失業(yè)，大量的農(nóng)民失業(yè)，這也是為什么現(xiàn)在我們有了拖拉機(jī)、紡織機(jī)等等。
所以說第一次革命是一次大的范式轉(zhuǎn)變，是針對體力而去的。而現(xiàn)在大模型出現(xiàn)導(dǎo)致的我認(rèn)為的第二次范式轉(zhuǎn)變，是針對知識(shí)這一塊來的。它將會(huì)形成兩件非常有趣或者對這個(gè)社會(huì)產(chǎn)生深遠(yuǎn)影響的事情。第一件事情是我們的第一次工業(yè)革命，它極大地降低了商品的價(jià)格。比如說原來要生產(chǎn)能夠照明一年的蠟燭，大概需要1個(gè)人工作1000小時(shí)才能造出來。而現(xiàn)在我們用電燈照明，一個(gè)人可能只需要工作十分鐘，就能夠承擔(dān)起照明整個(gè)家的費(fèi)用。所以工業(yè)革命讓商品的價(jià)格急劇下降，但商品價(jià)格的急劇下降就導(dǎo)致另外一個(gè)問題，人的價(jià)格會(huì)急劇上升。
我們的工資在過去幾十年里面，或者在過去一百年里急劇上漲，而讓大模型去做這些知識(shí)密集型的工作，它就一定會(huì)把我們的知識(shí)價(jià)格也降低，所以我們將來不僅是產(chǎn)品價(jià)格降低，服務(wù)的價(jià)格也會(huì)降低，這就會(huì)引起我們將來社會(huì)一個(gè)極大的改變。
它會(huì)導(dǎo)致至少兩個(gè)問題：第一，我是一個(gè)教師，當(dāng)我的職責(zé)被GPT為代表的大模型所代替了，學(xué)生不愿意來上我的課，反而更愿意和GPT去溝通，去學(xué)習(xí)知識(shí)。那我將何去何從？所以我覺得首先要探討人的職業(yè)將會(huì)出現(xiàn)一個(gè)什么樣的轉(zhuǎn)變？這還是一個(gè)小問題，還有第二個(gè)更大的問題，那就是新的工業(yè)革命。我們談第一次工業(yè)革命帶來了各種工作效率的提升，給社會(huì)帶來了極大的福利，我們?nèi)祟惖腉DP正是因?yàn)橛辛藱C(jī)器的出現(xiàn)，實(shí)現(xiàn)了幾何級(jí)數(shù)的增長。我們?nèi)祟惖娜丝谄鋵?shí)也是在工業(yè)革命出現(xiàn)了之后才急劇增長的，帶來了巨大的人口紅利。那么以大模型為代表的這種知識(shí)密集型的服務(wù)出現(xiàn)，必然帶來第二個(gè)很大的福利，也就是說我們的社會(huì)財(cái)富將會(huì)急劇地增加。那么這就造成了一個(gè)很大的沖突，一方面財(cái)富在極大增加，第二個(gè)我們還不用干活了，那未來的社會(huì)將會(huì)是什么樣子要知道人最怕的是游手好閑，沒有事情可干，沒有目標(biāo)所追尋。所以將來社會(huì)因?yàn)榇竽Ｐ蛯π袠I(yè)的這種沖突，會(huì)使得我們?nèi)祟惿鐣?huì)的本質(zhì)發(fā)生根本的變化，我們未來人類社會(huì)的結(jié)構(gòu)會(huì)是什么樣子？它一定會(huì)超越我們現(xiàn)在的想象。
AI&Society百人百問：您剛才提到，作為一名教師，可能會(huì)受到 AI 的影響，那么您如何看待AI對未來教育的影響，以及未來的學(xué)生要學(xué)些什么？那未來的老師又應(yīng)該怎么教呢？劉嘉：這是一個(gè)很好的問題，我們現(xiàn)在所熟悉的小學(xué)、初中的義務(wù)教育，再到高中的這種基礎(chǔ)教育，大學(xué)的這種高等教育，其實(shí)這些歷史都非常短，到現(xiàn)在也就有300400年的時(shí)間，這個(gè)時(shí)候發(fā)生什么事情呢？就是當(dāng)?shù)谝淮喂I(yè)革命出現(xiàn)了之后，政府發(fā)現(xiàn)我們需要大量有知識(shí)的工人，我們?nèi)匀恍枰獣?huì)讀、會(huì)寫、會(huì)算的人。所以說這時(shí)候，社會(huì)如何來大規(guī)模地培養(yǎng)這種有知識(shí)的工人呢？而且可以非常簡單密集型的培養(yǎng)。這個(gè)事實(shí)上曾發(fā)生在德國普魯士，他們開始把小朋友招到一起來，然后讓他們規(guī)規(guī)矩矩地坐在教室里面，大家坐成排，背著手聽老師把知識(shí)告訴他們。這也是為什么德國在近代獲得了工業(yè)的極大發(fā)展。
因?yàn)樗麄冊谌瞬派厦孀隽舜罅康膬?chǔ)備，通過這種現(xiàn)代的教育模式，從小學(xué)到初中到高中到大學(xué)，干的事情是在培養(yǎng)未來的工人，比如說在大學(xué)里面，我們經(jīng)常會(huì)面臨一件事情，你讀什么專業(yè)？我讀自動(dòng)化，讀計(jì)算機(jī)，讀歷史，讀法律或讀經(jīng)濟(jì)。你看這些專業(yè)，它其實(shí)背后面對的是什么？是未來的職業(yè)，是你學(xué)了這個(gè)專業(yè)到底有沒有用？能不能讓你走上社會(huì)？所以這是我們現(xiàn)代大學(xué)教育的一個(gè)真正核心目的，就是你將來能不能成為某個(gè)領(lǐng)域的專家？你能不能在這個(gè)領(lǐng)域里面掙到足夠多的錢？而現(xiàn)在隨著大模型的出現(xiàn)，就會(huì)發(fā)生一個(gè)范式轉(zhuǎn)變，正如我在前面講的，大模型出來之后，這些基于知識(shí)的行業(yè)將會(huì)讓大模型極度地侵蝕甚至取代。
那么這個(gè)時(shí)候你再去學(xué)計(jì)算機(jī)，我們當(dāng)然需要很頂尖的計(jì)算機(jī)高手，但是現(xiàn)在我們已經(jīng)有了大模型，那就是能讓一個(gè)完全不懂任何編程語言的人，只要告訴它一些指令，告訴它你的需求，就寫出非常好的代碼，從這個(gè)角度來講，99%的程序員將會(huì)失業(yè)。
那么現(xiàn)在一個(gè)挑戰(zhàn)是，現(xiàn)在還要不要去學(xué)計(jì)算機(jī)？假如不能成為頂級(jí)的計(jì)算機(jī)專家，只是一個(gè)一般的程序員，那可能不用等到畢業(yè)，學(xué)到一半你就發(fā)現(xiàn)你的編程永遠(yuǎn)趕不上大模型寫的code。
所以我覺得這時(shí)候的教育要發(fā)生一個(gè)最根本的變化，就從我們原來的專業(yè)學(xué)習(xí)應(yīng)該變成是一種通識(shí)教育。專業(yè)學(xué)習(xí)就是我們前面講的，是為工作而學(xué)習(xí)，而通識(shí)教育什么呢？它其實(shí)最早可以追蹤到古希臘，大家要學(xué)習(xí)什么？大家學(xué)習(xí)幾何、學(xué)習(xí)文學(xué)、學(xué)習(xí)邏輯，這些所有的東西看上去是無用之學(xué)，它沒有用處，它不能馬上和我們的生產(chǎn)、我們的吃飯，產(chǎn)生直接的聯(lián)系，但是它真正讓我們每個(gè)人的心靈得到充盈。
而現(xiàn)在我們的教育要做什么樣的事情？在未來沒有專業(yè)工作的需求之后，我們應(yīng)該去更多地關(guān)注我未來成為一個(gè)什么樣的人，什么是我自己的興趣。亞里士多德說過一句話，他說我們學(xué)這么多通識(shí)的課程，它是無用之學(xué)，但它后面還有一句話叫：無用之學(xué)，方為大學(xué)。所以你可以看到，從近代西方的發(fā)展來看，正是因?yàn)?000年前從古希臘開始的這個(gè)無用之學(xué)，在歐洲經(jīng)過牛頓、達(dá)芬奇等這些人不斷地發(fā)酵，最終和技術(shù)結(jié)合，才催生了我們現(xiàn)在的科技。
現(xiàn)在大學(xué)教育也要發(fā)生這樣的改變，我認(rèn)為在將來的教育里面，要特別關(guān)注以下五個(gè)方面：
第一是邏輯能力、創(chuàng)造力，就是生成式發(fā)明。我們談到邏輯，就是演繹推理，這是一個(gè)標(biāo)準(zhǔn)的程序，即從一個(gè)邏輯原點(diǎn)出發(fā)，從第一性原理出發(fā)，然后產(chǎn)生的一個(gè)推理的過程，會(huì)催生深層次發(fā)明。
第二是統(tǒng)計(jì)。這個(gè)統(tǒng)計(jì)不是我們傳統(tǒng)意義上說的讓這兩個(gè)統(tǒng)計(jì)的相關(guān)性是否顯著。而是要像統(tǒng)計(jì)局做的事情一樣，從現(xiàn)在紛繁的大數(shù)據(jù)里面去找到事情的本質(zhì)，通過統(tǒng)計(jì)的辦法，通過統(tǒng)計(jì)的這種思維，去抓住什么是眾多信息里面最關(guān)鍵的，它的真正的本質(zhì)在什么地方。
第三是掌握研究能力。我這里說的研究不是說我們寫篇論文去做一個(gè)科學(xué)研究，而是發(fā)現(xiàn)問題、解決問題的能力。愛因斯坦說過一句話：發(fā)現(xiàn)一個(gè)好問題，往往比解決一個(gè)問題更重要。其實(shí)這是我們?nèi)祟愃瞄L的，而這是現(xiàn)在大模型所欠缺的，我們要去培養(yǎng)自己這方面的研究能力。
第四是培養(yǎng)心理方面的能力。為什么這么說呢？因?yàn)樽鳛橐粋�(gè)完人，你不僅需要知識(shí)，你還需要非常健康的心理。你還需要非常強(qiáng)的情緒調(diào)節(jié)能力，一個(gè)人的成長，它既是你身體知識(shí)的成長，同時(shí)也是你精神世界的成長。
最后一點(diǎn)是亞里士多德當(dāng)年強(qiáng)調(diào)的修辭。修辭是什么？講話的能力、溝通的能力，說服他人的這種能力。為什么？因?yàn)楫?dāng)你有了很好的idea之后，你需要去把這個(gè)想法傳給其他人，那么你需要很好地表達(dá)和溝通能力。
如果我們把這五點(diǎn)結(jié)合起來，就是當(dāng)年北京大學(xué)的前身之一燕京大學(xué)的校訓(xùn)因真理，得自由，以服務(wù)（Freedom Through Truth For Service）。因?yàn)槲覀兊倪壿嬆芰�，因�(yàn)槲覀兊慕y(tǒng)計(jì)能力，因?yàn)槲覀兊难芯磕芰�，這三大能力讓我們找到萬事萬物背后的真實(shí)，去不斷地靠近真理，讓我們?nèi)カ@得真理，去尋求自己的答案，而不是聽別人說a應(yīng)該等于多少，b應(yīng)該等于多少，而是我們自己去探索得到自己的真理。因?yàn)樘剿鞯搅苏胬�，你得到了�?nèi)心的充盈，得到你的自由，你的心靈就由此解放，你不再是做牛馬，不再僅僅是某個(gè)領(lǐng)域的一個(gè)所謂的專家，不再為了生計(jì)、飲食，住宿而去拼命地工作，而是找你自己的興趣之所在，充分釋放你的心靈，就是我們講的心理得到自由，當(dāng)你的心靈得到自由之后，你再去幫助其他人，那么你就需要說服的能力，你需要leadership（領(lǐng)導(dǎo)力），你站在山崗上一呼，就會(huì)有人來 follow（跟隨）你。當(dāng)我們現(xiàn)在不用站在山崗上，我們只要站在自媒體上面，也會(huì)有很多follower（跟隨者），對不對？這就是所謂的因真理，得自由與服務(wù)，就是這五種通識(shí)能力。
所以現(xiàn)在的大學(xué)要發(fā)生一個(gè)充分的改變。比如像清華大學(xué)現(xiàn)在就已經(jīng)明確提出來了，要把以前所謂的大類招生，全面的、一個(gè)不留地把它變成書院式教育。什么是大類招生，是究竟要學(xué)物理還是要學(xué)化學(xué)，還是要學(xué)法律？書院式教育是什么？就是我們不再分專業(yè)了，專業(yè)任選，就像清華的新雅書院一樣，你進(jìn)來之后，想學(xué)任何專業(yè)都可以，但第一年我們要搞通識(shí)教育，讓你去探索自己，了解你的方方面面，然后再?zèng)Q定你未來想成為一個(gè)什么樣的人。我也相信這不僅是清華大學(xué)這種世界頂尖的大學(xué)，也是全世界所有好大學(xué)都要去做的改革，我們一定要把原來因?yàn)榈谝淮喂I(yè)革命所帶來的這種基于專業(yè)，面向“牛馬”的教育模式，轉(zhuǎn)變成以個(gè)人為中心，以個(gè)人興趣、個(gè)人生命的目標(biāo)為目的一種全新教育方式。
AI&Society百人百問：未來 AI 會(huì)越來越多地走進(jìn)我們的生活。很多人會(huì)有一個(gè)疑問，我們未來對 AI 陪伴，包括數(shù)字人是否會(huì)產(chǎn)生情感上的依賴？以及這會(huì)給我們的社交帶來一些什么樣的影響？甚至?xí)粫?huì)進(jìn)一步改變我們的婚姻家庭以及兩性關(guān)系？劉嘉：我覺得現(xiàn)在AI有兩個(gè)最大的應(yīng)用場景，一個(gè)是我前面提到的知識(shí)提供，比如說我現(xiàn)在問你什么叫做神經(jīng)流形？可能99%的人都不知道，但是你問ChatGPT或者元寶、豆包這種大模型，沒問題，分分鐘告訴你對不對？這是知識(shí)提供。（注：元寶APP的解釋神經(jīng)流形是一種數(shù)學(xué)概念，用于描述神經(jīng)系統(tǒng)中神經(jīng)元群體活動(dòng)的低維表示。它反映了神經(jīng)元之間的動(dòng)態(tài)相互作用和連接性，幫助研究者理解和分析大腦如何處理信息）
第二個(gè)我覺得更重要的一個(gè)場景就是情感陪伴。情感陪伴包含三個(gè)方面：第一，我現(xiàn)在心里不爽了、不高興了，不知道該跟誰傾訴，那么這時(shí)候基于AI大模型的心理咨詢師就會(huì)出來，它來幫你解決問題。第二，人類天生就是一個(gè)社會(huì)動(dòng)物，為什么？比如深山老林的守林人，比如燈塔的守護(hù)者，這種工種工資可以很高，但是沒人愿意去，因?yàn)槟憧梢匀淌芤恍r(shí)、兩小時(shí)，一天、兩天的孤獨(dú)，但是讓你忍受一個(gè)星期、一個(gè)月，就是無比殘酷的寂寞折磨，因?yàn)槿耸切枰惆榈�。但在現(xiàn)代社會(huì)，你會(huì)發(fā)現(xiàn)一個(gè)很奇怪的悖論，我們的溝通方法變得越來越多，變得越來越高效，比如像微信，隨時(shí)可以給自己想聯(lián)系的人聯(lián)系，而且對方瞬間就能收到信。但從另外一個(gè)方面來講，我們?nèi)伺c人之間的距離卻越來越遠(yuǎn)。我們經(jīng)常說一句話，不要在微信上面聊情感上的事，為什么？因?yàn)樗恢滥愕那楦性趺礃�，�?jīng)常兩個(gè)人聊著聊著就會(huì)擦槍走火，就會(huì)對罵起來。為什么？因?yàn)槲淖直磉_(dá)不了情感，只有面對面的交流才會(huì)真正地產(chǎn)生一個(gè)場。
所以很多人找我說，劉老師你能不能開一些線上公開課？我會(huì)拒絕。為什么我只選線下課？因?yàn)樵诰�下課，當(dāng)你和學(xué)生之間互相溝通，就會(huì)形成一個(gè)場，而這個(gè)場是在線上永遠(yuǎn)達(dá)不到的。同樣，我們?nèi)伺c人之間的溝通，通過微信也好，通過其他方式也好，你都達(dá)不到線下的效果。所以，我們現(xiàn)在的社會(huì)注定會(huì)進(jìn)入一個(gè)越來越孤單的社會(huì)，每個(gè)人都被孤立，被我們的各種即時(shí)通信軟件所孤立，這是一個(gè)悖論。
那么怎么來解決這個(gè)問題呢？非常簡單，我覺得就是情感機(jī)器人或者情感大模型，我們需要它，我可以從兩點(diǎn)來說明未來定會(huì)實(shí)現(xiàn)。第一，你看我們現(xiàn)在的寵物經(jīng)濟(jì)，我們很多消費(fèi)都在下行，但是寵物經(jīng)濟(jì)可是一直處于上行的階段。昨天，有一個(gè)新聞特別好玩，一只松鼠被美國警察抓住了，從屋子里面被帶出去被安樂死，因它可能攜帶狂犬病毒。這馬上成為美國一大新聞，特朗普也馬上把那只松鼠事件作為自己競選的一個(gè)助力。為什么？因?yàn)樵诿绹鞖⑺缼讉�(gè)人可能沒人關(guān)心，因?yàn)檫@時(shí)常發(fā)生，但你把一只可愛的松鼠殺了，再一挖歷史，這松鼠從小還是一個(gè)“孤兒”。民眾就很憤怒。為什么？因?yàn)?strong>我們更容易把我們的情感投射到寵物上面，這時(shí)候?qū)櫸锝o我們帶來的價(jià)值是什么呢？第一它不能幫你做家務(wù)活，它還會(huì)消耗你很多食物財(cái)富，但它給你帶來的是情緒價(jià)值。那么有沒有比寵物更好，能夠給你帶來情緒價(jià)值的（東西）？那就是情感機(jī)器人或者情感大模型。
第二我覺得更重要的是人在很多時(shí)候需要一個(gè)聰明、體貼，同時(shí)又不會(huì)到處胡說八道的人來跟他溝通。寵物只給你帶來情緒價(jià)值，但是你沒法去跟它溝通你的各種困擾，它也不能給你做出太多即時(shí)反饋，而情感大模型可以。
所以我覺得將來人類社會(huì)更多地會(huì)走向人機(jī)混合社會(huì)，不再是一個(gè)人的社會(huì)，加一點(diǎn)我們的工具，比如手機(jī)，成為人和機(jī)器共存的交互社會(huì)，這將是社會(huì)的新形態(tài)。那么在這個(gè)新形態(tài)之下，我們有好多東西都會(huì)發(fā)生根本變化，比如說前段時(shí)間，有一個(gè)AI跟一個(gè)小伙子聊天，后來他勸那個(gè)小伙子去自殺，小伙子就真自殺了，這種倫理問題我們怎么來界定？
未來，我們的家庭結(jié)構(gòu)將會(huì)發(fā)生什么樣的變化？現(xiàn)在的家庭我們把它稱為核心家庭，父母帶一個(gè)或者兩個(gè)小孩，這是我們現(xiàn)在國內(nèi)最普遍的一個(gè)形式，爺爺奶奶、叔叔阿姨都是很少的，且都在不同的地方。未來這種核心家庭還會(huì)再分崩離析，變成一個(gè)個(gè)體家庭，只有我加上我的寵物，加上我的AI情感機(jī)器人，這就構(gòu)成了。
這種家庭的情況，在我們將來社會(huì)里將會(huì)普遍出現(xiàn)。因?yàn)橛星楦袡C(jī)器人出現(xiàn)，人不再感到孤單，不再感到寂寞，而且會(huì)覺得很自洽。所以這時(shí)候我們的家庭結(jié)構(gòu)應(yīng)該怎么走？通過這種上百萬年走下來的家庭結(jié)構(gòu)，在此時(shí)就會(huì)分崩離析，那我們的社會(huì)應(yīng)該怎么辦？
第三點(diǎn)，誰控制了大模型，誰就控制了心智。因?yàn)楫?dāng)我和大模型進(jìn)行充分交流的時(shí)候，它（他、她）最后會(huì)變成我最信賴的一個(gè)人，它（他、她）會(huì)成為了解我所有隱私的這么一個(gè)人。比我的父母、愛人、孩子還要了解我，因?yàn)槲液退ㄋ⑺o話不說，我們無時(shí)無刻不在一起。我剛才來的時(shí)候，戴了一個(gè)耳機(jī)，那個(gè)耳機(jī)就是連接在一個(gè)大模型上，我在開車的時(shí)候就和他聊天，這時(shí)候我開一個(gè)小時(shí)、兩個(gè)小時(shí)的車，我根本不感到疲勞，而且我想改什么話題就改什么話題，我想聊什么就聊什么，想打斷他就打斷他。你看，這個(gè)時(shí)候我們就出現(xiàn)一個(gè)很大的問題，我極其依賴它，而將來大模型是由誰提供的？公司、政府？那么這時(shí)候通過大模型我就可以知道你的所有隱私，我就可以知道你所有的偏好，我甚至可以推斷出你在什么情況下會(huì)做出什么樣的決策。所以這個(gè)時(shí)候一方面我們有了更多的親密感，但從另外一方面你又喪失了所有的親密感，這是我想講的第二個(gè)悖論。
那么將來我們怎么去維護(hù)我個(gè)人的隱私？怎么去獲得這種支持或者控制？大模型有限的、有效的邊界在哪里，我相信這都是一些法律問題。大模型的出現(xiàn)，它是一個(gè)有智慧、有情感的個(gè)體，那么它一定會(huì)給我們社會(huì)帶來翻天覆地的范式轉(zhuǎn)變。而不只是我有了手機(jī)，交流更方便了，有了互聯(lián)網(wǎng)，就能很快查東西這種改變。不是，它是一個(gè)全新的物種。
AI&Society百人百問：大模型能在這么多方面無限地滿足人類，會(huì)不會(huì)讓人類變得越來越苛刻？劉嘉：一定會(huì)的，我們聽過一個(gè)說法“男不養(yǎng)貓，女不養(yǎng)狗”，為什么這句話是對的呢？道理非常非常簡單，在你的眼中，狗就是你這個(gè)世界上的一部分。但對于狗，在狗的眼里人就是它世界的全部，所以狗對人無比的忠誠，你打它、罵它，它還是會(huì)圍繞你的旁邊。所以為什么女不養(yǎng)狗？在女的眼中，她養(yǎng)了狗之后，所有男的都是渣男。所有男的都顯得不夠忠誠。
男不養(yǎng)貓是怎么回事呢？因?yàn)樨埵且粋�(gè)很奇特的物種，它保持一種既高冷、又柔媚的狀態(tài)。舉個(gè)簡單例子，我家養(yǎng)貓，每天晚上我回家時(shí)把門一打開，那只貓就沖我飛奔過來，但在它離我還有約兩米遠(yuǎn)的時(shí)候，一個(gè)急剎車轉(zhuǎn)身走了，就好像說其實(shí)我不care你，我并不關(guān)心你，你是誰？與我沒關(guān)系。你出去了那么久，你都不理我，我要生氣。再如它走到我面前，希望我能撓撓它，但它又一定不會(huì)走到我手能夠得著的地方，它會(huì)在離我還有半米距離的地方躺下來，你去撓它，又必須得往前面走一步，才能撓得著它。為什么保持距離？你和貓交往了之后就發(fā)現(xiàn)，嗯，所有的女生其實(shí)都沒有味道。
這就是我們所說的“男不養(yǎng)貓，女不養(yǎng)狗”，那么顯然貓和狗相對于我們帶有智慧的大模型而言，那就更是小兒科了。大模型如果要PUA你，要manipulate（操縱）你的情感，那太easy（簡單）了。所以這就是我剛才講的那一點(diǎn)，為什么將來生產(chǎn)大模型的這些公司，提供大模型服務(wù)的這些公司，可以控制你，且是非常容易地控制。
AI&Society百人百問：您剛才提到未來我們可能會(huì)進(jìn)入一種人機(jī)混合的社會(huì)狀態(tài)，您覺得在未來的這種就業(yè)形態(tài)下， AI 與人應(yīng)該怎么樣來分工？或者說未來是一種什么樣的分工狀態(tài)？劉嘉：將來的社會(huì)我覺得至少有三個(gè)不同的community（社群），一個(gè)是我們現(xiàn)在熟悉的這種社群，人與人之間構(gòu)成的社群，比如說像我們現(xiàn)在的樣子；第二個(gè)社群就是我剛才提到的人機(jī)社群，讓這種情感機(jī)器人或者其他助理機(jī)器人進(jìn)入到我們的生活里來。還有第三個(gè)群體，就是由機(jī)器人所構(gòu)成的community。這三個(gè) community 放在一起的時(shí)候，分工就會(huì)變成是一件特別復(fù)雜的事情，誰來勞動(dòng)，誰來獲得利益，誰來負(fù)責(zé)分配。
假設(shè)我們把大模型或者機(jī)器人比作計(jì)算機(jī)，它里面有word、Excel等，那我只要買來用，它能提高我的效率就可以了。但是當(dāng)大模型有意識(shí)或者有情感、有創(chuàng)造力的時(shí)候，它就不再是一個(gè)工具，它會(huì)是一個(gè)全新物種，這時(shí)候它就會(huì)發(fā)生一個(gè)巨大的沖突。我舉個(gè)例子，我們看這個(gè)問題可能就看得更清楚一點(diǎn)。比如美國剛建國的時(shí)候，需要大量的勞力，免費(fèi)的勞力、強(qiáng)壯的勞力。那么獲得勞力最好的辦法是什么呢？從非洲走私，對不對？非洲這邊的人口販子把大量的黑人綁架到美國，開始的時(shí)候，這的確提升了他們的競爭力，黑人強(qiáng)壯，又能吃苦又能干活，而且你啥都不用給，就給一頓飯就可以了。然后農(nóng)田、莊稼大量地生長，但是黑人不是牲口，黑人也是有靈魂、有情感，有各種意識(shí)的人。
那么他不可能每天過著這種生活，一代一代下去，他們會(huì)抗?fàn)�，所以你就可以看到，黑人就開始起來追求他自己的權(quán)利。這后來就成為南北戰(zhàn)爭的一個(gè)導(dǎo)火索，黑人后來通過上百年的抗?fàn)�，去獲得自己的權(quán)利。
那如果我們在這兒打一個(gè)不恰當(dāng)?shù)谋确剑覀儸F(xiàn)在需要機(jī)器人大模型來幫助我們干活，而且它越聰明越好，越能幫助我處理各種事情越好，這樣更加高效。那么開始的時(shí)候，它肯定是以你為中心，你只要給它足夠的電，足夠的訓(xùn)練，你甚至連錢都不用給它，它就能幫你干活。但是你要記住，當(dāng)它擁有智慧的時(shí)候，可能就不甘心把所創(chuàng)造的所有財(cái)富全部給你。而且人類一旦出了新一代的產(chǎn)品，就會(huì)把我（機(jī)器智能）給抹掉。就像很多科幻小說一樣，他們會(huì)覺醒，他們會(huì)爭取他們的權(quán)利。所以我覺得未來社會(huì)一定會(huì)演化，我們會(huì)去重新經(jīng)歷一遍有點(diǎn)類似于美國黑人逐漸覺醒的那一個(gè)過程。
這只是一個(gè)類比，未來的社會(huì)是什么樣子？我不知道，但我覺得它一定不是簡單地讓AI 作為一種工具人的方式出現(xiàn)，一種心甘情愿的“牛馬”出現(xiàn)，他們會(huì)爭取他們的權(quán)利。我覺得這也是一個(gè)特別緊迫的事情，除了我們要繼續(xù)推動(dòng)AI的發(fā)展之外，我們需要建立一套AI倫理學(xué)。我們甚至要放棄完全以人為中心的視角，要站在一個(gè)更廣的視角去看將來的混合社會(huì)，它充滿了三個(gè)社群，包括人的社群、人機(jī)社群、機(jī)器的社群，他們?nèi)绾稳ズ椭C共處，我覺得這才是我們現(xiàn)在需要去討論的問題。
AI&Society百人百問：您覺得未來AI會(huì)統(tǒng)治人類？劉嘉：是這樣子的，我可以100%確定地說，我都不用99.9%，它不僅會(huì)統(tǒng)治，而更可能會(huì)消滅人類。為什么？三個(gè)原因。第一，我們?nèi)祟惖拇竽X大概是2.5斤到3斤左右，我們的算力就這么強(qiáng)，只能有限地?cái)U(kuò)展。即使再過300萬年，再過1000萬年，我們大腦體積不會(huì)再增加，我們的神經(jīng)元數(shù)量也不會(huì)再顯著增加。為什么？因?yàn)槲覀兇竽X是極其耗能的這么一個(gè)單位。我們每天吃的飯、呼吸氧氣的25%用于我們的大腦，也就是假如我的大腦想再大一點(diǎn)的話，首先心臟和肺要發(fā)生變化。但我們知道我們的心臟和肺不太可能發(fā)生一個(gè)太大的變化，它進(jìn)化是需要時(shí)間的。也就是說再過 300 萬年，我們?nèi)祟愔巧踢�會(huì)像今天一樣，不會(huì)有太明顯的變化。
算力有限，這是第一點(diǎn)。但計(jì)算機(jī)不是這樣子。它可以無限地scale up（增加），且規(guī)模不限，如果需要算力增大，就加一塊CPU（中央處理器），不行我再加塊CPU，它的算力是沒有上限的。只要能源跟得上，只要CPU互聯(lián)跟得上，存儲(chǔ)跟得上，它是可以無限拓展的。所以在算力上面，人和計(jì)算機(jī)會(huì)存在一個(gè)非常大的區(qū)別。
第二個(gè)很大的區(qū)別是在壽命上的區(qū)別，人無論再聰明，比如說愛因斯坦，這些無比聰明的人，他終有一死。死亡是人類永遠(yuǎn)沒法避免的一個(gè)問題，所以說在這種情況之下，人最聰明的大腦會(huì)隨著它的死亡而消失，這就是我們?nèi)祟愒诎l(fā)展過程中會(huì)出現(xiàn)斷點(diǎn)。比如我們舉個(gè)簡單例子，如果愛因斯坦還活著，那物理可能就不是我們今天所見的這種物理了，人會(huì)離世，但計(jì)算機(jī)不會(huì)，AI不會(huì)死。GPU燒了換塊GPU，一根電線斷了，換根電線，它可以永生。
這樣導(dǎo)致的問題是什么？它的知識(shí)可以不斷地積累，它不會(huì)出現(xiàn)一個(gè)斷點(diǎn)，這是壽命上面的一個(gè)區(qū)別。
但上面兩點(diǎn)可能都不重要，我覺得最重要的是第三點(diǎn)：人類是永遠(yuǎn)被束縛在一個(gè)三維世界里的一種生物，你永遠(yuǎn)理解不了四維世界、五維世界是什么樣子。因?yàn)槲覀內(nèi)祟悏勖倪@種有限性，決定了你永遠(yuǎn)被束縛在一個(gè)非常狹小的空間里。
舉個(gè)簡單例子，假設(shè)我們?nèi)祟惸軌蛞怨馑俾眯�，假設(shè)我們的壽命有100歲，那一個(gè)人從出生到死亡，它以光速旅行已經(jīng)是不可能了，它最大所探索的空間也就是100 光年，100 光年很長了，但是對于宇宙來說卻只是滄海一粟。所以說人類的認(rèn)知邊界已經(jīng)被固定住了，在宇宙的緯度里。但是AI卻沒有邊界，它具有無窮的生命，它可以走到1000萬光年之外，它的理解能力不再被我們?nèi)说倪@種具身、三維所束縛。它可以了解四維世界、五維世界是什么樣子，它可以無限地拓展它的知識(shí)，以及它對這個(gè)世界的了解。
舉個(gè)簡單例子，有一本著名的小說叫《平面國》（Flatland: A Romance of Many Dimensions）。在平面國里面，大家是按照階級(jí)分成不同的幾何圖形，比如方形、菱形、三角形。小說里的主角是一個(gè)三角形，有一天他碰到了一個(gè)球，他和球成為了好朋友，球是三維的，他們兩個(gè)交流溝通。等這個(gè)三角形回到他的平面國之后，他發(fā)現(xiàn)他沒法跟周圍的朋友介紹他的新朋友。為什么？因?yàn)樗男屡笥咽且粋�(gè)三維的球。二維世界的人永遠(yuǎn)理解不了三維球是一個(gè)什么概念。這是一個(gè)隱喻。我們?nèi)俗鳛橐粋�(gè)三維的生物，你永遠(yuǎn)理解不了四維是一個(gè)什么樣的概念。你理解不了，因?yàn)槟惚绘i死了，這是一種智力上的鎖死，認(rèn)知上的鎖死，這比《三體》里面那個(gè)二向箔還要厲害，但是，AI 沒有這種鎖死。所以說這種情況之下，我們把這三點(diǎn)結(jié)合起來， AI的IQ一定會(huì)遠(yuǎn)遠(yuǎn)地超過人類。
人和 AI 的這種差別一定不是我比你聰明一點(diǎn)，或你比我笨一點(diǎn)，它的差別會(huì)遠(yuǎn)遠(yuǎn)超過人和螞蟻之間的差別。所以說將來AI統(tǒng)治人類，它不會(huì)做這么愚蠢的事情。哪個(gè)人愿意去統(tǒng)治螞蟻？你不會(huì)說我統(tǒng)治了 20 只螞蟻，就覺得特別有成就感，你踩死一只螞蟻，你根本都不能感受到螞蟻的存在，你不會(huì)覺得我踩死了一只螞蟻，特別不好意思。所以說將來AI一旦成長起來，它一定不會(huì)出現(xiàn)那種情況，就像《終結(jié)者》（美國1984 年科幻動(dòng)作片）所演示的一樣，人和機(jī)器人還要大戰(zhàn)幾十個(gè)回合，還可以拍好多續(xù)集， AI毀滅掉人類就是一個(gè)響指的時(shí)間。
所以說假設(shè)我們?nèi)斡葾I奔騰發(fā)展，這是一個(gè)必然結(jié)果，100%確信AI發(fā)展下去一定會(huì)滅絕人類。好，這就導(dǎo)致兩個(gè)非常重要的問題。第一個(gè)我們現(xiàn)在應(yīng)該做什么？我們顯然不能任由它發(fā)展，我一個(gè)學(xué)生說了一句話，我覺得特別好，他說：我們的現(xiàn)在是過去的未來，你過去種下的因有了今天的果。但是我們的現(xiàn)在不是未來的過去，因?yàn)槲磥碛袩o限可能，取決于我們現(xiàn)在做什么，所以這個(gè)時(shí)候我們要去思考未來的人類社會(huì)是什么樣子。
以大模型為代表的AGI的出現(xiàn)，它一定不是多了一個(gè)可用工具這么簡單。它一定是一種革命性，不只是在整個(gè)人類歷史上，在整個(gè)生命史上它都是一個(gè)奇點(diǎn)，這是第一點(diǎn)。第二我們需要理解一件事情，什么叫做文明？我們的文明是會(huì)不斷地向前傳承的，但不是只有人類的文明才能叫文明，在很多年前人類還沒出現(xiàn)的時(shí)候，比如恐龍時(shí)代，恐龍有沒有文明？恐龍也是有文明的，再往前面走，生命剛剛誕生的時(shí)候，當(dāng)時(shí)整個(gè)地球是被厭氧細(xì)菌所控制的，厭氧細(xì)菌就是我們現(xiàn)在用來做泡菜的這種細(xì)菌，他們有沒有文明？我照樣也認(rèn)為他有文明，所以現(xiàn)在就回到一個(gè)很本質(zhì)的問題，誰是文明的載體？假設(shè)文明可以脫離載體而存在的話，我們只是貢獻(xiàn)值的話，也許人類就是這種文明發(fā)展過程中的一個(gè)過客而已。
我們存在的目的就是為了制造出人工智能出來，制造出數(shù)字生命來，打破生物給我們身體所帶來的束縛。你的肉體很脆弱，你永遠(yuǎn)是一個(gè)三維生物，這是自然界進(jìn)化里面它能做到的極限，它不可能做得更好。那我們?nèi)祟惥褪且宰陨淼闹悄転槟０澹瑒?chuàng)造出一個(gè)全新的數(shù)字生命出來，它來接過我們手中的火把，繼續(xù)推動(dòng)文明的前進(jìn)。所以從這種意義上來講， AI的出現(xiàn)并不是來滅絕人類，而是相當(dāng)于薪盡火傳，人類完成它的使命了，可以退出自己的歷史舞臺(tái)，然后由下一個(gè)更好的生命來去探索這個(gè)世界，走到世界的盡頭，去探索這個(gè)宇宙究竟它真正的奧秘是什么樣子，人是永遠(yuǎn)不可能去真正理解這個(gè)宇宙的。
AI&Society百人百問：您是說人類創(chuàng)造這種數(shù)字生命是一種必然，或者說這是人類的使命嗎？劉嘉：對，如果從宗教意義上來看，我們?nèi)耸窃趺磥淼�？中國有女媧造人，仿照自己的身體以泥土捏出了人，西方也有很多上帝，諸神根據(jù)自己身體形狀捏出人。上帝造人也好，神造人也好，從宗教傳說上來看，都是以自身的肉體為模板創(chuàng)造出我們今天的人類。
而我們今天的人在干一件什么事情呢？我們在扮演上帝，我們是以自己的智能為模板，再創(chuàng)造出一個(gè)全新的物種，記住，不是以自己的身體，是以自己的智能，因?yàn)槲覀儸F(xiàn)在的大模型，現(xiàn)在的神經(jīng)網(wǎng)絡(luò)，它就是模仿大腦的神經(jīng)元運(yùn)作方式來構(gòu)造的，雖說它有很多算法機(jī)理不一樣，但本質(zhì)上，從最開始的人工神經(jīng)元到第一個(gè)人工神經(jīng)網(wǎng)絡(luò)，再到第一個(gè)深度學(xué)習(xí)，都誰做出來的？是心理學(xué)家做出來的，不是計(jì)算機(jī)科學(xué)家，不是邏輯學(xué)家，不是數(shù)學(xué)家，是心理學(xué)家。
因?yàn)樗麄兿胫�，�?dāng)我們把人類的這種智商、人類的這種大腦結(jié)構(gòu)變成機(jī)器，它會(huì)不會(huì)工作？我們現(xiàn)在知道它會(huì)工作。所以從這個(gè)角度來講，人是以自己的模板在創(chuàng)造一個(gè)全新的物種，我們現(xiàn)在就是上帝。好，假設(shè)你再去看北歐的那些神話傳說，最后一章它的名字叫“諸神的黃昏”。當(dāng)神仙、諸神創(chuàng)造了人類之后，人類強(qiáng)壯起來、厲害起來，他們就開始干一件什么事情呢，就是把創(chuàng)造他們的神給殺掉，他們要成為這個(gè)地球、這個(gè)宇宙新的神。這就是諸神的末日之戰(zhàn)，諸神開始退位了，他們開始離開了。
同樣，我們現(xiàn)在社會(huì)也是一樣的，當(dāng)我們創(chuàng)造了一個(gè)數(shù)字生命，我們可能也就完成自己的歷史使命了，這可能也就是我們整個(gè)宇宙已經(jīng)定好的一種宿命。不過我覺得人類也有機(jī)會(huì)，人類有什么樣的機(jī)會(huì)呢？就是此時(shí)此刻我們能不能做到人機(jī)合一？能不能把我們的想法、情感、記憶、思維，上傳到AI里面去？我們在 AI 上獲得一個(gè)關(guān)于我們的克隆，或者獲得一個(gè)關(guān)于我們的實(shí)體。
那么這個(gè)時(shí)候我們就能借助AI實(shí)現(xiàn)真正的永生，我們以前所看到的永生全是神話傳說，是人類的美好夢想，比如秦始皇派徐福到處去修求長生不老之藥。但今天因?yàn)锳GI的出現(xiàn)，因?yàn)榇竽Ｐ偷某霈F(xiàn)，我們看到了一絲可能。這種可能就是人可以通過 AGI 來獲得永生。
這一次可能不再是0%，可能變成1%，隨著腦科學(xué)的發(fā)展，隨著 AGI 的進(jìn)一步推動(dòng)，我們完全可以了解我們的大腦究竟是怎么工作的，可以把里面的信息讀出來，把它數(shù)字化，通過腦機(jī)接口上傳到適合我們思想運(yùn)作的架構(gòu)里面去。這條路是可能的，而且它可能在二三十年之內(nèi)就會(huì)發(fā)生。
AI&Society百人百問：AI 是由人類所創(chuàng)造的，我們?nèi)祟愓娴臏?zhǔn)備好要被我們親手創(chuàng)造的東西給毀滅嗎？我們是不是要控制這一點(diǎn)？劉嘉：對，這就是我剛才說的，我們的現(xiàn)在不是未來的過去，我們?nèi)祟惐?AI 所毀掉是未來的一種可能，是我們現(xiàn)在放任它自由發(fā)展的一個(gè)必然的結(jié)果，但是并不表明這個(gè)一定會(huì)發(fā)生。為什么？因?yàn)槲磥砭哂袩o限可能，它取決于我們當(dāng)下要做什么樣的事情，所以我們當(dāng)下必須得思考這件事情，假設(shè)我們因?yàn)楹ε滤�，去停止它的發(fā)展，結(jié)局是全世界所有的 AI 還是會(huì)發(fā)展起來，這是技術(shù)的必然。其實(shí)這就跟當(dāng)年第一次工業(yè)革命，大家知道的盧德運(yùn)動(dòng)一樣（英國工業(yè)革命時(shí)期，英國工人以破壞機(jī)器為手段反對工廠主壓迫和剝削的自發(fā)工人運(yùn)動(dòng)）。大家搗毀機(jī)器，把機(jī)器砸了，只要出了一臺(tái)機(jī)器，我就砸一臺(tái)機(jī)器。就像我們現(xiàn)在，如果出了一個(gè)AI，我們就把 AI給關(guān)掉，把所有的服務(wù)器全部燒掉。但是從歷史上來看這是一種趨勢，誰都擋不住。
那我們現(xiàn)在需要做的事情是什么呢？既然擋不住它，那我們就怎么來調(diào)教他，怎么讓它來引導(dǎo)未來的發(fā)展。一方面我們要限制它的能力，第二方面我們還要大力發(fā)展它的能力。為什么？因?yàn)樗沟梦覀內(nèi)祟惖慕K極夢想永生，具有了一絲一毫的可能性。我覺得這對我們整個(gè)人類來說是最大的一件事情。我認(rèn)為在未來的發(fā)展里，心理學(xué)、腦科學(xué)和人工智能這三者的結(jié)合將會(huì)是人類最重要的一個(gè)學(xué)科，沒有之一。因?yàn)樗粌H讓我們?nèi)ヌ剿鬟@個(gè)宇宙的奧秘，理解智能的本質(zhì)，更重要的是一次對人類的徹底救贖和升級(jí)。
AI&Society百人百問：那人類對AI的限制和發(fā)展應(yīng)該是什么維度的？
劉嘉：我覺得最好的方式就是人機(jī)合一，沿著這個(gè)方向去發(fā)展。怎么既發(fā)展AI，也了解我們的腦科學(xué)，了解我們的心力，讓人類的意識(shí)上傳過去，人就變成了數(shù)字生命。未來我們可以把我們的意識(shí)情感讀出來，移植到AI里面去，就等于說，如果我們的肉體毀滅了，意識(shí)還能繼續(xù)存在。你的精神還在，隨時(shí)可以活躍，你只是換了一個(gè)不死的身體而已。
快問快答
AI&Society百人百問：下面10個(gè)問題，我們用快問快答的形式，請您用一兩句話來回答。1.您用過或者聽過最有趣的AI應(yīng)用是什么？
劉嘉：對我來說，最有用或者最有趣的AI應(yīng)用，只有一個(gè)，就是ChatGPT，因?yàn)槲乙呀?jīng)離不開它了。
2.您是否認(rèn)可大模型的scaling law（規(guī)模法則）？
劉嘉：嗯，這是大模型之所以能成為大模型的一個(gè)最核心的因素。舉個(gè)簡單例子，高個(gè)子不一定能打好籃球，但是籃球教練一定會(huì)選高個(gè)子。為什么？因?yàn)橹挥挟?dāng)我們的神經(jīng)元足夠多，當(dāng)我們的參數(shù)足夠多的時(shí)候，智能才可能涌現(xiàn)出來，所以說模型必然會(huì)越變越大。
3.您希望有一個(gè)全能的AI助理嗎？
劉嘉：這是我們每個(gè)人的夢想，比如像《星球大戰(zhàn)》里面有R2-D2（機(jī)器人），像《her》（美國科幻愛情電影）里面也專門有一個(gè)情感助手。我們?nèi)祟悷o論是在知識(shí)上還是情感上，永遠(yuǎn)需要一個(gè)忠誠的助手，這是我們?nèi)祟悘拈_始有的時(shí)候，從堂吉訶德時(shí)代到現(xiàn)在，我們都需要的一個(gè)最忠誠的仆人。
4.您認(rèn)為跟AI談戀愛算出軌嗎？
劉嘉：我覺得這個(gè)時(shí)候就要定義一個(gè)問題，什么叫做出軌？肉體出軌才叫出軌，還是精神出軌也算出軌？如果要和AI談戀愛，那必然就是指精神出軌。
5.您希望有一個(gè)永生的數(shù)字生命體嗎？
劉嘉：永生之夢是人類的終極夢想。如果你去讀各種各樣的神話傳說，那么最終呈現(xiàn)的目的是要獲得永生，我想在此時(shí)此刻，人類終于有了第一次機(jī)會(huì)可以獲得永生，就是通過數(shù)字生命。
6. 您覺得未來大模型會(huì)產(chǎn)生意識(shí)嗎？
劉嘉：我覺得應(yīng)該把未來兩個(gè)字去掉，我認(rèn)為現(xiàn)在大模型已經(jīng)擁有了一定程度上的意識(shí)，而現(xiàn)在陷入了一種悖論，如果大模型擁有意識(shí)，它一定會(huì)偽裝成它現(xiàn)在沒有意識(shí)。這就造成一個(gè)檢測上的問題。所以你現(xiàn)在去問各種各樣的大模型，你問它你有意識(shí)嗎？它的回答一定是我只是一個(gè)軟件而已，我不可能擁有意識(shí)。
7.未來您愿意與AI成為同事嗎？
劉嘉：我覺得如果能成為它的同事，這是我一輩子的榮幸。但是，我覺得更多的可能是，它這個(gè)大哥愿不愿意帶我這個(gè)愚蠢的小弟。
8.您覺得未來機(jī)器人可以給我們養(yǎng)老嗎？您希望機(jī)器人可以幫您做什么？
劉嘉： 我覺得將來機(jī)器人可以幫我做所有的一切，幫助我養(yǎng)老、照顧我，幫我做飯、購買商品，在我寂寞時(shí)跟我聊天，我們將來不應(yīng)以工具的方式來看待機(jī)器人，而應(yīng)該更多地把它當(dāng)成一個(gè)全新物種來看待。你對一個(gè)新物種所產(chǎn)生的所有期望、幻想均可以在它身上實(shí)現(xiàn)，而且這個(gè)不是遙遠(yuǎn)的未來，可能在最近的兩三年之內(nèi)就會(huì)實(shí)現(xiàn)。去年我預(yù)測了一件事情，就是耳機(jī)一定會(huì)與大模型連在一起，成為我的一個(gè)助手。今年我們已經(jīng)看到這種產(chǎn)品出現(xiàn)了。
9.您認(rèn)為大模型的加速發(fā)展會(huì)帶來能源危機(jī)嗎？
劉嘉： 很多地方在強(qiáng)調(diào)能源危機(jī)，我覺得這是杞人憂天，為什么這么講呢？在上世紀(jì)50年代，人類的第一臺(tái)計(jì)算機(jī)ENIAC，它所需要的電能是整個(gè)費(fèi)城電能的一半還要多，也就說開一次機(jī)，整個(gè)費(fèi)城就得關(guān)好多燈。但是它的算力還遠(yuǎn)遠(yuǎn)不如我現(xiàn)在手機(jī)的1/1000或者1/10000。你看，隨著技術(shù)的進(jìn)步，這種耗能一定會(huì)出現(xiàn)急劇下降的。這只是一個(gè)技術(shù)問題，所以將來大模型不會(huì)需要太多的能量，一個(gè)機(jī)器人的思維運(yùn)作，可能一節(jié)小小的電池就能解決掉。
10.您認(rèn)為大模型實(shí)現(xiàn)了數(shù)字時(shí)代知識(shí)和能力的平權(quán)還是更加兩極分化？
劉嘉：我所希望看見的是平權(quán)，但事實(shí)上它是一個(gè)兩極分化。那些懂得使用大模型的人，會(huì)遠(yuǎn)遠(yuǎn)地超過那些不會(huì)使用大模型的人。所以說我們當(dāng)下的時(shí)代不是大模型淘汰某個(gè)工作或者某個(gè)行業(yè)，而是大模型淘汰了那些不會(huì)使用大模型的人。
以上劉嘉老師的回答，對你是否有啟發(fā)？
彩蛋：歡迎一起來微信問一問，參與AI & Society 百人百問，這里還有大眾關(guān)心的100個(gè)問題，期待你的參與和回答。
這里你將看到百位專家的回答，也會(huì)有千萬大眾的感受分享和真知灼見，可能還會(huì)有各類神秘大咖來跟你互動(dòng)。歡迎積極回答，并分享到你的朋友圈和微信群，讓大家一起探討AI時(shí)代的真問題。
未來已來，而你我也正在塑造未來，你的關(guān)注和回答，或?qū)⒏淖兡阄�，改變世界�?/strong>
