費(fèi)曼 | Nishina Memorial Lecture at Gakushuin University (Tokyo)
“您認(rèn)為，以后有可能出現(xiàn)能像人一樣思考，但在智力上比人類(lèi)更勝一籌的機(jī)器嗎？”
1985 年 9 月 26 日，諾貝爾物理學(xué)獎(jiǎng)獲得者、著名物理學(xué)獎(jiǎng)理查德費(fèi)曼在一次講座上被問(wèn)及了這樣一道關(guān)于人工智能的問(wèn)題。對(duì)于計(jì)算機(jī)科學(xué)領(lǐng)域的從業(yè)者來(lái)說(shuō)，這是一個(gè)老生常談的問(wèn)題，相信你也已經(jīng)在許多地方讀到過(guò)，但費(fèi)曼的闡述仍非常值得一讀。
作為世界上最著名的科學(xué)家之一，除了理論物理學(xué)方面的工作外，費(fèi)曼也是量子計(jì)算領(lǐng)域的先驅(qū)，對(duì)于未來(lái)智能機(jī)器的發(fā)展同樣頗有興趣。
本文便梳理了費(fèi)曼在當(dāng)時(shí)對(duì)通用人工智能的看法及思考。雖然這場(chǎng)問(wèn)答發(fā)生于 35 年前，但其中的許多內(nèi)容，哪怕是在神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)技術(shù)取得重大進(jìn)展、突飛猛進(jìn)的今天，也同樣經(jīng)得住細(xì)品。
人類(lèi)的發(fā)明并不全依據(jù)自然造物
“關(guān)于問(wèn)題的第一個(gè)部分 ‘未來(lái)的機(jī)器有可能會(huì)像人類(lèi)一樣思考嗎？’，我覺(jué)得不會(huì)，原因我一會(huì)再討論。
然后是問(wèn)題的第二部分 ‘未來(lái)的機(jī)器有可能比人類(lèi)在智力上更勝一籌嗎？’，我認(rèn)為要回答這個(gè)問(wèn)題，首先需要進(jìn)一步定義什么是智力。如果你想問(wèn)的是‘以后可能出現(xiàn)比人類(lèi)更強(qiáng)的象棋 AI 嗎？’，我覺(jué)得這是有可能的，沒(méi)準(zhǔn)我哪天就會(huì)搞出一個(gè)來(lái)。
在國(guó)際象棋領(lǐng)域，電腦其實(shí)已經(jīng)要比大多數(shù)人都下的要好了， 但我們希望電腦能達(dá)到的是，它不應(yīng)僅僅比大多數(shù)人要強(qiáng)，而是要比所有人都強(qiáng)。所以當(dāng)有電腦能在國(guó)際象棋上擊敗我們時(shí)，我們常常會(huì)想‘打敗我不算什么，它能打敗國(guó)際象棋大師嗎？’。通常認(rèn)為人類(lèi)（由于卓越的認(rèn)知和學(xué)習(xí)能力）在各個(gè)領(lǐng)域都很出色，但如果你想讓電腦也能在各個(gè)方面也都很強(qiáng)就很難了。
關(guān)于‘未來(lái)是否能出現(xiàn)像人一樣思考的機(jī)器’，這個(gè)問(wèn)題要從‘我們需要用什么來(lái)解決什么’出發(fā)考慮。
一般來(lái)說(shuō)，我們?cè)诮鉀Q問(wèn)題時(shí)，會(huì)盡量讓現(xiàn)有的工具為了解決某個(gè)特定問(wèn)題發(fā)揮最大作用。
舉例子，假如現(xiàn)在需要制造一個(gè)能在地面跑得很快的機(jī)器，雖然在自然界中，獵豹跑的很快，但如果不是什么特別崎嶇和奇特的地形的話，我們一般會(huì)首選用輪子作為機(jī)器與地面接觸的中介，而不是做一個(gè)長(zhǎng)得像或者原理上與獵豹一樣的機(jī)器（盡管這在理論上是可行的）。
再比如，如果想要造一臺(tái)能在空中長(zhǎng)時(shí)間遠(yuǎn)距離飛行的機(jī)器，雖然我們知道鳥(niǎo)是靠煽動(dòng)翅膀進(jìn)行飛行，但現(xiàn)實(shí)生活中的飛機(jī)并不會(huì)拍打機(jī)翼。
因此，在這里我想表達(dá)的是，人類(lèi)此前有過(guò)讓機(jī)器具備某種能力的大量嘗試，而設(shè)計(jì)出的成品與自然界中存在的例子往往差異很大。對(duì)‘像人一樣思考’這個(gè)問(wèn)題來(lái)說(shuō)或許也一樣，機(jī)器有可能以后能在計(jì)算上比人類(lèi)更厲害，但它們的計(jì)算的方法應(yīng)該會(huì)與人類(lèi)不同。”
事實(shí)上，這段對(duì)話發(fā)生的時(shí)候，也就是 1985 年，人類(lèi)國(guó)際象棋大師的實(shí)力仍在電腦之上。之后便是我們所熟知的，在 1996 至 1997 年間，世界國(guó)際象棋冠軍 GM Garry Kasparov 在與 IBM 的超級(jí)計(jì)算機(jī) Deep Blue 進(jìn)行的六次比賽中落敗，正式宣告了計(jì)算機(jī)在 “下國(guó)際象棋” 上正式超過(guò)人類(lèi)。雖然 GM Garry Kasparov 曾在賽后對(duì)比賽結(jié)果提出質(zhì)疑，原因是他認(rèn)為 IBM 團(tuán)隊(duì)在比賽期間曾插手機(jī)器的決策，但，面對(duì)類(lèi)似 “31 比 2” 和 “21 比 2” 的這種分?jǐn)?shù)，無(wú)論 IBM 是否插手決策，都已說(shuō)明機(jī)器確實(shí)已經(jīng)在國(guó)際象棋上超過(guò)人類(lèi)。而在今天來(lái)看，IBM 的 DeepBlue 同樣雖然在下棋上打敗人類(lèi)，技術(shù)實(shí)現(xiàn)上確實(shí)和人類(lèi)的智慧大相徑庭。
費(fèi)曼也曾表示，人類(lèi)已經(jīng)有有大量嘗試開(kāi)發(fā)更智能機(jī)器的探索，其中一部分工作正是人工智能，但他并不喜歡這個(gè)名字。他認(rèn)為，也許不智能的機(jī)器可以比智能的機(jī)器做得更好。上述的回答也與他的這個(gè)觀點(diǎn)一脈相承。
在特定方面能比人更勝一籌的機(jī)器
對(duì)于通用人工智能問(wèn)題的回答還未結(jié)束。
稍停頓后，費(fèi)曼描述了他所設(shè)想的，在某些特定方面能做的比人更強(qiáng)、但并不會(huì)像人一樣思考” 的機(jī)器：
“就比如做計(jì)算（算數(shù)），電腦能比任何人算得都快，雖然本質(zhì)上都是對(duì)數(shù)字進(jìn)行運(yùn)算，但沒(méi)人會(huì)想著讓計(jì)算機(jī)按人類(lèi)算數(shù)的方式去算數(shù)，這樣對(duì)計(jì)算機(jī)來(lái)說(shuō)只會(huì)拖后腿。
這里可以舉一個(gè)很簡(jiǎn)單的例子，現(xiàn)在給你一串?dāng)?shù)字，（1， 7， 3， 9，2，6，6，5，8，3，1，7，2，6，3），你能流利的正向?qū)⑵淠畛鰜?lái)，但如果要你將其以同樣的速度反向輸出，是不是就稍微較正著念的時(shí)候有些力不從心了？這還是比較簡(jiǎn)單的，試想如果這串?dāng)?shù)字包含成千上萬(wàn)個(gè)數(shù)，計(jì)算機(jī)可以毫不猶豫地對(duì)它們進(jìn)行操作，但如果換人的話，光是記住哪個(gè)數(shù)是哪個(gè)就已經(jīng)很難了。
所以，人類(lèi)到底在哪些方面做得比計(jì)算機(jī)更好，有很多方面。
但最主要的是我們對(duì)事物的分別和認(rèn)知能力，比如如果我們?cè)诮稚献咧咧�，很遠(yuǎn)就能通過(guò)一個(gè)人的走路方式或者大致外貌初步判斷那人是否是我們的熟人。而這對(duì)于計(jì)算機(jī)來(lái)說(shuō)幾乎是無(wú)法具體細(xì)致地進(jìn)行模擬的，但計(jì)算機(jī)也許可以通過(guò)獲取和比對(duì)大量數(shù)據(jù)來(lái)做到這一點(diǎn)。
比如我們?nèi)绻胱屢粋�(gè)程序能判斷任意一張圖片是偏亮還是偏暗，那一種可能的做法是給這個(gè)程序提供很多明暗對(duì)比明顯的圖片，供其進(jìn)行分析和對(duì)比，以使得其能在我們給它任意一張圖片，都能對(duì)該圖片的亮度信息進(jìn)行評(píng)估。”
“計(jì)算機(jī)科學(xué)不像物理學(xué)那樣古老，它晚了幾百年。然而，這并不意味著計(jì)算機(jī)科學(xué)家的盤(pán)子比物理學(xué)家的盤(pán)子要少得多：它可能更年輕，但它的成長(zhǎng)經(jīng)歷卻要激烈得多！”
| azquotes.com/quote/1411169
1985 年時(shí)人工智能現(xiàn)狀
費(fèi)曼回答的上一部分內(nèi)容，便提到了從大數(shù)據(jù)中學(xué)習(xí)識(shí)別特定 pattern 的機(jī)器智能。
既然存在這種類(lèi)型的機(jī)器智能，他又嘗試探討了 “訓(xùn)練集的方差和偏差如何折中” 的問(wèn)題。這部分回答或許帶有些時(shí)代的局限性。
在機(jī)器學(xué)習(xí)中，偏差較小的數(shù)據(jù)模型套用在樣本上會(huì)產(chǎn)出一個(gè)較大的方差，而偏差較大的模型放在樣本集上則會(huì)產(chǎn)出一個(gè)較小的方差，偏差 - 方差問(wèn)題實(shí)際上代表的是對(duì)于機(jī)器學(xué)習(xí)算法之結(jié)果的一個(gè)優(yōu)化問(wèn)題，即我們?nèi)绾尾拍茏钚』惴ㄖ械腻e(cuò)誤假設(shè)所帶來(lái)的偏差，以及如何才能讓模型對(duì)足夠小的數(shù)據(jù)波動(dòng)敏感。
他說(shuō)：“難點(diǎn)在于，在實(shí)際情況中，我們能提供給計(jì)算機(jī)的潛在信息是多種多樣的，比如在剛才的那個(gè)‘從遠(yuǎn)處辨別熟人’的例子中，計(jì)算機(jī)需要處理的信息可能有燈光條件、距離條件和目標(biāo)的一些條件，比如辨識(shí)目標(biāo)的傾斜程度，電腦必須能知道如何使用這些信息才行，甚至我們其實(shí)目前也講不清楚，究竟人是怎么通過(guò)分析這么多信息并最終得出結(jié)論的。
所以，即使我們未來(lái)能造出擁有足夠算力和內(nèi)存的計(jì)算機(jī)，可能也不知道該怎么將這一過(guò)程寫(xiě)為可靠的程式，使計(jì)算機(jī)能穩(wěn)定地解決這類(lèi)問(wèn)題。目前來(lái)看，識(shí)別問(wèn)題還是一個(gè)人類(lèi)能輕易解決，但對(duì)計(jì)算機(jī)來(lái)說(shuō)很難的問(wèn)題，比如警局或者信息局可能會(huì)有比對(duì)指紋的專(zhuān)員，如果該專(zhuān)員經(jīng)驗(yàn)豐富，那他在仔細(xì)觀察指紋樣本后就能對(duì)其進(jìn)行分類(lèi)，但這對(duì)計(jì)算來(lái)說(shuō)幾乎是不可能的，原因是我們幾乎無(wú)從得知比對(duì)專(zhuān)員在分類(lèi)時(shí)都具體使用的是哪些信息，以及在分類(lèi)時(shí)所采用的標(biāo)準(zhǔn)。”
最后，就著 “指紋問(wèn)題”，費(fèi)曼對(duì)當(dāng)時(shí)人工智能的現(xiàn)狀進(jìn)行了評(píng)價(jià)：
“對(duì)一般人來(lái)說(shuō)，指紋問(wèn)題可能聽(tīng)上去并不是很難，比如現(xiàn)在有兩個(gè)指紋，然后我們需要比對(duì)這兩個(gè)指紋上的血跡是否一樣，但問(wèn)題遠(yuǎn)沒(méi)有它看上去那么簡(jiǎn)單。
指紋是不是被污染過(guò)，取樣時(shí)手指的朝向和壓力是多少，比對(duì)兩個(gè)基準(zhǔn)完全一致的圖片是簡(jiǎn)單的，但如果采樣的時(shí)候前一個(gè)比后一個(gè)朝向偏了一點(diǎn)，或者壓力重了一點(diǎn)，或者表面被污染了一點(diǎn)，這些對(duì)我們來(lái)說(shuō)可能‘是可被解決的’，但對(duì)于計(jì)算機(jī)來(lái)說(shuō)卻幾乎是不可能的解決的問(wèn)題，即使真有算法能通過(guò)排除各種因素解決問(wèn)題，其在效率上也將是不切實(shí)際的。
所以，目前來(lái)看，我個(gè)人并不清楚人工智能技術(shù)正在往哪個(gè)方向發(fā)展，但該領(lǐng)域的研究者們無(wú)疑正在嘗試解決我們之前所談及的那些，對(duì)計(jì)算機(jī)來(lái)說(shuō)‘棘手’的問(wèn)題。
我覺(jué)得，可能就像我們能輕易分辨和認(rèn)知事物一樣，計(jì)算機(jī)擅長(zhǎng)的或許是在給定一種模式或模型的情況下不帶疑問(wèn)地執(zhí)行它，就比如國(guó)際象棋 AI 能比人類(lèi)下的更好一樣，但人類(lèi)就很難做到這一點(diǎn)（快速掌握一種特有模式并直接使用）。”
參考：
[1]https://medium.com/cantors-paradise/richard-feynman-on-artificial-general-intelligence-2c1b9d8aae31
