來源：《科學(xué)之路》
作者：楊立昆
即便是最先進(jìn)的人工智能系統(tǒng)也存在局限性，它們還不如一只貓聰明。
人工智能常常被認(rèn)為是一項將要顛覆世界的技術(shù)，從這一概念誕生至今的65年中，無數(shù)電影與小說塑造了各種經(jīng)典的人工智能角色，AI（Artificial Intelligence）也很快成為人類未來世界藍(lán)圖中的重要組成部分。但在人工智能不斷拓寬我們對未來想象的同時，也不乏“AI 統(tǒng)治世界”、“AI 監(jiān)視隱私”等等一類的消極論調(diào)，那么，我們當(dāng)下討論的 AI 真的即將統(tǒng)治人類嗎？AI 真的在威脅著個人數(shù)據(jù)與隱私嗎？......又或者，AI 真的比我們更聰明嗎？
如果你也對這些問題心存疑慮，又想免于被互聯(lián)網(wǎng)上的各種言論牽著鼻子走，那么，圖靈獎得主楊立昆（Yann LeCun）的新書《科學(xué)之路：人，機器與未來》或許可以為你提供一份更科學(xué)、客觀且前沿的人工智能問題參考手冊。
在真正開始有關(guān) AI 的倫理思考之前，我們首先要弄清楚以下三個名詞的關(guān)系：人工智能、機器學(xué)習(xí)與深度學(xué)習(xí)。人工智能是試圖了解智能的實質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機器。目前，開發(fā)新應(yīng)用最常用的人工智能技術(shù)之一就是機器學(xué)習(xí)，而深度學(xué)習(xí)是實現(xiàn)機器學(xué)習(xí)的重要方法之一，也被楊立昆以及其他許多科學(xué)家認(rèn)為是人工智能的未來。
楊立昆在書中對人工智能提出了10個問題并進(jìn)行了深入探討，讓我們更全面、更客觀的了解人工智能。
1、人工智能是不可理解的黑匣子嗎？
一些悲觀主義者認(rèn)為深度學(xué)習(xí)系統(tǒng)是“黑匣子”，我們未來沒辦法理解和操控人工智能，但他們錯了。誠然，深度學(xué)習(xí)以模擬人類神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)，當(dāng)神經(jīng)網(wǎng)絡(luò)具有數(shù)百萬個單位和數(shù)十億個連接時，似乎很難完全理解它的工作原理，但這不正是所有智能決策的特點嗎？
我們不了解讓出租車司機、工匠、醫(yī)生或航空公司飛行員完成他們的工作的神經(jīng)運作機制，但我們會選擇相信他們。為什么要對一臺反應(yīng)更快、不知疲倦、從不分心的機器提出更高的要求呢？當(dāng)你可以證明它比人類更可靠時，為什么還要對它產(chǎn)生懷疑呢？
人工智能系統(tǒng)每天做出數(shù)萬億個決策，其中大多數(shù)都與查找、分類和過濾信息以及一些稍顯無聊的應(yīng)用程序有關(guān)，例如應(yīng)用于照片和視頻的效果。你是否真的愿意花時間和精力來詳細(xì)了解它們？人工智能的工作能夠帶來令人滿意的效果，這不就夠了嗎？
而且使用沒有深入了解其運行機制的系統(tǒng)是一種常見的現(xiàn)象。許多常用藥物都是通過反復(fù)試錯獲得的，而我們對其作用機制了解甚少。比如，我們熟悉的且在日常生活中不可被替代的阿司匹林是有史以來使用最廣泛的藥物，它于1897 年首次被合成，可是直到1971 年我們才明確其作用機制。
2、大腦只是一部可模擬的機器嗎？
如今，大多數(shù)科學(xué)家都接受了大腦是生化機器的概念。雖然這是一臺復(fù)雜的機器，但總歸是一臺機器。神經(jīng)元對輸入的電信號做出反應(yīng)，根據(jù)從上游神經(jīng)元接收到的信息計算是否產(chǎn)生電脈沖信號、動作電位或放電脈沖，并將其發(fā)送給所有下游神經(jīng)元。這是一種十分基本的機制。但是，通過結(jié)合數(shù)十億個相對簡單的神經(jīng)元的活動，我們便獲得了大腦和思想。
我意識到，模擬人腦的想法可能會讓一些哲學(xué)家或有宗教信仰的人極力反對，但是有許多科學(xué)家認(rèn)為思維機制最終將會由可以學(xué)習(xí)的人工智能系統(tǒng)重現(xiàn)。
質(zhì)疑此觀點的人認(rèn)為，我們對生物、物理、量子和其他系統(tǒng)如何在人體內(nèi)結(jié)合以使大腦發(fā)揮作用的了解還遠(yuǎn)遠(yuǎn)不夠。的確，我們并不能理解這一切，但是我堅信，哺乳動物或人類的大腦是可以“計算”的機器，并且這些計算原則上可以通過電子機器或計算機進(jìn)行再現(xiàn)。
3、人工智能會產(chǎn)生意識嗎？
意識是一個很難討論的話題，我們不知道如何衡量和定義它。它與自我意識混淆在了一起，同時，意識被認(rèn)為是動物存在超級智力的標(biāo)志。在鏡子中認(rèn)出自己的大象和黑猩猩已經(jīng)具有自我意識，而狗不行。
我個人認(rèn)為意識是一種幻覺，它似乎在許多聰明的動物身上存在。人類的意識與注意力息息相關(guān)，當(dāng)面對特殊情況時，我們將注意力集中于此，此時我們會非常專注。當(dāng)我們玩益智游戲時、準(zhǔn)備新的烹飪食譜時、參加辯論時，我們的注意力將毫不猶豫地集中在這個不尋常的復(fù)雜任務(wù)上。它迫使我們開啟“世界模型”以規(guī)劃下一步行動。
對我來說，毫無疑問，未來的智能機器應(yīng)該具備某種形式的意識。也許與人類的不同，它們可以同時專注于多項任務(wù)。但它是無法培養(yǎng)意圖或發(fā)展意識的。我的同事安托萬博茲總結(jié)道：“我們甚至沒有配方的原料去制造一臺既能夠制定戰(zhàn)略，又對世界有敏銳了解的真正智能機器。如今我們還缺乏一些基礎(chǔ)概念。”
4、人工智能比人類更聰明嗎？
如今，即便是最先進(jìn)的人工智能系統(tǒng)也存在局限性，它們還不如一只貓聰明。雖然我們已經(jīng)了解了大腦學(xué)習(xí)的原理，知道了大腦的結(jié)構(gòu)，但重現(xiàn)其功能所需的計算量是無比巨大的，大約是每秒1.5× 1018量級的操作�，F(xiàn)在一塊 GPU 每秒可執(zhí)行1013次計算，功耗約為250瓦。為了達(dá)到人腦的計算能力，必須將10萬個這樣的處理器連接上功耗至少25兆瓦的巨型計算機才能實現(xiàn)。這巨大的能量消耗是人腦的 100 萬倍！
因此，深度學(xué)習(xí)的能力十分強大卻又十分有限。目前的深度學(xué)習(xí)系統(tǒng)仍無法進(jìn)行邏輯推理，因為當(dāng)前的邏輯與學(xué)習(xí)能力并不匹配，這是未來幾年的主要挑戰(zhàn)。只受過國際象棋訓(xùn)練的機器根本無法下圍棋，而且它完全不理解自己所做的事情，它只不過是機械化地執(zhí)行指令。如果以生物的智能做一把標(biāo)尺，人類的智能為 100，老鼠的智能為1 ，那么人工智能在標(biāo)尺上的位置可能更接近后者。
科學(xué)面臨的挑戰(zhàn)是巨大的，技術(shù)也是如此。
也許你要提起那些仿真機器人來反駁我了，比如“索菲亞”。索菲亞是一位面帶神秘微笑、長著一雙玻璃眼珠的美麗的光頭女人，“她”在2017 年的許多舞臺上都大放異彩。“她”動人的臉龐能夠呈現(xiàn)數(shù)十種不同的表情，在調(diào)侃一個記者關(guān)于地球上有太多機器人的擔(dān)憂時，“她”笑道：“您好萊塢電影看太多了！”這個經(jīng)典笑話讓她如此酷似人類，以至沙特阿拉伯在當(dāng)年授予了“她”沙特國籍。實際上，“她”只是一個由工程師預(yù)先設(shè)定好一系列標(biāo)準(zhǔn)答案的“木偶”。當(dāng)我們與“她”交流時，所有的談話內(nèi)容均會經(jīng)過匹配系統(tǒng)處理，并從得到的答案中選擇最合適的一個輸出。索菲亞欺騙了人們，“她” 只是一個完成度很高的塑料制品，只不過是我們（被這個激活了的物體所感動的人類）賦予了它某些智能。
所以，人工智能比人類聰明嗎？也許它們在執(zhí)行十分精確嚴(yán)密的特定任務(wù)時所表現(xiàn)出的性能遠(yuǎn)超人類。但至少目前，任何一種機器學(xué)習(xí)方法都沒有人類的學(xué)習(xí)更加有效。
5、人工智能會產(chǎn)生人類感情嗎？
我絲毫不會懷疑自主智能機器有一天會產(chǎn)生情感。
當(dāng)用于測量機器人電池電量的鏡頭元件產(chǎn)生了較高的成本而致使機器人開始尋找電源時，不正與饑餓的感覺相似嗎？
當(dāng)機器因成本高昂而避免采取行動時，或者由于成本低廉而執(zhí)行任務(wù)時，這是否已經(jīng)可以看作是一種情感的標(biāo)志？
當(dāng)計算饑餓的目標(biāo)函數(shù)的組成部分產(chǎn)生高成本時，它會觸發(fā)對食物的搜索。普遍地觀點認(rèn)為，這些行為是目標(biāo)模塊組件不滿意的結(jié)果。
我很清楚地意識到所有這些似乎都是可以簡化的。情感是人性的重要組成部分，因此人們不愿意將其數(shù)字化為簡單的數(shù)學(xué)函數(shù)計算，對將人類行為簡化為目標(biāo)函數(shù)的最小化也心存疑慮。但是，我在此提出的僅是關(guān)于智能系統(tǒng)的一般體系結(jié)構(gòu)的假設(shè)，沒有否認(rèn)目標(biāo)函數(shù)和世界模型的豐富性或復(fù)雜性。
6、人工智能可以預(yù)測未來嗎？
人們都很喜歡預(yù)測，例如預(yù)測庫存、預(yù)測產(chǎn)品的需求、預(yù)測一只股票或財務(wù)價值的演變曲線...... 那么，人工智能可以預(yù)測未來嗎？
如今的人工智能有一個悖論：它功能極其強大、極其專業(yè)化，卻沒有一點常識。
常識至關(guān)重要，它制約著我們與世界的聯(lián)系，它能填補空白，彌補隱含的信息。當(dāng)我們看到一個坐在桌子旁的人時，可能看不到他的腿，但我們知道他肯定有腿，因為我們對人類有一定的常識。我們的大腦還整合了物理學(xué)的基本定律，比如，如果有人打翻了眼前的玻璃杯，那么杯子里的水就會灑得滿桌子都是。我們知道如果不拿住某個東西，它就會掉下去。我們還能夠意識到時間流逝、萬物運動。
目前，機器帶有的預(yù)測能力十分有限。當(dāng)然，如果給定一個有些刪減的文本，機器有能力給出一個可能的后續(xù)單詞列表。但是，如果這段文字是阿加莎克里斯蒂(Agatha Christie)的小說，在最后一幕波羅探長宣布“兇手是......先生”，那么，為了完成這個句子需要讀者有很強的常識和對人性的了解。很顯然，沒有哪一臺機器能做到這一點。更不用提預(yù)測人類世界的未來了。
7、人工智能會統(tǒng)治世界嗎？
在經(jīng)典科幻電影《我，機器人》（I,Robot）中，機器人具有自我進(jìn)化能力，轉(zhuǎn)化成了人類的“機械公敵”，制造者和被制造者展開了戰(zhàn)爭。這恐怕也是很多人對人工智能未來的擔(dān)憂。
我們對機器人想要取得權(quán)力的恐懼主要來自人性特質(zhì)在機器上的投射。對大多數(shù)人來說，人類與智慧生物的唯一互動就是與其他人類的互動，正因如此，我們混淆了智力和人性。這是一個錯誤，因為還有其他形式的智力存在，即使在動物界也是如此。
人類同倭黑猩猩、黑猩猩、狒狒和其他一些靈長類動物一樣具有復(fù)雜且通常帶有等級制的社會組織，每個個體的生存（或舒適度）取決于它影響該物種其他成員的能力（統(tǒng)治只是影響的一種形式）。我們是社會性動物的事實解釋了我們?yōu)槭裁窗褜y(tǒng)治的渴望與智力聯(lián)系在一起。
除了對統(tǒng)治的渴望，為了人類物種（或基因）的生存，我們的許多沖動和情感已通過進(jìn)化建立了起來，其中包括好奇心，對探索的渴望，競爭力，屈服，渴望與我們的同類接觸，愛，仇恨，掠食，以及我們對家庭成員、我們的部族、我們的文化、我們的國家的偏愛，沒有這些沖動和情感的人、動物或機器也都可以是有智慧的。我們必須將這個問題說得清晰透徹：只有當(dāng)我們在智能機器中明確地建立了這種欲望時，它們才會渴望統(tǒng)治人類。但我們?yōu)槭裁匆@樣做呢？
8、人工智能會被濫用嗎？
霍金于2014年向英國廣播公司稱，“人工智能可能意味著人類的毀滅”， 但后來他改變了想法。就像任何一位出色的天體物理學(xué)家一樣，他的時間尺度是以數(shù)百萬或數(shù)十億年為單位的。試想，我們怎么會如此聰明地設(shè)計出一個超人類的智能機器，同時又如此愚蠢地賦予它荒謬至極的目標(biāo)呢？
請記住，人工智能始終都是由人類開發(fā)出來為人類服務(wù)的工具，目的是放大人類的智能。
我們認(rèn)可的造福人類的所有技術(shù)革命都有其陰暗面，每一項技術(shù)都帶來了問題，而這些問題最終都得到了解決。
為了防止這些濫用，我?guī)椭鷦?chuàng)建了“ 人工智能伙伴關(guān)系” （PAI），這個組織匯集了約100名成員，包括大型公司、互聯(lián)網(wǎng)巨頭、學(xué)者社團(tuán)、人權(quán)組織（國際特赦組織、美國公民自由聯(lián)盟、電子前沿基金會）、媒體（《紐約時報》）、大學(xué)團(tuán)體和政府機構(gòu)等。我們討論道德問題，警告危險并發(fā)布建議。人工智能是一個新領(lǐng)域，其深度展開的后果并非總是可預(yù)測的，我們必須多加考慮。
9、人工智能會帶來軍事風(fēng)險嗎？
像其他所有技術(shù)一樣，人工智能可以被用于做最好的事情，也可能被用于做最惡的事情。有些聲音反對在軍事上使用人工智能，主要是反對致命性自主武器系統(tǒng)（lethal autonomous weapon systems），它通常也被稱為“殺手機器人”。相對應(yīng)的保障措施已經(jīng)較為成熟，大多數(shù)軍隊都有極為嚴(yán)格的規(guī)則來管理啟動打擊的授權(quán)程序。無論是何種武器，決策的源頭始終是高級軍官。我們都知道，自動或半自動武器已經(jīng)存在很長時間了，彈道導(dǎo)彈、巡航導(dǎo)彈也是如此。在所有具有很強殺傷性的自動武器中，最古老的當(dāng)屬地雷。自1999 年以來，地雷就被一項國際公約禁止使用，不是因為它們很聰明，而是因為它們很愚蠢。
那么，智能化武器是否會有滑向軍備競賽的危險？弗拉基米爾普京（VladimirPutin）在曾表示，“人工智能的領(lǐng)導(dǎo)者將成為世界的統(tǒng)治者”。面對人工智能推動的可能存在的軍事失控，危險是無比真實的。避免這些危險最重要的力量來自我們的國際機構(gòu)，堅定捍衛(wèi)已有的保護(hù)措施比以往任何時候都更加有必要，因為它們受到了民粹主義、民族主義和孤立主義的威脅。
10、你會被人工智能取代嗎？
我不確定人工智能革命是否會影響所有人。與那些從事可能被（部分或全部）系統(tǒng)化和自動化工作的人相比，深耕于有資質(zhì)的、創(chuàng)新性的、專注于人際關(guān)系或人力資源職位的人更有可能保住工作。如果我們的政府不通過財政措施糾正存在的問題，那么人工智能帶來的收益將無法平均分配，貧富差距會進(jìn)一步擴(kuò)大。
自動化已經(jīng)取代了人類來完成重復(fù)性或艱巨的任務(wù)，而人工智能將在那些一定程度上需要加入感知、推理、決策和行動計劃等內(nèi)容的工作中取代人類。自動駕駛汽車會減少卡車、出租車和載客專車（VTC）的駕駛員的數(shù)量，因為它們會更加安全。醫(yī)學(xué)圖像分析系統(tǒng)已經(jīng)走進(jìn)放射科醫(yī)生的日常工作中，患者也因此得到更可靠、更便宜的檢查。在以上這些健康和交通運輸領(lǐng)域，人工智能將會挽救更多的生命。
所有的職業(yè)都將受到科技變化帶來的影響。有一件事是可以確定的：人工智能及其應(yīng)用無法參與競爭的東西會變得更有價值。
我們每個人都可以花不到2 歐元的低價或通過訂閱的方式聆聽最喜歡的音樂家的作品，然而如果要欣賞搖滾音樂會或歌劇，我們就需要支付50～300 歐元。區(qū)別在哪里？區(qū)別在于，獨特的事物賦予了生命獨特的時刻。一頓大餐，參觀自然景點或博物館，聽一場爵士樂音樂會作為一個開明的業(yè)余愛好者，我因為能夠做這些事情而感到高興 ！我們越來越重視創(chuàng)造力和獨到的體驗，越來越不看重大眾化的產(chǎn)品。在健康、藝術(shù)、科學(xué)、教育、體育等領(lǐng)域的職業(yè)中，感性的方面在未來將占有重要的一席之地。
