之前OpenAI首席科學(xué)家Ilya Sutskever一句“現(xiàn)在的大型神經(jīng)網(wǎng)絡(luò)可能已經(jīng)有了點(diǎn)自主意識”的發(fā)言引得楊立昆（Yann LeCun）“下場論戰(zhàn)”，學(xué)術(shù)圈諸多爭議。
此后，MIT的訪問學(xué)者Tamay Besiroglu在推特上發(fā)布的一張?jiān)跈C(jī)器學(xué)習(xí)模型發(fā)展圖又激起討論。他在圖上畫了一條線，界線以上即是模型“有微弱意識”。
雖然Besiroglu后來發(fā)推文表示只是玩笑，依然不能消弭爭論。
對于“現(xiàn)在的大型神經(jīng)網(wǎng)絡(luò)可能已經(jīng)有微弱自主意識了”的觀點(diǎn)，IEEE China Council Vice Chair（國際電氣電子工程師學(xué)會中國聯(lián)合會副主席）王潮接受澎湃新聞（www.thepaper.cn）采訪時表示，“由于先天性缺陷，不可能通過神經(jīng)網(wǎng)絡(luò)產(chǎn)生自主意識。目前深度神經(jīng)網(wǎng)絡(luò)已經(jīng)到了天花板。”
王潮是上海大學(xué)教授，中國人工智能學(xué)會理事、會員工委會副主任委員，2019年獲中國人工智能學(xué)會首屆杰出貢獻(xiàn)獎。
王潮解釋道，“目前的神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)在本源上存在問題：違背了David Marr從神經(jīng)科學(xué)和腦科學(xué)角度奠定的認(rèn)知科學(xué)（Cognitive Science）理論、計算視覺（Computational Vision）和計算神經(jīng)學(xué)（Computational Neuroscience）理論。 由于將模型（表達(dá)）、算法、和實(shí)現(xiàn)的結(jié)構(gòu)這三層混在一起，深度學(xué)習(xí)丟失了語義和深度信息。因此深度神經(jīng)網(wǎng)絡(luò)不可能產(chǎn)生自主意識。”
楊立昆（Yann LeCun）曾經(jīng)在IEEE Spectrum說過，雖然深度學(xué)習(xí)從生物學(xué)中獲得了靈感，但這離生物大腦的實(shí)際運(yùn)作方式距離還遠(yuǎn)得很。楊立昆還指出深度神經(jīng)網(wǎng)絡(luò)的非監(jiān)督學(xué)習(xí)能力遠(yuǎn)遠(yuǎn)弱于大腦，缺失了人類大腦的基本的學(xué)習(xí)原理。
“深度神經(jīng)網(wǎng)絡(luò)的幾大局限性，包括泛化能力弱、表達(dá)能力弱、無注意機(jī)制以及過度依靠訓(xùn)練數(shù)據(jù)等，已經(jīng)嚴(yán)重制約其應(yīng)用，更談不上產(chǎn)生意識。”王潮說道。
對于AI能否有自主意識，我們該如何思考這個問題呢？
王潮認(rèn)為，“當(dāng)前人工智能面對的三大難題：意識、情感、推理�；谥庇X推理，人工智能有望產(chǎn)生部分自主意識。這里，我們關(guān)注的是產(chǎn)生更精準(zhǔn)的意識，而不是略顯模糊的意識。”
“人類的意識涉及到人類大腦對一個不完整世界的描述，通過人類直覺判斷和邏輯思維，把場景感知和情景認(rèn)知結(jié)合起來，融合先進(jìn)知識概念，有望形成部分意識。展望未來，全球首個商業(yè)化量子計算機(jī)D-Wave，目前已經(jīng)裝備美國能源部下屬兩個國家實(shí)驗(yàn)室、NASA、洛克希德馬盯南加州大學(xué)等，其原理量子退火獨(dú)特的量子隧穿效應(yīng)可以使得直覺推理方法以較大概率獲得更精確的意識。”王潮接著道。
那我們需要擔(dān)心AI會有自主意識嗎？
王潮的答案是否定的，“無需擔(dān)心人工智能會產(chǎn)生部分正確的意識。人工智能如果具備部分意識，最終是一種造福于人類的方式行事，使人類與技術(shù)之間達(dá)成崇高信任。”
中國工程院院士鄭南寧曾在《人民日報》發(fā)文《發(fā)展有助于人類的人工智能》表示，讓機(jī)器具有自我意識、情感以及反思自身處境與行為的能力，這是實(shí)現(xiàn)類人智能最艱難的挑戰(zhàn)。具有自我意識以及反思自身處境與行為的能力，是人類區(qū)別于其他生物最重要、最根本的一點(diǎn)。另外，人類的大腦皮層能力是有限的，如果將智能機(jī)器設(shè)備與人類大腦相連接，不僅會增強(qiáng)人類的能力，而且會使機(jī)器產(chǎn)生靈感。讓機(jī)器具有自我意識、情感和反思能力，無論對科學(xué)和哲學(xué)來說，都是一個引人入勝的探索領(lǐng)域。
附采訪問答：
1. 對于 OpenAI 首席科學(xué)家Ilya Sutskever“現(xiàn)在的大型神經(jīng)網(wǎng)絡(luò)可能已經(jīng)有微弱自主意識了”的觀點(diǎn)您怎么看？
由于先天性缺陷，不可能通過神經(jīng)網(wǎng)絡(luò)產(chǎn)生自主意識。目前深度神經(jīng)網(wǎng)絡(luò)已經(jīng)到了天花板。
Yann LeCun曾經(jīng)在IEEE Spectrum說過，深度神經(jīng)網(wǎng)絡(luò)與生物大腦還離得很遠(yuǎn)（“While Deep Learning gets an inspiration from biology, it’s very, very far from what the pain actually does;”）Yann LeCun還指出深度神經(jīng)網(wǎng)絡(luò)的非監(jiān)督學(xué)習(xí)能力遠(yuǎn)遠(yuǎn)弱于大腦，缺失了人類大腦的基本原理（“The pain is much better than our model at doing unsupervised learning. That means that our artificial learning systems are missing some very basic principles of biological learning;” ）
目前的神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)在本源上存在問題：違背了David Marr從神經(jīng)科學(xué)和腦科學(xué)角度奠定的認(rèn)知科學(xué)（Cognitive Science）理論、計算視覺（Computational Vision）和計算神經(jīng)學(xué)（Computational Neuroscience）理論。 由于將模型（表達(dá)）、算法、和實(shí)現(xiàn)的結(jié)構(gòu)這三層混在一起，深度學(xué)習(xí)丟失了語義和深度信息。因此深度神經(jīng)網(wǎng)絡(luò)不可能產(chǎn)生自主意識。
深度神經(jīng)網(wǎng)絡(luò)的幾大局限性，包括泛化能力弱、表達(dá)能力弱、無注意機(jī)制以及過度依靠訓(xùn)練數(shù)據(jù)等，已經(jīng)嚴(yán)重制約其應(yīng)用，更談不上產(chǎn)生意識。
2. 您認(rèn)為AI會有自主意識嗎，您如何思考這個問題？
基于直覺推理，人工智能有望產(chǎn)生部分自主意識。這里，我們關(guān)注的是產(chǎn)生更精準(zhǔn)的意識，而不是略顯模糊的意識。
當(dāng)前人工智能面對的三大難題：意識、情感、推理，如同鄭南寧院士所言，邁向人類思維水平的人工智能是一件令人生畏又極具挑戰(zhàn)的研究工作，使機(jī)器人能具有自我意識、情感和反思能力，無論對科學(xué)和哲學(xué)來說，這都是探索領(lǐng)域。
人類的意識涉及到人類大腦對一個不完整世界的描述，通過人類直覺判斷和邏輯思維，把場景感知和情景認(rèn)知結(jié)合起來，融合先進(jìn)知識概念，有望形成部分意識。展望未來，全球首個商業(yè)化量子計算機(jī)D-Wave，目前已經(jīng)裝備美國能源部下屬兩個國家實(shí)驗(yàn)室、NASA、洛克希德馬盯南加州大學(xué)等，其原理量子退火獨(dú)特的量子隧穿效應(yīng)可以使得直覺推理方法以較大概率獲得更精確的意識。
3. 如果AI有自主意識，您覺得這是一件值得擔(dān)心的事情嗎？
無需擔(dān)心人工智能會產(chǎn)生部分正確的意識。人工智能如果具備部分意識，最終是一種造福于人類的方式行事，使人類與技術(shù)之間達(dá)成崇高信任。
工業(yè)運(yùn)行、社會治理權(quán)力在由人向機(jī)器轉(zhuǎn)移，人工智能的意識和決策不能成為大忽悠，這些年業(yè)內(nèi)已經(jīng)在注意到人工智能的基礎(chǔ)問題：模型和訓(xùn)練數(shù)據(jù)集對人工智能的影響問題，如同早年谷歌的傳染病預(yù)測系統(tǒng)后期案例。所幸這些問題國際大企業(yè)、國內(nèi)外高校已經(jīng)關(guān)注到，并逐步給出解決方案，2016年起IEEE也組織了100多位在人工智能、法律、倫理、哲學(xué)和政策領(lǐng)域工作的學(xué)術(shù)界、政府和企業(yè)部門的專家，專門從事此類相關(guān)問題的國際準(zhǔn)則制定。
