之前OpenAI首席科學家Ilya Sutskever一句“現(xiàn)在的大型神經(jīng)網(wǎng)絡可能已經(jīng)有了點自主意識”的發(fā)言引得楊立昆（Yann LeCun）“下場論戰(zhàn)”，學術(shù)圈諸多爭議。
此后，MIT的訪問學者Tamay Besiroglu在推特上發(fā)布的一張在機器學習模型發(fā)展圖又激起討論。他在圖上畫了一條線，界線以上即是模型“有微弱意識”。
雖然Besiroglu后來發(fā)推文表示只是玩笑，依然不能消弭爭論。
對于“現(xiàn)在的大型神經(jīng)網(wǎng)絡可能已經(jīng)有微弱自主意識了”的觀點，IEEE China Council Vice Chair（國際電氣電子工程師學會中國聯(lián)合會副主席）王潮接受澎湃新聞（www.thepaper.cn）采訪時表示，“由于先天性缺陷，不可能通過神經(jīng)網(wǎng)絡產(chǎn)生自主意識。目前深度神經(jīng)網(wǎng)絡已經(jīng)到了天花板。”
王潮是上海大學教授，中國人工智能學會理事、會員工委會副主任委員，2019年獲中國人工智能學會首屆杰出貢獻獎。
王潮解釋道，“目前的神經(jīng)網(wǎng)絡和深度學習在本源上存在問題：違背了David Marr從神經(jīng)科學和腦科學角度奠定的認知科學（Cognitive Science）理論、計算視覺（Computational Vision）和計算神經(jīng)學（Computational Neuroscience）理論。 由于將模型（表達）、算法、和實現(xiàn)的結(jié)構(gòu)這三層混在一起，深度學習丟失了語義和深度信息。因此深度神經(jīng)網(wǎng)絡不可能產(chǎn)生自主意識。”
楊立昆（Yann LeCun）曾經(jīng)在IEEE Spectrum說過，雖然深度學習從生物學中獲得了靈感，但這離生物大腦的實際運作方式距離還遠得很。楊立昆還指出深度神經(jīng)網(wǎng)絡的非監(jiān)督學習能力遠遠弱于大腦，缺失了人類大腦的基本的學習原理。
“深度神經(jīng)網(wǎng)絡的幾大局限性，包括泛化能力弱、表達能力弱、無注意機制以及過度依靠訓練數(shù)據(jù)等，已經(jīng)嚴重制約其應用，更談不上產(chǎn)生意識。”王潮說道。
對于AI能否有自主意識，我們該如何思考這個問題呢？
王潮認為，“當前人工智能面對的三大難題：意識、情感、推理�；谥庇X推理，人工智能有望產(chǎn)生部分自主意識。這里，我們關(guān)注的是產(chǎn)生更精準的意識，而不是略顯模糊的意識。”
“人類的意識涉及到人類大腦對一個不完整世界的描述，通過人類直覺判斷和邏輯思維，把場景感知和情景認知結(jié)合起來，融合先進知識概念，有望形成部分意識。展望未來，全球首個商業(yè)化量子計算機D-Wave，目前已經(jīng)裝備美國能源部下屬兩個國家實驗室、NASA、洛克希德馬盯南加州大學等，其原理量子退火獨特的量子隧穿效應可以使得直覺推理方法以較大概率獲得更精確的意識。”王潮接著道。
那我們需要擔心AI會有自主意識嗎？
王潮的答案是否定的，“無需擔心人工智能會產(chǎn)生部分正確的意識。人工智能如果具備部分意識，最終是一種造福于人類的方式行事，使人類與技術(shù)之間達成崇高信任。”
中國工程院院士鄭南寧曾在《人民日報》發(fā)文《發(fā)展有助于人類的人工智能》表示，讓機器具有自我意識、情感以及反思自身處境與行為的能力，這是實現(xiàn)類人智能最艱難的挑戰(zhàn)。具有自我意識以及反思自身處境與行為的能力，是人類區(qū)別于其他生物最重要、最根本的一點。另外，人類的大腦皮層能力是有限的，如果將智能機器設備與人類大腦相連接，不僅會增強人類的能力，而且會使機器產(chǎn)生靈感。讓機器具有自我意識、情感和反思能力，無論對科學和哲學來說，都是一個引人入勝的探索領(lǐng)域。
附采訪問答：
1. 對于 OpenAI 首席科學家Ilya Sutskever“現(xiàn)在的大型神經(jīng)網(wǎng)絡可能已經(jīng)有微弱自主意識了”的觀點您怎么看？
由于先天性缺陷，不可能通過神經(jīng)網(wǎng)絡產(chǎn)生自主意識。目前深度神經(jīng)網(wǎng)絡已經(jīng)到了天花板。
Yann LeCun曾經(jīng)在IEEE Spectrum說過，深度神經(jīng)網(wǎng)絡與生物大腦還離得很遠（“While Deep Learning gets an inspiration from biology, it’s very, very far from what the pain actually does;”）Yann LeCun還指出深度神經(jīng)網(wǎng)絡的非監(jiān)督學習能力遠遠弱于大腦，缺失了人類大腦的基本原理（“The pain is much better than our model at doing unsupervised learning. That means that our artificial learning systems are missing some very basic principles of biological learning;” ）
目前的神經(jīng)網(wǎng)絡和深度學習在本源上存在問題：違背了David Marr從神經(jīng)科學和腦科學角度奠定的認知科學（Cognitive Science）理論、計算視覺（Computational Vision）和計算神經(jīng)學（Computational Neuroscience）理論。 由于將模型（表達）、算法、和實現(xiàn)的結(jié)構(gòu)這三層混在一起，深度學習丟失了語義和深度信息。因此深度神經(jīng)網(wǎng)絡不可能產(chǎn)生自主意識。
深度神經(jīng)網(wǎng)絡的幾大局限性，包括泛化能力弱、表達能力弱、無注意機制以及過度依靠訓練數(shù)據(jù)等，已經(jīng)嚴重制約其應用，更談不上產(chǎn)生意識。
2. 您認為AI會有自主意識嗎，您如何思考這個問題？
基于直覺推理，人工智能有望產(chǎn)生部分自主意識。這里，我們關(guān)注的是產(chǎn)生更精準的意識，而不是略顯模糊的意識。
當前人工智能面對的三大難題：意識、情感、推理，如同鄭南寧院士所言，邁向人類思維水平的人工智能是一件令人生畏又極具挑戰(zhàn)的研究工作，使機器人能具有自我意識、情感和反思能力，無論對科學和哲學來說，這都是探索領(lǐng)域。
人類的意識涉及到人類大腦對一個不完整世界的描述，通過人類直覺判斷和邏輯思維，把場景感知和情景認知結(jié)合起來，融合先進知識概念，有望形成部分意識。展望未來，全球首個商業(yè)化量子計算機D-Wave，目前已經(jīng)裝備美國能源部下屬兩個國家實驗室、NASA、洛克希德馬盯南加州大學等，其原理量子退火獨特的量子隧穿效應可以使得直覺推理方法以較大概率獲得更精確的意識。
3. 如果AI有自主意識，您覺得這是一件值得擔心的事情嗎？
無需擔心人工智能會產(chǎn)生部分正確的意識。人工智能如果具備部分意識，最終是一種造福于人類的方式行事，使人類與技術(shù)之間達成崇高信任。
工業(yè)運行、社會治理權(quán)力在由人向機器轉(zhuǎn)移，人工智能的意識和決策不能成為大忽悠，這些年業(yè)內(nèi)已經(jīng)在注意到人工智能的基礎問題：模型和訓練數(shù)據(jù)集對人工智能的影響問題，如同早年谷歌的傳染病預測系統(tǒng)后期案例。所幸這些問題國際大企業(yè)、國內(nèi)外高校已經(jīng)關(guān)注到，并逐步給出解決方案，2016年起IEEE也組織了100多位在人工智能、法律、倫理、哲學和政策領(lǐng)域工作的學術(shù)界、政府和企業(yè)部門的專家，專門從事此類相關(guān)問題的國際準則制定。
