“超越人類智慧的AI可以用語言操縱我們，或許會試圖說服我們不要關(guān)掉開關(guān)。”
今年3月，由ChatGPT掀起的AI（人工智能）技術(shù)革命背后的奠基性科學(xué)家、被譽為“AI教父”的杰弗里辛頓（Geoffrey E. Hinton），曾對媒體提及他對AI“反噬人類”的擔(dān)憂。如今，在他心中“危險和機遇并存”的AI，為他帶來了諾貝爾物理學(xué)獎的榮譽。
當(dāng)?shù)貢r間10月8日，瑞典皇家科學(xué)院宣布，將2024年諾貝爾物理學(xué)獎授予美國普林斯頓大學(xué)的約翰霍普菲爾德（John J. Hopfield）和加拿大多倫多大學(xué)的杰弗里辛頓，以表彰他們“為推動利用人工神經(jīng)網(wǎng)絡(luò)進行機器學(xué)習(xí)作出的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明”。
諾貝爾化學(xué)獎則部分授予了谷歌旗下DeepMind公司AI科學(xué)家德米斯哈薩比斯和約翰江珀，以表彰他們研發(fā)出的“Alpha Fold2”模型在蛋白質(zhì)結(jié)構(gòu)預(yù)測方面的成就。
當(dāng)AI首次成為諾貝爾獎的主要元素，這不僅是對科學(xué)家的認(rèn)可，也是對“AI輔助科學(xué)研究”這一應(yīng)用趨勢的肯定，“諾貝爾物理學(xué)獎和化學(xué)獎都花落AI，既在意料之外，又在情理之中。”復(fù)旦大學(xué)計算機科學(xué)技術(shù)學(xué)院教授、上海市數(shù)據(jù)科學(xué)重點實驗室主任肖仰華告訴澎湃新聞記者。
在他看來，AI在諾貝爾獎當(dāng)中占據(jù)相當(dāng)比重，釋放出傳統(tǒng)的自然科學(xué)國際性的獎項向新興學(xué)科遷移的信號。傳統(tǒng)上人們認(rèn)為，諾貝爾獎主要授予在傳統(tǒng)自然科學(xué)領(lǐng)域做出杰出貢獻的個人或組織。此次諾獎對人工智能等新興學(xué)科的傾斜，標(biāo)志著以人工智能驅(qū)動的科研方式已不再是“偏門”而是逐漸走向“主流”，并獲得傳統(tǒng)自然科學(xué)領(lǐng)域的廣泛肯定。
AI“攻占”諾貝爾獎意味著什么？
“我做了這么一輩子科研，從來沒見過AI這么一個行當(dāng)。每三個月就有新突破，每半年就要翻天覆地了。”國際著名計算生物學(xué)家、復(fù)旦大學(xué)復(fù)雜體系多尺度研究院首任院長、上海人工智能實驗室領(lǐng)軍科學(xué)家馬劍鵬向澎湃新聞記者坦言。
在他看來，過去50年中，“蛋白質(zhì)折疊問題”一直是生物學(xué)界的重大挑戰(zhàn)此前，生物學(xué)家主要利用X射線晶體學(xué)或冷凍電鏡等實驗技術(shù)來破譯蛋白質(zhì)的三維結(jié)構(gòu)，耗時長、成本高。幾年前，科學(xué)家用計算機預(yù)測復(fù)雜的蛋白質(zhì)折疊結(jié)構(gòu)，正確率還不到40%。Alphafold出現(xiàn)后，奇跡出現(xiàn)了。
2020年11月30日，Alphafold 2在蛋白質(zhì)結(jié)構(gòu)預(yù)測大賽CASP 14中，對大部分蛋白質(zhì)結(jié)構(gòu)的預(yù)測與真實結(jié)構(gòu)只差一個原子的寬度，接近達到了人類利用冷凍電子顯微鏡等復(fù)雜儀器觀察預(yù)測的水平，這是蛋白質(zhì)結(jié)構(gòu)預(yù)測史無前例的巨大進步。
“預(yù)測蛋白質(zhì)結(jié)構(gòu)，向來被認(rèn)為是‘太陽底下最難的科學(xué)問題之一’。”馬劍鵬表示，他和好朋友、諾貝爾化學(xué)獎得主邁克爾萊維特都曾認(rèn)為，這一問題在他們的有生之年恐怕很難完全解決，“但沒想到人工智能‘Alphafold 2’的出現(xiàn)了，讓這個問題向前邁進一大步，真正體現(xiàn)了算法的力量，將諾貝爾化學(xué)獎頒給人工智能，是一個理所應(yīng)當(dāng)或者非常恰當(dāng)?shù)臎Q定。”
馬劍鵬認(rèn)為，人工智能可以將求解的準(zhǔn)確率大幅提升，顯示了“科學(xué)智能”研究范式的強大。雖然“Alphafold 2”和“Alphafold 3”并未完全解決蛋白質(zhì)折疊問題，但它給科學(xué)界帶來了啟示：可以通過數(shù)據(jù)驅(qū)動，將人工智能應(yīng)用于更多的科研領(lǐng)域，讓AI助手破解各種難題。
“人工智能現(xiàn)在已經(jīng)成為一場新的技術(shù)革命，或者可以稱之為工具革命。”肖仰華告訴記者，在科學(xué)研究領(lǐng)域，AI已成為推動社會進步和研究發(fā)展的最重要引擎。
肖仰華認(rèn)為，諾貝爾獎授予人工智能相關(guān)研究實際上起到一個風(fēng)向標(biāo)的作用，這意味著傳統(tǒng)自然學(xué)科一定會掀起努力擁抱和學(xué)習(xí)人工智能、積極把人工智能的很多工具和方法融入到科學(xué)自身的科學(xué)研究中的熱潮。“大家普遍認(rèn)為，獲得諾貝爾獎的科學(xué)家需要經(jīng)過幾十年的研究，而AI打破了這一定律。未來可能會有越來越多年輕學(xué)者使用AI工具在傳統(tǒng)自然科學(xué)做出巨大貢獻，在短短幾年之內(nèi)獲得諾獎，三四十歲左右的諾獎?wù)呖赡軙罅坑楷F(xiàn)，這個風(fēng)向標(biāo)的意義十分重大，也會對傳統(tǒng)的自然科學(xué)研究造成巨大沖擊。”
“這次的諾獎授予情況，可以說是打破了一直以來的評獎傳統(tǒng)，可以說是諾貝爾獎評選的一次自我改革。一方面，這反映了諾貝爾獎委員會對于該獎項意義的反思，之后的授獎會更加地關(guān)注技術(shù)的現(xiàn)實影響，而非絕對意義的學(xué)術(shù)前沿。”中央財經(jīng)大學(xué)經(jīng)濟學(xué)院教授、清華大學(xué)中國經(jīng)濟思想與實踐研究院研究員徐翔告訴澎湃新聞記者。
另一方面，這反映人工智能技術(shù)帶來的巨大沖擊與科技界對這項技術(shù)的無限期待，說明科技界把人工智能看成了科學(xué)研究的底層技術(shù)，這是過去很多年的獲獎成果沒有做到的。
“此次AI在諾獎獲得成功，表明了學(xué)科大交叉、深交叉是趨勢，AI改變了科研范式，突破了傳統(tǒng)科研方式天花板。通過量變推動質(zhì)變，AI有望在未來助力更多學(xué)科領(lǐng)域取得突破。”國內(nèi)人工智能專家張春龍向澎湃新聞記者表示，對于網(wǎng)友們的“ChatGPT獲得諾貝爾文學(xué)獎”等期待，他認(rèn)為，科學(xué)（科技）工程類學(xué)科可以由大系統(tǒng)AI助力，文學(xué)創(chuàng)作類的可能還是需要人文和情感底蘊支撐。
AI發(fā)展有什么風(fēng)險？如何利用好？
“假設(shè)青蛙創(chuàng)造了人類，那么你認(rèn)為現(xiàn)在誰會占據(jù)主動權(quán)，是人，還是青蛙？”
去年，辛頓本人在北京智源大會提出的問題仍在耳畔回響，在諾獎“爆冷”頒給AI后，人們也在質(zhì)疑，AI是否正在奪走科學(xué)家最重要的榮譽，AI的高速發(fā)展，真的不會帶來取代人類的風(fēng)險嗎？
“最后獲獎的是AI算法背后的科學(xué)家和工程師，而非人工智能本身，目前的人工智能技術(shù)也未能達到脫離數(shù)據(jù)+算力+算法獨立運行的程度，本質(zhì)上還是人類的智慧，但是我們需要對于人工智能下一階段的發(fā)展抱有審慎態(tài)度，用客觀的眼光看待并做好治理介入的準(zhǔn)備。”徐翔坦言。
“從來不是AI可能取代人類，而是掌握了AI這種先進工具的擁有者在淘汰沒有掌握先進工具的人，歷史車輪的發(fā)展軌跡一直如此，任何一次技術(shù)革命都是先進技術(shù)的擁有者去淘汰沒有獲得先進技術(shù)的人，形成了相對的競爭優(yōu)勢。”
在肖仰華看來，要看到AI在科學(xué)研究發(fā)展上的巨大潛力，也要意識到AI背后潛在的風(fēng)險和問題，以目前AI的能力，即便將來發(fā)展很完善，本質(zhì)依然是工具，是對人類的輔助，需要人類科學(xué)家去引導(dǎo)、規(guī)范和糾正，“因為AI很難具有人類科學(xué)家的原始創(chuàng)新能力，它不具備像愛因斯坦那樣提出這種相對論，去解釋物理現(xiàn)象，突破傳統(tǒng)牛頓力學(xué)對于這個世界的機械力學(xué)的解釋，從零到一的原始創(chuàng)新仍然還是人類科學(xué)家才有可能完成。”
肖仰華表示，目前AI發(fā)展存在兩大主要弊端，第一是AI會放大科技的兩面性，當(dāng)AI驅(qū)動科學(xué)研究之后，這意味著雙刃劍的劍鋒恐怕要更加鋒利，需要積極管理和管控其可能帶來的風(fēng)險。
更嚴(yán)重的是價值觀念和倫理道德的挑戰(zhàn)，“科技是火車頭，整個人類社會是車身，目前火車頭動力十足，速度越來越快，越來越加速。但是整個人類社會是由一個個鮮活的個體組成的，是由還在遵循著傳統(tǒng)倫理和價值觀念的家庭組成的，一個個社區(qū)及小型社會群體構(gòu)成的。我們還在遵循著幾千年未變的文化價值、倫理、情感觀念，這些是不可能做那么快的調(diào)整的。”
在科技的強勁的帶動下，生產(chǎn)力會快速發(fā)展，生產(chǎn)力快速發(fā)展就勢必要求整個社會的上層建筑、倫理價值和情感觀念跟著去做適應(yīng)和調(diào)整，緩慢調(diào)整的社會上層關(guān)系和在科技帶動下快速發(fā)展的生產(chǎn)力之間可能會誕生新型的矛盾。
今年6月，2024年諾貝爾經(jīng)濟學(xué)獎得主麻省理工學(xué)院（MIT）教授達龍阿西莫格魯（Daron Acemoglu）在接受澎湃新聞記者專訪時表示，對于人工智能，非常擔(dān)心它成為將財富和權(quán)力從普通人轉(zhuǎn)移到一小群科技企業(yè)家的方式，“問題是我們沒有任何必要的控制機制以確保普通人從AI中獲利，比如強有力的監(jiān)管、工人參與、公民社會和民主監(jiān)督。我們看到的‘不平等’是‘煤礦里的金絲雀’，意味著更糟糕的事即將到來。”
國產(chǎn)大模型如何騰飛超越？
在360創(chuàng)始人周鴻看來，這一次諾貝爾物理學(xué)獎頒給計算機科學(xué)、頒給人工智能，具有標(biāo)志和代表性的意義。
“從諾貝爾獎評審的角度來講，可能都已經(jīng)開始相信物理學(xué)的前沿靠人類是不夠的，要靠AI。未來所有學(xué)科的發(fā)展都離不開AI，將來可能生物學(xué)、化學(xué)、數(shù)學(xué)等其他科學(xué)的獎項也會發(fā)給計算機科學(xué)家，會發(fā)給對AI產(chǎn)業(yè)具有貢獻的人�？赡芤院蟾鱾�科學(xué)的突破，都要靠AI來推動。AI會成為人類科學(xué)研究的重要的工具，”周鴻表示，AI正在改變這個世界，首先改變的是諾貝爾獎發(fā)獎的方式。
AI成為諾獎主流，無疑給AI產(chǎn)業(yè)發(fā)展帶來了積極信號，中國AI科研和大模型企業(yè)又該如何對標(biāo)？
“中國從來不缺優(yōu)秀的工程師。”馬劍鵬告訴記者，“但是如果要走向高精尖，還有很大的難度，能出現(xiàn)在概念上起引領(lǐng)作用的突破最好，因為人工智能領(lǐng)域確實具有廣泛的應(yīng)用前景。坦白講，中國在這方面已經(jīng)取得了不錯的成績，如果討論的是我們是否能在世界范圍內(nèi)達到諾貝爾獎級別的成就，我想在這方面可能還存在一定差距。”
馬劍鵬提到，在AI領(lǐng)域的競爭，需要借鑒國外的經(jīng)驗，不能只在高校里依靠教授單兵作戰(zhàn)。有些工作，需要大兵團作戰(zhàn)，需要高校、大企業(yè)等各類資源的融合。谷歌的突破就是一個明顯的例子。最近AI方面的巨大突破，幾乎全都是科技公司做出來的。
此外，在AI教育的短板也需要加強彌補，“高等教育機構(gòu)中的學(xué)科分類，包括學(xué)院的劃分，都是基于傳統(tǒng)學(xué)科體系而設(shè)立的，現(xiàn)在必須改革，加強對AI教育的培訓(xùn)。例如，復(fù)旦大學(xué)2024年招生培養(yǎng)政策發(fā)布會上發(fā)布的信息，從2024年秋季學(xué)期開始，復(fù)旦大學(xué)將在2024-2025學(xué)年推出至少100門AI領(lǐng)域課程。AI大課將納入所有復(fù)旦學(xué)生的學(xué)業(yè)安排。”
值得注意的是，此前國產(chǎn)大模型大多聚焦在通用大模型、行業(yè)大模型上，“專業(yè)大模型，尤其是與自然科學(xué)相結(jié)合的專業(yè)大模型，將來其實同樣重要，甚至更加重要。比如蛋白質(zhì)大模型會大量用在生命科學(xué)醫(yī)療產(chǎn)業(yè)，這關(guān)系到健康福祉和國家科技競爭。”肖仰華表示。
他建議，這對國產(chǎn)大模型未來發(fā)展具有重要啟示，未來大模型在To B（企業(yè)端）行業(yè)專業(yè)場景的應(yīng)用要更多和更快，“To B的應(yīng)用需要有更多的資源力量和人才資本投入，而這些都和諾貝爾獎傳統(tǒng)自然科學(xué)和AI深度融合是密切相關(guān)的。如果能借這個契機，推動更多的資源進入到專業(yè)場景，那么對大模型產(chǎn)業(yè)而言會產(chǎn)生更巨大的推動作用。”
