劃重點(diǎn)
01諾貝爾化學(xué)獎(jiǎng)和物理學(xué)獎(jiǎng)分別授予DeepMind創(chuàng)始人Demis Hassabis和人工智能教父Geoffrey Hinton。
02Hinton的研究與物理學(xué)有緊密聯(lián)系,如Hopfield聯(lián)想儲(chǔ)存器和玻爾茲曼機(jī)。
03然而,Hinton對(duì)物理學(xué)獎(jiǎng)項(xiàng)感到意外,因?yàn)樗麖奈聪脒^(guò)會(huì)被提名。
04早年間,Hinton曾嘗試物理學(xué),但因復(fù)雜的數(shù)學(xué)而放棄,后來(lái)專(zhuān)注于機(jī)器學(xué)習(xí)。
05除此之外,Hinton曾拒絕百度的收購(gòu),原因是嚴(yán)重的腰椎間盤(pán)病使他無(wú)法長(zhǎng)時(shí)間坐下。
以上內(nèi)容由騰訊混元大模型生成,僅供參考
今年的諾貝爾化學(xué)獎(jiǎng)和物理學(xué)獎(jiǎng),頒給了兩個(gè)做人工智能的人物:一位是 DeepMind 創(chuàng)始人 Demis Hassabis,另一位則是 AI 教父 Geoffrey Hinton。
比得獎(jiǎng)更有意思的,是得獎(jiǎng)人背后的故事:當(dāng)年 DeepMind 還只是個(gè)不為人知的小公司時(shí),就膽敢和百度、微軟、Google 三巨頭,爭(zhēng)搶這位教父,盡管結(jié)果肯定是爭(zhēng)不過(guò)。我們翻了翻各大媒體報(bào)道和硅谷史記,找到了更多跟 Hinton 有趣的冷知識(shí)不得不說(shuō),這個(gè)人物,可比物理有意思多了。不是真物理學(xué)家這一點(diǎn)現(xiàn)在已經(jīng)人盡皆知了 本次物理學(xué)獎(jiǎng)之一 John Hopfield 確實(shí)是物理學(xué)出身雖然他現(xiàn)在在普林斯頓,是分子生物學(xué)教授。而 Geoffery Hinton 則是知名的「人工智能教父」,他在神經(jīng)網(wǎng)絡(luò)上的研究,為人工智能奠定了基矗實(shí)際上,兩人的研究都跟物理學(xué)有所聯(lián)系。Hopfield 創(chuàng)造了一種聯(lián)想儲(chǔ)存器,可以存儲(chǔ)和重建圖像以及數(shù)據(jù)中其它類(lèi)型模式,這套理論的基礎(chǔ),正是物理學(xué)中的自旋系統(tǒng)。
Geoffrey Hinton 發(fā)明的玻爾茲曼機(jī),靈感來(lái)自于統(tǒng)計(jì)物理學(xué),引入了一種用于模式識(shí)別的概率模型。在理論上,它的訓(xùn)練算法、動(dòng)力學(xué)原理,都與簡(jiǎn)單物理過(guò)程有所相似。玻爾茲曼機(jī)跟 Hopfield 網(wǎng)絡(luò)緊密相關(guān)。
不過(guò),獲得物理學(xué)這個(gè)獎(jiǎng)項(xiàng)著實(shí)令兩人都非常吃驚,Hinton 甚至沒(méi)有想過(guò)自己會(huì)被提名。他很高興諾獎(jiǎng)委員會(huì)能看到他和 Hopfield 的研究中,物理學(xué)所帶來(lái)的啟發(fā)。只不過(guò)在最近,基于 LLM 的人工智能研究與物理學(xué)關(guān)聯(lián)不太多了,所以得獎(jiǎng)一事讓人非常意外。曾經(jīng)的學(xué)渣,如今的教父早年間 Hinton 也嘗試過(guò)物理學(xué),但直接被里面復(fù)雜的數(shù)學(xué)勸退了。甚至到后來(lái)做機(jī)器學(xué)期的時(shí)候,他還是會(huì)經(jīng)常跳過(guò)數(shù)學(xué)演算的部分,直接看論證。直到指導(dǎo) Yann LeCun 的論文時(shí),他因?yàn)橥耆欢ㄕZ(yǔ),只能反過(guò)來(lái)跳過(guò)論述,只看數(shù)學(xué)。論文答辯時(shí),Hinton 用英語(yǔ)提問(wèn),LeCun 用法語(yǔ)回答,兩人居然交流自如。這是基于他們對(duì)神經(jīng)網(wǎng)絡(luò)共同的信念,LeCun 說(shuō),聊天時(shí)他感覺(jué) Hinton 正在完成他的句子。
英式冷幽默大師但凡看過(guò) Hinton 的演講視頻,都會(huì)被他的英式冷幽默折服。一位名叫 Aapo Hyvrinen 的研究人員,曾經(jīng)在發(fā)表學(xué)術(shù)論文時(shí)在致謝一欄寫(xiě)道:本文的基礎(chǔ)想法是在與 Geoffrey Hinton 的討論中提出的,但他本人不愿意成為合著者,因?yàn)樵撜撐陌颂鄶?shù)學(xué)方程。
離那個(gè)叫 Sam Altman 的人遠(yuǎn)一點(diǎn)雖然被稱(chēng)為人工智能教父,但是 Hinton 在警示人工智能潛在的危險(xiǎn)性上,稱(chēng)得上是不遺余力。今天下午,多倫多大學(xué)召開(kāi)的線上媒體會(huì),他在線上感謝了諾獎(jiǎng)組委會(huì),以及一直以來(lái)共事導(dǎo)師、同事和學(xué)生,并說(shuō)道,「我對(duì)其中一位同學(xué)格外自豪,他解雇了 Sam Altman!姑缆(lián)社記者追問(wèn)到為什么對(duì) Sam Altman 有如此評(píng)價(jià),他表示,OpenAI 的初衷是開(kāi)發(fā)通用人工智能,并保證它是安全的!傅S著時(shí)間的推移,Sam Altman 逐漸把利潤(rùn)置于安全之上,我覺(jué)得這很不幸!
百度離拿下 Hinton 的「皮包公司」,曾經(jīng)只有一步之遙Hinton 有兩次「創(chuàng)業(yè)」的經(jīng)歷。當(dāng)然,不是嚴(yán)格意義上的創(chuàng)業(yè),更多像是把自己和學(xué)生的研究成果,引薦給工業(yè)界。2009 年,他的學(xué)生在語(yǔ)音識(shí)別上做出了一個(gè)很好的模型,于是他們?nèi)ズ彤?dāng)時(shí)做手機(jī)很紅火的黑莓公司接觸。經(jīng)過(guò)漫長(zhǎng)的溝通,黑莓一位高管說(shuō),他們不感興趣!柑上Я,」Hinton 在一場(chǎng)多倫多大學(xué)的座談會(huì)上分享這個(gè)故事,當(dāng)時(shí)另一位講座嘉賓是李飛飛,「如果不是這樣,我們現(xiàn)在說(shuō)不定還能看到黑莓呢!沟搅 2012 年,Hinton 和他的學(xué)生發(fā)表了一篇論文,證明了神經(jīng)網(wǎng)絡(luò)強(qiáng)大的價(jià)值。率先向 Hinton 拋出橄欖枝的,正是來(lái)自中國(guó)的百度。
但他的學(xué)生提議說(shuō),與其去當(dāng)打工人,不如原地成立一家公司,讓巨頭來(lái)收購(gòu)。Hinton 想想,有道理,說(shuō)干就干。沒(méi)想到成立之后,四家巨頭拋出爭(zhēng)相拍賣(mài),分別是百度、Google、微軟,以及當(dāng)時(shí)尚未嶄露頭角的 DeepMind。拍賣(mài)全程用郵件進(jìn)行,出價(jià)時(shí)間節(jié)奏從一開(kāi)始的每隔一小時(shí),到每隔半小時(shí)。后半程百度直接從北京總部派人指揮。DeepMind 當(dāng)時(shí)的實(shí)力尚淺,只能拿公司股票來(lái)參與拍賣(mài),所以很快就出局了。而剩下的三位巨頭不斷抬價(jià),微軟在 2000 萬(wàn)退出了一次。2200 萬(wàn)時(shí),由于 Hinton 提出暫停,微軟徹底退出。在后半程的終極競(jìng)價(jià)里,百度的出價(jià)其實(shí)是領(lǐng)先的,然而最終 Hinton 還是屬意 Google。他在 Google 工作了十年,直到去年退休,F(xiàn)在,Demis Hassabis 同 Hinton 一起獲得諾貝爾獎(jiǎng),也算是一種頂峰相見(jiàn)了吧。站著,把研究做了傳言他最終沒(méi)有選擇百度,是因?yàn)樵窖箫w機(jī)對(duì)他而言太難了:Hinton 患有嚴(yán)重的腰椎間盤(pán)病,嚴(yán)重到完全不能坐下,否則就會(huì)有一塊腰椎突出導(dǎo)致劇痛。他在所有的演講、座談中,都是站著的,必要時(shí)會(huì)拿一個(gè)軟墊跪下來(lái)。2009 年,微軟邀請(qǐng) Hinton 去位于華盛頓遠(yuǎn)郊的實(shí)驗(yàn)訪問(wèn)研究。旅程非常費(fèi)勁:又不能開(kāi)車(chē)又不能飛,坐車(chē)也只能躺在后座。于是他先搭地鐵,去到多倫多城中的公交車(chē)站,提前排隊(duì),然后率先搶到最后一排空座,直接躺下裝睡,全程無(wú)人打擾。后來(lái)他又搭了三天火車(chē)到達(dá)西雅圖,再躺在出租車(chē)后座上橫穿華盛頓湖,到達(dá)微軟。聽(tīng)說(shuō)這個(gè)旅程如此折騰,微軟提前給他定了一張站立式辦公桌,保證他可以正常工作。冷血?jiǎng)游飷?ài)好者Hinton 的父親是一位著名的昆蟲(chóng)學(xué)家,小時(shí)候的他就經(jīng)常跟各種奇奇怪怪的動(dòng)物打交道,包括但不限于青蛙、烏龜、蜥蜴、蟾蜍。一直到現(xiàn)在,他也和冷血?jiǎng)游锖苡H近。他把死掉的蜻蜓保存在櫥柜里,在海島度假時(shí),甚至?xí)焉邘нM(jìn)屋里,邀請(qǐng)前來(lái)采訪的記者摸摸看。祖上都是科學(xué)家Hinton 出生在一個(gè)科學(xué)世家,最為人所知的是他的曾曾祖父喬治布爾,開(kāi)發(fā)了二元推理系統(tǒng)「布爾代數(shù)」,構(gòu)成了現(xiàn)代計(jì)算機(jī)的基矗其實(shí),他還有許多祖輩都有驚人的科學(xué)成就。曾祖母 Mary Ellen Boole(后來(lái)改姓)是數(shù)學(xué)家,嫁給了 Charles Howard Hinton,同樣是數(shù)學(xué)家,他提出了四維超正方體,是四維空間的基礎(chǔ)理論。表親 Joan Hinton 是核物理學(xué)家,曾經(jīng)參與曼哈頓計(jì)劃,后來(lái)嫁給了中國(guó)對(duì)美事務(wù)顧問(wèn) Erwin Engst 后就定居中國(guó)了。他們的孩子之一 Fred Engst 陽(yáng)和平,目前是北京對(duì)外經(jīng)貿(mào)大學(xué)的教授。研究了一下發(fā)現(xiàn)他祖輩里還有太多科學(xué)家,比如英國(guó)皇家化學(xué)研究所第一位女性院士、發(fā)明便攜式 X 光機(jī)的內(nèi)科醫(yī)生,等等等
成功的秘訣?找一堆天才學(xué)生OpenAI 的前首席科學(xué)家、聯(lián)創(chuàng)之一 Ilya Sutskever 是 Hinton 的學(xué)生,在多倫多大學(xué)讀本科時(shí)就決定了自己的方向。他是直接走到 Hinton 的辦公室,敲開(kāi)門(mén)問(wèn),能不能加入深度學(xué)習(xí)實(shí)驗(yàn)室。Hinton 說(shuō),那約個(gè)時(shí)間聊聊吧。Sutskever 說(shuō),「行啊,現(xiàn)在怎么樣?」Hinton 給了他一些經(jīng)典論文,一周后,Sutskever 回來(lái)了,說(shuō)「我不理解!埂改阌(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)來(lái)解決一個(gè)問(wèn)題,然后又訓(xùn)練一個(gè)新的網(wǎng)絡(luò)解決另一個(gè)問(wèn)題你為什么不用一個(gè)網(wǎng)絡(luò)解決所有的問(wèn)題呢?」Hinton 意識(shí)到,眼前這個(gè)二十多歲的年輕人,有著超乎經(jīng)驗(yàn)的研究直覺(jué),遂邀請(qǐng)他加入自己的實(shí)驗(yàn)隊(duì)伍。
「我一直都是對(duì)的」Hinton 坐了十多年學(xué)術(shù)界的冷板凳。在他決定把神經(jīng)網(wǎng)絡(luò)作為自己的研究目標(biāo)時(shí),沒(méi)有人看好這個(gè)方向,都覺(jué)得做不出名堂。然而,多年后,當(dāng)神經(jīng)網(wǎng)絡(luò)為自己正名后,Hinton 經(jīng)常在接受采訪中被問(wèn)到,是什么讓他選擇了一個(gè)冷門(mén)方向。他每次都輕描淡寫(xiě)地答到,「我相信我是對(duì)的。」這也是他對(duì)年輕人的建議之一,「去找這樣一個(gè)地方:在那里,你覺(jué)得每個(gè)人都做錯(cuò)了。然后相信你的直覺(jué),直到你弄清楚為什么你的直覺(jué)是錯(cuò)誤的。當(dāng)你覺(jué)得每個(gè)人的做法都是做的,選擇那個(gè)不一樣的做法。事實(shí)是,要么你有很好的直覺(jué),要么你沒(méi)有。如果你有好的直覺(jué),應(yīng)該傾聽(tīng)它們,遵循它們,一直努力,直到你發(fā)現(xiàn)它為什么是錯(cuò)的。如果你有糟糕的直覺(jué),那你做什么其實(shí)也不重要,那還不如遵循自己的直覺(jué)!