普林斯頓大學的研究人員發(fā)明了一種新型芯片，可以在降低能耗的同時加速被稱為神經(jīng)網(wǎng)絡(luò)的人工智能系統(tǒng)。這種芯片可能有助于將先進的應(yīng)用帶到汽車和智能手機等遠程設(shè)備上。作者:賈洪陽/普林斯頓大學
為了應(yīng)對人工智能對計算機網(wǎng)絡(luò)的爆炸式需求，普林斯頓大學(Princeton University)的研究人員近年來大幅提高了專業(yè)人工智能系統(tǒng)的速度，并大幅削減了能源使用�，F(xiàn)在，研究人員通過共同設(shè)計硬件和軟件，使設(shè)計者能夠?qū)⑦@些新型系統(tǒng)融合到他們的應(yīng)用中，從而使他們的創(chuàng)新更接近于廣泛使用。
“軟件是實現(xiàn)新硬件的關(guān)鍵部分，”普林斯頓大學(Princeton)電子與計算機工程教授、研究小組負責人納文維爾馬(Naveen Verma)說。“我們希望設(shè)計師們能夠繼續(xù)使用同樣的軟件系統(tǒng)，讓它的工作速度提高10倍或更高效。”
通過減少電力需求和從遠程服務(wù)器交換數(shù)據(jù)的需求，普林斯頓技術(shù)制造的系統(tǒng)將能夠?qū)⑷斯ぶ悄軕?yīng)用，如無人機的駕駛軟件或高級語言翻譯，帶到計算基礎(chǔ)設(shè)施的最邊緣。
維爾馬是該校凱勒工程教育創(chuàng)新中心(Keller Center for Innovation in Engineering Education)的主任，他說:“為了讓人工智能與我們周圍的實時和經(jīng)常是個人的過程相接觸，我們需要通過將計算本身移動到邊緣來解決延遲和隱私問題。”“這需要能源效率和性能。”
這種新芯片是基于模擬計算的，它使用電路來模擬正在求解的方程，而不是像數(shù)字計算機那樣生成1和0。作者:賈洪陽/普林斯頓大學
兩年前，普林斯頓大學的研究小組制造了一種新的芯片，旨在提高神經(jīng)網(wǎng)絡(luò)的性能，而神經(jīng)網(wǎng)絡(luò)是當今人工智能的本質(zhì)。這種芯片的性能比其他先進的微芯片好幾十到幾百倍，在幾個方面標志著一種革命性的方法。事實上，這種芯片與用于神經(jīng)網(wǎng)絡(luò)的任何東西都是如此不同，這對開發(fā)人員構(gòu)成了挑戰(zhàn)。
維爾馬在2018年的一次采訪中說:“這種芯片的主要缺點是它使用了一種非常不同尋常的顛覆性架構(gòu)。”“這需要與我們目前擁有和使用的大量基礎(chǔ)設(shè)施和設(shè)計方法相協(xié)調(diào)。”
在接下來的兩年里，研究人員致力于改進這種芯片，并創(chuàng)建一個軟件系統(tǒng)，使人工智能系統(tǒng)能夠利用這種新芯片的速度和效率。演講的國際固態(tài)電路虛擬會議2021年2月,第一作者弘揚,研究生時的研究實驗室,描述了新軟件將允許新芯片處理不同類型的網(wǎng)絡(luò)和允許可伸縮的系統(tǒng)硬件和軟件的執(zhí)行。
Verma說:“所有這些網(wǎng)絡(luò)都可以編程。“網(wǎng)絡(luò)可以很大，也可以很校”
維爾馬的團隊開發(fā)這種新型芯片是為了應(yīng)對人工智能日益增長的需求，以及人工智能給計算機網(wǎng)絡(luò)帶來的負擔。在圖像識別、翻譯、自動駕駛汽車等新技術(shù)領(lǐng)域，能夠模仿學習、判斷等認知功能的人工智能(ai)發(fā)揮著重要作用。理想情況下，無人機導航等技術(shù)的計算應(yīng)該基于無人機本身，而不是遠程網(wǎng)絡(luò)計算機。但是數(shù)字微芯片的電力需求和對存儲的需求使設(shè)計這樣一個系統(tǒng)變得困難。通常，該解決方案將大部分計算和內(nèi)存放在一個遠程服務(wù)器上，該服務(wù)器與無人機進行無線通信。但這增加了對通信系統(tǒng)的要求，并帶來了安全問題和向無人機發(fā)送指令的延遲。
為了解決這個問題，普林斯頓大學的研究人員從幾個方面重新思考了計算。首先，他們設(shè)計了一種在同一個地方進行計算和存儲數(shù)據(jù)的芯片。這種技術(shù)被稱為內(nèi)存計算，它減少了與專用內(nèi)存交換信息所需的能量和時間。這種技術(shù)提高了效率，但也帶來了新的問題:由于它將兩個函數(shù)擠在一個小區(qū)域內(nèi)，內(nèi)存計算依賴于模擬操作，而模擬操作對電壓波動和溫度峰值等源的破壞很敏感。為了解決這個問題，普林斯頓大學的研究小組使用電容而不是晶體管來設(shè)計芯片。電容器是儲存電荷的設(shè)備，可以更精確地制造，不受電壓變化的很大影響。電容器也可以非常小，并放置在存儲單元的頂部，增加處理密度和減少能源需求。
但是，即使在使模擬操作變得強大之后，仍然存在許多挑戰(zhàn)。模擬核心需要有效地集成在一個大部分數(shù)字架構(gòu)中，這樣它就可以與其他功能和軟件相結(jié)合，從而使實際系統(tǒng)工作。數(shù)字系統(tǒng)使用開關(guān)來表示1和0，計算機工程師用它們來編寫構(gòu)成計算機程序的算法。模擬計算機采用完全不同的方法。在《IEEE Spectrum》的一篇文章中，哥倫比亞大學教授Yannis Tsividis將模擬計算機描述為一種物理系統(tǒng)，它被設(shè)計成由與程序員想要解的方程相同的方程控制。例如，算盤是一種非常簡單的模擬計算機。齊維迪斯說，水桶和軟管可以作為模擬計算機來解決某些微積分問題:要解決積分函數(shù)，你可以做數(shù)學運算，或者你可以測量桶里的水。
在第二次世界大戰(zhàn)期間，模擬計算一直是主導技術(shù)。它被用來執(zhí)行從預(yù)測潮汐到指揮海軍火炮的功能。但是模擬系統(tǒng)建造起來很麻煩，通常需要訓練有素的操作人員。晶體管出現(xiàn)后，數(shù)字系統(tǒng)證明更有效率，適應(yīng)性更強。但是新的技術(shù)和新的電路設(shè)計使工程師能夠消除模擬系統(tǒng)的許多缺點。對于像神經(jīng)網(wǎng)絡(luò)這樣的應(yīng)用，模擬系統(tǒng)提供了真正的優(yōu)勢�，F(xiàn)在的問題是如何將兩個世界的優(yōu)點結(jié)合起來。
維爾馬指出，這兩種系統(tǒng)是互補的。數(shù)字系統(tǒng)發(fā)揮著核心作用，而使用模擬芯片的神經(jīng)網(wǎng)絡(luò)可以非常快速和有效地運行專門的操作。這就是為什么開發(fā)一個能夠無縫且有效地集成這兩種技術(shù)的軟件系統(tǒng)是如此關(guān)鍵的一步。
他說:“我們的想法不是把整個網(wǎng)絡(luò)放到內(nèi)存計算中。”“你需要整合功能，以一種可編程的方式來做所有其他事情。”
除了維爾馬和賈之外，作者還包括普林斯頓大學博士后研究員侯賽因瓦拉維;Jinseok Lee, Murat Ozatay, Rakshit Pathak和Yinqi Tang，普林斯頓大學的研究生。這個項目的部分支持是由普林斯頓大學工程和應(yīng)用科學學院的威廉艾迪在1982年慷慨資助的。
