展會(huì)信息港展會(huì)大全

世界上第一塊人工智能加速器四核芯片,可以提高性能,但不會(huì)提高電費(fèi)
來(lái)源:互聯(lián)網(wǎng)   發(fā)布日期:2021-03-05 10:03:33   瀏覽:15808次  

導(dǎo)讀:IBM的研究人員設(shè)計(jì)了他們所謂的世界上第一塊人工智能加速器芯片,該芯片基于高性能7納米技術(shù),同時(shí)實(shí)現(xiàn)了高水平的能源效率。 來(lái)源 | ZDNet 參加此項(xiàng)研究的IBM研究人員Ankur Agrawal和KailashGopalakrishnan在互聯(lián)網(wǎng)固態(tài)電路虛擬大會(huì)(InternationalSolid-Sta...

世界上第一塊人工智能加速器四核芯片,可以提高性能,但不會(huì)提高電費(fèi)

IBM的研究人員設(shè)計(jì)了他們所謂的世界上第一塊人工智能加速器芯片,該芯片基于高性能7納米技術(shù),同時(shí)實(shí)現(xiàn)了高水平的能源效率。

來(lái)源 |ZDNet

參加此項(xiàng)研究的IBM研究人員Ankur Agrawal和KailashGopalakrishnan在互聯(lián)網(wǎng)固態(tài)電路虛擬大會(huì)(InternationalSolid-State Circuits Virtual Conference)推出了這款四核芯片,并且在最近的一篇博客文章中,披露了更多關(guān)于該技術(shù)的細(xì)節(jié)。盡管仍處于研究階段,這款加速器芯片有望能夠支持各種人工智能模型,并實(shí)現(xiàn)“領(lǐng)先的”電源效率。Agrawal和Gopalakrishnan表示:“這種節(jié)能的人工智能硬件加速器可以顯著提高計(jì)算能力,包括在混合云環(huán)境中也是如此,而且不需要消耗大量的能量。”

人工智能加速器是一類硬件,顧名思義,這種硬件就是為了加速人工智能模型而設(shè)計(jì)的。通過(guò)提高算法的性能,這類芯片可以提升自然語(yǔ)言處理或者計(jì)算機(jī)視覺之類的數(shù)據(jù)密集型應(yīng)用的結(jié)果。

但是,隨著人工智能模型復(fù)雜程度的增加,支撐算法系統(tǒng)的硬件運(yùn)行所需的電量也隨之增加。這兩位IBM的研究人員寫道:“從歷史上看,該領(lǐng)域已經(jīng)接受了這樣的關(guān)聯(lián):如果計(jì)算的需求量很大,那么需要的能耗也會(huì)很大。”

IBM的研究部門一直在為芯片創(chuàng)造新的設(shè)計(jì),讓它們能夠處理復(fù)雜的算法而又不會(huì)增加碳足跡。挑戰(zhàn)的關(guān)鍵在于設(shè)計(jì)出一種不需要消耗過(guò)高能量,但又不會(huì)犧牲計(jì)算能力的技術(shù)。

一種方法是在加速器芯片中采用降低精度的技術(shù),這些技術(shù)已被證明可以幫助深度學(xué)習(xí)訓(xùn)練和推理,同時(shí)又只需要更少的硅面積和能耗,這意味著訓(xùn)練人工智能模型所需的時(shí)間和能耗可以顯著降低。

IBM研究人員展示的新芯片針對(duì)低精度培訓(xùn)進(jìn)行了高度優(yōu)化。它是第一款采用被稱為混合FP8格式的超低精度技術(shù)的硅芯片。FP8格式是IBM開發(fā)的一種八位訓(xùn)練技術(shù),可以在圖像分類、語(yǔ)音和對(duì)象檢測(cè)等深度學(xué)習(xí)應(yīng)用中保持模型精度。

此外,由于配備了集成的電源管理功能,該加速器芯片可以將自身性能最大化,例如,通過(guò)在高功耗的計(jì)算階段降速來(lái)實(shí)現(xiàn)這一點(diǎn)。

該芯片還具有很高的利用率,實(shí)驗(yàn)表明訓(xùn)練利用率超過(guò)80%,推理利用率達(dá)到60%據(jù)IBM的研究人員稱,這一數(shù)字遠(yuǎn)遠(yuǎn)高于典型的GPU利用率(通常低于30%)。這一特性再次轉(zhuǎn)化為更好的應(yīng)用性能,這也是該芯片設(shè)計(jì)中提高能效的關(guān)鍵部分。

Agrawal和Gopalakrishnan表示,這些特性加在一起,讓這款芯片不僅在能效方面“最先進(jìn)”,而且在性能方面也是“最先進(jìn)”的。研究人員們將該技術(shù)同其他芯片進(jìn)行了比較,得出了結(jié)論:“我們芯片的性能和能效超過(guò)了其他專用的推理和訓(xùn)練芯片。”現(xiàn)在,研究人員希望這些設(shè)計(jì)可以擴(kuò)大規(guī)模并進(jìn)行商業(yè)部署,以支持復(fù)雜的人工智能應(yīng)用。包括從語(yǔ)音到文本人工智能服務(wù)和金融交易欺詐檢測(cè)等大規(guī)模云深度培訓(xùn)模型。

邊緣應(yīng)用也可能會(huì)找到IBM新技術(shù)的用途,自動(dòng)駕駛車輛、安全攝像頭和移動(dòng)電話都可能會(huì)受益于功耗更低的高性能人工智能芯片。

研究人員們表示:“為了推動(dòng)人工智能淘金熱,我們一直在改善人工智能硬件技術(shù)的核心:支持深度學(xué)習(xí)的數(shù)字化人工智能核心,這是人工智能的關(guān)鍵推動(dòng)因素。”隨著人工智能系統(tǒng)在所有行業(yè)中的廣泛應(yīng)用,這種承諾很難被視而不見。


贊助本站

相關(guān)內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港