就在剛剛!備受全球矚目的權(quán)威AI基準(zhǔn)測(cè)試MLPerf公布了今年最新的推理測(cè)試榜單。浪潮AI服務(wù)器NF5488A5一舉創(chuàng)造18項(xiàng)性能紀(jì)錄,問鼎最強(qiáng)“AI機(jī)王”。
也許你不知道MLPerf在當(dāng)前全球AI發(fā)展中意味著什么,它可謂是最具影響力的AI計(jì)算基準(zhǔn)評(píng)測(cè)組織,由圖靈獎(jiǎng)得主大衛(wèi)帕特森(David Patterson)聯(lián)合谷歌、斯坦福、哈佛大學(xué)等單位共同成立,每年組織全球AI訓(xùn)練和AI推理性能測(cè)試并發(fā)榜。
浪潮AI服務(wù)器NF5488A5在此次測(cè)試中戰(zhàn)績彪炳,一舉創(chuàng)造18項(xiàng)MLPerf推理性能新紀(jì)錄,成為創(chuàng)紀(jì)錄最多的AI服務(wù)器。
浪潮NF5488A5創(chuàng)造18項(xiàng)MLPerf推理性能紀(jì)錄
今年的測(cè)試中,數(shù)據(jù)中心AI性能最受關(guān)注,全部參與機(jī)構(gòu)提交了507項(xiàng)性能測(cè)試數(shù)據(jù)。浪潮NF5488A5創(chuàng)下了數(shù)據(jù)中心22個(gè)賽項(xiàng)中的13項(xiàng)性能紀(jì)錄,以絕對(duì)優(yōu)勢(shì)領(lǐng)先。而在此前的MLPerf訓(xùn)練榜單中,NF5488A5在最核心的Resnet50訓(xùn)練任務(wù)中也創(chuàng)下了性能新紀(jì)錄,單機(jī)性能高居榜首!
在這次基準(zhǔn)測(cè)試中,浪潮AI服務(wù)器NF5488A5在開放優(yōu)化(Open)和固定任務(wù)(Closed)的ResNet50基準(zhǔn)性能測(cè)試中,均表現(xiàn)優(yōu)異,相比2019年MLPerf推理榜單的服務(wù)器最好性能提升高達(dá)3倍。
MLPerf ResNet50推理性能2019 VS 2020對(duì)比
NF5488A5還是這次MLPerf全球競(jìng)賽中唯一可以在4U空間內(nèi)支持8塊安培架構(gòu)A100芯片實(shí)現(xiàn)NVLink高速互聯(lián)的AI服務(wù)器。
浪潮NF5488A5在系統(tǒng)拓?fù)渖喜捎昧顺脱舆t設(shè)計(jì),支持PCIe 4.0全鏈路極致優(yōu)化,高頻通信單元采用一級(jí)拓?fù)渥罱B接,最大限度提升處理器到AI芯片間的通信性能。
在這次基準(zhǔn)測(cè)試中,浪潮展示出了卓越的AI計(jì)算軟硬件協(xié)同優(yōu)化能力。
硬件層面,通過對(duì)CPU、GPU硬件性能的精細(xì)校準(zhǔn)和全面優(yōu)化,使CPU性能、GPU性能、CPU與GPU之間的數(shù)據(jù)通路均處于對(duì)AI推理最優(yōu)狀態(tài);
軟件層面,結(jié)合GPU硬件拓?fù)鋵?duì)多GPU的輪詢調(diào)度優(yōu)化使單卡至多卡性能達(dá)到了近似線性擴(kuò)展;
深度學(xué)習(xí)算法層面,結(jié)合GPU Tensor Core 單元的計(jì)算特征,通過自研通道壓縮算法成功實(shí)現(xiàn)了模型的極致性能優(yōu)化,在精度無損的情況下性能提升近2倍。
忍不住為浪潮點(diǎn)贊!作為全球領(lǐng)先的AI計(jì)算領(lǐng)導(dǎo)廠商,浪潮AI服務(wù)器在中國的市場(chǎng)份額已連續(xù)三年保持在50%以上,市場(chǎng)的肯定便是浪潮AI服務(wù)器實(shí)力的最好證明!
