9月9日,國際權(quán)威AI性能基準(zhǔn)測試平臺MLPerf公布最新推理(Inference V2.1)測試成績。在與眾多國際一流廠商的同臺競技中,寧暢人工智能服務(wù)器X640 G40和GPU液冷服務(wù)器X660 G45 LP兩款核心產(chǎn)品性能登頂,共斬獲13項第一。
MLPerf是影響力最廣的國際AI性能基準(zhǔn)測試之一,Inference V2.1包括Datacenter數(shù)據(jù)中心和Edge邊緣兩大賽道,設(shè)置離線、在線、單數(shù)據(jù)流、多數(shù)據(jù)流等多種模式,多維度考察廠商產(chǎn)品性能。
X660 G45 LP奪冠,支持更多場景應(yīng)用
在本次測試中,寧暢液冷產(chǎn)品大展拳腳,表現(xiàn)最為搶眼的非X660 G45 LP服務(wù)器莫屬,共獲12項測試第一。寧暢X660 G45 LP是專門為深度學(xué)習(xí)訓(xùn)練開發(fā)的高性能液冷計算平臺,采用成熟的冷板式液冷設(shè)計,在本次測試中表現(xiàn)出卓越性能,算力超群。
在此次比賽中,寧暢X660 G45 LP服務(wù)器分別在數(shù)據(jù)中心16個任務(wù)中斬獲8項最佳成績,在邊緣賽道中獲4項最佳成績,展現(xiàn)出在高端機(jī)型中的領(lǐng)先優(yōu)勢。在線模式下,該服務(wù)器成功獲得DLRM(智能推薦模型)在99%和99.9%精度要求下的2項測試全場第一,該模型在疫情形勢下具有廣泛的應(yīng)用價值,能夠通過大數(shù)據(jù)技術(shù)實(shí)現(xiàn)海量數(shù)據(jù)的采集、分類和存儲,結(jié)合用戶的消費(fèi)習(xí)慣實(shí)現(xiàn)電商服務(wù)精準(zhǔn)推送等。
本次測試還覆蓋多種典型的AI模型,包括ResNet(圖像分類)、3D-UNet99(圖像分割)、Rnnt(語音辨識)、RetinaNet(目標(biāo)檢測)、Bert-99(自然語言處理)等,更加貼近實(shí)際應(yīng)用情況,例如,3D-UNet99主要應(yīng)用場景為醫(yī)學(xué)圖像分割,RetinaNet在自動駕駛等領(lǐng)域廣泛使用。寧暢在眾多模型任務(wù)下獲得全球領(lǐng)先成績,證明其服務(wù)器強(qiáng)大的AI性能與應(yīng)用潛力。
除X660 G45 LP服務(wù)器產(chǎn)品外,搭載NVIDIA GPU,寧暢X640 G40人工智能服務(wù)器也在本次測試中獲得了優(yōu)異成績。在數(shù)據(jù)中心固定任務(wù)賽道中,該服務(wù)器搭配NVIDIA GPU,獲得ResNet模型測試成績?nèi)珗龅谝?離線分?jǐn)?shù)679915,意味著每秒可完成679915個圖片樣本處理。
冠軍的背后:液冷技術(shù)大展拳腳
自2020年至今,寧暢已連續(xù)6次參加MLPerf AI性能基準(zhǔn)測試,共斬獲百余項第一成績,而本次X660 G45 LP服務(wù)器獲得優(yōu)異成績的原因,除了軟硬件層面的精細(xì)校準(zhǔn)和全面優(yōu)化外,液冷技術(shù)的加持也至關(guān)重要。
據(jù)了解,寧暢液冷服務(wù)器產(chǎn)品針對服務(wù)器主要熱源CPU、GPU、內(nèi)存進(jìn)行冷板液冷設(shè)計,可實(shí)現(xiàn)部件級精確制冷。寧暢方面表示,液冷技術(shù)在本次測試中發(fā)揮了明顯作用,可有效降低GPU溫度,保證其最佳工作頻率,充分發(fā)揮算力性能。
截至目前,寧暢技術(shù)團(tuán)隊專注服務(wù)器領(lǐng)域已有15年,液冷產(chǎn)品經(jīng)過千項測試確保運(yùn)行穩(wěn)定可靠。
