來(lái)源：經(jīng)濟(jì)日?qǐng)?bào)新聞客戶端
12月7日，燧原科技發(fā)布第二代云端人工智能推理加速卡“云燧i20”。從訓(xùn)練到推理，標(biāo)志著云端AI推理加速產(chǎn)品已升級(jí)進(jìn)入第二代。作為全新一代云端AI推理加速產(chǎn)品，云燧i20AI加速卡存儲(chǔ)帶寬達(dá)819GB/s；對(duì)比第一代推理產(chǎn)品，云燧i20將浮點(diǎn)算力提升到1.8倍，整型算力提升到3.6倍。
此次升級(jí)并非算力的簡(jiǎn)單優(yōu)化，升級(jí)后的“馭算TopsRider”軟件棧，在性能、開(kāi)發(fā)效率和模型覆蓋面上得到大幅提升。通過(guò)引入通用高層圖優(yōu)化和大規(guī)模算子融合技術(shù)，充分釋放了大容量片內(nèi)存儲(chǔ)和高帶寬存儲(chǔ)的利用率，將模型平均性能提升3.5倍，硬件算力利用率平均提升2倍；通過(guò)升級(jí)的編程模型以及算子自動(dòng)分片、自動(dòng)生成技術(shù)，自定義算子開(kāi)發(fā)效率翻倍，模型遷移成本大大降低。
據(jù)介紹，新一代“邃思”AI推理芯片采用第二代高性能計(jì)算核心和數(shù)據(jù)引擎，由12納米工藝打造，通過(guò)架構(gòu)升級(jí)，大大提高了單位面積的晶體管效率，從而實(shí)現(xiàn)了與目前業(yè)內(nèi)7納米GPU相匹敵的計(jì)算能力。
燧原科技COO張亞林說(shuō)，“云燧i20全面提升了算力，在兼顧全精度算力的同時(shí)大幅度提高了整型運(yùn)算，大力加強(qiáng)了模型覆蓋率和泛化支持的能力，在多項(xiàng)基準(zhǔn)測(cè)試中，其模型性能、能效比均處于國(guó)內(nèi)領(lǐng)先水平，可以滿足云端推理業(yè)務(wù)高度多樣化的需求。”
之江實(shí)驗(yàn)室發(fā)展合作部副部長(zhǎng)吳麗娟表示，“之江實(shí)驗(yàn)室今年3月與燧原科技成立聯(lián)合研究中心，圍繞人工智能應(yīng)用場(chǎng)景，共同開(kāi)發(fā)具有標(biāo)桿性的技術(shù)解決方案，構(gòu)建開(kāi)源開(kāi)放的創(chuàng)新生態(tài)系統(tǒng)。目前，燧原科技的第一代人工智能訓(xùn)練產(chǎn)品‘云燧T11’正在之江實(shí)驗(yàn)室搭建千卡高性能計(jì)算的液冷集群，打造符合國(guó)家碳中和政策導(dǎo)向的低碳綠色數(shù)據(jù)中心。未來(lái)，我們還會(huì)在智能計(jì)算的更多領(lǐng)域合作研發(fā)。”
