劃重點(diǎn)
012024中國(guó)算力大會(huì)將于9月27日至29日在鄭州舉行，液冷技術(shù)正成為算力行業(yè)趨勢(shì)。
02AI服務(wù)器市場(chǎng)需求激增，預(yù)計(jì)2024年出貨量將達(dá)167萬(wàn)臺(tái)，年增長(zhǎng)率為41.5%。
03由于散熱需求強(qiáng)烈，CPU+GPU的服務(wù)器逐步采用液冷制冷方式。
04然而，液冷行業(yè)面臨如何在成本、投資回報(bào)率和運(yùn)維安全性上實(shí)現(xiàn)均衡的挑戰(zhàn)。
05異構(gòu)計(jì)算調(diào)度難題尚未得到便捷、通用的解決方案，需要各方共同努力研究。
以上內(nèi)容由騰訊混元大模型生成，僅供參考
AI（人工智能）浪潮不斷向前，作為AI三駕馬車(chē)之一，算力需求始終如影隨形。
近日，新京報(bào)貝殼財(cái)經(jīng)記者跟隨工信部新聞中心走訪了河南鄭州多家服務(wù)器廠商、大模型公司和算力中心。在走訪中，記者發(fā)現(xiàn)，液冷技術(shù)正被算力行業(yè)青睞，出于價(jià)格成本等原因暫未全面推行，不少算力中心仍是液冷與風(fēng)冷“兩條腿走路”。另外，超級(jí)計(jì)算和量子計(jì)算均有望進(jìn)入商業(yè)算力供給體系。只不過(guò)，量子計(jì)算商業(yè)化仍需等待，超級(jí)計(jì)算地方中心已能夠?qū)崿F(xiàn)日常50%左右的利用率。
在“東數(shù)西算”工程下，河南正在打造中部算力高地。9月27日至29日，2024中國(guó)算力大會(huì)將落地鄭州。據(jù)河南省通信管理局黨組成員、一級(jí)巡視員孫力透露，中國(guó)算力平臺(tái)（河南）將在本屆算力大會(huì)上正式開(kāi)通，算力規(guī)模達(dá)到4.2EFLOPS（floating-point operation per second，每秒浮點(diǎn)運(yùn)算次數(shù)）。
液冷成行業(yè)趨勢(shì)，服務(wù)器只奔著某個(gè)單點(diǎn)方向前進(jìn)未必成功
光模塊、AI服務(wù)器、AI芯片、交換機(jī)、液冷設(shè)備組成AI算力五大硬件設(shè)備�；贏I訓(xùn)練、推理和應(yīng)用深入產(chǎn)生的算力需求，AI服務(wù)器將迎來(lái)高速增長(zhǎng)時(shí)期。市場(chǎng)研究機(jī)構(gòu)TrendForce集邦咨詢(xún)預(yù)估，2024年AI服務(wù)器出貨量將達(dá)167萬(wàn)臺(tái)，年增長(zhǎng)率為41.5%，產(chǎn)值將達(dá)1870億美元，占整體服務(wù)器高達(dá)65%。
記者在走訪中觀察到，不少AI服務(wù)器廠商將提供定制大模型或相關(guān)服務(wù)作為新的業(yè)務(wù)增長(zhǎng)點(diǎn)。例如，浪潮信息和新華三都開(kāi)發(fā)了各自的大模型，超聚變數(shù)字技術(shù)有限公司（以下簡(jiǎn)稱(chēng)：超聚變）在云上增加一層操作系統(tǒng)對(duì)大模型進(jìn)行調(diào)優(yōu)，但超聚變董事、公共及政府事務(wù)部總裁李翔宇表示，從目前的銷(xiāo)售額來(lái)看，服務(wù)器等硬件業(yè)務(wù)的占比仍更多。
通常，AI服務(wù)器采用“CPU+加速芯片”的架構(gòu)形式，可分為：CPU+GPU、CPU+FPGA、CPU+ASIC等混合架構(gòu)，在進(jìn)行模型訓(xùn)練和推理時(shí)效率更高。由于散熱需求強(qiáng)烈，CPU+GPU的服務(wù)器也逐步采用液冷制冷方式。
與傳統(tǒng)服務(wù)器采用的風(fēng)冷技術(shù)相比，液冷技術(shù)具有高效散熱、節(jié)能降耗等優(yōu)勢(shì)，現(xiàn)已成為服務(wù)器行業(yè)發(fā)展趨勢(shì)。2023年，國(guó)內(nèi)服務(wù)器頭部廠商浪潮信息宣布要“All in 液冷”；中國(guó)移動(dòng)、中國(guó)電信、中國(guó)聯(lián)通三大運(yùn)營(yíng)商聯(lián)合發(fā)布《電信運(yùn)營(yíng)商液冷技術(shù)白皮書(shū)》并提出將在2025年開(kāi)展液冷技術(shù)規(guī)模應(yīng)用，實(shí)現(xiàn)50%以上數(shù)據(jù)中心項(xiàng)目應(yīng)用液冷技術(shù)。
超聚變數(shù)字技術(shù)有限公司工作人員在講解液冷設(shè)備工作流程。新京報(bào)貝殼財(cái)經(jīng)記者 韋英姿 攝
IDC數(shù)據(jù)顯示，2023年上半年國(guó)內(nèi)液冷服務(wù)器市場(chǎng)占比前三的廠商分別為：浪潮信息、寧暢和超聚變，共占據(jù)七成以上的市場(chǎng)份額。未來(lái)國(guó)內(nèi)服務(wù)器廠商是否可能憑借液冷技術(shù)實(shí)現(xiàn)生態(tài)位的改變？
對(duì)此，李翔宇表示，新技術(shù)需要考慮市場(chǎng)空間。他認(rèn)為，行業(yè)在發(fā)展過(guò)程中可能涌現(xiàn)新的變化、客戶(hù)需求和技術(shù)路徑，企業(yè)向某個(gè)單點(diǎn)方向走未必能保證成功。“企業(yè)需要堅(jiān)定地堅(jiān)持業(yè)務(wù)戰(zhàn)略，才能在各種變化下快速適應(yīng)轉(zhuǎn)化，實(shí)現(xiàn)突破。”
另外，浪潮信息河南區(qū)云裝備銷(xiāo)售部副總經(jīng)理賀磊透露，在2024中國(guó)算力大會(huì)上，浪潮信息將帶來(lái)新一代液冷的MDC（元數(shù)據(jù)控制器）、液冷多元算力AI服務(wù)器等產(chǎn)品。
“目前液冷產(chǎn)業(yè)推廣過(guò)程中面臨的一個(gè)重要課題是如何在液冷數(shù)據(jù)中心的建設(shè)成本和投資回報(bào)率，以及運(yùn)維安全性上做到均衡。”IDC中國(guó)服務(wù)器市場(chǎng)研究經(jīng)理辛一分析稱(chēng)，這需要產(chǎn)業(yè)相關(guān)組織、機(jī)構(gòu)、企業(yè)及合作伙伴在標(biāo)準(zhǔn)制定、成本控制、技術(shù)創(chuàng)新等方面共同努力，加大投資和配套設(shè)施建設(shè)力度。
他預(yù)計(jì)，液冷行業(yè)將迎來(lái)“剛需”放量元年。根據(jù)IDC數(shù)據(jù)，互聯(lián)網(wǎng)行業(yè)是2023年國(guó)內(nèi)液冷服務(wù)器市場(chǎng)最大買(mǎi)家，占整體市場(chǎng)的46.3%，有望在未來(lái)幾年持續(xù)加大采購(gòu)力度；此外，電信運(yùn)營(yíng)商、泛政府用戶(hù)也是未來(lái)液冷需求的主要來(lái)源。
算力資源走向多元化，異構(gòu)計(jì)算調(diào)度難尚未出現(xiàn)便捷、通用的解決方案
2023年10月，工信部等六部門(mén)印發(fā)了《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》（以下簡(jiǎn)稱(chēng)：《行動(dòng)計(jì)劃》）并要求構(gòu)建通用、智能和超級(jí)算力協(xié)同發(fā)展的供給體系。當(dāng)前，國(guó)內(nèi)算力平臺(tái)的算力資源多為混合型，通常包括通用計(jì)算、智能計(jì)算、超級(jí)計(jì)算，有的甚至已經(jīng)宣布接入了量子計(jì)算機(jī)。
鄭州人工智能計(jì)算中心（中國(guó)聯(lián)通中原數(shù)據(jù)基地）機(jī)房。新京報(bào)貝殼財(cái)經(jīng)記者 韋英姿 攝
與普通計(jì)算相比，超級(jí)計(jì)算和量子計(jì)算的計(jì)算速度更快、確定性更高。接入算力體系后，超級(jí)計(jì)算是否會(huì)形成對(duì)普通計(jì)算的“降維打擊”？河南移動(dòng)規(guī)劃技術(shù)部李仲剛分析稱(chēng)，兩種計(jì)算各自的領(lǐng)域不同，在諸如工廠識(shí)別螺絲釘好壞等數(shù)據(jù)量較小的項(xiàng)目上使用超算“意義不大”。
與超級(jí)計(jì)算相比，量子計(jì)算完全進(jìn)入智算領(lǐng)域還有較長(zhǎng)的路要走。一位河南國(guó)科量子通信網(wǎng)絡(luò)有限公司工作人員表示，量子計(jì)算機(jī)離作為算力領(lǐng)域基礎(chǔ)設(shè)施的商業(yè)運(yùn)用還有一段距離，目前仍處于“沒(méi)走出實(shí)驗(yàn)室”的階段。
另外，量子計(jì)算可能的安全風(fēng)險(xiǎn)也成為商業(yè)化前需要解決的問(wèn)題。國(guó)科量子通信網(wǎng)絡(luò)有限公司副總裁、河南國(guó)科量子通信網(wǎng)絡(luò)有限公司董事長(zhǎng)、河南國(guó)科量子通信技術(shù)應(yīng)用研究院院長(zhǎng)王家勇表示，量子計(jì)算對(duì)目前一些非對(duì)稱(chēng)的密碼算法會(huì)產(chǎn)生較大的安全威脅。但他也表示，離這類(lèi)安全風(fēng)險(xiǎn)到來(lái)還有相當(dāng)長(zhǎng)一段時(shí)間，“現(xiàn)在需要做好技術(shù)儲(chǔ)備，將現(xiàn)有密碼體系遷移到抗量子計(jì)算的密碼體系中。”
根據(jù)《行動(dòng)計(jì)劃》要求，到2025年，計(jì)算力方面，算力規(guī)模超過(guò)300EFLOPS，智能算力占比達(dá)到35%。據(jù)工信部等六部門(mén)測(cè)算，1EFLOPS約為5臺(tái)天河2A或50萬(wàn)顆主流服務(wù)器CPU或200萬(wàn)臺(tái)主流筆記本的算力輸出。為提升算力調(diào)度效率，不少硬件企業(yè)和算力中心都建成了算力調(diào)度平臺(tái)。據(jù)記者了解，國(guó)家超算鄭州中心能夠提供的超算峰值是100P。
近年來(lái)，隨著越來(lái)越多異構(gòu)芯片被應(yīng)用于全國(guó)各地算力集群，異構(gòu)計(jì)算難以被有效利用和調(diào)度的問(wèn)題日益凸顯，逐漸成為中國(guó)大模型產(chǎn)業(yè)發(fā)展瓶頸。“異構(gòu)計(jì)算本身的并行調(diào)度就是一個(gè)比較難的課題。”國(guó)家超算鄭州中心主任助理、副教授劉潤(rùn)杰表示，異構(gòu)計(jì)算在研究串行算法如何變成并行算法的問(wèn)題，首先要確保算法的正確性，“因?yàn)椴⑿谢罂赡軙?huì)出錯(cuò)”，其次還要保證它的高效性。
“機(jī)器、加速卡等不同，所調(diào)度的算法也不一樣，因此一個(gè)計(jì)算要針對(duì)不同的設(shè)備進(jìn)行優(yōu)化，這些工作比較復(fù)雜，目前沒(méi)有比較便捷、通用的途徑，還需要各方努力研究。”劉潤(rùn)杰說(shuō)。
新京報(bào)貝殼財(cái)經(jīng)記者 韋英姿
編輯 岳彩周
校對(duì)付春
