【環(huán)球時報報道 記者 劉揚】馬斯克計劃造大模型超級計算機的消息近日備受關(guān)注，特別是有關(guān)該超算要在明年秋天之前運行并為新版本人工智能大模型Grok提供算力支持引發(fā)猜測。馬斯克這一做法將會對人工智能領(lǐng)域造成哪些影響？又給中國大模型發(fā)展帶來哪些啟示呢？
據(jù)路透社報道，美國富豪馬斯克最近告訴投資者，他的人工智能初創(chuàng)公司xAI正計劃建造一臺超級計算機，為其下一版本的人工智能聊天機器人Grok提供算力。
據(jù)報道，馬斯克表示，他希望在 2025年秋季之前讓擬議的超級計算機運行，并表示xAI可以與甲骨文公司合作來開發(fā)這臺大型計算機。
馬斯克向投資者所做的演示稱，完成后，連接的芯片組英偉達的旗艦H100 GPU數(shù)量將至少是當今最大GPU集群的4倍。
馬斯克在今年稍早表示，訓練Grok2模型需要大約2萬塊英偉達H100，而Grok3模型及更高版本將需要10萬塊英偉達H100。
中國科學院計算技術(shù)研究所研究員張云泉對《環(huán)球時報》記者表示，當大模型的運算規(guī)模達到1萬塊GPU，甚至10萬塊時，就需要通過發(fā)展大模型專用超算來突破能耗墻、可靠性墻、并行墻等算力瓶頸。這是大模型發(fā)展到一定程度的必然趨勢。
目前OpenAI與微軟以及谷歌等巨頭都在發(fā)展大模型超算項目，希望通過搭建幾十萬塊甚至百萬塊GPU搶占全球最強大模型的技術(shù)制高點。
在回答大模型超算與通用超算之間存在什么區(qū)別的提問時，張云泉表示，主要是計算的算法、精度和工作負載以及需要的軟件棧不同。
北郵人機交互與認知工程實驗室主任劉偉接受《環(huán)球時報》記者采訪時表示，若馬斯克準備把算力及大模型等與AI相關(guān)的產(chǎn)業(yè)關(guān)鍵節(jié)點都自己做，可能會對AI行業(yè)產(chǎn)生以下影響：馬斯克成功地控制了這些關(guān)鍵節(jié)點，可能會導致AI產(chǎn)業(yè)的集中化程度提高，進而會對競爭環(huán)境產(chǎn)生影響，減少其他公司進入市場的機會。并且，控制大量的數(shù)據(jù)和算力可能引發(fā)數(shù)據(jù)隱私和安全方面的擔憂，確保數(shù)據(jù)的合法使用和保護用戶隱私將成為重要問題。若出現(xiàn)這種情況，其他公司可能會面臨更大的競爭壓力，尤其是那些依賴于與馬斯克競爭的關(guān)鍵技術(shù)或服務的公司。另外，還可能會促使行業(yè)制定更嚴格的規(guī)范和監(jiān)管，以確保AI技術(shù)的合理使用和保護公眾利益。與此同時，鑒于馬斯克在技術(shù)領(lǐng)域豐富的經(jīng)驗和資源，他的投入可能會加速AI技術(shù)的發(fā)展，推動新的創(chuàng)新和突破。
張云泉表示，他在今年兩會提案中提到，在西方高端GPU對我國“卡脖子”的背景下，短期內(nèi)突破大模型算力瓶頸，中國有一條路可走：利用過去二十多年積累的先進超算技術(shù)，研發(fā)大模型專用超算，克服大模型算力瓶頸問題，使我國可以緊緊咬住全球大模型最先進水平，不至于掉隊。
