智東西(公眾號(hào):zhidxcom)
編輯 | Panken
智東西9月2日消息,成立短短1年4個(gè)月內(nèi),清華系A(chǔ)I Infra創(chuàng)企無(wú)問(wèn)芯穹累計(jì)已完成近10億元融資。
今日,無(wú)問(wèn)芯穹(Infinigence AI)宣布完成近5億元A輪融資。
無(wú)問(wèn)芯穹于2023年5月在上海成立,由清華大學(xué)電子工程系教授、系主任汪玉教授發(fā)起,汪玉的第一任博士畢業(yè)生夏立雪擔(dān)任聯(lián)合創(chuàng)始人兼CEO。
該公司以“釋放無(wú)穹算力,讓AGI觸手可及”為使命,致力于成為大模型時(shí)代首選的“算力運(yùn)營(yíng)商”,提供卓越的AGI算力解決方案,以大模型能效優(yōu)化工具包為核心,向下聯(lián)動(dòng)多家國(guó)產(chǎn)芯片公司,向上通過(guò)智算云服務(wù)、智算一體機(jī)多種方式服務(wù)大模型算法企業(yè),協(xié)同算力、算法、生態(tài)推動(dòng)行業(yè)大模型的高效落地。
其A輪融資的聯(lián)合領(lǐng)投方為社;鹬嘘P(guān)村自主創(chuàng)新專(zhuān)項(xiàng)基金(君聯(lián)資本擔(dān)任管理人)、啟明創(chuàng)投、洪泰基金。
跟投方包括聯(lián)想創(chuàng)投、小米、軟通高科等戰(zhàn)略投資方,國(guó)開(kāi)科創(chuàng)、上海人工智能產(chǎn)業(yè)投資基金(臨港科創(chuàng)投擔(dān)任管理人)、徐匯科創(chuàng)投等國(guó)資基金,以及順為資本、達(dá)晨財(cái)智、德同資本、尚勢(shì)資本、森若玉坤、申萬(wàn)宏源、正景資本等財(cái)務(wù)機(jī)構(gòu)。
無(wú)問(wèn)芯穹的過(guò)往投資方還包括百度、智譜、同歌創(chuàng)投等戰(zhàn)略股東,以及紅杉中國(guó)、礪思資本、徐匯資本、北極光創(chuàng)投、真格基金、惠隆創(chuàng)投、經(jīng)緯創(chuàng)投、無(wú)限基金SEE Fund、金沙江創(chuàng)投、星連資本、綠洲資本、南山資本、光源資本、七熹投資等眾多知名投資機(jī)構(gòu)。
無(wú)問(wèn)芯穹本次融資募集的資金將用于加強(qiáng)技術(shù)人才吸納與技術(shù)研發(fā),保持軟硬協(xié)同、多元異構(gòu)的技術(shù)領(lǐng)先優(yōu)勢(shì);深入推動(dòng)產(chǎn)品商業(yè)化發(fā)展,保持Infini-AI異構(gòu)云平臺(tái)產(chǎn)品與市場(chǎng)間的緊密嵌合;強(qiáng)化生態(tài)合作,激活異構(gòu)集群算力資源,構(gòu)建支撐“M種模型”和“N種芯片”的AI算力底座”。
“中國(guó)算力生態(tài)正面臨的供需矛盾以及資源分布不均的現(xiàn)狀,為我們拉動(dòng)上下游協(xié)力實(shí)現(xiàn)多元異構(gòu)算力的高效整合創(chuàng)造了時(shí)代機(jī)遇;而我們?cè)从谇迦A電子系的深厚底蘊(yùn)、十余年的技術(shù)積累和豐富的產(chǎn)業(yè)經(jīng)驗(yàn)所形成的產(chǎn)研結(jié)合的‘復(fù)合型’團(tuán)隊(duì),更成為AI領(lǐng)域的人才‘引力井’,構(gòu)成了無(wú)問(wèn)芯穹獨(dú)特的人才競(jìng)爭(zhēng)力。”無(wú)問(wèn)芯穹聯(lián)合創(chuàng)始人、CEO夏立雪介紹說(shuō)。
通過(guò)激活多元異構(gòu)算力和軟硬件聯(lián)合優(yōu)化,無(wú)問(wèn)芯穹目標(biāo)讓大模型的落地成本降低至1/10000,如同“水電煤”一般,成為行業(yè)觸手可及、廣泛受益的新質(zhì)生產(chǎn)力,加速AGI的普惠進(jìn)程。
君聯(lián)資本總裁李家慶談道:“無(wú)問(wèn)芯穹擁有一支行業(yè)稀缺且具有深厚學(xué)術(shù)積淀和豐富產(chǎn)業(yè)經(jīng)驗(yàn)的‘復(fù)合型’隊(duì)伍,以行業(yè)獨(dú)有的大規(guī)模異構(gòu)算力軟硬聯(lián)合優(yōu)化技術(shù),極大地推動(dòng)了國(guó)產(chǎn)異構(gòu)算力生態(tài)發(fā)展,構(gòu)建中國(guó)本土化AI基礎(chǔ)設(shè)施競(jìng)爭(zhēng)力。”
“啟明創(chuàng)投堅(jiān)信,無(wú)問(wèn)芯穹是一家能夠創(chuàng)造行業(yè)拐點(diǎn)的企業(yè),將在A(yíng)I 2.0的時(shí)代浪潮中馭浪而行。”啟明創(chuàng)投主管合伙人周志峰認(rèn)為,“無(wú)問(wèn)芯穹是行業(yè)少有對(duì)AI基礎(chǔ)設(shè)施的發(fā)展脈絡(luò)和行業(yè)格局擁有先見(jiàn)性和敏銳性的企業(yè),在A(yíng)I 2.0時(shí)代基于‘推理加速、多元異構(gòu)’的核心能力,快速實(shí)現(xiàn)了核心技術(shù)的價(jià)值轉(zhuǎn)化,為芯片硬件、智算中心、大模型和AI應(yīng)用等產(chǎn)業(yè)上下游的每一個(gè)環(huán)節(jié)都提供了多快好省的解決方案,為大模型的降本增效帶來(lái)更好的效果,在技術(shù)、產(chǎn)品和商業(yè)模式上都具有獨(dú)到優(yōu)勢(shì)。”
另?yè)?jù)洪泰基金執(zhí)行董事虞揚(yáng)分享:“在中國(guó),算力異構(gòu)問(wèn)題以及不同硬件結(jié)構(gòu)和軟件的差異性給用戶(hù)帶來(lái)了更多挑戰(zhàn)。無(wú)問(wèn)芯穹打造了AI 2.0時(shí)代的異構(gòu)云平臺(tái),統(tǒng)一了異構(gòu)芯片與算法框架之間的接口,并在云端構(gòu)建了一系列經(jīng)過(guò)軟硬件優(yōu)化的中間件,實(shí)現(xiàn)了行業(yè)SOTA的性能表現(xiàn)。”
無(wú)問(wèn)芯穹判斷大模型的實(shí)際可用算力不僅取決于芯片的理論算力,還可通過(guò)優(yōu)化系數(shù)放大算力利用效率,通過(guò)集群規(guī)模放大整體算力規(guī)模,由此提出“芯片算力×優(yōu)化系數(shù)(軟硬協(xié)同)×集群規(guī)模(多元異構(gòu))=AI模型算力”公式。
遵循這一公式,無(wú)問(wèn)芯穹將通過(guò)軟硬件聯(lián)合優(yōu)化技術(shù),持續(xù)提升芯片算力在大模型任務(wù)中的利用率,并通過(guò)多元異構(gòu)算力適配技術(shù),提升集群算力利用率,擴(kuò)大行業(yè)整體算力供給。
在軟硬件聯(lián)合優(yōu)化方面,F(xiàn)lashDecoding++大幅提升主流硬件和異構(gòu)硬件的利用率,超越在先SOTA,完成多個(gè)主流開(kāi)源大模型在A(yíng)MD、華為騰、壁仞、寒武紀(jì)、燧原、海光、天數(shù)智芯、沐曦、摩爾線(xiàn)程、NVIDIA等10余種計(jì)算卡上的適配,并在部分計(jì)算卡上實(shí)現(xiàn)了行業(yè)第一的推理加速成果,高效滿(mǎn)足各行業(yè)愈發(fā)高漲的大模型推理需求。
基于這一方案取得的優(yōu)化效果,無(wú)問(wèn)芯穹已與AMD簽署戰(zhàn)略合作,攜手推動(dòng)商用AI應(yīng)用的性能提升。
在多元異構(gòu)算力適配方面,無(wú)問(wèn)芯穹也擁有業(yè)界稀缺的異構(gòu)適配與集群能力,7月發(fā)布的大規(guī)模異構(gòu)分布式混合訓(xùn)練系統(tǒng)HETHUB,是業(yè)內(nèi)首次在華為騰、天數(shù)智芯、沐曦、摩爾線(xiàn)程、AMD、NVIDIA共6種芯片“4+2”組合間實(shí)現(xiàn)了千卡規(guī)模的異構(gòu)算力混合訓(xùn)練,集群算力利用率最高達(dá)到97.6%,平均高出基準(zhǔn)方案約30%,這意味著,在相同的多元芯片機(jī)房條件或者集群條件下,無(wú)問(wèn)芯穹可將訓(xùn)練總時(shí)長(zhǎng)壓縮30%。
此外,無(wú)問(wèn)芯穹依托軟硬協(xié)同、多元異構(gòu)技術(shù)優(yōu)勢(shì),已基于多元芯片算力底座打造出Infini-AI異構(gòu)云平臺(tái)。該平臺(tái)向下兼容多元異構(gòu)算力芯片,可幫助下游客戶(hù)輕松屏蔽硬件差異,能夠有效整合并擴(kuò)大國(guó)內(nèi)大模型產(chǎn)業(yè)可用算力的規(guī)模,現(xiàn)已運(yùn)營(yíng)的算力覆蓋全國(guó)15座城市。
Infini-AI異構(gòu)云平臺(tái)還包含一站式AI平臺(tái)(AIStudio)和大模型服務(wù)平臺(tái)(GenStudio)。
其中,AIStudio一站式AI平臺(tái)為機(jī)器學(xué)習(xí)開(kāi)發(fā)者提供高性?xún)r(jià)比的開(kāi)發(fā)調(diào)試、分布式訓(xùn)練與高性能推理工具,覆蓋從數(shù)據(jù)托管、代碼開(kāi)發(fā)、模型訓(xùn)練、模型部署的全生命周期。GenStudio大模型服務(wù)平臺(tái)則為大模型應(yīng)用開(kāi)發(fā)者提供高性能、易上手、安全可靠的多場(chǎng)景大模型服務(wù),全面覆蓋了從大模型開(kāi)發(fā)到服務(wù)化部署的全流程,有效降低了開(kāi)發(fā)成本和門(mén)檻。
自平臺(tái)上線(xiàn)以來(lái),已有Kimi、LiblibAI、獵聘、生數(shù)科技、智譜AI等多個(gè)大模型行業(yè)頭部客戶(hù)在Infini-AI異構(gòu)云平臺(tái)上穩(wěn)定使用異構(gòu)算力,并使用無(wú)問(wèn)芯穹提供的大模型開(kāi)發(fā)工具鏈服務(wù)。
無(wú)問(wèn)芯穹在端側(cè)大模型和LPU IP領(lǐng)域亦有超前布局,致力打造“端模型+端芯片”閉環(huán)能力。該公司相信端側(cè)場(chǎng)景快速增長(zhǎng)和應(yīng)用爆發(fā)的必然趨勢(shì),AI PC、AI手機(jī)將成為未來(lái)人機(jī)交互的重要接口。