9月20日,“UOS AI場景公社”走進杭州,與現(xiàn)場用戶分享了統(tǒng)信軟件在AI+OS領(lǐng)域的技術(shù)探索和應(yīng)用實踐。在ChatGPT成為現(xiàn)象級事件的2023年,國產(chǎn)操作系統(tǒng)企業(yè)統(tǒng)信軟件發(fā)布了統(tǒng)信UOS AI,與國際主流操作系統(tǒng)廠商同步邁入人工智能+操作系統(tǒng)時代。
統(tǒng)信軟件認為,AI為操作系統(tǒng)的賦能主要體現(xiàn)在三個方面:
首先是人機交互的變化。歷史上,每一次交互的革命都誕生了世界第一的公司:從命令行到圖形鍵鼠交互,于1985 年發(fā)布的 Windows 1.0 造就了世界市值第一的微軟; 從圖形鍵鼠到圖形觸控交互,于2007年發(fā)布的 iPhone 1.0 造就了世界市值第一的蘋果。AI時代,人機交互將從步驟驅(qū)動的點點點,變成以用戶需求驅(qū)動的自動化。對比以往的交互方式,AI交互將以更簡潔的界面、更低的學(xué)習(xí)成本,完成用戶需求的一步觸達。
其次是應(yīng)用生態(tài)的升級。傳統(tǒng)的操作系統(tǒng)中,應(yīng)用是服務(wù)的載體。開發(fā)者通過App來為用戶提供服務(wù),操作系統(tǒng)則為App提供運行環(huán)境。AI時代,服務(wù)載體從App變成了智能體、插件和模型,而操作系統(tǒng)作為生態(tài)的載體,擴展為系統(tǒng)AI助手,成為全場景入口,通過智能體、插件和模型的交互,實現(xiàn)跨服務(wù)聯(lián)動。
第三是更好地為開發(fā)賦能。傳統(tǒng)操作系統(tǒng)向下鏈接CPU、外設(shè)板卡等硬件,向上為應(yīng)用軟件提供開發(fā)套件。AI時代,AIOS則一方面鏈接CPU、GPU、NPU、AIPC等硬件,另一方面鏈接云端和本地模型,為應(yīng)用生態(tài)提供AI能力和AI開發(fā)工具。
自2023年9月UOS AI正式推出以來,已在這三個方面均取得突破性進展,覆蓋90%主流開源大模型與AI框架,在deepin開源操作系統(tǒng)和統(tǒng)信UOS桌面操作系統(tǒng)中深度賦能。
UOS AI桌面智能助手已經(jīng)初具“智能終端”雛形,目前提供個人知識助手、玩機助手等數(shù)個智能體,用戶也可以個性化地自行添加智能體;支持語音、文本、圖片等多模態(tài)輸入輸出;同時還可以隨心切換云端和本地模型,目前UOS AI已兼容了5個主流大模型,同時在今年8月推出了本地模型UOS LM,實現(xiàn)UOS AI離線運行,擺脫網(wǎng)絡(luò)依賴,強化數(shù)據(jù)安全。
應(yīng)用生態(tài)方面,UOS AI已支持自然語言命令調(diào)用20余個操作系統(tǒng)設(shè)置能力、40余個使用場景,已適配60余款應(yīng)用;芯片層支持國內(nèi)主流CPU芯片和英偉達、摩爾線程等國內(nèi)外主流GPU芯片;大模型層開放接口,支持接入所有OpenAI接口格式的大模型,用戶可根據(jù)自身需求,自行適配專屬模型。
開發(fā)賦能方面,統(tǒng)信軟件推出了UOS AI API,是國內(nèi)第一個系統(tǒng)級AI應(yīng)用開發(fā)框架,為AI應(yīng)用開發(fā)提供系統(tǒng)級的AI接口。通過統(tǒng)一接口,應(yīng)用軟件無需配置即可獲得熱門模型的AI能力,實現(xiàn)文本聊天、圖形處理、語音識別、函數(shù)調(diào)用等;同時支持端側(cè)AI能力調(diào)用。工具方面,擁有自研的集成開發(fā)環(huán)境deepin-IDE,除了包含IDE常用功能,還與智譜AI聯(lián)合,支持AI編程。
生態(tài)是操作系統(tǒng)最寬廣的“護城河”。目前,統(tǒng)信UOS軟硬件適配數(shù)已超500萬,是業(yè)內(nèi)首個取得該成就的操作系統(tǒng)廠商,然而與國際主流操作系統(tǒng)廠商仍存在差距。而AI時代的到來,將對操作系統(tǒng)生態(tài)進行重塑,進而為國產(chǎn)操作系統(tǒng)生態(tài)建設(shè)創(chuàng)造了彎道超車的可能。
通過在傳統(tǒng)操作系統(tǒng)上構(gòu)建AI能力,UOS AI在跨架構(gòu)、跨模型、跨應(yīng)用方面做了大量工作。
針對跨架構(gòu)問題,在UOS AI框架中提供了屏蔽硬件特性的端側(cè)模型加速框架,該框架可以在不同的架構(gòu)下編譯成庫,提供不同的指令集加速方案。系統(tǒng)可以根據(jù)用戶的硬件環(huán)境選擇適合自己的部署框架,讓大模型運行在最佳的狀態(tài)下。
針對跨大模型問題,在UOS AI框架中提供了端側(cè)模型管理方案,可以遍歷本地已有的模型列表,選擇運行模型,暴露模型輸入輸出端口。用戶也可以基于ollama技術(shù),將其它模型加載進系統(tǒng)里運行起來,而且在UOS AI框架中也支持OpenAI接口,從而提供了更好的模型擴展性。
針對跨應(yīng)用問題,跨應(yīng)用的難點在于需要對系統(tǒng)、模型與應(yīng)用同時有深入的了解,然后抽象出模型能力與應(yīng)用功能,再設(shè)計接口將其無縫對接起來。UOS AI 團隊在模型側(cè)進行了廣泛的技術(shù)調(diào)研,首先對系統(tǒng)自身功能與自研應(yīng)用改造,試點使用 AI 功能,達到一定成熟度之后,再對有類似功能的第三方應(yīng)用提供接口,使能其智能特性,從而達成了當前跨應(yīng)用智能的成果。
如今,統(tǒng)信軟件正將AI能力變成桌面操作系統(tǒng)的基礎(chǔ)服務(wù),統(tǒng)信UOS也成為唯一與國際主流操作系統(tǒng)在AI產(chǎn)品理念、技術(shù)路線齊頭并進的中國操作系統(tǒng)。據(jù)了解,今年年底UOS AI還將迎來重磅升級,帶來更驚艷的AI成果。