智能手機(jī)技術(shù)正迎來(lái)摩爾定律的發(fā)展瓶頸，移動(dòng)處理器的性能增長(zhǎng)越來(lái)越慢，但用戶對(duì)計(jì)算能力的需求增速卻并未減緩，甚至在人工智能、大數(shù)據(jù)、物聯(lián)網(wǎng)等興起后，對(duì)計(jì)算能力、計(jì)算功耗和計(jì)算成本反而有了新的要求。目前單純的CPU或GPU性能已經(jīng)無(wú)法滿足新型運(yùn)算的需求，而隨著移動(dòng)AI時(shí)代的到來(lái)，AI芯片也成為突破摩爾定律的希望，但AI芯片的性能有多強(qiáng)，目前的評(píng)判標(biāo)準(zhǔn)也大不相同。
以往說(shuō)到對(duì)一款芯片的性能評(píng)判，最簡(jiǎn)單粗暴的方式就是借助于跑分軟件，例如知名的GeekBench、3DMark、安兔兔、魯大師等，這些性能測(cè)試軟件在曾經(jīng)的CPU+GPU協(xié)作時(shí)代聞名遐邇，一度成為對(duì)性能評(píng)估的直觀工具。但是面對(duì)AI芯片復(fù)雜而不斷迭代的運(yùn)算模型和跳出傳統(tǒng)框架的算力邏輯，使得傳統(tǒng)測(cè)試軟件對(duì)AI芯片的測(cè)試方法追趕已顯得力不從心。
例如近期聯(lián)發(fā)科推出的全新Helio P90單系統(tǒng)SoC解決方案，這款芯片在AI方面為用戶展現(xiàn)了極強(qiáng)的算力，憑借APU 2.0的運(yùn)算加速，該芯片的綜合跑分?jǐn)?shù)據(jù)高達(dá)25645分，一舉超過了高通驍龍855平臺(tái)的22082分，大勝同級(jí)別的其他競(jìng)爭(zhēng)對(duì)手，引起業(yè)界震動(dòng)。而隨著跑分?jǐn)?shù)據(jù)的公布，一個(gè)很少為人知的專用AI跑分軟件ETHZ AIBenchmark（也被稱之為蘇黎世跑分）也浮出了水面。
聯(lián)發(fā)科P90在蘇黎世跑分軟件中擊敗競(jìng)爭(zhēng)對(duì)手，實(shí)現(xiàn)AI性能領(lǐng)先。（圖/網(wǎng)絡(luò)）
這款針對(duì)AI芯片的跑分軟件由有著“歐陸第一名�！敝Q的蘇黎世聯(lián)邦理工學(xué)院研發(fā)，該校所屬的人工智能實(shí)驗(yàn)室在全球機(jī)器視覺、深度學(xué)習(xí)和機(jī)械工程等方面都有著深厚的積累，培養(yǎng)出了無(wú)數(shù)人工智能領(lǐng)域的人才。而這款A(yù)I跑分軟件也是其在針對(duì)性測(cè)試領(lǐng)域的集大成之作，因?yàn)閷?duì)AI的綜合能力有一個(gè)準(zhǔn)確的判斷受到了業(yè)內(nèi)的認(rèn)可，包括華為P20、iPhone X等同樣鎖定AI的手機(jī)均非�？粗羞@款測(cè)試軟件的得分表現(xiàn)。
相比于傳統(tǒng)的跑分測(cè)試軟件，蘇黎世聯(lián)邦理工學(xué)院研發(fā)的這款A(yù)IBenchmark在對(duì)AI的評(píng)測(cè)上可以說(shuō)是與眾不同。例如為了確定智能手機(jī)是否功能強(qiáng)大，且能否以快速運(yùn)行最新的深度神經(jīng)網(wǎng)絡(luò)來(lái)執(zhí)行基于AI的任務(wù)，它就提供了8大項(xiàng)的核心測(cè)試環(huán)節(jié)：
MobileNet-V1神經(jīng)網(wǎng)絡(luò)的目標(biāo)識(shí)別/分類
對(duì)象識(shí)別/初始分類-V3神經(jīng)網(wǎng)絡(luò)
人臉識(shí)別
圖像去模糊
基于CPU、NPU、DSP的VG-19神經(jīng)網(wǎng)絡(luò)圖像超分辨率
僅在CPU上的SRGAN神經(jīng)網(wǎng)絡(luò)的圖像超分辨率
語(yǔ)義圖像分割
照片增強(qiáng)
AI基準(zhǔn)測(cè)試中使用到的深度學(xué)習(xí)模型的特征總結(jié)（圖/網(wǎng)絡(luò)）
相比于傳統(tǒng)的跑分測(cè)試軟件來(lái)說(shuō)，這8大測(cè)試環(huán)節(jié)基本上已經(jīng)可以覆蓋到目前大部分的AI實(shí)踐運(yùn)算，例如AI物體識(shí)別（測(cè)試1/2/3）、AI影像分類（測(cè)試7）、AI圖像增強(qiáng)（測(cè)試4/5/6/8）等，而它為了完整發(fā)揮平臺(tái)的AI算力，它不只支持Android神經(jīng)網(wǎng)絡(luò)API，也可以支持芯片廠商定制的程序，以充分調(diào)動(dòng)芯片廠商CPU、GPU、ISP等多個(gè)硬件進(jìn)行協(xié)同處理。
例如在針對(duì)聯(lián)發(fā)科P90的AI算力測(cè)試部分，蘇黎世的跑分機(jī)制就將其分為了三組，第一組（測(cè)試1，2，3項(xiàng)目）中，將使用完全由Android神經(jīng)網(wǎng)絡(luò)API（NNAPI）支持的CNN模型，測(cè)試會(huì)對(duì)移動(dòng)設(shè)備進(jìn)行硬件加速，主要測(cè)試的部分圍繞著視覺感知來(lái)進(jìn)行，包括常見的目標(biāo)識(shí)別、目標(biāo)分類和人臉識(shí)別等抽象級(jí)圖形部分。但為達(dá)到這一環(huán)節(jié)的測(cè)試需要芯片組有每秒10到100G的MACs（每秒乘累加次數(shù)）的運(yùn)算能力，基本上目前大部分的設(shè)備都可以完成這一部分的操作。
第二組（測(cè)試7）真要針對(duì)的是圖形語(yǔ)言分割部分。與第一組的圖像分類相比，這部分主要是獲得像素級(jí)圖像理解以方便后期的分割動(dòng)作，這項(xiàng)測(cè)試意味著每個(gè)像素必須被獨(dú)立歸類，例如行人、家具、道路，天空，植被等，此外還必須進(jìn)行圖形的主題深度估計(jì)和運(yùn)算估計(jì)，這部分基本上要求到50到500G MACs的運(yùn)算能力，考慮一般低性能的設(shè)備很難實(shí)現(xiàn)快速準(zhǔn)確的分割設(shè)計(jì)，所以這部門對(duì)算力其實(shí)已經(jīng)有了很高的要求。
第三組（測(cè)試4、5、6、8）則是使用CNN結(jié)構(gòu)（Convolutional Neural Network，卷積神經(jīng)網(wǎng)絡(luò)技術(shù)，即基于深度學(xué)習(xí)）的端到端的超分辨率算法SRCNN（Super-Resolution）進(jìn)行的圖形像素化部分，主要測(cè)試的部分包括圖形去模糊、多元化的圖像超分辨率和圖形增強(qiáng)，目前傳統(tǒng)的手動(dòng)編碼框架對(duì)物體識(shí)別的精度基本上都沒有超過74％，而2012年引入的深度神經(jīng)網(wǎng)絡(luò)（DNNS）則將這一準(zhǔn)確率提高到84％，不過在微軟、Google等企業(yè)的推動(dòng)下，這部分的準(zhǔn)確率已經(jīng)高達(dá)96%，不僅遠(yuǎn)超出人類的辨別能力，而且也大幅改善了AI的實(shí)用能力。
不過由于這個(gè)部分中ResNet架構(gòu)和CNN將會(huì)發(fā)揮重大的作用，由于涉及到圖片的重構(gòu)、模擬、訓(xùn)練和補(bǔ)充，不僅需要消耗極大量的浮點(diǎn)運(yùn)算和視覺還原（涉及在GPU或特制AI加速器上運(yùn)行神經(jīng)網(wǎng)絡(luò)），還對(duì)設(shè)備在CPU、GPU、NPU（APU）等提出了相當(dāng)大的協(xié)作處理能力，通常要求每秒高達(dá)200-5000 GMACs的運(yùn)算能力，如果不是定位高端芯片或設(shè)備基本很難完成這一項(xiàng)，而聯(lián)發(fā)科P90最終也以其高達(dá)1127 GMACs的算力，在這一領(lǐng)域取得第一的優(yōu)異成績(jī)。
從ETHZ蘇黎世AI Benchmark的工作機(jī)制來(lái)看，目前國(guó)產(chǎn)AI跑分軟件在AI層面似乎就顯得初級(jí)了些，這些跑分軟件目前大部分都僅使用了Inception V3，ResNet 34，VGG16（測(cè)試2、3、5）這三項(xiàng)神經(jīng)網(wǎng)絡(luò)的測(cè)試指標(biāo)，而這三項(xiàng)指標(biāo)雖然也能判別AI識(shí)別圖像的能力，但還只能停在浮點(diǎn)運(yùn)算或者是智能識(shí)圖方面，且基本上都是通過算法和統(tǒng)計(jì)和評(píng)估AI時(shí)，測(cè)試框架非常單一，對(duì)于AI芯片今后能作為廣泛用途的項(xiàng)目測(cè)試或是較新的算法則根本沒有涉足，所以目前市面上常見的傳統(tǒng)AI跑分測(cè)試軟件其實(shí)很難客觀的對(duì)AI芯片做出正確評(píng)價(jià)。
雖然ETHZ蘇黎世跑分軟件并不是第一個(gè)測(cè)試AI性能的應(yīng)用，但就目前來(lái)看它確實(shí)是最全面的的AI評(píng)分軟件。它不僅能夠把AI性能測(cè)試細(xì)分為9個(gè)部分進(jìn)行檢測(cè)，大家熟知的智能識(shí)圖僅僅只是其中一項(xiàng)，其他的還包括人臉，圖像降噪，畫面分割等項(xiàng)目均包含在內(nèi)，不僅實(shí)現(xiàn)了對(duì)主流AI應(yīng)用的測(cè)試，還進(jìn)一步深入到對(duì)AI未來(lái)技術(shù)框架的能力探索評(píng)估中。當(dāng)然更具意義的是，此前人工智能開發(fā)主要由PC和服務(wù)器上使用，很少考慮智能手機(jī)操作環(huán)境中的需求，而ETHZ蘇黎世跑分顯然有助于智能手機(jī)廠商對(duì)AI的不斷優(yōu)化。
所以從ETHZ蘇黎世跑分軟件中我們也發(fā)現(xiàn)，聯(lián)發(fā)科Helio P90確實(shí)有其亮點(diǎn)所在，得益于獨(dú)特的AI專核和APU 2.0加速引擎，這款芯片實(shí)現(xiàn)了前所未有的AI算力突破，高達(dá)25645分的成績(jī)不僅位居第一，而且也實(shí)現(xiàn)了對(duì)其競(jìng)爭(zhēng)對(duì)手高通的反擊。另外根據(jù)數(shù)據(jù)顯示，聯(lián)發(fā)科P90的AI 算力高達(dá) 1127GMACs（每秒可操作11270億次定點(diǎn)乘累加次數(shù)），而例如驍龍845的成績(jī)大約是每秒600 GMAC、麒麟970的數(shù)值大概是450 GMAC左右，所以聯(lián)發(fā)科P90在AI領(lǐng)域?qū)嶋H上已經(jīng)走到了行業(yè)前列。
從目前聯(lián)發(fā)科專注AI的策略來(lái)看，這個(gè)思路是對(duì)的。更關(guān)鍵的是，聯(lián)發(fā)科正在以AI體驗(yàn)作為重心點(diǎn)，基于Helio P90的AI算力推出了3D人體姿態(tài)識(shí)別與追蹤、AI焦點(diǎn)直播、AI人像留色、AI降噪夜拍等一系列讓用戶能感知到的應(yīng)用特性，以用戶體驗(yàn)取代了傳統(tǒng)的跑分和參數(shù)，不僅顛覆了智能手機(jī)市場(chǎng)的游戲規(guī)則，也讓聯(lián)發(fā)科在新高端的品牌轉(zhuǎn)型之路上站穩(wěn)了腳跟。
本文參考內(nèi)容：
arXiv網(wǎng)站上發(fā)表的題為《PIRM智能手機(jī)感知圖像增強(qiáng)挑戰(zhàn)》的論文，2018年10月2日出版。
thome網(wǎng)站名為《物體偵測(cè)物(Object Detection) + 影像標(biāo)題(Image Captioning)》的著作，署名作者I code so I am，2017年12月22日發(fā)表。
本文亦參考了Facebook AI 研究院（FAIR）開源的目標(biāo)檢測(cè)平臺(tái)Detectron的工作流程和方式。
