智東西（公眾號(hào)：zhidxcom）
作者 | ZeR0
編輯 | 漠影
智東西5月12日?qǐng)?bào)道，在IT領(lǐng)域，云原生、人工智能（AI）是時(shí)下最熱的概念之一。盡管許多企業(yè)心向往之，但并不是每位工程師都能準(zhǔn)確地理解“云原生AI”的含義，以及了解如何將它們落地到真實(shí)的企業(yè)業(yè)務(wù)場(chǎng)景中。
在4月28日直播的《八點(diǎn)一“課”，紅帽企業(yè)開(kāi)源講堂》第三期中，紅帽資深解決方案架構(gòu)師趙錫漪對(duì)這一話題進(jìn)行解讀，并分享了紅帽近些年在AI領(lǐng)域的投入。他還談到如何使用開(kāi)放數(shù)據(jù)中心（Open Data Hub）為AI提供助力、如何通過(guò)Open Data Hub在OpenShift中搭建數(shù)據(jù)科學(xué)實(shí)驗(yàn)室等話題。
為了說(shuō)明云原生AI的價(jià)值，趙錫漪舉了個(gè)例子，在工業(yè)制造領(lǐng)域，過(guò)去基本上一個(gè)月才能改變一次生產(chǎn)線，現(xiàn)在很多制造企業(yè)一個(gè)月甚至能造一個(gè)工廠，或者工廠生產(chǎn)的產(chǎn)品一個(gè)月內(nèi)完全換成另一種產(chǎn)品，那么幾天就要將生產(chǎn)線上所有的機(jī)械臂調(diào)優(yōu)優(yōu)化。此時(shí)，工廠需要一種能將AI快速部署到前端的手段。
而云原生中的DevOps特別適合這種場(chǎng)景，因?yàn)镈evOps或CI/CD場(chǎng)景是持續(xù)不斷地把從云端設(shè)計(jì)好的東西傳遞到生產(chǎn)線上，整個(gè)過(guò)程無(wú)需人參與。
因此，現(xiàn)在國(guó)家的許多標(biāo)準(zhǔn)會(huì)強(qiáng)調(diào)軟式PRC，紅帽的OpenShift也可以跑在一個(gè)PRC中。當(dāng)前紅帽正在幫一些制造業(yè)企業(yè)在設(shè)計(jì)這樣的場(chǎng)景，如果用CI/CD的方法把容器以及AI的邏輯調(diào)度起來(lái)，它就能更快地做生產(chǎn)轉(zhuǎn)型。這會(huì)給工業(yè)生產(chǎn)帶來(lái)巨大價(jià)值。
做AI開(kāi)發(fā)、數(shù)據(jù)科學(xué)、應(yīng)用開(kāi)發(fā)都是一個(gè)CI/CD過(guò)程，但做事情的角度不同，需要一個(gè)平臺(tái)將其串聯(lián)，實(shí)現(xiàn)多段協(xié)同。紅帽提倡的云原生AI可以做到兩件事：一是隔離，讓有限的資源被用在特定的事情上；二是共享，按政策相互間可以聯(lián)通協(xié)作。
用戶(hù)在OpenShift上可同時(shí)調(diào)度英特爾OpenVINO和英偉達(dá)GPU框架，并支持軟性的多GPU共享，即一個(gè)數(shù)據(jù)中心能將GPU分給了很多用戶(hù)。
趙錫漪說(shuō)，作為一個(gè)開(kāi)源的、中立的、平臺(tái)型廠商，紅帽的優(yōu)勢(shì)是可以集合大家的優(yōu)勢(shì)。這些優(yōu)勢(shì)應(yīng)用到整個(gè)AI算法構(gòu)建過(guò)程中，就變成了一個(gè)逐步可完善的過(guò)程。
使用AI能力通常有兩種方式：一種是研究數(shù)據(jù)，然后進(jìn)行模型構(gòu)建，這是紅帽O(jiān)pen Data Hub產(chǎn)品中最核心的；另一種是已經(jīng)寫(xiě)好更底層的代碼，直接用GPU資源，這時(shí)可以用OpenShift虛擬化，將GPU切成很多個(gè)vGPU。
上圖的8個(gè)組件，均可由Open Data Hub調(diào)度起來(lái)。Open Data Hub可通過(guò)MLflow模式，將這些組件經(jīng)提供好的參數(shù)，直接匹配成一套可運(yùn)行的環(huán)境，用戶(hù)在Python上直接寫(xiě)代碼即可，不需要自己在底層配置。
其中有一個(gè)組件SELODM很有價(jià)值，它可以把不同的AI模型組合在一起，把它描述成一個(gè)協(xié)同工作的模型。比如說(shuō)有三個(gè)模型，先做兩個(gè)模型的運(yùn)算，然后通過(guò)前兩個(gè)模型算出來(lái)誰(shuí)的接近率最高，例如誰(shuí)的接近率到90%以上，就把它用到的B模型的輸入里面，然后B模型再輸出，最終形成一個(gè)總的運(yùn)算結(jié)果。
有了SELODM，用戶(hù)可同時(shí)將幾個(gè)模型下發(fā)到生產(chǎn)中，按照比例設(shè)置這邊用多少、那邊用多少，然后最后評(píng)估誰(shuí)的模型更有效，以此發(fā)布一個(gè)更有效的模型。
AI實(shí)踐有兩個(gè)常見(jiàn)瓶頸：一是怎么開(kāi)始，二是怎么投產(chǎn)。應(yīng)用開(kāi)發(fā)師未必能很好地理解算法工程師或數(shù)學(xué)科學(xué)家研究的成果。但如果將多方間的耦合變成一種平臺(tái)化的對(duì)接行為，就能減少溝通方面的瓶頸。這也是Open Data Hub能在云端幫助用戶(hù)做AI所起到的作用。
至于如何在OpenShift快速搭建數(shù)據(jù)科學(xué)實(shí)驗(yàn)室，趙錫漪提到一個(gè)典型的工業(yè)制造項(xiàng)目MANUfacturing Edge Lightweight Accelerator。
它包括多域、多云如何組合、這些云之間如何協(xié)同、怎樣在傳統(tǒng)系統(tǒng)上獨(dú)立構(gòu)建出一個(gè)新的數(shù)學(xué)科學(xué)實(shí)驗(yàn)室，然后把原來(lái)已經(jīng)在生產(chǎn)線的數(shù)據(jù)采集之后交給數(shù)學(xué)實(shí)驗(yàn)室，由數(shù)學(xué)實(shí)驗(yàn)室形成一些AI模型，再下發(fā)給生產(chǎn)線上的一些監(jiān)控設(shè)備和監(jiān)控窗口，從而形成一個(gè)對(duì)原有監(jiān)控體系的完整體系。“無(wú)論你想做什么樣的事情，都可以在這個(gè)架構(gòu)上開(kāi)始。”趙錫漪說(shuō)。
MANUfacturing Edge Lightweight Accelerator是輕量級(jí)的，并帶有邊緣計(jì)算特性，因此這對(duì)于一些邊緣計(jì)算的場(chǎng)景應(yīng)用也是個(gè)很好的起步項(xiàng)目。
當(dāng)被問(wèn)及多云環(huán)境對(duì)AI開(kāi)發(fā)有什么影響，他解釋說(shuō)沒(méi)有太大影響，像紅帽的AI開(kāi)發(fā)基本上在 Open Data Hub上做，至于當(dāng)前在哪個(gè)AI實(shí)驗(yàn)室里做對(duì)整個(gè)AI發(fā)布不算大事。
趙錫漪透露，紅帽將推出AI/ML on OpenShift動(dòng)手實(shí)驗(yàn)營(yíng)，會(huì)提供一個(gè)免費(fèi)的線上培訓(xùn)環(huán)境。此外，紅帽AI/ML Innovation Lab創(chuàng)新實(shí)驗(yàn)室很快會(huì)進(jìn)入中國(guó)市場(chǎng)，通過(guò)深入客戶(hù)的開(kāi)發(fā)、運(yùn)維、設(shè)計(jì)團(tuán)隊(duì)，幫助客戶(hù)從開(kāi)源環(huán)境搭建選擇及需求整理直到最終做一個(gè)原型的過(guò)程。
