作者 | 香草
編輯 | 李水青
智東西10月25日報道，10月24日，亞馬遜云科技在北京舉辦了生成式AI構(gòu)建者大會。會上，亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建從應(yīng)用場景、工具和基礎(chǔ)設(shè)施、數(shù)據(jù)基座、AI原生應(yīng)用構(gòu)建和生成式AI服務(wù)這五個層面，解讀了亞馬遜云科技全面的云原生技術(shù)棧，以及亞馬遜云科技如何助力企業(yè)降低生成式AI應(yīng)用開發(fā)門檻，加速實現(xiàn)端到端的生成式AI應(yīng)用構(gòu)建。
▲陳曉建解讀亞馬遜云科技五個層面的云原生技術(shù)棧
西門子集團、金山辦公軟件以及科思創(chuàng)中國作為亞馬遜云科技中國區(qū)生成式AI創(chuàng)新的代表客戶，也分享了各自的創(chuàng)新案例。
會后，智東西與少數(shù)媒體對陳曉建、亞馬遜云科技技術(shù)專家團隊總監(jiān)王曉野進行了采訪。
當智東西問道，從亞馬遜云科技與企業(yè)客戶的接觸來看，目前有哪些行業(yè)和領(lǐng)域?qū)ι墒紸I應(yīng)用的需求量較大？生成式AI落地行業(yè)主要有哪些挑戰(zhàn)？亞馬遜云科技是如何幫助企業(yè)客戶應(yīng)對這些挑戰(zhàn)的？
陳曉建稱，目前各行各業(yè)對生成式AI都有著一定需求，從亞馬遜云科技與客戶的接觸來看，有一些比較有代表性的行業(yè)。
一是數(shù)字營銷行業(yè)，易點天下借助亞馬遜云科技驅(qū)動的生成式AI幫助電商客戶將出圖時間從5天縮短至2小時，通過SaaS為出�？蛻籼峁〢I模特與AI數(shù)字虛擬人等服務(wù)。
二是工業(yè)設(shè)計領(lǐng)域，以海爾創(chuàng)新設(shè)計中心為例，其基于亞馬遜云科技服務(wù)器部署了大量自動化設(shè)計軟件，使得產(chǎn)品設(shè)計、UI設(shè)計等相關(guān)業(yè)務(wù)操作周期縮短了20%。
三是游戲行業(yè)，創(chuàng)夢天地利用亞馬遜云科技游戲AIGC專業(yè)版API，快速上線了AI繪圖頻道和多種特色風格，積累了數(shù)萬名頻道內(nèi)用戶使用AI生圖服務(wù)，為后續(xù)IP推廣活動打下基矗
在落地層面，亞馬遜云科技提供包含基礎(chǔ)模型、數(shù)據(jù)與算力基礎(chǔ)設(shè)施以及開發(fā)工具在內(nèi)的全面云原生技術(shù)棧，幫助企業(yè)實現(xiàn)端到端的應(yīng)用構(gòu)建。以全托管生成式AI服務(wù)Amazon Bedrock為例，由于其無服務(wù)器化，客戶無需管理基礎(chǔ)設(shè)施，只需調(diào)用API即可使用。
一、多半效益來自4類應(yīng)用場景，Bedrock提供6大基礎(chǔ)模型
根據(jù)麥肯錫咨詢2023年6月發(fā)布的生成式AI生產(chǎn)力前沿技術(shù)報告，在生成式AI技術(shù)帶來的經(jīng)濟效益中，大約3/4來自四類主要的職能：營銷與銷售、產(chǎn)品與研發(fā)、軟件工程和客戶運營。
陳曉建稱，典型的應(yīng)用場景帶給企業(yè)的業(yè)務(wù)價值主要包含三個方面：增強客戶體驗、提升員工生產(chǎn)力與創(chuàng)造力、優(yōu)化業(yè)務(wù)流程。
圍繞不同的應(yīng)用場景，亞馬遜云科技為企業(yè)客戶提供不同的工具幫助其創(chuàng)新業(yè)務(wù)模式。
10月7日，亞馬遜云科技正式發(fā)布Amazon Bedrock，同時宣布接入Meta的Llama 2 13B和70B。目前，Amazon Bedrock提供來自Meta、Anthropic、Stability AI、AI21 Labs、Cohere等第三方開發(fā)商的模型，以及亞馬遜自研的Amazon Titan，共6種基礎(chǔ)模型。
▲Amazon Bedrock提供的6種基礎(chǔ)模型
陳曉建稱，Amazon Bedrock是企業(yè)使用基礎(chǔ)模型構(gòu)建和擴展生成式AI應(yīng)用程序的最簡單方法，它是一項無服務(wù)器服務(wù)，提供了廣泛的模型選擇、數(shù)據(jù)隱私，并且能夠自定義模型，無需管理任何基礎(chǔ)設(shè)施。
▲陳曉建解讀Amazon Bedrock微調(diào)功能
然而，單獨的基礎(chǔ)模型具有局限性，無法完成需要與外部系統(tǒng)交互并且沒有最新知識來源的復(fù)雜任務(wù)。這些功能本身雖然很簡單，但開發(fā)人員必須經(jīng)過多個步驟才能實現(xiàn)這些功能。
Amazon Bedrock代理功能支持通過API（應(yīng)用程序編程接口）安全地連接到公司數(shù)據(jù)，自動將數(shù)據(jù)轉(zhuǎn)換為機器可讀的格式，并增加相關(guān)信息以生成最準確的回答。然后，代理可以自動調(diào)用API來滿足用戶的請求，無需任何手動編碼。
金山辦公的AI研發(fā)總監(jiān)劉強談道，今年起，WPS開始將大語言模型的能力全面引入產(chǎn)品，在構(gòu)建過程中，遇到基礎(chǔ)模型性能有限、數(shù)據(jù)隱私與安全難以保障、高額管理成本等障礙。
作為Amazon Bedrock的第一批試用用戶，金山辦公第一時間與亞馬遜云科技展開了對接與測試。
Amazon Bedrock中支持的領(lǐng)先大語言模型在多個文字處理場景中符合金山辦公的需求，在數(shù)據(jù)安全層面也給金山辦公提供了充分的支持，極大地提高了金山辦公的內(nèi)部開發(fā)效率。
▲劉強解讀構(gòu)建生成式AI應(yīng)用幾大挑戰(zhàn)
基礎(chǔ)設(shè)施方面，陳曉建稱高性價比的基礎(chǔ)設(shè)施是生成式AI應(yīng)用構(gòu)建的關(guān)鍵。
亞馬遜云科技持續(xù)對全球基礎(chǔ)設(shè)施進行深度投資，為客戶提供廣泛的加速器、GPU選擇，例如基于英傳達最新GPU芯片H100 Tensor Core的Amazon EC2 P5實例，與上一代相比速度快6倍，訓練成本節(jié)省40%。
▲陳曉建解讀亞馬遜云科技基于英偉達GPU芯片實例
基于亞馬遜云科技自研的機器學習推理芯片Amazon Inferentia2推出的Amazon EC2 Inf2實例，與其他類似的EC2實例相比性價比高40%；基于自研機器學習訓練芯片Amazon Trainium推出的Amazon EC2 Trn1實例，與同類實例相比訓練成本節(jié)省達50%。
▲陳曉建解讀亞馬遜云科技自研芯片實例
二、構(gòu)建專門數(shù)據(jù)庫，DataZone實現(xiàn)跨組織數(shù)據(jù)共享與治理
數(shù)據(jù)是將通用的生成式AI轉(zhuǎn)變?yōu)榱私馄髽I(yè)業(yè)務(wù)和客戶的生成式AI的關(guān)鍵差異化因素。
陳曉建稱，面向生成式AI構(gòu)建強大的數(shù)據(jù)“基座”，需要一套全面的服務(wù)，以便能夠存儲用于構(gòu)建和微調(diào)模型的各種類型的數(shù)據(jù)；需要服務(wù)間的集成，以打破數(shù)據(jù)孤島，確保能夠隨時訪問所有數(shù)據(jù)；還需要在構(gòu)建生成式AI應(yīng)用程序的整個生命周期中，確保數(shù)據(jù)安全并對其進行管理。
▲陳曉建解讀面向生成式AI如何構(gòu)建強大的數(shù)據(jù)“基座”
在全面服務(wù)方面，亞馬遜云科技針對生成式AI領(lǐng)域的用戶個人信息、會話信息管理、私域知識庫等應(yīng)用場景都提供了專門構(gòu)建的數(shù)據(jù)庫。針對檢索增強生成（RAG）需要處理的向量數(shù)據(jù)，亞馬遜云科技推出了向量數(shù)據(jù)庫功能。
▲陳曉建解讀亞馬遜云科技多種數(shù)據(jù)庫
在數(shù)據(jù)集成方面，數(shù)據(jù)的抽�。‥xtract）、轉(zhuǎn)換（Transform）、加載（Load）簡稱ETL，是端到端數(shù)據(jù)旅程迫切需要解決的問題，亞馬遜云科技提出“Zero-ETL”的愿景，通過深化服務(wù)之間的集成，幫助企業(yè)執(zhí)行分析和機器學習，且無需移動數(shù)據(jù)。
▲陳曉建解讀亞馬遜云科技深度集成數(shù)據(jù)服務(wù)
在數(shù)據(jù)治理方面，亞馬遜云科技提供Amazon DataZone數(shù)據(jù)治理服務(wù)，讓客戶能夠跨組織邊界發(fā)現(xiàn)、訪問、共享和治理大規(guī)模數(shù)據(jù)，并減少企業(yè)內(nèi)部成員訪問數(shù)據(jù)和使用分析工具時繁重的工作量。
▲陳曉建解讀Amazon DataZone數(shù)據(jù)治理服務(wù)
西門子集團IT數(shù)據(jù)分析與AI負責人李朝明解讀了西門子與亞馬遜云科技在企業(yè)數(shù)據(jù)上的合作，通過AI與數(shù)據(jù)能力的全面能力提升來構(gòu)建基于生成式AI的企業(yè)知識聊天機器人。
面對西門子中國IT面對的企業(yè)內(nèi)部信息分散、數(shù)據(jù)信息傳遞能力不足、知識運營能力缺乏等業(yè)務(wù)難題，亞馬遜云科技助力西門子打造了業(yè)務(wù)知識一體化解決方案“小禹”，由于根植于堅實的數(shù)據(jù)底座，“小禹”從立項到上線僅用了3個月。
▲李朝明解讀西門子業(yè)務(wù)知識一體化解決方案“小禹”
三、云原生服務(wù)加速AI應(yīng)用構(gòu)建，編程助手CodeWhisperer將推自定義功能
生成式AI的出現(xiàn)，給傳統(tǒng)云原生應(yīng)用開發(fā)架構(gòu)提出了新的機遇與挑戰(zhàn)。
陳曉建在采訪中談道，生成式AI是云原生的技術(shù)，可以說，云計算是應(yīng)用生成式AI最好的方式。
而相比之下，公有云比私有云更適合面向企業(yè)，能夠提供強大的算力、基礎(chǔ)設(shè)施資源、端到端的服務(wù)等。
在應(yīng)用層面，亞馬遜云科技認為，編程將是生成式AI技術(shù)得到快速應(yīng)用的領(lǐng)域之一。
亞馬遜云科技提供的Amazon CodeWhisperer是一款A(yù)I編碼伙伴，可在基礎(chǔ)模型高級選項中使用，實時生成代碼建議，從根本上提高開發(fā)人員的生產(chǎn)力。
據(jù)測試，與未使用的參與者相比，使用CodeWhisperer的參與者完成任務(wù)的速度平均快57%，成功率高27%。
陳曉建稱，CodeWhisperer即將推出自定義功能，允許客戶使用私有代碼庫安全地定制代碼建議，這些私有代碼庫可涵蓋內(nèi)部API、數(shù)據(jù)庫、最佳實踐和架構(gòu)模式等。
▲陳曉建解讀CodeWhisperer自定義功能
科思創(chuàng)中國云開發(fā)運維團隊負責人俞宙談道，科思創(chuàng)中國在日常開發(fā)中有兩個核心任務(wù)：項目框架搭建和存量代碼優(yōu)化。
在實踐中過程中，重復(fù)性、機械化的范式生成、慣用算法引用和企業(yè)級API接口定制是科思創(chuàng)中國面臨的主要挑戰(zhàn)。在亞馬遜云科技CodeWhisperer的加持下，科思創(chuàng)中國的日常代碼開發(fā)效率提升50%，開源代碼應(yīng)用追蹤器的準確性也顯著提高。
▲俞宙解讀科思創(chuàng)中國在日常開發(fā)中的兩個核心任務(wù)
亞馬遜云科技還為Amazon QuickSight推出了生成式BI（商務(wù)智能）功能，使業(yè)務(wù)分析師能夠輕松地在幾秒鐘內(nèi)快速編寫和微調(diào)新的視覺效果，并使用自然語言將其添加到儀表板中，還可以在QuickSight中創(chuàng)建分析報告。
▲陳曉建解讀QuickSight分析報告生成功能
結(jié)語：生成式AI≠大模型，模型外的服務(wù)或成為新戰(zhàn)場
目前，生成式AI應(yīng)用落地已經(jīng)從熱火朝天的“百模大戰(zhàn)”，步入到了少數(shù)優(yōu)秀模型脫穎而出，工具鏈百花齊放，以及企業(yè)主管認真尋找生成式AI落地場景的新階段。開發(fā)生成式AI應(yīng)用是一個充滿挑戰(zhàn)的系統(tǒng)工程，而不是單純的產(chǎn)品和服務(wù)拼接。
正如陳曉建所說，生成式AI不僅僅是大模型，整個生成式AI應(yīng)用就像是浮在海面的冰山，露在海面上方能被大多數(shù)人看到的冰山一角就像是基礎(chǔ)模型，而在冰川的底部，同樣需要大量的基礎(chǔ)模型以外的服務(wù)來支撐。
