1956年人工智能的概念被首次提出，直到去年ChatGPT出現(xiàn)，各行各業(yè)大談大模型，人工智能才更廣泛地在各種層面的應(yīng)用中出現(xiàn)在人們的生活里。一方面人工智能重塑各行各業(yè)，另一方面也帶來(lái)了隱私保護(hù)、儲(chǔ)存安全等問(wèn)題。
10月25日，由澎湃新聞和上海漕河涇新興技術(shù)開(kāi)發(fā)區(qū)聯(lián)合主辦，上海人工智能研究院學(xué)術(shù)支持的科創(chuàng)先鋒論壇以“大模型與數(shù)字治理”為主題在漕河涇會(huì)議中心成功召開(kāi)。在圓桌沙龍環(huán)節(jié)，圍繞“AI大模型的產(chǎn)業(yè)應(yīng)用與數(shù)字安全”這一話題，澎湃新聞內(nèi)容風(fēng)控首席運(yùn)營(yíng)官孫光海與上海市計(jì)算機(jī)軟件評(píng)測(cè)重點(diǎn)實(shí)驗(yàn)室副主任，研究員陳敏剛、螞蟻財(cái)富保險(xiǎn)事業(yè)群首席技術(shù)架構(gòu)師曹剛以及智己汽車副CTO郭輝展開(kāi)了精彩對(duì)話，分享了大模型在城市治理、金融、自動(dòng)駕駛以及傳媒領(lǐng)域的應(yīng)用。
左起：澎湃新聞內(nèi)容風(fēng)控首席運(yùn)營(yíng)官孫光海、上海市計(jì)算機(jī)軟件評(píng)測(cè)重點(diǎn)實(shí)驗(yàn)室副主任，研究員陳敏剛、螞蟻財(cái)富保險(xiǎn)事業(yè)群首席技術(shù)架構(gòu)師曹剛、智己汽車副CTO郭輝
以下為對(duì)話實(shí)錄，略有刪減：
大模型何為“大”？
上海市計(jì)算機(jī)軟件評(píng)測(cè)重點(diǎn)實(shí)驗(yàn)室副主任，研究員 陳敏剛
陳敏剛：大模型的大主要表現(xiàn)是模型參數(shù)規(guī)模非常大。在學(xué)術(shù)界有個(gè)規(guī)律，當(dāng)模型參數(shù)量達(dá)一定規(guī)模會(huì)出現(xiàn)“智能的涌現(xiàn)”，也就是說(shuō)只有參數(shù)規(guī)模足夠大，才會(huì)執(zhí)行復(fù)雜的推理。此外，訓(xùn)練數(shù)據(jù)量很大。據(jù)了解，維基百科的語(yǔ)料只占到ChatGPT訓(xùn)練語(yǔ)料的約3%。最后，需要用到的算力非常大。據(jù)OpenAI的聲稱，GPT-3的一次訓(xùn)練，單次大約需要450萬(wàn)美元。
但是我覺(jué)得最本質(zhì)的是應(yīng)用范圍很大。大模型擁有很好的泛化能力。以前人工智能都是弱人工智能或者是窄人工智能，一個(gè)應(yīng)用就需要開(kāi)發(fā)一個(gè)模型。但是在大模型時(shí)代，人類可以通過(guò)一些提示工程（Prompt）快速地去泛化到下游的各類任務(wù)，一站式地解決各類任務(wù)。所以我覺(jué)得大模型為未來(lái)產(chǎn)業(yè)可能帶來(lái)最大的變革，就在于它這種對(duì)于各種場(chǎng)景的泛化和適配的能力。
螞蟻財(cái)富保險(xiǎn)事業(yè)群首席技術(shù)架構(gòu)師 曹剛
曹剛：我理解大模型的“大”是，對(duì)人工智能產(chǎn)業(yè)技術(shù)的影響非常大。類似像ChatGPT這樣一個(gè)“殺手級(jí)”應(yīng)用，基本上花2個(gè)多月時(shí)間就可以做到1億的MAU（月活躍用戶數(shù)量）。而國(guó)內(nèi)，以大家用得最多的抖音為例，差不多要花9個(gè)月的時(shí)間。
螞蟻集團(tuán)今年也制定了集團(tuán)的三大戰(zhàn)略，其中之一是AI-First。我們不能把AI技術(shù)僅僅視作拓覆蓋、提效率的錦上添花的能力，而是用AI-First這種理念指導(dǎo)業(yè)務(wù)的生產(chǎn)，重塑整個(gè)業(yè)務(wù)的鏈條，推進(jìn)業(yè)務(wù)走向下一個(gè)階段。
大模型在不同行業(yè)正在解決什么問(wèn)題？
陳敏剛：首先談到城市治理這個(gè)話題，前幾年非�；鸬囊粋�(gè)概念叫做“智慧城市”，有些地方也稱為“城市大腦”。城市大腦、智慧城市的目標(biāo)就是要實(shí)現(xiàn)城市的數(shù)字化轉(zhuǎn)型，提升城市治理的體系和治理的現(xiàn)代化。因?yàn)檫@一段時(shí)間ChatGPT實(shí)在太火，好像把智慧城市、城市大腦的聲音給淹沒(méi)了。在我看來(lái)大模型是可以對(duì)現(xiàn)有的城市大腦做一次升級(jí)，下面我舉幾個(gè)例子。
首先，政務(wù)大模型。比如說(shuō)像政務(wù)咨詢，如果有了大模型，我們可以更加準(zhǔn)確地去理解用戶辦事要求，甚至可以引導(dǎo)用戶說(shuō)出他真正想要辦的業(yè)務(wù)。
另外城市大腦有一個(gè)很重要的應(yīng)用，是要用AI感知城市發(fā)生各種的事件，快速做處置和處理。以前在大模型沒(méi)有出現(xiàn)之前，可能每一個(gè)具體的視覺(jué)場(chǎng)景，比如占道經(jīng)營(yíng)，就需要一個(gè)視覺(jué)的模型去發(fā)現(xiàn)這些不合適的場(chǎng)景。未來(lái)我們有了多模態(tài)大模型以后，是否有機(jī)會(huì)讓一個(gè)大模型去解決掉我們城市感知的各個(gè)問(wèn)題？用一個(gè)大模型可能就可以解決掉違法占道、違法停車、交通違法、道路積水等所有長(zhǎng)尾的場(chǎng)景。
第三，OpenAI近期提供了一個(gè)很強(qiáng)大的插件，原來(lái)叫代碼解釋器，現(xiàn)在更新成Advanced-Data-Analysis插件，可以快速自動(dòng)化地、用人機(jī)交互的方式去做數(shù)據(jù)分析。有這樣的工具后，我們?cè)诔鞘兄卫淼膱?chǎng)景下，可以快速對(duì)城市發(fā)生的各種采集數(shù)據(jù)進(jìn)行精準(zhǔn)、快速、高效的處理，然后來(lái)輔助我們政府的決策。
曹剛：螞蟻集團(tuán)一直都深耕在金融領(lǐng)域。就現(xiàn)在而言，我們理財(cái)和保險(xiǎn)領(lǐng)域核心是把大模型用在兩個(gè)方面：第一個(gè)，用戶體驗(yàn)的提升；第二個(gè)，提效業(yè)務(wù)生產(chǎn)鏈路。
首先講講用戶體驗(yàn)的提升。我們之前發(fā)布了支小寶的2.0，是一個(gè)個(gè)人理財(cái)助理，同時(shí)也是保險(xiǎn)助理，你在上面可以通過(guò)問(wèn)答的方式問(wèn)一些關(guān)于理財(cái)保險(xiǎn)的知識(shí)。通過(guò)大模型的技術(shù)進(jìn)行產(chǎn)品升級(jí)，整個(gè)問(wèn)答端的準(zhǔn)確率可以得到大幅提升，目前能夠達(dá)到95%以上。
在生產(chǎn)力提升方面，我們發(fā)布了支小助1.0，這是一個(gè)針對(duì)金融從業(yè)者的業(yè)務(wù)專家助手，類似于微軟的Copilot。在金融領(lǐng)域，我們的服務(wù)鏈條非常縱深，涉及許多業(yè)務(wù)專家。我們使用大模型的技術(shù)來(lái)重塑傳統(tǒng)工作流程，讓支小助成為一個(gè)大模型驅(qū)動(dòng)的產(chǎn)品，從而顯著提高整個(gè)業(yè)務(wù)專家和金融從業(yè)者的效率。
舉例來(lái)說(shuō)，我們?yōu)槔碡?cái)師的顧問(wèn)團(tuán)隊(duì)和保險(xiǎn)代理人團(tuán)隊(duì)提供了一個(gè)支小助的服務(wù)版，通過(guò)大模型的加持，我們的團(tuán)隊(duì)管理范圍的服務(wù)人數(shù)提升了70%以上。另外，在營(yíng)銷領(lǐng)域，我們使用大模型技術(shù)生產(chǎn)文案、圖片和視頻等創(chuàng)意，讓有限的產(chǎn)品上疊加無(wú)限的創(chuàng)意，從而顯著提升業(yè)務(wù)轉(zhuǎn)化效果。在保險(xiǎn)領(lǐng)域的理賠問(wèn)題上，我們通過(guò)大模型的技術(shù)實(shí)現(xiàn)了圖像信息提取和推理技術(shù)的聯(lián)合，形成了全自動(dòng)化的能力，大大縮短了用戶理賠的時(shí)間。
智己汽車副CTO 郭輝
郭輝：我分享一下在汽車領(lǐng)域大模型應(yīng)用的狀態(tài)。大模型會(huì)大大提升我們?cè)谧詣?dòng)駕駛領(lǐng)域里面人工智能模型的迭代速度。首先大模型在云端有非常豐富的參數(shù)，能夠幫助我們進(jìn)行相應(yīng)的仿真測(cè)試，在有足夠豐富數(shù)據(jù)輸入前提下，我們可以使用大模型訓(xùn)練小模型，部署在車端，大大提升我們?cè)谲嚩诉\(yùn)行小模型的迭代效率。其次是大家熟悉的智艙。在與人類的交互過(guò)程當(dāng)中，我們?cè)谲嚿细嗍鞘褂谜Z(yǔ)音的交互功能，怎么樣更好識(shí)別人的意圖，能夠給人提供準(zhǔn)確的內(nèi)容，這是我們?cè)诼涞貙?shí)現(xiàn)的。
澎湃新聞內(nèi)容風(fēng)控首席運(yùn)營(yíng)官 孫光海
孫光海：澎湃新聞在內(nèi)部也進(jìn)行了AI繪畫(huà)、AI寫(xiě)作、AI審核三方面的探討。尤其是我在跟其他新聞網(wǎng)站同行交流，我說(shuō)澎湃新聞每天發(fā)布400多條的原創(chuàng)稿件，每篇稿件都要配插圖、配圖。如果AI技術(shù)發(fā)展到一定程度，可以通過(guò)AI生成圖片來(lái)節(jié)省相關(guān)的運(yùn)營(yíng)成本，減輕美編的工作負(fù)擔(dān)。
在AI協(xié)作方面，我們?cè)谥悄芨u(píng)方面也在做內(nèi)部的測(cè)試，更為成熟的一點(diǎn)是內(nèi)容安全這方面。比方說(shuō)現(xiàn)在大家看到APP有些突然下架了，訪問(wèn)有一個(gè)欄目突然停更了，這些情況十有八九是內(nèi)容合規(guī)方面導(dǎo)致的。澎湃新聞開(kāi)發(fā)了澎湃清穹服務(wù)，正式對(duì)外為黨政、媒體、國(guó)有企業(yè)、資訊平臺(tái)服務(wù)，目前的效果還是不錯(cuò)的，尤其是在社政領(lǐng)域。
具體到場(chǎng)景，大模型如何提升？
曹剛：通用大模型在金融領(lǐng)域要落地是一個(gè)非常復(fù)雜的系統(tǒng)工程，起碼要解決三個(gè)挑戰(zhàn)。
首先，通用大模型對(duì)金融領(lǐng)域的認(rèn)知有短板。比如，我能不能買(mǎi)到一個(gè)保本保息高收益的產(chǎn)品？實(shí)際上在市場(chǎng)上這種產(chǎn)品基本上不存在，因?yàn)檫@都是有嚴(yán)格的金融監(jiān)管以及金融的體系來(lái)維護(hù)的，所以我們需要對(duì)它進(jìn)行專業(yè)的金融通識(shí)相關(guān)的訓(xùn)練，甚至我們自己場(chǎng)景對(duì)于金融業(yè)務(wù)的理解也需要讓它訓(xùn)練起來(lái)，灌入到它整個(gè)知識(shí)結(jié)構(gòu)當(dāng)中。
第二個(gè)挑戰(zhàn)，在金融領(lǐng)域其實(shí)有很多推理和決策的內(nèi)容，最簡(jiǎn)單的：你到底要不要買(mǎi)這個(gè)股票？這涉及大的推理過(guò)程和決策過(guò)程，這是目前我們看到通用大模型很難直接給出答案的。
第三，整個(gè)金融因?yàn)槭欠浅?yán)謹(jǐn)?shù)模哂泻軓?qiáng)的量化數(shù)字的屬性，我們知道往往通用大模型比較擅長(zhǎng)文科相關(guān)的工作，對(duì)于數(shù)字計(jì)算、復(fù)雜的量化計(jì)算這部分能力還是比較欠缺的。加上金融領(lǐng)域合規(guī)性要求非常高，一個(gè)投資者過(guò)來(lái)到底能買(mǎi)什么產(chǎn)品，不能買(mǎi)什么產(chǎn)品，起碼得遵守合格投資者的管理辦法才能把合格的產(chǎn)品推薦給他，這些通用大模型基本上很難做到。
郭輝：汽車領(lǐng)域來(lái)看，我們解決兩類問(wèn)題，一類是成本和效率的問(wèn)題，就是在云端的大模型，包括它的訓(xùn)練，以及最終部署到服務(wù)器，甚至我們把它進(jìn)行裁剪，最后放到車端整個(gè)代價(jià)是什么？
第二是解決時(shí)延的問(wèn)題，哪怕今天的網(wǎng)絡(luò)條件，也總有連不上網(wǎng)的時(shí)候。連不上網(wǎng)怎么滿足智能駕駛安全方面的需求？大模型+小模型并行的方式，我們?cè)谔剿鬟@個(gè)方向。
數(shù)據(jù)安全如何保障？
曹剛：國(guó)家層面其實(shí)已經(jīng)看到這樣的問(wèn)題，此前出臺(tái)的《生成式人工智能管理辦法》一定程度上就是為了規(guī)避這些問(wèn)題。就螞蟻集團(tuán)而言，我們是一家科技公司，底層積累了非常多的數(shù)據(jù)，個(gè)人安全和隱私保護(hù)，我們集團(tuán)層面一直非常重視這個(gè)問(wèn)題。所以從數(shù)據(jù)的采集、加工、傳輸、存儲(chǔ)，集團(tuán)有專門(mén)的部門(mén)進(jìn)行管理，有相應(yīng)的數(shù)據(jù)分級(jí)分類以及一些各類管理機(jī)制以及規(guī)范。
陳敏剛：數(shù)據(jù)泄露是一個(gè)重要問(wèn)題，大模型存在Prompt攻擊的漏洞，攻擊者可以通過(guò)輸入特定提示繞過(guò)安全機(jī)制引導(dǎo)大模型說(shuō)出有害內(nèi)容。
此外，大模型應(yīng)用中存在幻覺(jué)問(wèn)題，即輸出的信息在語(yǔ)義、語(yǔ)法上可能是正確的，但具有誤導(dǎo)性、錯(cuò)誤性或矛盾性。我們團(tuán)隊(duì)的測(cè)試結(jié)果顯示，ChatGPT4在幻覺(jué)輸出概率上達(dá)到30%，國(guó)內(nèi)大模型這一數(shù)據(jù)超過(guò)50%。這樣一些現(xiàn)象，就提醒我們?cè)诖竽Ｐ驼嬲龖?yīng)用落地的時(shí)候要注意非常的小心。
郭輝：汽車行業(yè)兩大類的安全，一類我們叫功能安全，另外一類叫信息安全。在功能安全方面，汽車廠商需要確保硬件、軟件和模型的冗余設(shè)計(jì)，以防止單點(diǎn)失效導(dǎo)致人身安全的威脅。而對(duì)于人工智能模型的安全性保證，需要建立一個(gè)可解釋的、規(guī)則明確的安全框架來(lái)兜底。此外，在開(kāi)發(fā)流程中還需要進(jìn)行針對(duì)人工智能的對(duì)抗性訓(xùn)練，包括對(duì)抗樣本生成等，以增強(qiáng)模型的魯棒性和安全性。
而在信息安全方面，汽車行業(yè)需要從設(shè)計(jì)系統(tǒng)本身的防護(hù)能力、整體的安全架構(gòu)以及失效后的檢測(cè)和防護(hù)機(jī)制等方面進(jìn)行考慮，以保障網(wǎng)絡(luò)和數(shù)據(jù)的安全。此外，還需要進(jìn)行利民攻擊測(cè)試以及隱私安全保護(hù)，包括最小化數(shù)據(jù)采集和確保數(shù)據(jù)安全合規(guī)的要求。
算力的提升對(duì)不同場(chǎng)景有何影響？
曹剛：國(guó)家在基礎(chǔ)算力方面布局是非常好的事情。首先，基礎(chǔ)算力基礎(chǔ)設(shè)施的布局有助于解決技術(shù)卡脖子的問(wèn)題。螞蟻金融大模型底座是跑在萬(wàn)卡的異構(gòu)集群上面的。實(shí)際上萬(wàn)卡里面絕大部分的GPU卡資源都是采購(gòu)于英偉達(dá)，只有少部分是采購(gòu)國(guó)產(chǎn)的GPU資源。所以公共算力資源的布局，有利于讓更多的企業(yè)能夠進(jìn)來(lái)，降低了準(zhǔn)入門(mén)檻。整個(gè)產(chǎn)業(yè)活躍度起來(lái)后，真正受益的應(yīng)該是終端消費(fèi)者。只有這樣，我們有很多的想法才能滿足。
郭輝：我補(bǔ)充另外一個(gè)經(jīng)濟(jì)性維度。第一，國(guó)產(chǎn)化相應(yīng)大算力的芯片有助于良性的市場(chǎng)競(jìng)爭(zhēng)，使得最后我們消費(fèi)者能夠享受到普惠。第二，我們從行業(yè)的應(yīng)用來(lái)看，不同公司波峰和波谷一定存在不均勻的情況，如果可以消除波峰波谷，就像電力一樣，我相信各個(gè)行業(yè)都能夠獲益。
陳敏剛：算力提升會(huì)加速通用大模型商業(yè)化的應(yīng)用。其次，會(huì)加速我們垂直領(lǐng)域大模型的研究和應(yīng)用的落地和大模型深度應(yīng)用。什么叫深度應(yīng)用？前面我也提到了OpenAI開(kāi)放了很多的插件，這些插件可以幫助你快速去交互式分析大規(guī)模的數(shù)據(jù)，這就是深度應(yīng)用。深度應(yīng)用肯定需要用到大量的算力。同時(shí)，未來(lái)如果算力足夠，大模型和我們具身智能相結(jié)合，可能會(huì)推動(dòng)像人形機(jī)器人非常前沿技術(shù)的快速應(yīng)用和落地。
孫光海：我們有一種說(shuō)法，人工智能1.0如果說(shuō)是相當(dāng)于發(fā)明了電，那人工智能3.0在AIGC大模型這樣的情況下相當(dāng)于一張電網(wǎng)。從短期來(lái)看AIGC改變了基礎(chǔ)生產(chǎn)力的一個(gè)工具，有些說(shuō)中期來(lái)看改變了社會(huì)生產(chǎn)關(guān)系，長(zhǎng)遠(yuǎn)來(lái)看改變了社會(huì)生產(chǎn)力。我們也希望AI+時(shí)代會(huì)有更驚艷的商業(yè)創(chuàng)新和商業(yè)模式，助力我們的生活更加美好。
