7月4日，2024世界人工智能大會暨人工智能全球治理高級別會議（WAIC2024）在上海開幕。在當天下午舉行的國際電信聯(lián)盟人工智能向善研討會上，硅谷機器人創(chuàng)業(yè)公司Robust.AI首席執(zhí)行官兼創(chuàng)始人加里馬庫斯做了視頻演講，分享“如何確保人工智能為我們所用”。
加里馬庫斯在論壇上進行視頻演講。 主辦方供圖
據(jù)澎湃新聞此前報道，加里馬庫斯一直是生成式AI浪潮的唱反調(diào)者，堅稱僅靠深度學習并不能實現(xiàn)類人智能，經(jīng)常在社交媒體上與AI知名學者舌戰(zhàn)。提起討厭ChatGPT的專家，他絕對是社交媒體上最矚目的人。
“現(xiàn)在所用的AI在技術(shù)上和道德上都是不完整的（inadequate）。”馬庫斯開篇明義，表示大家現(xiàn)在所關(guān)注的生成式AI只是一種可能性的方法，很有趣、很受歡迎，但是有很多問題，他更愿意將其稱為“Rough Draft AI（AI的草稿）”。
馬庫斯將當前人們關(guān)注的通用人工智能稱為“RoughDraftAI”
馬庫斯表示，AI會使用全世界的統(tǒng)計數(shù)據(jù)，試圖從這些統(tǒng)計數(shù)據(jù)中猜測這個世界是如何運作的，但這并不能夠代表世界的真相。這就是所謂的“AI幻覺”，大語言模型看起來很聰明，但是不能檢查自己的工作。而這些問題并不能通過加入多模態(tài)、影像學工具來真正地解決。
其次，人工智能也會存在偏見問題，這在十年之前就為人們所知，但現(xiàn)在也還沒有真正的解決方案。此外，人工智能也存在抄襲問題，Chat GPT的產(chǎn)出會根據(jù)統(tǒng)計數(shù)據(jù)給出多個版本的回答，但實際上只是已有數(shù)據(jù)的重塑。
由此，馬庫斯認為今天的AI是不穩(wěn)定的，在現(xiàn)實中沒有錨，于是帶來很多風險，比如虛假信息、市場操作、誹謗、深度造假、偏見歧視、隱私數(shù)據(jù)泄露、侵犯知識產(chǎn)權(quán)等。在他看來，過度依賴這樣不可靠的系統(tǒng)，甚至將AI工具放到武器系統(tǒng)或者電網(wǎng)當中，成本是巨大的，甚至可能會存在嚴重的長期風險。
如何在政策層面提出解法呢？馬庫斯指出，不能期待現(xiàn)有的法律面面俱到，也不能期待一個統(tǒng)一的解決方案能夠解決AI帶來的所有風險。在全球范圍內(nèi)，馬庫斯認為快速敏捷的反應很重要，同時還需要透明度，需要全面統(tǒng)計、全面訓練，并全面披露所有內(nèi)部測試。此外，還需要第三方來做發(fā)布后的審計，讓人們知道這些AI系統(tǒng)是否被誤用，是否存在歧視。要負責任地進行分層監(jiān)督，要有類似國家和全球性質(zhì)的機構(gòu)來做監(jiān)管。
馬庫斯還指出，不應該讓大型科技公司來決定一切，例如技術(shù)開源可能會帶來風險。
盡管AI熱潮奔涌，但在馬庫斯看來，通用人工智能并非迫在眉睫。人們?nèi)绱苏J為，一定程度上是來自硅谷的炒作，真正重要的是解決人工智能在現(xiàn)實世界中的問題。馬庫斯提出，人工智能的能力增長實際上已經(jīng)放緩，但他仍覺得人工智能有希望變得更好。要實現(xiàn)這一點，還需要從人類社會當中獲得線索。他說：“人的思維不是單一的，當我們在制定人工智能政策時，需要對當前的人工智能持現(xiàn)實的態(tài)度，并且找到超越它的方法。”
馬庫斯表示，很多公司都擁有學習能力強、推理能力較弱、數(shù)據(jù)不可解釋的系統(tǒng)，而現(xiàn)在需要開發(fā)一種新的人工智能方法。或許需要幾十年的時間，人們才能夠去理解如何構(gòu)建一個結(jié)合學習和推理優(yōu)點的人工智能，讓其成為可學習的、數(shù)據(jù)高效的、可解釋的、可靠的、可驗證的和基于事實的人工智能。
