在本月初的開發(fā)者年會上,谷歌第二款對話式人工智能系統(tǒng)LaMDA發(fā)布,LaMDA是對話應(yīng)用語言模型(Language Models for Dialogue Applications)的縮寫。谷歌表示,LaMDa 2是他們一個更精細(xì)的升級版本,使用開放域?qū)υ捈夹g(shù)進(jìn)行會話。
LaMDA構(gòu)建在谷歌自己的Transformer神經(jīng)網(wǎng)絡(luò)上(于2017年首次亮相的一個開源架構(gòu))。LaMDA通過對話(來自公共網(wǎng)絡(luò)數(shù)據(jù)和文件的1.56萬億單詞數(shù)據(jù)集)進(jìn)行訓(xùn)練,使其能夠進(jìn)行“自然、明智和具體的對話”。然后對它進(jìn)行微調(diào),讓它對給定的語境產(chǎn)生自然的語言反應(yīng),然后根據(jù)它們是否安全和高質(zhì)量對自己的反應(yīng)進(jìn)行分類。
谷歌首席執(zhí)行官Sundar Pichai展示了預(yù)先制作好的LaMDA 2,他說這些不是具體的產(chǎn)品,而是展示LaMDA功能的“快速草圖”。有一個名為“想象一下”(Imagine It)的創(chuàng)意功能,用戶可以輸入自己的想法,人工智能將生成具有想象力的、與想法相關(guān)的描述。
他展示了LaMDA在回答“想象我在海洋的最深處”的提示時,回答“你在馬里亞納海溝,海洋的最深處!海浪拍打著你潛艇的墻壁。你被完全的黑暗包圍著。”在這個描述之后,LaMDA還提出了一系列后續(xù)問題,比如“這里生活著什么樣的生物?”創(chuàng)意可以與一個簡單的主題相關(guān)(如馬里亞納海溝的例子),也可以是一個更抽象的想法(如在一個由冰淇淋構(gòu)成的星球上的感覺)。這里展示的另一個功能叫做“Talk About It”,它允許用戶就特定的主題向LaMDA 2提問,在此之后,無論后續(xù)問了哪些問題,它都將保持主題不變。
也許最有趣的功能是“列出它”(List It),這次是由產(chǎn)品管理高級總監(jiān)Josh Woodward現(xiàn)場演示的,他說:“這一功能探索LaMDA是否可以將一個復(fù)雜的目標(biāo)或主題分解成相關(guān)的子任務(wù)。它可以幫助我弄清楚我正在嘗試做什么,并產(chǎn)生我可能沒有想到的有用的想法。”
Woodward告訴LaMDA想要種植一個菜園,它立即提供了一個詳細(xì)的子任務(wù)列表,包括“列出要種植的東西”和“研究在你的地區(qū)生長得最好的東西”。每個建議的子任務(wù)可以分解為一列特定于該任務(wù)的更多建議。LaMDA還可以提供一些建議,例如,如果院子面積是個問題,可以嘗試集裝箱擴(kuò)大面積。
這種技術(shù)經(jīng)常暴露出缺陷,Sundar警告說,它還有很長的路要走。LaMDA仍然可以產(chǎn)生不準(zhǔn)確、不恰當(dāng)或攻擊性的反應(yīng)。在他的主題演講中說:“我們正處于使這些模型對人們有用的旅程的開端,我們感到有深刻的責(zé)任讓它正確。”“為了取得進(jìn)步,我們需要人們體驗這項技術(shù)并提供反潰”
谷歌正在通過其新的“AI測試廚房”應(yīng)用程序收集寶貴的反饋,該應(yīng)用程序也在主題演講期間首次亮相。這款應(yīng)用目前只在內(nèi)部開放,但Sundar提到,該公司有朝一日可能會以迭代的方式向“廣泛的利益相關(guān)者”提供訪問權(quán)限,包括人工智能研究人員、社會科學(xué)家和人權(quán)專家。這符合谷歌的人工智能原則,其中包括確保技術(shù)對社會有益,制造和測試都是安全的,并符合科學(xué)卓越的高標(biāo)準(zhǔn)。