劃重點(diǎn)
01人工智能教父Yoshua Bengio警告稱(chēng)，我們正在創(chuàng)造比人類(lèi)更強(qiáng)大的怪物，需要非常小心地控制這種技術(shù)。
02Bengio認(rèn)為，OpenAI、Meta、谷歌、亞馬遜等大型人工智能公司在道德上都有偏見(jiàn)，但Anthropic在避免災(zāi)難性后果方面表現(xiàn)最好。
03他表示，投資者應(yīng)謹(jǐn)慎行事，避免犯下可能損害我們共同未來(lái)的錯(cuò)誤和災(zāi)難。
04此外，Bengio對(duì)人工智能芯片競(jìng)賽表示，高端人工智能芯片功能將具有戰(zhàn)略?xún)r(jià)值，目前很少有公司能夠做到這一點(diǎn)。
以上內(nèi)容由騰訊混元大模型生成，僅供參考
鞭牛士報(bào)道，10月11日消息，據(jù)雅虎財(cái)經(jīng)報(bào)道，無(wú)論您認(rèn)為人工智能將拯救世界還是毀滅世界，毫無(wú)疑問(wèn)，我們正處于一個(gè)充滿(mǎn)熱情的時(shí)刻。眾所周知，如果沒(méi)有 Yoshua Bengio，人工智能可能就不存在了。
60 歲的本吉奧被稱(chēng)為人工智能教父，是一位加拿大計(jì)算機(jī)科學(xué)家，他致力于神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)算法的研究。他的開(kāi)創(chuàng)性工作為我們今天使用的人工智能模型開(kāi)辟了道路，例如 OpenAI 的 ChatGPT 和 Anthropic 的 Claude。
「智能賦予權(quán)力，無(wú)論誰(shuí)控制了這種權(quán)力無(wú)論是人類(lèi)水平還是更高都將變得非常非常強(qiáng)大�！贡炯獖W在接受雅虎財(cái)經(jīng)采訪時(shí)表示�！缚偟膩�(lái)說(shuō)，技術(shù)被那些想要更多權(quán)力的人所利用：經(jīng)濟(jì)主導(dǎo)地位、軍事主導(dǎo)地位、政治主導(dǎo)地位。因此，在我們創(chuàng)造可能以危險(xiǎn)的方式集中權(quán)力的技術(shù)之前我們需要非常小心。」
2018 年，本吉奧與兩位同事前谷歌 ( GOOG ) 副總裁杰弗里辛頓（2024 年諾貝爾物理學(xué)獎(jiǎng)得主）和 Meta ( META ) 首席人工智能科學(xué)家揚(yáng)勒昆共同獲得了圖靈獎(jiǎng)（有計(jì)算界諾貝爾獎(jiǎng)之稱(chēng)）。2022 年，本吉奧成為全球被引用次數(shù)最多的計(jì)算機(jī)科學(xué)家�！稌r(shí)代》雜志將他評(píng)選為全球100 位最具影響力人物之一。
盡管 Bengio 幫助發(fā)明了這項(xiàng)技術(shù)，但他現(xiàn)在已成為人工智能領(lǐng)域的謹(jǐn)慎之聲。這種謹(jǐn)慎是隨著投資者繼續(xù)對(duì)該領(lǐng)域表現(xiàn)出極大的熱情而產(chǎn)生的今年人工智能的股價(jià)創(chuàng)下了新高。
例如，人工智能芯片寵兒 Nvidia（NVDA）的股價(jià)今年迄今已上漲 162%，而標(biāo)準(zhǔn)普爾 500 指數(shù)的漲幅為 21%。
根據(jù)雅虎財(cái)經(jīng)的數(shù)據(jù)，該公司目前的估值高達(dá) 3.25 萬(wàn)億美元，略微落后于蘋(píng)果 ( AAPL )，成為全球最有價(jià)值公司。
雅虎財(cái)經(jīng)采訪了 Bengio，談?wù)撊斯ぶ悄芸赡軒?lái)的威脅以及哪些科技公司做得對(duì)。
為簡(jiǎn)潔起見(jiàn)，我們對(duì)采訪內(nèi)容進(jìn)行了編輯。
為什么我們應(yīng)該關(guān)注人類(lèi)水平的智能？
「如果這些技術(shù)落入壞人之手，無(wú)論這意味著什么，都可能非常危險(xiǎn)。這些工具很快就會(huì)幫助恐怖分子，它們也可能幫助那些想要摧毀我們民主的國(guó)家行為者。還有許多科學(xué)家指出的問(wèn)題，也就是我們現(xiàn)在訓(xùn)練它們的方式我們不清楚如何避免這些系統(tǒng)變得自主并有自己的保護(hù)目標(biāo)，我們可能會(huì)失去對(duì)這些系統(tǒng)的控制。所以我們可能正在走上一條創(chuàng)造比我們更強(qiáng)大的怪物的道路�！�
OpenAI、Meta、谷歌、亞馬遜哪家大型人工智能公司做得對(duì)？
「從道德上講，我認(rèn)為表現(xiàn)最好的公司是 Anthropic（主要投資者包括亞馬遜和谷歌）。但我認(rèn)為他們都有偏見(jiàn)，因?yàn)樵诮?jīng)濟(jì)結(jié)構(gòu)中，他們的生存取決于成為領(lǐng)先公司之一，理想情況下是成為第一個(gè)實(shí)現(xiàn) AGI 的公司。這意味著一場(chǎng)競(jìng)賽企業(yè)之間的軍備競(jìng)賽，公共安全很可能是失敗的目標(biāo)。
Anthropic 發(fā)出了很多信號(hào)，表明他們非常關(guān)心如何避免災(zāi)難性后果。他們是第一個(gè)提出安全政策的公司，承諾如果人工智能最終擁有可能造成危險(xiǎn)的能力，他們就會(huì)停止這種努力。他們也是唯一支持SB 1047 的公司，與 Elon Musk 一樣。換句話(huà)說(shuō)，他們說(shuō)“是的，經(jīng)過(guò)一些改進(jìn)，我們同意提高安全程序和結(jié)果的透明度，并承擔(dān)責(zé)任，如果我們?cè)斐芍卮髠��！?/p>
您是否考慮過(guò) Nvidia 等人工智能股票的大幅上漲？
「我認(rèn)為可以確定的是長(zhǎng)期的發(fā)展軌跡。所以如果你長(zhǎng)期堅(jiān)持，這是一個(gè)相當(dāng)安全的選擇，除非我們無(wú)法保護(hù)公眾……[那么]反應(yīng)可能是一切都會(huì)崩潰，對(duì)吧？要么是因?yàn)樯鐣?huì)普遍反對(duì)人工智能，要么是因?yàn)檎嬲秊?zāi)難性的事情發(fā)生了，我們的經(jīng)濟(jì)結(jié)構(gòu)崩潰了。
不管怎樣，這對(duì)投資者來(lái)說(shuō)都是壞消息。所以我認(rèn)為，如果投資者夠聰明的話(huà)，他們應(yīng)該明白我們需要謹(jǐn)慎行事，避免犯下可能損害我們共同未來(lái)的錯(cuò)誤和災(zāi)難。」
對(duì)人工智能芯片競(jìng)賽的看法？
「我認(rèn)為芯片顯然正在成為難題的一個(gè)重要部分，當(dāng)然，這也是一個(gè)瓶頸。隨著各種事件的發(fā)生和我可以預(yù)見(jiàn)的未來(lái)幾年的科學(xué)進(jìn)步，對(duì)大量計(jì)算的需求很可能不會(huì)消失，因此擁有高端人工智能芯片功能將具有戰(zhàn)略?xún)r(jià)值供應(yīng)鏈中的所有步驟都很重要。目前很少有公司能夠做到這一點(diǎn)，所以我預(yù)計(jì)會(huì)看到更多的投資，并希望實(shí)現(xiàn)多元化。」
您如何看待 Salesforce 到 2026 年推出 10 億自主代理？
「自主性是這些公司的目標(biāo)之一，從經(jīng)濟(jì)和商業(yè)角度來(lái)看，這是一個(gè)巨大的突破，因?yàn)樗鼘㈤_(kāi)辟大量應(yīng)用。想想所有的個(gè)人助理應(yīng)用。它需要比目前最先進(jìn)的系統(tǒng)所能提供的更多的自主性。所以他們追求這樣的目標(biāo)也是可以理解的。Salesforce（CRM）認(rèn)為他們能在兩年內(nèi)實(shí)現(xiàn)這一目標(biāo)，這讓我很擔(dān)心。我們需要在實(shí)現(xiàn)這一目標(biāo)之前做好政府和技術(shù)方面的準(zhǔn)備�！�
紐森州長(zhǎng)否決了加州的 SB 1047 這是一個(gè)錯(cuò)誤嗎？
「他給出的理由讓我聽(tīng)不懂，比如不僅要監(jiān)管大型系統(tǒng)，還要監(jiān)管所有小型系統(tǒng)……事情可能會(huì)迅速發(fā)展我們討論過(guò)幾年。也許即使可能性很小，比如 10% [災(zāi)難發(fā)生的可能性]，我們也需要做好準(zhǔn)備。我們需要制定法規(guī)。我們需要讓公司已經(jīng)開(kāi)始記錄他們正在做的事情，并且要讓整個(gè)行業(yè)保持一致。
另一件事是這些公司擔(dān)心訴訟。我與很多公司進(jìn)行了交談，但已經(jīng)有了侵權(quán)法，因此如果它們?cè)斐蓳p害，隨時(shí)都有可能提起訴訟。而該法案在責(zé)任方面所做的就是縮小訴訟范圍……有 10 個(gè)條件，你需要滿(mǎn)足所有這些條件，法律才能支持訴訟。所以我認(rèn)為這實(shí)際上是有幫助的。但意識(shí)形態(tài)上存在著對(duì)任何參與的抵制任何與現(xiàn)狀不符的事情，任何國(guó)家對(duì)這些人工智能實(shí)驗(yàn)室事務(wù)的更多干預(yù)�！�
