展會信息港展會大全

擔(dān)心 AI 毀滅人類的科學(xué)家離開 OpenAI
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-05-16 09:05:40   瀏覽:4293次  

導(dǎo)讀:OpenAI 聯(lián)合創(chuàng)始人、首席科學(xué)家伊爾亞蘇茨克維(Ilya Sutskever)在社交媒體宣布,已經(jīng)離開工作十多年的公司。他的繼任者是 OpenAI 原研發(fā)總監(jiān)雅庫布帕喬基(Jakub Pachocki)。后者本科畢業(yè)于波蘭華沙大學(xué),博士畢業(yè)于卡耐基梅隆大學(xué),在哈佛大學(xué)做過一年博...

擔(dān)心 AI 毀滅人類的科學(xué)家離開 OpenAI

OpenAI 聯(lián)合創(chuàng)始人、首席科學(xué)家伊爾亞蘇茨克維(Ilya Sutskever)在社交媒體宣布,已經(jīng)離開工作十多年的公司。他的繼任者是 OpenAI 原研發(fā)總監(jiān)雅庫布帕喬基(Jakub Pachocki)。后者本科畢業(yè)于波蘭華沙大學(xué),博士畢業(yè)于卡耐基梅隆大學(xué),在哈佛大學(xué)做過一年博士后。2017 年離開學(xué)術(shù)界,開始在 OpenAI 工作,也是開發(fā) GPT-4 的關(guān)鍵人物之一

OpenAI CEO 薩姆阿爾特曼發(fā)文回應(yīng),“伊爾亞要與 OpenAI 分道揚(yáng)鑣了,這讓我很難過;伊爾亞無疑是我們這一代最具才智的人物之一,是我們這個(gè)領(lǐng)域的指路明燈,也是一位親愛的朋友。他的才華和遠(yuǎn)見是眾所周知的;他的熱情和同情心不那么為人所知,但同樣重要。沒有他,OpenAl 就不會有今天。”

OpenAI 總裁布洛克曼也發(fā)文感謝蘇茨克維的付出,稱其為一位藝術(shù)家:“盡管人們懷疑 AGI 是否在可預(yù)見的未來出現(xiàn),但我們會仔細(xì)思考并采取行動,堅(jiān)信深度學(xué)習(xí)可以帶我們到達(dá)那里。”

2015 年,當(dāng)阿爾特曼與馬斯克決定創(chuàng)辦一個(gè)非營利性的 AI 研究實(shí)驗(yàn)室時(shí),馬斯克為了把蘇茨克維從 Google 挖走,不惜與 DeepMind 的 CEO 哈薩比斯決裂。蘇茨克維加入 OpenAI 后,憑借其在軟件系統(tǒng)開發(fā)方面的專業(yè)背景,領(lǐng)導(dǎo)了對 GPT 的研發(fā)。

去年 11 月,蘇茨克維主導(dǎo)了罷免 CEO 阿爾特曼的 “政變”,但很快反悔,迎回阿爾特曼,之后便再也沒有公開發(fā)聲。外界普遍認(rèn)為二者的分歧可能源于 OpenAI 商業(yè)化帶來的安全風(fēng)險(xiǎn)。

蘇茨克維是一個(gè)純粹的技術(shù)理想主義者,認(rèn)為 AI 必須永遠(yuǎn)可控,且以人類的價(jià)值觀和道德規(guī)范行事,尤其是當(dāng)他認(rèn)識到 AI 的自主性正在迅速提升,并可能在未來超越人類。如果這樣的超級智能缺乏對人類無條件的認(rèn)同和愛,就可能取代甚至毀滅人類。

阿爾特曼的態(tài)度和行為則更加接近 “有效加速主義”,即相信面臨顛覆式的技術(shù)創(chuàng)新時(shí),最好的辦法是盡快地推向市場,哪怕技術(shù)本身還不完美,實(shí)際應(yīng)用和真實(shí)反饋也比無止境地研究更有價(jià)值。硅谷知名投資人馬克安德森(Marc Andreessen)和 YC 現(xiàn)任 CEO 陳嘉興(Garry Tan)都旗幟鮮明地信奉這種價(jià)值觀。

去年 7 月,在 ChatGPT 剛剛完成一次有明顯商業(yè)化意圖的大更新后,蘇茨克維和另一位 OpenAI 科學(xué)家簡萊克(Jan Leike)在 OpenAI 內(nèi)部成立了 “超級對齊” 團(tuán)隊(duì),要用 OpenAI 至少 20% 的算力資源,來讓人工智能系統(tǒng)與人類的價(jià)值觀保持一致。這次蘇茨克維宣布離職幾個(gè)小時(shí)后,萊克也緊接著辭職。上個(gè)月,“超級對齊” 團(tuán)隊(duì)兩位核心研究員還曾被 OpenAI 開除。

蘇茨克維是以色列裔加拿大人,師從 2018 年圖靈獎得主杰弗里辛頓(Geoffrey Hinton)。在他的學(xué)術(shù)歷程中,2012 年開發(fā)的深度卷積神經(jīng)網(wǎng)絡(luò) AlexNet 是重要一環(huán),它在當(dāng)年的 ImageNet 挑戰(zhàn)賽中奪冠,且精確度是第二名的兩倍。AlexNet 的成功為深度學(xué)習(xí)領(lǐng)域的發(fā)展奠定基礎(chǔ),也在一定程度上影響當(dāng)前 AI 領(lǐng)域?qū)?GPU 的重視。

此外,他在時(shí)序預(yù)測回歸模型 Seq2Seq、主流機(jī)器學(xué)習(xí)框架 TensorFlow 等自然語言處理、計(jì)算機(jī)視覺等領(lǐng)域都有重要的科研成果。ICLR 2024 會議為了尋找具有長期影響力的論文,審查了十年前的學(xué)術(shù)研究,蘇茨克維在 2014 年的一篇論文獲得時(shí)間檢驗(yàn)獎亞軍。

蘇茨克維稱他已有下一步計(jì)劃,但并未透露更多細(xì)節(jié)。(邱豪 曾興)

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會 | 展會港