劃重點
01人工智能有望在5-10年內(nèi)治愈或預防大多數(shù)精神疾病，提高生活質(zhì)量。
02人工智能發(fā)展將推動神經(jīng)科學領(lǐng)域的進步，包括疾病治療、心理健康改善和認知功能提升。
03然而，人工智能發(fā)展也可能帶來挑戰(zhàn)，如不平等、財富分配和選擇退出問題。
04為此，人工智能公司和政策制定者需共同努力，確保發(fā)展中國家受益，實現(xiàn)全球健康、經(jīng)濟和糧食安全目標。
05另一方面，人工智能在改善和平、民主和自由等方面具有潛力，但實現(xiàn)這些目標仍需人類付出巨大努力。
以上內(nèi)容由騰訊混元大模型生成，僅供參考
Anthropic，OpenAI前研究負責人Dario Amodei 成立的AI公司。
這幾天，Dario發(fā)表一篇展望AGI對世界影響的長文，提出AI將把一個世紀的科研進展壓縮到5-10年。
原文翻譯如下：
《仁慈的機器》Machines ofLoving Grace
人工智能如何讓世界變得更美好
2024 年 10 月我經(jīng)常琢磨強人工智能的風險。作為Anthropic的CEO，做了大量關(guān)于如何降低這些風險的研究。所以，人們有時會覺得我是個悲觀派，或者“末日預言者”，認為人工智能帶來的大多是壞處或危險。我完全不這么想。其實，我關(guān)注風險的主要原因之一是，只有解決了這些風險，才能迎來我認為的，根本上積極的未來。我覺得大多數(shù)人低估了人工智能可能帶來的巨大好處，就像大多數(shù)人低估了風險可能有多糟糕一樣。本文中，我試著描繪一下這種好處可能的樣子如果一切順利，一個擁有強人工智能的世界會是什么樣。當然，沒人能確切預知未來，強人工智能的影響可能比過去的技術(shù)變革更難預測，所以這一切都不可避免地會包含一些猜測。但我至少的目標是做出有根據(jù)的、有用的猜測，即使很多細節(jié)最終是錯的，也能抓住未來發(fā)展的大致方向。我之所以寫這么多細節(jié)，主要是因為我認為具體的設(shè)想比高度回避和抽象的描述更有利于推進討論。不過，首先，我想簡單解釋一下為什么我和 Anthropic 沒有過多談?wù)搹娙斯ぶ悄艿囊嫣?/strong>，以及為什么我們總體上可能會繼續(xù)更多地談?wù)擄L險。具體來說，我做出這個選擇是出于以下幾個考慮：最大化影響力。人工智能技術(shù)的基本發(fā)展及其諸多（并非所有）好處似乎是不可避免的（除非風險毀掉一切），而且從根本上是由強大的市場力量驅(qū)動的。另一方面，風險不是注定的，我們的行動可以極大地改變風險發(fā)生的可能性。避免被認為是宣傳。人工智能公司如果成天鼓吹人工智能的好處，可能會讓人覺得像是在做宣傳，或者像是在試圖掩蓋它的缺點。我也認為，原則上，花太多時間“王婆賣瓜，自賣自夸”對你的靈魂不好。避免自命不凡。我經(jīng)常很反感一些人工智能風險領(lǐng)域的公眾人物（更不用說人工智能公司領(lǐng)導）談?wù)摵?AGI（通用人工智能）世界的方式，好像他們的使命是像先知引導信徒走向救贖一樣，單槍匹馬地創(chuàng)造未來。我認為把公司視為單方面塑造世界的力量是危險的，把實際的技術(shù)目標用近乎宗教的口吻來描述也是危險的。避免“科幻”色彩。雖然我覺得大多數(shù)人低估了強人工智能的優(yōu)勢，但確實討論過激進人工智能未來的人，通常會用一種過于“科幻”的口吻 (比如，上傳意識、太空探索，或者一股賽博朋克風)。我覺得這會導致人們不把這些說法當回事，覺得它們不切實際。說白了，問題不在于這些技術(shù)是否可能或大概率會實現(xiàn)（正文會詳細討論這一點）更多的是這種“氛圍”暗藏著許多文化包袱和未說明的假設(shè)，比如什么樣的未來才是好的，各種社會問題會如何發(fā)展等等。最終往往會讀起來像是一小撮亞文化群體的幻想，而讓大多數(shù)人感到反感。盡管有以上顧慮，但我真的覺得我們有必要討論一下，一個擁有強人工智能的美好世界應(yīng)該是什么樣，同時要盡力避免以上那些問題。其實，我覺得擁有一幅真正鼓舞人心的未來圖景至關(guān)重要，而不僅僅是一個應(yīng)對危機的方案。強人工智能的很多影響確實具有對抗性或危險性，但歸根結(jié)底，我們必須有為之奮斗的目標，有一些能讓每個人都過得更好的雙贏結(jié)果，有一些能團結(jié)大家，讓人們放下爭吵，共同應(yīng)對未來挑戰(zhàn)的東西�？謶质且环N動力，但這還不夠：我們還需要希望。強人工智能的積極應(yīng)用清單很長（包括機器人、制造業(yè)、能源等等），但我準備重點討論幾個在我看來最有可能直接改善人類生活質(zhì)量的領(lǐng)域。我最感興趣的五個方向是：
1.生物學和身體健康
2.神經(jīng)科學和心理健康
3.經(jīng)濟發(fā)展和扶貧
4.和平與治理
5.工作和意義我的預測用大多數(shù)標準來看（科幻“奇點”之類的設(shè)想除外），都會顯得比較激進，但我表達得很認真、很真誠。我說的每一點都可能出錯（再說一遍我之前的觀點），但我至少嘗試用對各個領(lǐng)域發(fā)展速度以及實際意義的分析評估作為基矗我很幸運在生物學和神經(jīng)科學領(lǐng)域都有專業(yè)經(jīng)驗，在經(jīng)濟發(fā)展領(lǐng)域也算是個比較資深的愛好者，但我肯定還是會犯很多錯誤。寫這篇文章讓我意識到，找一幫各領(lǐng)域的專家（生物學、經(jīng)濟學、國際關(guān)系等等）一起合作，寫一個比我寫得更好、更專業(yè)的版本會很有價值。最好把我的這篇文章看作是這個團隊的初步構(gòu)思。基本假設(shè)和框架為了讓整篇文章更準確、更扎實，我們需要明確“強人工智能”（也就是 5-10 年倒計時開始的節(jié)點）指的是什么，以及建立一個思考這種人工智能出現(xiàn)后的影響的框架。強人工智能（我不喜歡 AGI這個詞）會是什么樣子，以及它什么時候（或者是否）會出現(xiàn)，這本身就是一個很大的話題。我之前公開討論過這個問題，也可以專門寫一篇文章（我以后可能會寫）。顯然，很多人懷疑強人工智能能不能很快造出來，有些人甚至懷疑它能不能造出來。我覺得它最早 2026 年就能出現(xiàn)，當然也可能會晚很多。但就本文而言，我想先把這些問題放一邊，假設(shè)它很快就會出現(xiàn)，重點討論它出現(xiàn)之后 5-10 年會發(fā)生什么。我還想預設(shè)一下這種人工智能系統(tǒng)的樣子、它的能力以及它的交互方式，即使在這個問題上存在分歧。我說的強人工智能，是指一種人工智能模型形式上可能類似于現(xiàn)在的大型語言模型（LLM），雖然它可能基于不同的架構(gòu)，可能包含幾個相互作用的模型，訓練方式也可能不一樣它有以下幾個特點：單從智力來看，它在大多數(shù)相關(guān)領(lǐng)域生物學、編程、數(shù)學、工程、寫作等等都比諾貝爾獎得主聰明。這意味著它可以證明未解決的數(shù)學定理，寫出特別優(yōu)秀的小說，從零開始寫復雜的代碼，等等。它不只是一個“能跟你聊天的聰明東西”，它還擁有所有人類在虛擬世界工作時能用的“交互方式”，包括文字、音頻、視頻、鼠標鍵盤控制，以及上網(wǎng)。它可以進行任何這種交互方式支持的操作、溝通或者遠程操控，包括在網(wǎng)上做事，給人下指令或者接受指令，訂購材料，指導實驗，看視頻，制作視頻，等等。它完成所有這些任務(wù)的水平，都遠超世界頂尖的人類。它不只是被動地回答問題；它可以被分配需要幾個小時、幾天甚至幾周才能完成的任務(wù)，然后像一個聰明的員工一樣獨立完成這些任務(wù)，需要的時候還會問問題。它沒有實體（除了在電腦屏幕上），但它可以通過電腦控制現(xiàn)有的實體工具、機器人或者實驗室設(shè)備；理論上，它甚至可以給自己設(shè)計機器人或設(shè)備來用。訓練這個模型用的資源，可以用來運行它的數(shù)百萬個副本（這跟預計到 2027 年的集群規(guī)模差不多），這個模型吸收信息和做出行動的速度大概是人類的 10 到 100 倍。不過，它可能會受到物理世界或者它交互的軟件的響應(yīng)速度的限制。人工智能時代，我們應(yīng)該討論智能的額外收益，并弄清楚哪些其他因素能跟智能互補，哪些因素會在智能很高的時候成為瓶頸。我們不習慣這么想問題問“更聰明對這個任務(wù)有多大幫助，在什么時間尺度上有幫助？”但這似乎才是思考強人工智能世界的好方法。
