人工智能驅(qū)動的神經(jīng)技術(shù)發(fā)展如此之迅猛，聯(lián)合國組織也在醞釀對其進(jìn)行全球監(jiān)管。
13日，聯(lián)合國教科文組織（UNESCO）舉辦國際會議探索神經(jīng)技術(shù)在解決難治性神經(jīng)系統(tǒng)和精神障礙問題上的巨大潛力，并將開始制定針對神經(jīng)技術(shù)的“通用道德框架”。
負(fù)責(zé)撰寫UNESCO《神經(jīng)技術(shù)倫理問題報告》的主要作者斯奎恰里尼（Mariagrazia Squicciarini）表示：“當(dāng)你添加AI時，你就給神經(jīng)技術(shù)注入了類固醇。”
神經(jīng)技術(shù)，包括用于診斷和治療大腦相關(guān)疾病的植入物，正在開始改善殘疾人的生活，但對基于人工智能（AI）程序的投資增加，這些程序可以讀取人們的思想并存儲神經(jīng)數(shù)據(jù)，這引起了人們對其使用的擔(dān)憂。
為全球倫理框架奠定基礎(chǔ)
神經(jīng)技術(shù)可以幫助人類解決許多健康問題，但它也可能觸及并操控大腦結(jié)構(gòu)，生成與我們的身份、情感相關(guān)的信息。聯(lián)合國方面認(rèn)為，急需在全球?qū)用鏋樯窠?jīng)技術(shù)行業(yè)建立共同的倫理框架，此前UNESCO已經(jīng)在人工智能領(lǐng)域完成了這一任務(wù)。
據(jù)悉，在13日舉行的UNESCO國際會議上，各方將探索神經(jīng)技術(shù)在解決難治性神經(jīng)系統(tǒng)和精神障礙問題上的巨大潛力及其威脅。
該會議的最終目標(biāo)是促進(jìn)更好地理解與神經(jīng)技術(shù)治理相關(guān)的倫理問題，為制定倫理框架做準(zhǔn)備。該框架將由UNESCO的會員國審議并投票表決。有關(guān)程序?qū)⒆裱愃朴赨NESCO為人類基因組（1997年）、人類基因數(shù)據(jù)（2003年）和AI（2021年）建立全球倫理框架的方法。
UNESCO認(rèn)為，生成式AI有關(guān)最新發(fā)展，以及AI技術(shù)的普及和其對人類、民主和就業(yè)構(gòu)成的風(fēng)險，這些都證實了其制定的AI倫理全球標(biāo)準(zhǔn)的有效性和及時性。神經(jīng)數(shù)據(jù)和AI的融合將帶來更為嚴(yán)峻的挑戰(zhàn)。
歐洲工商管理學(xué)院（INSAED）的決策科學(xué)和技術(shù)管理教授埃夫根尼奧（Theos Evgeniou）對第一財經(jīng)記者解釋道，生成性AI涉及人類語言和人類身份。而人類語言是幫助我們定義“我們是誰”和“我們做什么”的重要部分。因此，如果技術(shù)可以模仿那些能夠定義人類身份認(rèn)同的東西，就帶來了新潛在風(fēng)險和新可能性。
“譬如像ChatGPT這樣的生成性AI技術(shù)是所謂‘根基模型’（foundation models）。人們可以在這種模型的基礎(chǔ)上開發(fā)大量產(chǎn)品，并能夠進(jìn)行微調(diào)。換言之，它們不是單純的產(chǎn)品，而是核心技術(shù)，是人們可以開發(fā)的產(chǎn)品之核心所在。這種核心技術(shù)本身已經(jīng)非常強大，我們甚至無法預(yù)測人們將依靠它們開發(fā)出什么。我們也從未仔細(xì)考慮過如何管控和規(guī)范根基模型。這是一種新概念。”他解釋道。
神經(jīng)技術(shù)更是如此。神經(jīng)技術(shù)涵蓋任何用于“訪問、監(jiān)測、調(diào)查、評估、操縱和/或模擬動物或人類神經(jīng)系統(tǒng)的結(jié)構(gòu)和功能”的設(shè)備和程序。神經(jīng)技術(shù)設(shè)備包括“可穿戴設(shè)備”，如智能手表和手環(huán)，以及非侵入式腦機(jī)接口，如機(jī)械肢體，及目前正在開發(fā)的用于治療癱瘓等殘障的腦植入物。
根據(jù)UNESCO給出的數(shù)據(jù)，全球每8人中就有1人患有精神或神經(jīng)障礙，相關(guān)治療費用占到發(fā)達(dá)國家總醫(yī)療支出的三分之一，在中低收入國家也成為日益沉重的負(fù)擔(dān)。
世衛(wèi)組織的數(shù)據(jù)則顯示，到2050年，60歲以上人口預(yù)計將翻番，達(dá)到21億，上述支出亦將持續(xù)增長。神經(jīng)技術(shù)有降低癲癇、阿爾茨海默并帕金森病和中風(fēng)等神經(jīng)系統(tǒng)障礙導(dǎo)致的死亡和殘障的巨大潛力。
UNESCO認(rèn)為，然而，如果沒有倫理護(hù)欄，這些技術(shù)可能會帶來嚴(yán)重風(fēng)險，因為大腦信息可以被訪問和操縱，威脅到基本權(quán)利和自由，而這些是人類身份、思想自由、隱私、記憶等概念的核心。
加劇全球不平等并產(chǎn)生新的不平等風(fēng)險
UNESCO的數(shù)據(jù)顯示，目前，50%的神經(jīng)技術(shù)公司位于美國，35%位于歐洲和英國。由于神經(jīng)技術(shù)可能引領(lǐng)新一代的“超級人類”，這將進(jìn)一步擴(kuò)大國家之間在教育、技能和財富方面的差距，使擁有最先進(jìn)技術(shù)的人獲得不公平的優(yōu)勢。
根據(jù)其研究人員估計，自2010年以來的10年間，對Onward Medical和馬斯克的 Neuralink等神經(jīng)科技公司的私人投資增加了二十多倍，到2020年達(dá)到73億美元。到2027年，神經(jīng)科技設(shè)備市場預(yù)計將超過240億美元。
神經(jīng)科學(xué)論文數(shù)量從2011年的57899篇增加到2021年的94456篇，而全球與神經(jīng)技術(shù)相關(guān)的專利從2010年的418項增加到2020年的1531項。
紐約哥倫比亞大學(xué)神經(jīng)技術(shù)中心主任尤斯特（Rafael Yuste）是一位領(lǐng)先的神經(jīng)生物學(xué)家，也是“保護(hù)精神隱私”國際監(jiān)管的倡導(dǎo)者。
他表示，在去年發(fā)表的四項研究中，并非所有研究都經(jīng)過同行評審，“研究人員使用不需要神經(jīng)外科手術(shù)插入的非侵入性設(shè)備，解碼了人類志愿者大腦中的語音和圖像”。
“所有四項研究都采用了先進(jìn)的人工智能模型來解碼大腦數(shù)據(jù)，”尤斯特說，“新算法將使人們能夠解碼高度敏感的信息，這使得保護(hù)心理隱私變得更加緊迫。”
他補充說，監(jiān)管是必要的，因為“美國和加拿大的神經(jīng)科技公司幾乎無一例外地在其消費者用戶協(xié)議中完全擁有客戶神經(jīng)數(shù)據(jù)”。
“我們需要保護(hù)精神財產(chǎn)否則公司將開始儲存大腦數(shù)據(jù)。他們今天可能無法解碼它，但人工智能明天將使他們能夠解碼它。”他表示。
尤斯特自己的實驗室已經(jīng)解碼并操縱了小鼠視覺皮層的神經(jīng)處理，以便研究人員能夠“植入幻覺”讓它們看到他們實際上沒有看到的東西。
斯奎恰里尼表示：“我們并不反對神經(jīng)技術(shù)或要求暫停研究，因為它具有減少神經(jīng)系統(tǒng)疾病造成的死亡和殘疾的巨大潛力。但我們需要一種全球協(xié)調(diào)的神經(jīng)技術(shù)監(jiān)管方法，不僅在醫(yī)學(xué)領(lǐng)域，而且在消費市常”
要看到的是，神經(jīng)數(shù)據(jù)，即捕捉個體反應(yīng)和基本情緒的數(shù)據(jù)，在消費市場上需求旺盛。與社交媒體平臺收集的數(shù)據(jù)不同，大部分神經(jīng)數(shù)據(jù)是在無意識狀態(tài)下生成，因此無法許可其使用。如果敏感數(shù)據(jù)被提取，然后落入壞人之手，個體將承受其有害后果。
UNESCO并表示，在兒童或青少年仍處于神經(jīng)發(fā)育重要階段時植入腦機(jī)接口可能會干擾大腦的“正常”發(fā)育。它可能會改變年輕人的思維，影響人格塑造，并產(chǎn)生長期甚至永久的影響。
