近期，一系列事件引發(fā)了公眾對于人臉識別技術(shù)濫用的廣泛關(guān)注。隨著人工智能技術(shù)不斷發(fā)展，人臉識別大規(guī)模地應(yīng)用于安防、支付等日常生活場景中，但這項(xiàng)改變生活的技術(shù)當(dāng)前卻處于爭議中。就此，新京智庫組織舉辦“人臉識別不能被濫用”專題研討會，邀請多位法律學(xué)者與專業(yè)人士進(jìn)行深入的探討。
新京智庫：人臉識別被濫用的現(xiàn)象也側(cè)面反映了科技倫理問題，目前有哪些手段可以緩解技術(shù)與風(fēng)險之間的張力？未來新技術(shù)的出現(xiàn)應(yīng)如何建立相應(yīng)的倫理，并重獲公眾的信任呢？
討論人臉識別技術(shù)倫理的三個前提
段偉文：討論人臉識別技術(shù)倫理、規(guī)范的建立，首先要考慮三個層面的問題。第一，人臉識別技術(shù)本身存在局限性和由易獲得性造成的濫用風(fēng)險。只要不是百分百精準(zhǔn)，就意味著技術(shù)本身存在風(fēng)險；同時，人臉識別技術(shù)也是非常容易獲得的，但技術(shù)水準(zhǔn)參差不齊，人臉識別技術(shù)因門檻低易濫用而具有很大的風(fēng)險性。
第二，對于個人信息的保護(hù)和數(shù)據(jù)治理，公共部門既是數(shù)據(jù)治理的監(jiān)管者，又是數(shù)據(jù)的應(yīng)用者。雖然政府在很多領(lǐng)域具有更強(qiáng)的權(quán)威性，推廣起來更高效，但公共使用的邊界是什么，技術(shù)治理的公共倫理又是什么？
第三，從技術(shù)的長遠(yuǎn)發(fā)展來講，其應(yīng)用怎樣才能普惠公眾？這可能需要訂立新型社會契約。沒有契約，任何企業(yè)、任何人、任何地方只要存在可能就能夠部署人臉識別技術(shù)，采集的數(shù)據(jù)還能夠作為其他用途，這其中的風(fēng)險非常大。
考慮這三點(diǎn)后，我們可以從三方面著手。一是相關(guān)技術(shù)的部署方和相關(guān)企業(yè)的利益相關(guān)方、受益人的責(zé)任，并且這種責(zé)任是要面向不確定性的開放后果的責(zé)任，要通過哲學(xué)上、倫理上的考量，一定程度上體現(xiàn)在法律里面。
二是要通過設(shè)計來保護(hù)一般使用對象、被監(jiān)測對象的權(quán)利。比如對人臉數(shù)據(jù)的加密技術(shù)或者遮蔽技術(shù)。
現(xiàn)在，人臉識別技術(shù)已經(jīng)開始打破皮膚表面和表面下的環(huán)節(jié)，通過熱敏識別，在戴口罩的情況下也可以進(jìn)行人臉識別，這意味著在技術(shù)上已經(jīng)能夠越過體表識別體內(nèi)的血液循環(huán)，包括靜脈曲張甚至甲亢都有可能識別。因此，需要加入相關(guān)的加密技術(shù)來保密數(shù)據(jù)；如果沒有，又沒有相關(guān)的法律和倫理規(guī)范，技術(shù)就不能“跑”這么快。
第三，我們不要忘記非技術(shù)性解決方案。在依靠大量技術(shù)手段時，同時要看到更多的人，包括老年人、少年兒童等需要特殊保護(hù)和關(guān)照的群體，應(yīng)該提供一些技術(shù)手段之外的非技術(shù)手段來滿足這些人的需要。
約束新技術(shù)需要一套新社會規(guī)制體系
薛軍：高新技術(shù)的使用很受關(guān)注，需要一些社會規(guī)制，包括通過制定標(biāo)準(zhǔn)、法律法規(guī)、行業(yè)守則等。規(guī)制的體系可以很豐富而且多元化。不能把法律當(dāng)作唯一能夠發(fā)揮作用的角色，還需要通過更多靈活、多元化的機(jī)制。這是因?yàn)榧夹g(shù)本身發(fā)展很快，法律很難及時制定與修改。
所以，我們一定要發(fā)展出適應(yīng)高科技時代的新社會規(guī)制體系。技術(shù)準(zhǔn)則、安全評估準(zhǔn)則或者技術(shù)規(guī)范等，都是很有效的規(guī)制手段，都能夠發(fā)揮一定的作用。具體到人臉識別技術(shù)，目前雖然有一些規(guī)制手段，但是還是欠缺。
比如小區(qū)能否使用人臉識別技術(shù)，至少得有一個相對比較權(quán)威的指導(dǎo)性技術(shù)準(zhǔn)則來說明，在什么情況下，有技術(shù)保障能力、具備防范風(fēng)險要求的時候可以使用，而其他情況則不能使用。如果有這樣的科技準(zhǔn)則就可以獲得很好的指導(dǎo)，并且標(biāo)準(zhǔn)可以隨著時間的演變不斷發(fā)展。
同時，技術(shù)問題可能還是要回歸到技術(shù)層面解決。比如像虛擬號碼技術(shù)以及條碼化就解決了網(wǎng)約車、快遞件上個人信息泄露的風(fēng)險；比如在進(jìn)行算法模型訓(xùn)練時，模型動而數(shù)據(jù)不動等方式，也有利于確保不產(chǎn)生數(shù)據(jù)合并、轉(zhuǎn)移等風(fēng)險。
朱�。�對相關(guān)技術(shù)進(jìn)行立法，并不是拖了技術(shù)、社會發(fā)展的后腿，而是為了維持社會更好的平衡。不能因?yàn)槿四樧R別技術(shù)提供了更高的效率，就把效率當(dāng)作新的正義觀。
效率任何時候都不可能成為正義觀，除非有一定的背景制度。這個背景制度就是我們今天討論的，人臉識別技術(shù)需要一定的約束。只有在具備約束的背景下，技術(shù)產(chǎn)生的效率，才能被認(rèn)為符合正義觀。
現(xiàn)在很多企業(yè)強(qiáng)調(diào)科技向善、強(qiáng)調(diào)算法倫理等問題，不是在拉效率的后腿，而是要讓整個社會的福祉和個體權(quán)益的正義回到很高的位置上。人永遠(yuǎn)都是目的，而不是手段。
新京報記者 鄭偉彬 校對：楊許麗
