人工智能設計的內(nèi)涵
“合乎倫理設計”作為美國電氣與電子工程師協(xié)會的框架性指導文件，目的在于指導與規(guī)范人工智能在設計上合乎道德標準，達到造福全人類的目的，避免算法偏見等潛在風險。要想明確人工智能的設計以及人工智能“合乎倫理設計”，必須掌握設計的內(nèi)涵和本質(zhì)，關(guān)注設計中的倫理問題。
對于設計的內(nèi)涵和本質(zhì)眾說紛紜，學界沒有達成統(tǒng)一意見，設計理論學家理查德布坎南（R. Buchanan）認為“設計往往被描述為支撐人類個人生活或者集體活動的人工物、手工制品或者產(chǎn)品。”設計學家維克多巴巴納克（V. Papanek）在其專著《為真實世界而設計》中提出設計必須尊重客觀世界的規(guī)律，設計基于真理性，設計也為了實現(xiàn)設計者目的，設計具有目的性，設計是真理性與目的性的統(tǒng)一。美國工程哲學家沃爾特文森蒂（W. G. Vincenti）提出“設計當然不僅僅指一組設計方案與圖表，也包括產(chǎn)生這些設計方案與圖表的過程。”從上述話語，我們可以看出文森蒂認為設計不僅僅關(guān)注設計的結(jié)果或者設計人工物，并且還要關(guān)注設計的過程。設計學家卡萊夫蒂姆（C. L. Dym）認為設計不能簡單界定為結(jié)果或者過程，設計是一個系統(tǒng)工程，”工程設計是對于人工物進行專門化系統(tǒng)的、智力的概括與評估。這些人工物的形式與工程滿足了所闡述的目標并且滿足了特定的約束條件。”荷蘭技術(shù)哲學家皮特克羅斯（P. Kroes）提出可以借鑒系統(tǒng)科學中的“結(jié)構(gòu)”與“功能”概念對技術(shù)人工物進行描述，“將一個物體描述成技術(shù)人工物，也就是描述成具有功能的物質(zhì)物體，需要進行結(jié)構(gòu)與功能描述。” 結(jié)構(gòu)與功能對于技術(shù)人工物缺一不可，不僅如此，技術(shù)人工物的功能由其結(jié)構(gòu)決定。約翰蓋羅（J. S. Gero）也把設計定義為所需功能轉(zhuǎn)化為實現(xiàn)這些功能的物體的（結(jié)構(gòu)）描述的活動。設計的結(jié)構(gòu)與人工物的功能緊密聯(lián)系。例如對于一個智能機器而言，設計它的目的是什么？為了避免戰(zhàn)場上的人員傷亡為抑或為了情感需要、為了減輕工作壓力呢？為此設計出軍事機器人、情感機器人以及工業(yè)機器人。形如問題：這個智能機器由幾部分構(gòu)成、由什么材料制作而成、各部分比例是多少等構(gòu)成呢？這些問題是關(guān)于人工智能機器的結(jié)構(gòu)性描述。對于人工智能機器而言，結(jié)構(gòu)性描述與功能性描述缺一不可。
通過上述對于設計內(nèi)涵的分析，我們可以看出設計過程并非價值無涉的，它包含了設計者的價值理念與價值判斷，在人工智能設計之初規(guī)范設計者的價值理念顯得尤為重要，設計主體在設計之初的信念與意圖決定著設計出什么樣的人工智能產(chǎn)品以及通過何種途徑設計人工智能產(chǎn)品。設計必須關(guān)注設計者的行為，設計行為必須關(guān)注設計行為的目標、設計行為的手段以及設計行為的規(guī)則。
“合乎倫理設計”理論背景分析
技術(shù)哲學的價值論轉(zhuǎn)向背景分析
人工智能的“合乎倫理設計”理論背景與技術(shù)哲學中的后人本主義思潮密切相關(guān)。荷蘭的技術(shù)哲學代表克羅斯與安東尼梅耶斯（A. Meiyers）等學者提出技術(shù)哲學的價值論轉(zhuǎn)向，關(guān)注技術(shù)設計，縱觀技術(shù)哲學的發(fā)展，技術(shù)哲學的研究進路是一個從技術(shù)批判的外在性進路到技術(shù)哲學經(jīng)驗轉(zhuǎn)向的內(nèi)在性技術(shù)的轉(zhuǎn)變過程，也是一個從描述性研究進路到規(guī)范性研究進路的轉(zhuǎn)變過程。價值論轉(zhuǎn)向之后技術(shù)哲學的核心內(nèi)容是技術(shù)設計以及其中的倫理問題，技術(shù)哲學家從關(guān)注技術(shù)使用以及社會反思與批判到關(guān)注技術(shù)人工物的設計。對于人工智能的研究除了關(guān)注算法、程序等技術(shù)問題，還要關(guān)注人工智能的社會影響，更要關(guān)注人工智能的設計環(huán)節(jié)機器設計倫理。
“道德物化”理論背景分析
一般來講，道德是對人的行為規(guī)范，人工物不是道德主體，例如，倫理學的后果論通過行動結(jié)果的價值來評價行動，道義論不從行動的結(jié)果而是從行動自身來評價行動。不管是哪種觀點，都指向道德主體為人，人工物不可能成為道德主體。但機會人工物并非與道德毫無關(guān)聯(lián)的，技術(shù)人工物具有與人類道德相關(guān)性，可以規(guī)范和引導人類形成或者保持遵守道德的行為。福格提出勸導性設計（Persuasive design），并將其運用到計算機技術(shù)學中，他認為根據(jù)可靠的道德標準設計的高科技勸導工具未來將大有可為，勸導技術(shù)是改變?nèi)说膽B(tài)度或行為的交互式技術(shù)，勸導設計是有勸導意圖性的設計，是對勸導技術(shù)的設計實踐。荷蘭的皮特維貝克（P. P. Verbeek）提出“道德物化（Materialization of Morality）”概念，認為技術(shù)具有道德調(diào)節(jié)作用，可以人類價值嵌入到技術(shù)人工物。維貝克的“道德物化”觀點一提出就引發(fā)學者的關(guān)注，漢斯阿特胡斯（H. Achterhuis）提出“將裝置道德化”。拉圖爾提出道德不僅僅在于人，而在于物，例如，馬路上的減速帶的設計是為了防止車輛超速駕駛。通過上述“道德物化”的分析，我們可以知道，設計有利于規(guī)范使用者的行為，設計的人工物具有道德調(diào)節(jié)作用。
人工智能技術(shù)以設計為邏輯起點
人工智能設計同樣應關(guān)注設計者的行為與設計中的價值負載問題。人工智能先驅(qū)希爾伯特西蒙（H. A. Simon）關(guān)注人工智能設計人工物。他在《人工科學》（The Sciences of theArtificial）借鑒亞里士多德的“四因說”來分析智能人工物設計的基礎與本質(zhì)，“人工物由人類合成制造（制造人工物的動力因）；人工物通過物理符號系統(tǒng)模仿自然物品的外觀，但缺乏自然的真實性（制造人工物的質(zhì)料因）；人工物包含合成和改造（制造人工物的形式因）以及人工物包含命令（制造人工物的目的因）。”西蒙認為設計不僅僅是對自然科學的補充，對于設計的研究還是一項心理學研究。設計是綜合性而非分析性活動，設計需要的不僅僅是描述性陳述，更需要規(guī)范性的規(guī)約。對于智能機器這種特殊人工物的設計倫理，除了設計倫理與在設計中嵌入人類道德之外，還要包括人類如何對待智能機器的倫理，這涉及到對于人與人工智能機器關(guān)系的界定。
“合乎倫理設計”的理論探源
人工智能的發(fā)展改變傳統(tǒng)主客關(guān)系
人與技術(shù)的關(guān)系或者說主客關(guān)系一直以來就是哲學思想的源頭，人是主體，人之外的世界是客體；只有主體才具有意向性，客體是人類主體認識的對象。在哲學的研究歷史中，從米利都學派的泰勒斯探索萬物本元的時候就關(guān)注主體如何認識客體，關(guān)注主客關(guān)系。技術(shù)哲學家唐伊德（D. Idle）通過討論技術(shù)在人與世界中的關(guān)系來討論主體與客體關(guān)系。維貝克繼承了伊德的人、技術(shù)與世界區(qū)分理論，他在分析人與技術(shù)的關(guān)系的基礎上重新思考了技術(shù)意向性問題，在此基礎上，維貝克提出了兩種新的人-技術(shù)-世界關(guān)系，即賽博格關(guān)系（cyborg relation） 和復合關(guān)系（composite relation）。
智能機器具有潛在的道德主體地位
智能機器是否具有道德主體地位應該考慮對于道德主體層次的界定。美國達特茅斯學院的哲學教授詹姆斯摩爾（J. H. Moor）在《機器倫理的本質(zhì)、重要性與困難》（The Nature,Importance, and Difficulty of Machine Ethics）提出，界定機器是否具有道德主體地位是困難的，倫理只是情感的表達，機器不可能有情感，但在當今的技術(shù)世界，我們不能也不應該避免對機器倫理的考慮。摩爾通過層次模式對人工道德主體進行了分類，他把道德主體分為四類：道德影響主體（Ethical-impact agents）、 隱性道德主體（Implicit ethical agents）、 顯性道德主體（Explicit ethical agents）以及完全道德主體（Full ethical agents）。隨著人工智能的發(fā)展，人工智能機器可能具有道德主體地位，不管人工智能是否是道德主體，人工智能設計都應該關(guān)注設計者行為與設計中的價值負荷問題，也要承認設計人工物的道德約束作用。
現(xiàn)在進入人工智能技術(shù)發(fā)展的“第四次革命”時代，不論是是否堅持智能機器具有人類智能，但都認識到人工智能出現(xiàn)具有與哥白尼革命、達爾文生物學革命、弗洛伊德心理學革命同樣的“顛覆性”作用，在設計之初通過“道德圖靈測試（Moral Turing Test）”，把人類的“善”的道德規(guī)范嵌入到人工智能技術(shù)的具體設計標準和設計環(huán)節(jié)中，把人工智能算法的透明性作為基礎，提倡人工智能算法的問責制，同時堅持公平、可靠、安全的人工智能設計原則，保護人類的隱私不受侵犯，保障人工智能技術(shù)的有序、良性發(fā)展。
END
本文節(jié)選自《自然辯證法通訊》2020年第42卷第4期
關(guān)注我們
發(fā)現(xiàn)更多
