1000多名研究人員、學(xué)者和專家簽署了一封公開信，反對使用人工智能預(yù)測犯罪。
任何看過科幻經(jīng)典《少數(shù)派報告》的人都會對在犯罪發(fā)生前預(yù)測犯罪行為感到擔(dān)憂。在理想的情況下，犯罪預(yù)測可以幫助決定將警察資源分配到哪里但現(xiàn)實(shí)情況將大不相同。
研究人員在即將出版的名為“利用圖像處理技術(shù)預(yù)測犯罪行為的深度神經(jīng)網(wǎng)絡(luò)模型”的刊物前發(fā)表了上述言論。在這篇論文中，作者聲稱能夠通過自動面部識別來預(yù)測一個人是否會成為罪犯。
哈里斯堡大學(xué)教授、論文合著者Nathaniel J.S. Ashby說：“通過不帶偏見地自動識別潛在威脅，我們的目標(biāo)是生產(chǎn)出受隱性偏見和情緒反應(yīng)影響較小的犯罪預(yù)防、執(zhí)法和軍事應(yīng)用工具。”
我們的下一步是尋找戰(zhàn)略伙伴來推進(jìn)這一使命。”
找到愿意合作的伙伴可能是一項(xiàng)挑戰(zhàn)。公開信的簽名者包括微軟、谷歌和Facebook等科技巨頭從事人工智能工作的員工。
在信中，這些簽名者強(qiáng)調(diào)了當(dāng)今人工智能技術(shù)的許多問題，這些問題讓涉足犯罪預(yù)測變得非常危險。
在這些擔(dān)憂中，最主要的是有充分證據(jù)證明的算法的種族偏見。目前的每個面部識別系統(tǒng)在識別白人男性時都更加準(zhǔn)確，而且在執(zhí)法環(huán)境中使用時經(jīng)常會將巴姆社區(qū)的成員誤認(rèn)為罪犯。
然而，即使人臉識別算法的不準(zhǔn)確性得到了解決，研究人員也強(qiáng)調(diào)了當(dāng)前司法系統(tǒng)的問題。在最近幾周喬治弗洛伊德被謀殺后，司法系統(tǒng)的問題成為人們關(guān)注的焦點(diǎn)。
在信中，研究人員解釋道:
這一性質(zhì)的研究及其對準(zhǔn)確性的要求都建立在這樣一種假設(shè)之上，即有關(guān)刑事逮捕和定罪的數(shù)據(jù)可以作為潛在犯罪活動的可靠、中立的指標(biāo)。然而，這些記錄遠(yuǎn)非中立。
正如眾多學(xué)者論證的那樣，歷史法庭和逮捕數(shù)據(jù)反映了刑事司法制度的政策和實(shí)踐。這些數(shù)據(jù)反映了警察選擇逮捕誰，法官選擇如何裁決，以及哪些人被判較長或較輕的刑期。
無數(shù)的研究表明，在法律體系的各個階段，有色人種受到的對待要比處境相似的白人更為嚴(yán)厲，這導(dǎo)致了數(shù)據(jù)的嚴(yán)重扭曲。因此，在判斷一個人是否具有‘罪犯的面孔’時，任何建立在現(xiàn)有刑事法律框架內(nèi)的軟件都會不可避免地重復(fù)這些偏見和基本錯誤。”
這篇有爭議的論文的共同作者之一Jonathan W. Korn是一名博士生，他被認(rèn)為是紐約警察局的老兵�？贫髡f，能夠預(yù)測犯罪行為的人工智能將成為“執(zhí)法機(jī)構(gòu)的一大優(yōu)勢”。
雖然這樣的系統(tǒng)會讓執(zhí)法人員的生活更輕松，但它的代價是隱私和自動化的種族定性。
“機(jī)器學(xué)習(xí)程序不是中立的;研究議程和他們使用的數(shù)據(jù)集往往繼承了對世界的主導(dǎo)文化信念，”信的作者警告說。
“對默認(rèn)假設(shè)的不加批判的接受，不可避免地導(dǎo)致了算法系統(tǒng)中的歧視性設(shè)計(jì)，重現(xiàn)了使社會等級正�；褪贯槍吘壔后w的暴力合法化的思想。”
