你可曾有過(guò)這樣的經(jīng)歷：打開(kāi)某APP，看到一條低俗軟色情的帖子，沒(méi)忍住點(diǎn)了開(kāi)來(lái)。從此，系統(tǒng)天天給你整屏整屏地推薦這類(lèi)帖子，有價(jià)值的信息被淹沒(méi)，讓你束手無(wú)策。你干脆放縱自己，沉溺在低俗信息之中。
在這個(gè)信息爆炸的時(shí)代，個(gè)人智能終端已經(jīng)基本到了全民普及的程度。注意力經(jīng)濟(jì)成為了所謂新經(jīng)濟(jì)的核心錨點(diǎn)之一，為幾乎所有的智能應(yīng)用系統(tǒng)所重點(diǎn)關(guān)注。如何吸引注意力，增加個(gè)人在移動(dòng)應(yīng)用系統(tǒng)上面的停留時(shí)間，已經(jīng)成為考核系統(tǒng)核心算法的關(guān)鍵指標(biāo)。
市人大代表陳杰軍意識(shí)到，這些精巧設(shè)計(jì)，擅長(zhǎng)利用人體神經(jīng)細(xì)胞的運(yùn)作機(jī)制，擅長(zhǎng)利用人性弱點(diǎn)的算法，不斷精益求精，努力建立人的行為預(yù)測(cè)模型，精巧推薦讓用戶(hù)感興趣的內(nèi)容，讓人不由自主深陷其中，不能自拔。
“這些算法對(duì)于人腦神經(jīng)細(xì)胞的影響，已經(jīng)接近毒品的作用機(jī)理，任其發(fā)展下去不加以監(jiān)管，會(huì)帶來(lái)非常嚴(yán)重的問(wèn)題，尤其對(duì)于青少年一代。”陳杰軍說(shuō)，算法在明顯誘導(dǎo)人上癮，成癮性人工智能算法會(huì)使人喪失獨(dú)立思考的能力，“是時(shí)候嚴(yán)肅思考這些算法本身所帶來(lái)的生理以及倫理問(wèn)題。”
陳杰軍建議，建立對(duì)于個(gè)人消費(fèi)電子智能應(yīng)用系統(tǒng)中的人工智能算法的評(píng)價(jià)體系，引入類(lèi)似于電影等的審核評(píng)級(jí)機(jī)制；對(duì)于明顯誘導(dǎo)人上癮的算法，禁止進(jìn)行發(fā)布。擴(kuò)展“凈網(wǎng)行動(dòng)“的監(jiān)管范圍，建立定期審核機(jī)制。定義并深化政府的“防沉迷政策”，使用相應(yīng)的法規(guī)來(lái)約束。
