數(shù)字化時(shí)代，消費(fèi)者拿起智能手機(jī)的每一刻，都是在召喚算法。算法可以決定人們?cè)诙兑羯峡吹侥男┮曨l，以及在拼多多上看到哪些商品。
近年來，基于消費(fèi)者大數(shù)據(jù)的算法技術(shù)的應(yīng)用，在提升網(wǎng)絡(luò)消費(fèi)體驗(yàn)、提高經(jīng)營效率、推動(dòng)平臺(tái)高質(zhì)量發(fā)展等方面發(fā)揮著重要作用。但由于“大數(shù)據(jù)殺熟”、算法歧視等產(chǎn)生的不公平現(xiàn)象存在，也侵害了消費(fèi)者的合法權(quán)益，擾亂了公平競(jìng)爭(zhēng)的市場(chǎng)秩序。
在這樣的背景下，人工智能倫理倡導(dǎo)者呼吁，應(yīng)該給消費(fèi)者決定是否允許自己被算法“操縱”的權(quán)利，因?yàn)榇蠖鄶?shù)時(shí)候，消費(fèi)者并不清楚自己的行為正在被算法“算計(jì)”。
算法經(jīng)常會(huì)被稱為“黑匣子”，科技公司往往只對(duì)他們的算法系統(tǒng)如何工作以及它們的用途做出基本解釋，很多時(shí)候開發(fā)這些算法的技術(shù)人員也并不清楚算法為何會(huì)得出某些結(jié)論。
11月18日，上海率先在電子商務(wù)領(lǐng)域出臺(tái)地方性指引，制定發(fā)布《上海市網(wǎng)絡(luò)交易平臺(tái)網(wǎng)絡(luò)營銷活動(dòng)算法應(yīng)用指引（試行）》（以下簡(jiǎn)稱《指引》），規(guī)范網(wǎng)絡(luò)交易平臺(tái)網(wǎng)絡(luò)營銷活動(dòng)算法應(yīng)用行為，為平臺(tái)經(jīng)營者劃出合規(guī)底線。
《指引》明確平臺(tái)經(jīng)營者不得利用算法實(shí)施不正當(dāng)價(jià)格行為，不得利用算法對(duì)消費(fèi)者實(shí)施不合理的差別待遇。此外，平臺(tái)經(jīng)營者利用消費(fèi)者個(gè)人信息開展網(wǎng)絡(luò)營銷活動(dòng)算法應(yīng)用時(shí)，應(yīng)當(dāng)按照《個(gè)人信息保護(hù)法》的規(guī)定，保證算法應(yīng)用結(jié)果的公平、公正，不得對(duì)消費(fèi)者在交易價(jià)格、交易機(jī)會(huì)等交易條件上實(shí)行不合理的差別待遇。
《指引》還規(guī)定，平臺(tái)經(jīng)營者不得利用算法僅向消費(fèi)者提供針對(duì)其個(gè)人特征選項(xiàng)的搜索結(jié)果，不得利用算法對(duì)平臺(tái)內(nèi)經(jīng)營者進(jìn)行不合理限制或附加不合理?xiàng)l件，不得利用算法濫用市場(chǎng)支配地位。
今年8月，國家網(wǎng)信辦就已經(jīng)出臺(tái)了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》（下稱“征求意見稿”），多條內(nèi)容對(duì)接《個(gè)人信息保護(hù)法》。根據(jù)《征求意見稿》要求，算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷或者高額消費(fèi)等違背公序良俗的算法模型。
上海大邦律師事務(wù)所高級(jí)合伙人游云庭對(duì)第一財(cái)經(jīng)記者表示：“除了今日頭條和抖音這樣公認(rèn)的算法驅(qū)動(dòng)的平臺(tái)，新浪微博這樣的用戶生成內(nèi)容的平臺(tái)，以及滴滴、美團(tuán)、餓了么這樣利用算法管理平臺(tái)的公司，也都受新規(guī)監(jiān)管。”
在全球反壟斷的大潮下，各國監(jiān)管機(jī)構(gòu)近期也加大了對(duì)算法不公平的打擊力度。人工智能專家認(rèn)為，對(duì)于創(chuàng)造和使用算法的公司來說，提高透明度至關(guān)重要，對(duì)AI的特定用途和應(yīng)用進(jìn)行監(jiān)管之前，對(duì)于算法透明度的出臺(tái)法律是必要的。
在美國，立法者正在重新審視科技公司應(yīng)該如何改變使用算法的方式。美國眾議院最近提出一項(xiàng)被稱為《過濾氣泡透明度》的立法，要求大型科技公司允許用戶訪問不受算法影響的平臺(tái)版本，也就是消費(fèi)者將有權(quán)利選擇打開或者關(guān)閉被秘密算法操縱的功能。
雖然《過濾氣泡透明度法案》針對(duì)的是大型社交平臺(tái)，但它也將不可避免地影響其他公司，例如Spotify和Netflix，這些流媒體巨頭也非常依賴于算法驅(qū)動(dòng)的策略。
立法的變化突顯了人們?cè)絹碓揭庾R(shí)到算法在數(shù)字化時(shí)代扮演的核心角色。如果該立法通過，也將從根本上改變完全圍繞算法管理建立的公司的商業(yè)模式。
算法作為數(shù)字世界的運(yùn)轉(zhuǎn)規(guī)則，目前科技平臺(tái)還沒有建立合規(guī)、有效的算法倫理體系與機(jī)制。業(yè)內(nèi)人士認(rèn)為，算法合規(guī)需要企業(yè)自治與協(xié)同監(jiān)管相結(jié)合。
中國數(shù)字經(jīng)濟(jì)百人會(huì)專家委員會(huì)委員柳峰對(duì)第一財(cái)經(jīng)記者表示：“大多數(shù)用戶是很難對(duì)企業(yè)的算法做出判斷，用戶需要能夠?qū)λ惴ǖ闹闄?quán)和選擇權(quán)進(jìn)行控制，也就是選擇打開或者關(guān)閉算法推薦。”他強(qiáng)調(diào)，應(yīng)該對(duì)算法應(yīng)用進(jìn)行綜合性的系統(tǒng)治理。
柳峰對(duì)第一財(cái)經(jīng)記者表示，從技術(shù)上來看，用戶“一鍵關(guān)閉”算法不難實(shí)現(xiàn)，但難的是如何監(jiān)管，法律的規(guī)定如何落在具體的監(jiān)管實(shí)施細(xì)則中。他認(rèn)為，這是一個(gè)科技巨頭與立法監(jiān)管博弈的過程。“這樣的監(jiān)管政策要推動(dòng)起來也很困難，大公司肯定會(huì)游說反對(duì)。”柳峰說道，“當(dāng)然我們也應(yīng)該承認(rèn)，算法并不是任何時(shí)候都是不好的。”
