文 | 北京航空航天大學(xué)法學(xué)院副教授 趙精武

近期，中央網(wǎng)信辦等四部門聯(lián)合發(fā)布《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動的通知》（以下簡稱“通知”）。此次專項行動主要面向網(wǎng)絡(luò)平臺算法應(yīng)用安全，進(jìn)一步深化互聯(lián)網(wǎng)信息服務(wù)算法綜合治理。

此次行動并非“心血來潮”，選擇以“算法應(yīng)用安全”作為治理重心，原因有三：一是生成式人工智能技術(shù)突破性創(chuàng)新，使得與之關(guān)聯(lián)的算法應(yīng)用得到前所未有的功能強(qiáng)化，故而需要針對新技術(shù)和新業(yè)態(tài)背景下的算法應(yīng)用展開專項治理行動。二是此次行動可以視為先前《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》的延續(xù)與細(xì)化。該意見的主要目標(biāo)是“逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局”，而本次專項行動則是將該目標(biāo)轉(zhuǎn)化為具體的監(jiān)管措施和執(zhí)法活動，規(guī)范和約束網(wǎng)絡(luò)平臺的算法應(yīng)用。三是實踐中存在不少濫用算法技術(shù)的違法犯罪活動，如“信息繭房”實質(zhì)性限制了用戶能夠獲取的網(wǎng)絡(luò)信息類型和范圍，“網(wǎng)絡(luò)水軍”利用算法技術(shù)實施更具規(guī)?；⒅悄芑摹按虬瘛薄爸圃燧浾摻裹c”等非法活動。對此，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律法規(guī)作出明確規(guī)定，我們要以這些法律法規(guī)為依據(jù)，形成長效化的算法應(yīng)用安全治理機(jī)制。

此次專項行動的核心動機(jī)是保障網(wǎng)民的合法權(quán)益，維護(hù)網(wǎng)民的人格尊嚴(yán)和自由。因為無論算法技術(shù)如何創(chuàng)新、服務(wù)模式如何優(yōu)化，始終需要確保“算法技術(shù)服務(wù)于人”這一根本宗旨的實現(xiàn)。進(jìn)一步而言，專項行動背后的治理理念表現(xiàn)為“以人為本”，相應(yīng)的主要工作任務(wù)也需要以維護(hù)個人權(quán)益為中心，這既包括對舊問題的徹底整治，也包括對新業(yè)態(tài)的重點規(guī)范。倘若從主要任務(wù)來看，專項行動似乎存在舊事重提之嫌。畢竟“信息繭房”“大數(shù)據(jù)殺熟”“網(wǎng)絡(luò)水軍”等社會問題早已有之，甚至同年頒布的《消費者權(quán)益保護(hù)法實施條例》專門設(shè)置第九條第二款，以防止“大數(shù)據(jù)殺熟”等價格歧視現(xiàn)象的發(fā)生。然而，人工智能等信息技術(shù)的高速創(chuàng)新要求治理實踐持續(xù)更新，于此時開展相應(yīng)的專項行動，也是為了全面回應(yīng)網(wǎng)民普遍關(guān)注的算法技術(shù)濫用問題。以“大數(shù)據(jù)殺熟”為例，原本“看人下菜”的定價方式逐漸延伸出“隨機(jī)紅包優(yōu)惠力度因人而異”“瀏覽頁面因人而變”等現(xiàn)象。部分商家還會以“定制化服務(wù)”為幌子，試圖將“大數(shù)據(jù)殺熟”與精準(zhǔn)營銷混為一談。為了解決該類問題，“通知”專門提及，如果優(yōu)惠券領(lǐng)取失敗，嚴(yán)禁服務(wù)提供者以“來晚了”“擦肩而過”等提示詞掩蓋真實原因。

在過去，算法安全問題通常被視為純粹的技術(shù)問題。時至今日，我國網(wǎng)絡(luò)法治體系已經(jīng)將算法安全作為需要重點回應(yīng)的基礎(chǔ)問題，并強(qiáng)調(diào)從研發(fā)到應(yīng)用各個環(huán)節(jié)的法律規(guī)制。發(fā)生這種治理觀念的大轉(zhuǎn)變，是因為算法應(yīng)用方式有所創(chuàng)新，過去的算法安全問題大多屬于網(wǎng)絡(luò)安全問題的子問題，而當(dāng)下的算法安全問題則逐漸獨立于一般的網(wǎng)絡(luò)安全問題之外，衍生出算法歧視、算法侵權(quán)等新問題。更重要的是，遵循“以技術(shù)治理技術(shù)”的治理思路已經(jīng)難以適應(yīng)當(dāng)下科技創(chuàng)新趨勢。在技術(shù)無法有效保障算法安全的背景下，需要轉(zhuǎn)向多元化的治理機(jī)制，即由法律對算法應(yīng)用安全進(jìn)行必要的干預(yù)。當(dāng)然，這種法律干預(yù)堅持以維系算法安全和算法創(chuàng)新兩種立法目標(biāo)為前提，對技術(shù)環(huán)節(jié)作出過多干預(yù)，反而會導(dǎo)致算法應(yīng)用發(fā)展處處受制。此次專項行動的工作目標(biāo)實際上也間接反映了我國算法安全治理的基本原則，即以算法向上向善為價值導(dǎo)向，確保算法應(yīng)用的各個環(huán)節(jié)滿足公平公正、公開透明、自主可控、責(zé)任落實的基本要求?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》也作出了類似規(guī)定，即提供算法推薦服務(wù)應(yīng)當(dāng)遵循公平公正、公開透明、科學(xué)合理和誠實信用原則。不過，與該規(guī)定相比，此次專項行動的調(diào)整范圍包括了所有涉及算法應(yīng)用的互聯(lián)網(wǎng)信息服務(wù)，而并不僅僅局限于“算法推薦服務(wù)”。

促進(jìn)算法應(yīng)用向上向善包含了法律和倫理的雙重內(nèi)涵。在法律層面，所謂的向上向善強(qiáng)調(diào)的是算法應(yīng)用不得侵害用戶的合法權(quán)益，既能夠提供積極向上的網(wǎng)絡(luò)信息，也能夠有效預(yù)防和抵制網(wǎng)絡(luò)不良信息。在倫理層面，所謂的向上向善則表現(xiàn)為算法應(yīng)用符合科技倫理要求，不得減損用戶的主體地位，尊重和保障用戶的自主選擇能力。當(dāng)然，這種向上向善的價值導(dǎo)向絕非空洞的法律口號，此次行動的主要任務(wù)也是圍繞這一點予以展開。

在涉及信息繭房、網(wǎng)絡(luò)水軍等“舊問題”時，專項行動的重要整治環(huán)節(jié)和事項主要強(qiáng)調(diào)算法應(yīng)用自身的透明性。需要注意，這種透明性不能等同于算法代碼的公開透明，而是向特定用戶及社會公眾說明算法應(yīng)用的基本原理、核心功能以及對權(quán)益的影響程度。以“信息繭房”為例，該現(xiàn)象通常與算法推薦服務(wù)密切相關(guān)，主要是指基于用戶興趣愛好等因素，向用戶持續(xù)推送其感興趣的信息。這種“猜你喜歡”式的信息服務(wù)看似提供了優(yōu)質(zhì)的信息服務(wù)，但長期來看，卻會使得用戶能夠接觸到的網(wǎng)絡(luò)信息局限于特定范圍。從個人信息素養(yǎng)來看，這種類似“繭房”的信息獲取方式會將個人的認(rèn)知思維、認(rèn)知視角予以固化。特別是在面向老年人等特殊群體時，在高度同質(zhì)化的網(wǎng)絡(luò)信息洗腦下，老年人等特殊群體原本的認(rèn)知觀念可能發(fā)生異化，容易陷入保健品營銷等電信網(wǎng)絡(luò)詐騙的陷阱之中。從社會秩序維護(hù)來看，“控制用戶所能接收到的網(wǎng)絡(luò)信息范圍”這類信息服務(wù)模式一旦被濫用，輕則間接干擾社會公眾的認(rèn)知判斷，重則容易引發(fā)網(wǎng)絡(luò)暴力等惡性事件。因此，專項行動特別強(qiáng)調(diào)，服務(wù)提供者所設(shè)置的信息繭房防范機(jī)制至少應(yīng)當(dāng)滿足兩個效果，一是能夠有效預(yù)防用戶沉迷，二是保障用戶能夠自主選擇是否接受推送服務(wù)。此外，中央網(wǎng)信辦等部門近年來持續(xù)強(qiáng)化對網(wǎng)絡(luò)水軍的治理，并取得良好的治理效果，但隨著算法技術(shù)的迭代創(chuàng)新，網(wǎng)絡(luò)水軍的行為方式開始呈現(xiàn)智能化發(fā)展趨勢。一方面，網(wǎng)絡(luò)水軍利用人工智能技術(shù)實現(xiàn)發(fā)帖內(nèi)容的多樣化和智能化，而非過去機(jī)械式的重復(fù)發(fā)帖。另一方面，網(wǎng)絡(luò)水軍還能夠利用算法技術(shù)，結(jié)合平臺業(yè)務(wù)特征、用戶活躍時間段等要素開展“定制化灌水”和營銷炒作。相應(yīng)地，專項行動將操縱榜單行為作為抓手，通過提升榜單背后的算法透明度和可解釋性，預(yù)防和治理惡意操作榜單、炒作熱點等行為。

在涉及特殊群體權(quán)益保護(hù)等新問題時，專項行動的工作重心則表現(xiàn)為確保算法應(yīng)用能夠服務(wù)于人。以新就業(yè)形態(tài)勞動者權(quán)益保護(hù)為例，外賣平臺的配送算法使得外賣騎手成為“困在算法里面的勞動者”。令人棘手的是，這一問題的解決并非僅要求外賣平臺調(diào)整算法那般簡單，如何設(shè)置既符合外賣平臺商業(yè)利益，也能夠滿足外賣騎手合法權(quán)益的算法系統(tǒng)才是問題的關(guān)鍵。并且，如果該問題不徹底解決，不合理的配送時間設(shè)置還可能導(dǎo)致外賣騎手選擇以違反交通規(guī)則的方式實現(xiàn)最快送單，進(jìn)而增加交通事故的發(fā)生概率。合理科學(xué)的算法系統(tǒng)應(yīng)當(dāng)能夠最大化平衡外賣平臺、外賣騎手和用戶各方權(quán)益訴求，為了實現(xiàn)這樣一種平衡狀態(tài)，專項行動也將公開算法規(guī)則和暢通申訴渠道作為突破口，對算法系統(tǒng)作出必要且有限的干預(yù)。此外，在涉及交通管制、交通事故、惡劣天氣等因素時，專項系統(tǒng)還提出更為直觀的監(jiān)管要求，即算法系統(tǒng)應(yīng)當(dāng)能夠適時合理延長配送時間，設(shè)置更為合理的內(nèi)部管理機(jī)制。

總結(jié)而言，配合附件“算法專項治理清單指引”，此次專項行動能夠有效推動服務(wù)提供者嚴(yán)格落實算法主體責(zé)任，并通過具體細(xì)致的監(jiān)管標(biāo)準(zhǔn)和評估指標(biāo)，提升服務(wù)提供者的算法業(yè)務(wù)合規(guī)能力，建立健全內(nèi)部的算法安全管理制度和技術(shù)措施，真正做到“舊題新做”。

（來源：人民法院報）