廣受期待的《個人信息保護(hù)法》新近于全國人大通過后，加大保障個人隱私安全的行業(yè)法規(guī)正在有序醞釀出臺。而近年來飽受詬病的算法技術(shù)，成為最新一輪的監(jiān)管目標(biāo)。
8月27日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見稿)》(以下簡稱《意見稿》)，對科技企業(yè)濫用算法推薦損害用戶權(quán)益提出多項限制要求。其中，關(guān)注度最高的意見稿第15條提出，算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。
這條意在讓用戶擁有關(guān)閉算法推薦權(quán)利的條文，將矛頭直指目前所有對用戶提供算法推薦服務(wù)的互聯(lián)網(wǎng)科技公司。后者通過人工智能算法，深度分析用戶的瀏覽習(xí)慣、喜好及消費(fèi)等特征數(shù)據(jù)，從而向用戶推送個性化的內(nèi)容、商品及廣告。
《中國經(jīng)營報》記者注意到，意見稿發(fā)布后，多家互聯(lián)網(wǎng)巨頭都在公共平臺保持了沉默。記者就此聯(lián)系并詢問了其中多家企業(yè)，截至發(fā)稿，只有字節(jié)跳動方面向記者做出回應(yīng)。對方表示，此前抖音和今日頭條已經(jīng)進(jìn)行過系統(tǒng)升級，為用戶明確提供了個性化推送的關(guān)閉選擇，后續(xù)也會不斷優(yōu)化產(chǎn)品功能，不斷提高用戶信息保護(hù)水平。
根據(jù)《意見稿》，征詢反饋的截止期限為9月26日，而新規(guī)實施后，監(jiān)管部門將對相關(guān)企業(yè)的算法進(jìn)行檢查，一旦發(fā)現(xiàn)問題就會要求企業(yè)立即整改。對拒不改正或情節(jié)嚴(yán)重的，將責(zé)令其暫停信息更新，并處5000元以上30000元（人民幣）以下罰款。構(gòu)成違反治安管理行為的，將依法給予治安管理處罰。對構(gòu)成犯罪的，將追究刑事責(zé)任。
精準(zhǔn)投喂的背面
算法推薦技術(shù)在國內(nèi)為大眾熟知，始于今日頭條的崛起。2012年，乘著中國移動互聯(lián)網(wǎng)市場爆發(fā)的東風(fēng)，成功孵化出“內(nèi)涵段子”“搞笑囧圖”的字節(jié)跳動開始進(jìn)軍內(nèi)容分發(fā)市場，并于同年8月上線今日頭條App。這個能根據(jù)用戶閱讀口味與瀏覽習(xí)慣而推薦新聞的App很快在手機(jī)應(yīng)用市場霸榜，上線僅3個月，用戶數(shù)便突破1000萬，次年8月突破5000萬，2014年6月超過1.2億，成為中國移動端新聞資訊領(lǐng)域增長最快的App。隨后，嘗到甜頭的張一鳴又帶領(lǐng)字節(jié)跳動在2016年先后推出了火山小視頻、西瓜視頻和抖音三款短視頻App并大獲成功，其背后依靠的，個性化的算法推薦功不可沒。
頭條系產(chǎn)品的走紅很快有了帶動效應(yīng)。算法推薦隨即成為科技輿論場的顯學(xué)，使用算法推薦的互聯(lián)網(wǎng)公司也越來越多，除資訊、短視頻外，社交、出行、求職、電商、搜索引擎等平臺和互聯(lián)網(wǎng)應(yīng)用幾乎都使用到了算法推薦技術(shù)，廠商在營銷產(chǎn)品時也樂于將“個性化”“定制化”“智能化”作為競爭力標(biāo)簽。
技術(shù)紅利催生的繁榮下，公眾開始看到硬幣的另一面，算法推薦遭到濫用的負(fù)面事件越來越多。工信部賽迪智庫網(wǎng)絡(luò)安全研究所副所長閆曉麗在《算法濫用的社會危害及監(jiān)管建議》一文中指出，濫用數(shù)據(jù)分析和算法推薦導(dǎo)致的主要危害包括致癮性推薦、大數(shù)據(jù)殺熟以及影響誤導(dǎo)消費(fèi)者三類。
此外，不斷推薦用戶感興趣的內(nèi)容，從而使用戶沉迷成癮，是算法推薦大行其道后遭遇最多的質(zhì)疑。而其延伸出的最主要危害之一，也被稱為“信息繭房”效應(yīng)，即由長期“偏好”性地獲取資訊與知識，造成認(rèn)知視野局限，導(dǎo)致用戶對于信息內(nèi)容接觸面越來越狹隘、單一和固化。
中國信息通信研究院互聯(lián)網(wǎng)法律研究中心研究員楊婕撰文指出，一旦身處“信息繭房”中，用戶會不自覺地失去社會行動力，滿足于被動的知識積累，從積極地參與事件轉(zhuǎn)變?yōu)橄麡O地認(rèn)識事件，很難再接受不同的觀點(diǎn)，甚至在不同群體、代際間豎起阻礙溝通的高墻，極易造成個體與社會的隔離。
而相比致癮以及“信息繭房”等軟性危害，北京中倫律師事務(wù)所合伙人陳際紅律師則向記者表示，算法推薦會給用戶帶來實質(zhì)權(quán)益損害的是誤導(dǎo)消費(fèi)者以及個人隱私泄露。
“通過分析用戶的瀏覽及消費(fèi)數(shù)據(jù)，依據(jù)其消費(fèi)習(xí)慣，預(yù)測用戶購買喜好，針對性地向用戶推薦商品，進(jìn)而影響用戶的購買決策，這會降低用戶選擇的可能性，損害用戶知情權(quán)。”陳際紅稱。
另一方面，陳際紅指出，為了提高算法推薦的精準(zhǔn)程度，很多企業(yè)也會傾向于從用戶身上挖掘和搜集更多數(shù)據(jù)，從而侵犯用戶的個人隱私權(quán)，如果其中一些掌握大量用戶關(guān)鍵信息的數(shù)據(jù)一旦泄露，甚至?xí)：野踩?/div>
一家社交App公司的產(chǎn)品經(jīng)理向記者透露，在前幾年社交軟件競爭激烈的時期，用戶使用App的時長曾是其崗位績效考核的重要指標(biāo)之一，而為了增加用戶停留時間，就必須為用戶推薦更精確的社交信息，因此也會在產(chǎn)品中增加更多獲取用戶性格、社交習(xí)慣、日?；顒訁^(qū)域等個人隱私信息的方式。
新規(guī)影響幾何
算法推薦泛濫導(dǎo)致的紛繁亂象，也讓此次《意見稿》的出臺成為輿論焦點(diǎn)。尤其是在國家法規(guī)層面首度要求用戶享有算法推薦的自由關(guān)閉權(quán)，帶來的影響也將有著多重意義。
第一大亮點(diǎn)是涉及范圍和力度之廣。陳際紅表示：“從《意見稿》第二條來看，凡是在中華人民共和國境內(nèi)應(yīng)用算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)都將適用新規(guī)，這也意味著目前所有的互聯(lián)網(wǎng)和科技公司都被囊括在內(nèi)，比此前2019年的規(guī)定范圍提升了不少。”
記者查閱發(fā)現(xiàn)，2019年12月，網(wǎng)信辦曾推出《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》。其中第十二條明確規(guī)定，網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺采用個性化算法推薦技術(shù)推送信息的，應(yīng)當(dāng)設(shè)置符合要求的推薦模型，建立健全人工干預(yù)和用戶自主選擇機(jī)制。
“當(dāng)年的‘網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺’針對的主要是今日頭條等內(nèi)容提供商，沒有包括電商、社交這類公司，而這次的規(guī)定顯然提升了一個臺階。”陳際紅表示。
而根據(jù)新規(guī)《意見稿》給出的定義，記者注意到，應(yīng)用算法推薦技術(shù)指的是應(yīng)用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息內(nèi)容。
在一家電商平臺工作的算法工程師張林告訴記者，上述五類算法涵蓋目前市面上所有的App企業(yè)。“受到影響最大的應(yīng)該會是短視頻和電商，這兩類是目前采用用戶畫像和算法推薦最多的公司。”
法學(xué)博士、上海漢盛律師事務(wù)所高級合伙人李旻律師告訴記者，《意見稿》是《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》頒布后實施的必要延伸。“該算法規(guī)定是對三大數(shù)據(jù)法規(guī)范互聯(lián)網(wǎng)數(shù)據(jù)及經(jīng)營問題的有效補(bǔ)充。”
記者注意到，近日通過的《個人信息保護(hù)法》明確規(guī)定：“個人信息處理者利用個人信息進(jìn)行自動化決策，應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇。”
此外，陳際紅認(rèn)為，新規(guī)代表中國在全球算法治理層面走在了前列。“包括歐盟《通用資料保護(hù)規(guī)范》（GDPR）、美國的州立法《生物信息隱私法案》，雖然有涉及算法的內(nèi)容，但本質(zhì)還是數(shù)據(jù)與個人隱私安全層面的法律，像中國一樣專門針對算法立法還是首次。”
而在新規(guī)將起到的作用方面，記者注意到，在一項由新浪科技官方微博發(fā)起的調(diào)查顯示，有55%的用戶認(rèn)為，可選擇關(guān)閉算法推薦將“多一些安全感”，34%的用戶選擇了“信息更加多元”。
這也意味著，相比于擁有更多選擇，個人隱私安全是更受用戶關(guān)注的因素。李旻認(rèn)為，對個人用戶而言，新規(guī)實施后使用App過程中，用戶可選擇關(guān)閉算法推薦服務(wù)，包括是否接受推薦服務(wù)、推薦種類、模式等，能夠有效防止用戶被App“偷聽”。
但張林認(rèn)為，僅從用戶可關(guān)閉算法推薦的單條規(guī)定來判斷，很難說一定能降低企業(yè)搜集用戶數(shù)據(jù)的積極性。“對企業(yè)來說，符合規(guī)定只需在產(chǎn)品界面增加一個選項按鈕。但獲取用戶數(shù)據(jù)依然會是公司增加和分析客流的重要手段。”張林表示，長期來看，還是需要《數(shù)據(jù)安全法》《個人信息保護(hù)法》等綜合實施來實現(xiàn)對企業(yè)的約束。
?。ㄗⅲ簯?yīng)受訪者要求，文中張林為化名。）
