當(dāng)今時代，大數(shù)據(jù)、AI算法等方便了我們的生活，提高了生產(chǎn)效率，但大數(shù)據(jù)的存在也意味著海量的用戶信息被用來發(fā)掘產(chǎn)生價值，信息泄露、黑灰產(chǎn)攻擊等問題層出不窮，安全似乎已經(jīng)成為了數(shù)字經(jīng)濟(jì)發(fā)展木桶上的那一塊“短板”。
企業(yè)技術(shù)發(fā)展和用戶信息保護(hù)的平衡上，存在哪些難點(diǎn)？在不斷發(fā)展的科技、復(fù)雜多變的國際形勢和人民新的生活方式面前，現(xiàn)有法律框架面臨著什么樣的挑戰(zhàn)？如何讓安全為數(shù)字化發(fā)展“保駕護(hù)航”？
2021新京報貝殼財經(jīng)夏季峰會——數(shù)字經(jīng)濟(jì)時代的風(fēng)險防控線上論壇舉行，中國政法大學(xué)傳播法研究中心副主任朱巍、北京師范大學(xué)網(wǎng)絡(luò)法治國際中心執(zhí)行主任吳沈括、中國信通院云計算與大數(shù)據(jù)研究所副所長魏凱、螞蟻集團(tuán)安全事業(yè)群總裁趙聞飆就上述問題闡述了自己的觀點(diǎn)。
當(dāng)人變成“電池人” 保護(hù)信息安全難在哪兒？
AI時代，不少App都需要收集足夠多的用戶數(shù)據(jù)，才能支持其運(yùn)營。如短視頻平臺的視頻推送，電商平臺的商品推薦等都需要收集用戶數(shù)據(jù)后才能讓算法正常運(yùn)轉(zhuǎn)，在此過程中，用戶也往往面臨著暴露隱私的潛在風(fēng)險。
“互聯(lián)網(wǎng)時代，人慢慢變成了‘電池人’。”朱巍表示，“每個人在互聯(lián)網(wǎng)時代中通過算法、人工智能、數(shù)據(jù)采集后都變成了手段，而不是目的。消費(fèi)者和用戶在很多平臺中，通過自己的數(shù)據(jù)為這些平臺‘蓄能’，這種生態(tài)到底可不可取，利弊關(guān)系到底在什么地方，我覺得需要予以好好解決。”
在朱巍看來，要解決技術(shù)發(fā)展與用戶信息保護(hù)平衡點(diǎn)的問題，需要明晰大數(shù)據(jù)產(chǎn)權(quán)問題，“目前，從中國的法律體系來看，《民法典》、《個人信息保護(hù)法》二審稿等相關(guān)法律里對個人信息的概念已經(jīng)做了非常詳細(xì)的描述，但并沒有對大數(shù)據(jù)的性質(zhì)做出具體的規(guī)定。《民法典》最后一審稿出來之后，曾經(jīng)把數(shù)據(jù)信息納入到《民法典》中的知識產(chǎn)權(quán)的課題里面，對此我們曾提出反對，因為數(shù)據(jù)信息里既包括大數(shù)據(jù)，也包括個人信息，個人信息是隱私權(quán)，不能轉(zhuǎn)化成大數(shù)據(jù)，至少一定程度上是不可以的，因為有巨大的爭議，《民法典》后來把這條刪掉了。”
貝殼財經(jīng)記者注意到，《民法典》第一百二十七條規(guī)定，法律對數(shù)據(jù)、網(wǎng)絡(luò)虛擬財產(chǎn)的保護(hù)有規(guī)定的，依照其規(guī)定。
“所以我們能發(fā)現(xiàn)，個人信息和大數(shù)據(jù)有千絲萬縷的關(guān)系，在行業(yè)適用領(lǐng)域中，大數(shù)據(jù)的產(chǎn)權(quán)問題還沒有明晰?，F(xiàn)在，國家正在出臺關(guān)于數(shù)字經(jīng)濟(jì)的指導(dǎo)意見，有一些還沒有向社會公布，公布的時候我相信數(shù)據(jù)信息的概念至少在產(chǎn)權(quán)領(lǐng)域會變明晰。”朱巍稱。
此外，朱巍認(rèn)為，當(dāng)個人信息與其他法律交織在一起，讓問題變得更加復(fù)雜。“目前，《刑法》、《個人信息保護(hù)法》等都有對敏感信息范圍的相關(guān)規(guī)定，且內(nèi)涵和外延完全不一樣，這就出現(xiàn)了一個非常有意思的問題：當(dāng)我們研究的時候提到敏感信息，我們要先問一下是哪部法律中的。所以是不是應(yīng)該有一個統(tǒng)領(lǐng)，至少在概念上能夠說清楚，但是目前為止好像還沒有?，F(xiàn)在當(dāng)我們研究一些法律問題，不單純是個人信息保護(hù)問題，而是個人信息保護(hù)和其他法律關(guān)系相互交叉的問題，這就讓問題本身變得復(fù)雜了。”
從企業(yè)到國際社會數(shù)字化轉(zhuǎn)型風(fēng)險幾何？
事實(shí)上，每個用戶貢獻(xiàn)的數(shù)據(jù)最終都將匯成一道數(shù)據(jù)洪流，個人、產(chǎn)業(yè)、國家、國際社會由此交織在一起。除了用戶外，企業(yè)在數(shù)字化轉(zhuǎn)型的過程中面對著什么樣的風(fēng)險？
“什么是‘數(shù)字化’背后的風(fēng)險？它指的是——數(shù)字經(jīng)濟(jì)生活中，用戶在享受數(shù)字化帶來的便捷與普惠同時，所面臨的、伴隨而來的風(fēng)險。例如，對于行業(yè)商戶來說，羊毛黨造成的‘營銷資金風(fēng)險’，足以讓商戶精心打造的營銷活動毀于一旦。對于個人用戶而言，網(wǎng)絡(luò)欺詐、賬戶盜用等問題，更是成為了數(shù)字經(jīng)濟(jì)中高發(fā)的、危害性極大的安全問題。如今的黑產(chǎn)作案越來越趨于多平臺、多鏈路、團(tuán)隊化和智能化。這使得對抗黑產(chǎn)、防范智能化風(fēng)險，已經(jīng)轉(zhuǎn)化為了一個全新的命題。”趙聞飆表示。
趙聞飆透露，早在六七年前，螞蟻團(tuán)隊就已經(jīng)在平常應(yīng)對黑產(chǎn)攻擊中，發(fā)現(xiàn)了AI的痕跡。“不可忽略的是，伴隨著人工智能技術(shù)的高速發(fā)展和加持，這一風(fēng)險仍將持續(xù)加劇，并且演變?yōu)?lsquo;智能化’背后的風(fēng)險。”
那么，當(dāng)我們把視野從個人用戶、企業(yè)再擴(kuò)展到國際社會，數(shù)字化的風(fēng)險又有何變化呢？
在吳沈括看來，隨著數(shù)字化轉(zhuǎn)型的加速，經(jīng)濟(jì)構(gòu)成、民眾生活方式、社會治理甚至是國家層面和全球治理層面都已經(jīng)產(chǎn)生了非常大的變化。
吳沈括認(rèn)為，在這個變化的過程中，需要注意到三個復(fù)雜性，“第一個是參與數(shù)據(jù)活動當(dāng)中主體的復(fù)雜性，從用戶個人到產(chǎn)業(yè)、國家甚至國際社會，在這個過程中，主體結(jié)構(gòu)的復(fù)雜性是跨部門、跨行業(yè)、跨國的存在，而這使得數(shù)據(jù)處理和數(shù)據(jù)活動過程中面對的場景更為復(fù)雜，而且在快速的迭代更新中，這就是第二個場景的復(fù)雜性。因此，我們在一些傳統(tǒng)的場景中歸納總結(jié)出來規(guī)則，面對新場景的時候，或許面對著非常大的適用困難。于是，在這樣的背景下形成了第三個復(fù)雜性，就是訴求的復(fù)雜性。”
“舉例來說，哪怕是主體單一的情況下，這個主體在不同階段的訴求是不一樣的，在一定的階段可能會更加關(guān)注自身的隱私，自身的個人信息的保護(hù)，在一定場景中可能會更傾向于對某種經(jīng)濟(jì)利益或者其他類型的利益的追求，所以在這樣的情況下我們面對著非常復(fù)雜的情形或者說在新階段中，我們需要有一個非常寬闊的視野去看待這個現(xiàn)象。”吳沈括說。
如何保護(hù)數(shù)字經(jīng)濟(jì)發(fā)展？用AI對抗AI
針對如此之多的復(fù)雜問題，我們應(yīng)該怎么做？專家們給出了不同的建議。
首先，是充分的激勵機(jī)制。
在吳沈括看來，數(shù)據(jù)業(yè)務(wù)和數(shù)據(jù)流轉(zhuǎn)利用過程中，知識、能力的不對稱導(dǎo)致很多情況下透明度不足，進(jìn)而導(dǎo)致了信任度不足，“國內(nèi)國際跨部門跨行業(yè)的主體之間形成有效的信任度，是我們對數(shù)字化生活給予有效信賴的基礎(chǔ)。在有了充分的信用度之后，我們需要一個必要的激勵度，目前來看，以數(shù)據(jù)驅(qū)動的各類創(chuàng)新在不斷推動（經(jīng)濟(jì)的發(fā)展），在這個過程中，如何確保，以及如何最大限度地激勵在數(shù)據(jù)流轉(zhuǎn)利用等各類數(shù)據(jù)活動中做出了貢獻(xiàn)的主體的價值，給它必要的推動，是我們需要特別重視的點(diǎn)。”
“我們欣喜地看到《數(shù)據(jù)安全法》以及未來要出臺的《個人信息保護(hù)法》正在給數(shù)字經(jīng)濟(jì)的發(fā)展制定一些規(guī)則，這是市場急需的，但不是事無巨細(xì)的，可能只能做到原則性的。至于如何落實(shí)，可能需要細(xì)則，需要透明度，需要讓企業(yè)實(shí)際有動力落實(shí)這個機(jī)制，例如對其聲譽(yù)有顯性化激勵，這就需要配套的措施，而不只是懲罰。”魏凱表示。
此外，通過技術(shù)來幫助解決安全問題也是專家們共同的觀點(diǎn)。
在魏凱看來，前幾年，大數(shù)據(jù)的應(yīng)用側(cè)重于做報表，做大屏幕，給決策者直觀的相關(guān)數(shù)據(jù)。但是現(xiàn)在大數(shù)據(jù)的技術(shù)應(yīng)用往往不是這樣，而是已經(jīng)深入到?jīng)Q策閉環(huán)里去了。“以前的報表，看了以后采取決策仍然要靠人拍板，而現(xiàn)在很多大數(shù)據(jù)的風(fēng)控，大數(shù)據(jù)的精準(zhǔn)廣告，其實(shí)人都不在閉環(huán)里面，人只要把規(guī)則定好，數(shù)據(jù)驅(qū)動就可以閉環(huán)自動執(zhí)行。”
“現(xiàn)在，一種新的模式正在崛起，如區(qū)塊鏈的技術(shù)允許我們不再把數(shù)據(jù)集中起來也能夠享受數(shù)據(jù)融合的紅利，當(dāng)前這類技術(shù)正在快速升溫，這就有可能創(chuàng)造一種新的大數(shù)據(jù)的應(yīng)用模式。”魏凱表示。
趙聞飆表示，傳統(tǒng)風(fēng)控受制于技術(shù)成本、數(shù)據(jù)規(guī)模和算法效能，許多場景還是專家經(jīng)驗驅(qū)動，而不是數(shù)據(jù)智能驅(qū)動。“支付寶每天有數(shù)億筆交易，面對如此龐大的計算量，一旦決策產(chǎn)生延遲，就給了黑產(chǎn)可乘之機(jī)。因此，發(fā)展面向可信人工智能技術(shù)的下一代風(fēng)控技術(shù)體系成為了我們的必由之路。”
他舉例稱，通過人工智能與金融風(fēng)控的深度融合，支付寶的AI大腦AlphaRisk能夠在零人工干預(yù)的全自動模式下，對風(fēng)險進(jìn)行毫秒級的響應(yīng)。例如，在網(wǎng)絡(luò)欺詐風(fēng)險識別場景下，當(dāng)系統(tǒng)識別到用戶遇到詐騙風(fēng)險時，AI機(jī)器人會以小于0.1秒的速度向用戶呼出“叫醒電話”。此外，在快速響應(yīng)當(dāng)下風(fēng)險的同時，AlphaRisk還具備自學(xué)習(xí)、自適應(yīng)的能力，從而將安全從靜態(tài)的被動防守，轉(zhuǎn)變?yōu)閯討B(tài)的主動對抗。
貝殼財經(jīng)記者還發(fā)現(xiàn)，在談?wù)摂?shù)字經(jīng)濟(jì)發(fā)展的同時，多位專家都將安全視為了經(jīng)濟(jì)發(fā)展木桶潛在的“短板”，認(rèn)為需要充分重視數(shù)字經(jīng)濟(jì)時代的風(fēng)險防控。
“以前我們發(fā)展任何產(chǎn)業(yè)的時候都是包容審慎，而現(xiàn)在更多的是審慎包容。以前是效率優(yōu)先，安全其次，先發(fā)展起來再說?，F(xiàn)在看來，安全可能就是木桶上的短板，我國互聯(lián)網(wǎng)產(chǎn)業(yè)、規(guī)模、技術(shù)發(fā)展已經(jīng)很大很快了，如果追求安全問題，一定會犧牲市場，一定會犧牲效率，但從長遠(yuǎn)的角度看，我認(rèn)為這種做法是沒有問題的。”朱巍表示。
