演算法歧視、“大資料殺熟”、誘導沉迷……針對這些演算法不合理應用導致的問題,國家網際網路資訊辦公室、工業和資訊化部、公安部、國家市場監督管理總局聯合釋出《網際網路資訊服務演算法推薦管理規定》,並於3月1日起施行。

日前,中國青年報社社會調查中心聯合問卷網(wenjuan.com),對1144名受訪者進行的一項調查顯示,75.3%的受訪者曾被演算法推薦服務困擾過。56.1%的受訪者關注《網際網路資訊服務演算法推薦管理規定》。

受訪者中,00後佔27.2%,90後佔51.7%,80後佔21.2%。

https://n.sinaimg.cn/sinakd20220324s/310/w550h560/20220324/2ade-a6c55bf1886b2159d5ea5004de90ce20.jpg

75.3%受訪者曾被演算法推薦服務困擾

東南大學大三學生王琦認為,智慧演算法雖然可以在一定程度上使生活更便捷,但由於演算法的用途未必是符合消費者利益的,如果不加以管制,一定會產生許多問題。“當商家只想著牟利而忽視了消費者權益時,就會造成侵權。更不用說那些不告知消費者、直接盜取消費者資訊的行為了”。

調查中,75.3%的受訪者曾被演算法推薦服務困擾。

北京某機構新媒體編輯孫彥說,在未經使用者許可的情況下,後臺自動獲取使用者資料的情況很普遍,這是很明顯的過度收集資訊的行為。“我之前在某購物平臺瀏覽過家用乒乓球檯的商品資訊,緊接著在使用某社群網站時,就被廣告推薦乒乓球檯,很明顯是自己的瀏覽記錄被獲取了”。

調查中,62.2%的受訪者覺得生活中“大資料殺熟”普遍,32.4%的受訪者覺得一般,僅5.3%的受訪者覺得不太多。

孫彥表示,經常會碰到被演算法“殺熟”的情況,“我習慣用某款地圖軟體叫車,叫車的車型分為經濟型、豪華型等不同類別,我一般都打經濟型,去年暑假有幾次受極端天氣影響不好叫車,就打了幾次豪華型的車。之後明顯感覺基礎叫車費抬高了”。

北京某公司電氣工程師張騰認為,要在使用者隱私和產品使用上做平衡。“基於使用者主動行為進行的資料獲取是比較合理的。但許多軟體跳過使用者決策,暗中蒐集使用者資訊,這就不合理了,比如App在後臺運轉時,甚至手機黑屏時,都在暗地裡獲取使用者資訊,甚至是獲取使用者使用其他軟體的情況,這就是對使用者隱私的侵犯”。

56.1%受訪者關注《網際網路資訊服務演算法推薦管理規定》

中國傳媒大學網路法與智慧財產權研究中心主任王四新說,不管是出於提升服務的目的,還是想實現精準營銷,甚至去預判商業發展,都離不開基於演算法產生的資料收集與判斷,所以企業動力十足、能力強大。政策和法律的限制就顯得尤為重要。

調查中,56.1%的受訪者關注《網際網路資訊服務演算法推薦管理規定》,其中15.7%的受訪者非常關注。

中國政法大學傳播法研究中心副主任朱巍認為,對於四部委新出臺的管理規定,不能單獨去看,要結合個人資訊保護法、電子商務法一起理解,這是一個體系。電子商務法主要側重給消費者選擇的權利,個人資訊保護法側重於從演算法基礎、資料分析上來保護個人隱私。而目前的《網際網路資訊服務演算法推薦管理規定》則著重聚焦於演算法技術的相關規制,這是我國第一部專門針對演算法出臺的規章,這部新的法規,進一步明確了法律責任。這樣一部專門性法規,再結合其他法律中關於演算法的一些規制,實際上就能對演算法引起的問題起到很好的治理效果。

朱巍介紹,新規針對兩類特殊人群有特殊保護,一個是未成年人,一個是老年人。同時要求演算法不能把使用者的不良嗜好作為推薦的標籤標記,比如涉黃、涉暴,要求演算法要遵守公序良俗,趨利避害,堅守法律和道德底線。“這些規定其實在其他的法律裡也有體現,比如網路安全法第十二條,還有網信辦出臺落實的《網路資訊內容生態治理規定》,都對禁止演算法傳播的內容進行了規定。所以四部委此次出臺的新規,是在一個已有的法律網路基礎之上,進一步總結凝練來制定的,是在演算法規制方面的一次進步”。

王四新說,規定從外圍要求企業不利用演算法作惡,很容易做到,但是想讓演算法公開透明,這對企業而言是一種挑戰。綜合來講,政府作為公共服務的機構,應該以監管者的身份,來對企業進行實時監管,避免演算法成為監管黑洞。

“演算法歧視,不光是大資料殺熟產生的價格歧視,還有些標籤化的歧視。比如電商平臺會判定你的價值,覺得你價值高就推薦好的白酒,認為你價值低就總推薦九塊九包郵,這對消費者的人格也是一種侵犯,先把人分成三六九等,再推薦商品。”朱巍說,這可能是我們國家之後要完善的立法方向。

演算法新規施行 53.8%受訪者表示會選擇關閉演算法推薦

3月1日起,國家網信辦等四部門聯合釋出的《網際網路資訊服務演算法推薦管理規定》(以下簡稱“規定”)正式施行。規定明確了使用者可以選擇關閉演算法推薦,也可以拒絕使用其個人的特徵資料的演算法推薦服務。你會選擇關閉演算法推薦嗎?

日前,中國青年報社社會調查中心聯合問卷網(wenjuan.com),對1144名受訪者進行的一項調查顯示,規定落地後,53.8%的受訪者表示會選擇關閉演算法推薦功能。受訪者期待規定能遏制誘導過度消費(68.2%)、大資料殺熟(61.9%)、誘導沉迷(57.5%)、過度收集個人資訊(46.0%)等方面的不良之風。

受訪者中,00後佔27.2%,90後佔51.7%,80後佔21.2%。

https://n.sinaimg.cn/sinakd20220324s/300/w550h550/20220324/c39c-80a84ae37d399c2b7e83f76800f57acb.jpg

受訪者期待規定能遏制誘導過度消費、大資料殺熟、誘導沉迷等

東南大學大三學生王琦,是某叫車軟體的老使用者。最開始,他只使用這一款軟體,從去年開始,他也開始使用其他叫車軟體。這時他發現,在使用了其他叫車軟體後,原來叫車軟體的價格明顯有所下調。同樣的路程他的費用要比同學低不少。對此王琦很生氣,“這既是‘殺熟’,誰粘性大、用得多,價格反而貴,也是在侵犯我的個人隱私,為什麼我使用別的叫車軟體的情況會被收集到?”

中國政法大學傳播法研究中心副主任朱巍認為,輿論導向一定不能讓技術完全控制,比如,如果全按演算法資料蒐集的個人喜好進行熱搜排序,那飯圈這種很熱烈的文化會不會經常佔據熱搜?資訊繭房會不會產生?資訊的鴻溝會不會因此加大?

調查中,大家期待規定遏制誘導過度消費(68.2%)、大資料殺熟(61.9%)、誘導沉迷(57.5%)、過度收集個人資訊(46.0%)等方面的不良之風。還有通過演算法推薦影響網路輿論(40.4%)和演算法歧視(37.3%)等。

中國傳媒大學網路法與智慧財產權研究中心主任王四新說,對於在演算法上誘導沉迷、誘導消費的惡意行為,法律上的界定方法,是要從具體場景出發,看宣傳是否具備誤導性,能否直接滿足消費者的需要。比如使用者利用搜尋引擎去搜尋某個醫院,那呈現出的搜尋結果是不是真實面貌,還是說會故意安排一些與搜尋無關的內容,誘導消費者去點選,甚至是表面上符合消費者預期,但點選後又會跳轉到其他頁面,掛羊頭賣狗肉,這裡邊就可能存在誘導消費的問題。誘導沉迷則可能是利用一些誇大、虛假的資訊,甚至直接使用色情圖片,來誘導關注,包括一些新聞類的App,看標題很吸引人,點進去卻進入了購物平臺,這都屬於明顯的惡意引流、惡意誤導,是在利用使用者的心理預期牟利。

對於一些短視訊平臺的誘導沉迷演算法,王琦也很無奈。“很多時候你未必打算瀏覽短視訊,但由於它的內容推送投你所好,就會吸引你不自覺地沉溺其中,等到反應過來時已經看了很久了。我喜歡在短視訊平臺上瀏覽新聞,就經常被推薦大量的負面新聞、交通事故等,同時穿插一些科普、時尚的內容,看起來營造了一個多元的資訊氛圍,但其實主要內容全是負面新聞,內容粗糙,看完後除了產生情緒波動,沒有實際收穫,浪費大量時間精力”。

規定落地後,53.8%受訪者表示會選擇關閉演算法推薦功能

王琦表示,人們不應該被演算法覆蓋,如果演算法太強大,對使用者太瞭解,那使用者的選擇就會受到很大限制,看似有選擇,實際都是被設定好的。“希望演算法越來越公開透明,演算法關閉選項能夠儘快落實,從根本上解決演算法帶來的問題”。

規定落地後,53.8%的受訪者表示會選擇關閉演算法推薦功能,18.2%的受訪者不會,28.0%的受訪者表示不好說。

王四新說,規定通過要求企業設定“演算法推薦服務功能”的開關選項,給予使用者自主選擇權,來保護消費者利益,確實可以在一定程度上遏制亂象。“讓消費者擁有更多選擇,要求企業提供更多元的服務,實際上是在構建消費者與企業間的理想平衡模式。個別企業會製造陷阱,但政策的導向就是在提醒消費者,哪些陷阱不要踩,給群眾創造一個選擇的條件”。

自 中國青年報