網民如何提升自身的演算法素養，遠離演算法之“算計”？

　　如何遠離演算法之“算計”？

　　——新規之下的網民演算法素養調研

　　編者按

　　3月1日，國家網際網路信息辦公室等四部門聯合發佈的《網際網路資訊服務演算法推薦管理規定》(簡稱《規定》)正式實施。《規定》對演算法推薦服務做出全面規範，明確了演算法治理體制機制，科學構建了網路平臺問責體系。隨之啟動的2022年“清朗演算法綜合治理”專項行動，要求督促整改演算法不合理應用帶來的“資訊繭房”“演算法歧視”“大數據殺熟”等問題。上述新規及舉措是在數字化變革時代對演算法治理的有效回應。在“與演算法共存”的時代中，網民作為網路行為主體，如何提升自身的演算法素養，遠離演算法之“算計”，更加安全自主地享受網路生活？鑒此，光明日報聯合中央民族大學調研組，進行了問卷調查(有效問卷912人次)及深度訪談，就個人用戶的使用體驗，梳理了演算法化生存中的困境、挑戰及具體應對表現，並就如何提升演算法素養提出建議。

　　“以前總是被‘安排’看到自己‘想看’的內容，關閉個性化推薦後，感覺看到了更廣闊的世界。”“開了推薦，網購平臺似乎比我更懂我，總讓我忍不住買買買；不開吧，又怕錯過合適的商品。”“關閉推薦之前，常刷到的短視頻總讓我欲罷不能，有美粧教程、精緻生活，關閉之後刷到的竟是情景惡搞、土味情話……我趕緊又默默打開了個性化推薦。”

　　…………

　　隨著《規定》發佈，抖音、微信、淘寶、百度、京東、微博等App均已上線“個性化推薦”一鍵關閉功能。然而，調查中部分用戶對於“個性化推薦”關不關表示糾結：有人覺得關閉後“打開了新世界的大門”，也有人覺得關閉後降低了用戶體驗，難以適應。

　　從疫情防控中的行程追蹤到智慧出行中的路況計算，從符合口味的資訊內容到滿足個性喜好的商品推薦……大數據時代，須臾不可離的演算法已廣泛滲透到社會各個層面，成為人的“技術伴侶”。我們需要演算法的存在，享受它所帶來的便利；同時又要對其帶來的控制和其他風險有足夠的識別與反抗能力。調查結果顯示，有56.9%的受訪者認為演算法程式提升了電子産品使用體驗，但北京大學網際網路發展研究中心發佈的《中國大安全感知報告(2021)》也顯示，70%的調研對象擔心個人喜好與興趣被演算法“算計”，50%表示在演算法束縛下想要逃離網路、遠離手機。

　　隱憂：

　　身處演算法社會，我們正遭遇哪些困境？

　　潛藏在演算法推薦之下的“差別化待遇”。3月初，北京市消協發佈的網際網路消費大數據“殺熟”問題調查顯示，其在調查了16個平臺、提取了32個模擬消費體驗樣本後發現，有14個樣本新老賬戶的價格不一致。調研發現，用戶與演算法平臺之間存在著鮮明的“資訊溝壑”，平臺掌握著演算法的模型公式和呈現規則，通過對資訊篩選標準的個性化設計，以及對其他平臺的“數據跟蹤”，讓用戶處在資訊金字塔的底端。精準推薦的背後來自平臺對個人數據的標簽化運算，進而是將用戶消費能力劃分為“三六九等”，形成演算法歧視。

　　演算法歧視不僅損害用戶利益，更會激化社會的原有偏見。調研發現，新聞推送中的女性、老年人等弱勢群體更容易受到人們的關注，有68.7%的受訪者認為“女司機”“女大學生”等帶有性別指向的詞彙更容易上熱搜，性別議題更易激起討論。平臺利用“用戶畫像”和“貼標簽”區別個體、扁平化用戶，強化現實生活中的刻板印象，可能引發社會輿論。

　　無處可逃的資訊收集與“隱私威脅”。熱播的黑色幽默短劇《大媽的世界》中有這樣一段情節：廣場舞大媽們正發愁買什麼顏色的演出服，此時王大媽隨口説了一句晚上吃番茄炒蛋，並拜託楊大媽去接“熊貓班”的外孫，結果手機購物App就分別給她推送了紅黃相間、黑白配色的衣服。平臺以“偷聽”的方式竊取數據用以計算用戶的偏好，再“突襲式”地進行資訊推薦，已引起普遍關注。調研中多位被訪者表示，置身於平臺與演算法聯手建立的系統中，被“偷聽”已成“家常便飯”。很多企業、App、第三方機構在共用用戶的個人資訊之際，試圖掌控更多的個人隱私。訪談中，不少用戶表示，瀏覽器總能“記住”其搜索歷史並且同步到其他設備上，在首頁反覆推送搜索過的同類內容，讓人有一種“被泄密”的不安感。

　　基於收集個人資訊的演算法推薦服務帶來的困擾不止於此。一方面，不當的推薦表現在“量”上，過多同質化的內容形成了資訊冗余，容易使個體産生心理疲勞與隱私焦慮；另一方面，演算法推薦的“度”也常常超出應該推薦的內容範圍，色情、低俗等有違主流價值觀的內容常常被置入開機頁誘導用戶點擊。

　　被演算法過濾與掌控的“漸進式依賴”。“平時吃飯、遛娃我都會找App上排序靠前的餐廳和遊樂場”，31歲的二胎媽媽孫穎表示，依靠應用平臺推薦雖然也“踩過雷”，但這樣的選擇對於她而言更省時省力。網際網路時代，不少網民越來越多地將事物的優劣判斷交給演算法。演算法憑藉著“優先”“分類”“聯想”“過濾”等機制在很大程度上建構了“人們在網際網路上的感知與現實”。調查顯示，超六成的受訪者會根據平臺的排名、評分等數據做出個人決策，儘管他們並不認同排名靠前的商品或內容一定是更好的。

　　調研還發現，不少提供演算法推薦服務的平臺，更是通過將相關內容放在突出位置、遮罩其他平臺連結等方式，實現“入口壟斷”與“自我優待”。這些平臺在熱搜榜、首屏、彈窗等重點環節，通過設置關鍵詞、定向推送等方式將特定內容推至榜單前列，暗中控制人們可關注的資訊範圍。72.1%的被訪者認為平臺會推薦與自身興趣相似的內容。當人們習慣由平臺供應資訊時，有可能陷入演算法設置的“過濾氣泡”中，人委身成為數據的“附屬品”，漸漸喪失接觸多元資訊的機會。

　　應對：

　　從“逃避”到“棲身”的用戶生存之道

　　從對“大數據殺熟”的詬病，到對“資訊繭房”的熟知，普通用戶在強勢的演算法技術應用面前，不得不選擇以妥協的方式忍受演算法帶來的種種問題。調查中，超過半數受訪者表示自己意識到了平臺或商家對個人資訊的收集，但如果不勾選“用戶知情同意書”，就無法使用軟體所提供的功能。讓渡隱私來換取服務，成為普通人與演算法共存時“無奈而自洽”的心態。然而，在“受制于演算法”的大多數情形之外，仍有不少用戶選擇同演算法“鬥智鬥勇”，規避演算法的消極影響。

　　善用“反追蹤”策略的“數字隱身”。大學生高宇是社交平臺的“重度用戶”，在和演算法推薦日復一日的相處中，她練就了一身“躲避”演算法的本領：“我每次在首頁刷到不想看的內容就會‘以迅雷不及掩耳之勢’劃過。”此外，她還在同一個社交平臺註冊了“小號”，“大號用來追逐熱點資訊，小號用來發日常，這樣不想看到相關內容的時候就有個地方可以‘躲’了”。

　　當下，身處各類默認設置協議中的普通個體，發展出多元的“演算法回避”策略。他們或更換手機號碼、建立多個賬號，以此迷惑演算法；或採取不點讚、不發表、不評論的方式，減少在網際網路中的數字痕跡；或因不喜歡某些軟體的推薦機制而選擇關閉或停用，直至尋求到演算法友好的替代性産品；或想辦法關閉手機收音功能，從硬體設備端對可能的演算法監聽予以阻隔。這些方式呈現出共性的演算法化生存之策——“斷連”與“隱形”。然而，調研中許多用戶表示雖然可以遠離演算法軟體，卻無法躲避演算法思維的連鎖反應。調查顯示，只有54.9%的人認為這種逃避産生了效果，霸王條款、偷用隱私、強行定位等情況依然難以靠個體力量得到緩解。

　　“因地制宜”投喂演算法的“反向規訓”。依據演算法情境“因地制宜”地制定使用策略，主動探究演算法運作的規則與思維方式，通過意圖鮮明的點讚、收藏、點擊“不感興趣”等行為設置自主偏好，甚至在感興趣的帖子下留言稱“大數據請記住我，多向我推送這樣的(帖子)”……調研發現，部分用戶選擇以主動“餵養”的方式尋求與演算法的相處之道。

　　其中，一度活躍于“飯圈”的“數據粉”就是依靠與演算法的“你來我往”試圖影響資訊排序的一群人。“數據粉”群體通常通過組織資訊點擊和發佈，對偶像的作品點讚、帶話題轉發等，提高相關內容的熱度，從而影響演算法，令與偶像相關的內容躋身更顯著的位置，高調搶佔大眾注意力。

　　借演算法平臺謀取紅利的“棲身式共存”。“以前我只選感興趣的內容創作，但有一次偶然剪輯製作了一部爆款影視劇介紹，流量特別好，自此以後我開始琢磨怎麼才能更火。”余家豪是一名業餘的視頻網站內容創作者，受和他類似感受的牽引，越來越多的MCN(多頻道網路)及自媒體創作者全心“棲身”于演算法主導的內容世界，迎合代碼規則、抓住流量密碼、實現商業變現，構成了演算法化生存的另一種模式。調研中，在“是否主動迎合推薦機制發佈內容”的回答中，選擇“是”的比重超過三分之二。調研也發現，部分內容生産者不惜使用“三俗內容”“打擦邊球”等方式迎合演算法準則。

　　反思：

　　走出演算法困境究竟難在哪？

　　平臺價值觀嵌入演算法程式，增加了普通個體察覺偏見的難度。調研中，接受訪談的演算法工程師表示，演算法並不是絕對客觀中立的技術，數據採集的範圍與平臺的市場意圖等都會寫進代碼、影響樣本分佈或數據集，從而將“傾向”與“立場”嵌入程式設計中。對於普通用戶而言，由於演算法本身以數字、公式的方式呈現，具有“技術無意識”的特徵，因此，個體更難察覺和追溯價值偏見的源頭。例如以“流量至上”為代表的畸形的內容評價體系就是演算法邏輯潛移默化作用的結果。

　　演算法設計方與社會公眾之間存在知識鴻溝，導致演算法難以被理解和詮釋。按照行業慣例，大部分演算法設計者並不會將運算的細節公之於眾，演算法存在著看不見的“黑箱”。長期以來，這種不透明的機制被看作是“自然化”的存在，很少有人去質疑其合理性，嚴重影響了社會對演算法的監督。演算法工程師與其他社會主體之間缺少公開而持續的演算法解釋環節，建立相關的多方演算法溝通機制迫在眉睫。

　　演算法使用者處於弱勢地位，加劇了個體維權難題。調研組發現，真正了解演算法運作機制的人並不多，僅有43.0%的人認為自己熟悉演算法，更多被訪者表示自己對演算法“一知半解”“知道又好像不太熟悉”。在我國當下有關媒介素養的教育中，“演算法素養”培育仍然缺位。歐盟委員會于2020年開始呼籲成員國各國培育公眾對演算法系統功能及其影響的意識和素養。

　　開展演算法治理的配套措施和機制尚未到位。作為日常技術，演算法深刻改變了人們的生活，但社會尚未跟上演算法發展的步伐。換言之，技術的發展並沒有完善的“基礎設施”來配套。同時，演算法行業的倫理意識尚顯薄弱，缺少行業自治的倫理標準。有關演算法推薦資訊服務的管理規定雖然已經出臺，但是與之相配套的治理演算法的體制機制、保障措施還有待完善，整個社會對演算法開展“協同共治”的氛圍意識和參與渠道，都需要持續探索、切實推進。

　　未來：

　　全面提升演算法素養，與《規定》形成互補

　　《規定》出臺讓自上而下的演算法治理有了法理依據，但在自下而上的演算法素養提升方面仍有較大差距，需從以下方面著手開展相關工作。

　　融通多元渠道，上好全民的“演算法普及課”，形成社會共識與知識共用，打破“演算法崇拜”。演算法思維不僅應用於演算法領域，也在更廣泛的層面上影響著實踐。增強演算法思維，一方面要深入理解演算法邏輯，提高運用計算思維、數據思維分析和解決問題的能力；另一方面，要防止走入“演算法崇拜”的誤區，著力培養演算法素養與人文素養相容的新思維。如今，系統化的演算法思維教育仍然缺位，亟須全民共上“演算法普及課”，補上演算法思維教育的缺口。2018年起，演算法相關課程已寫進高中“新課標”，未來還需增加中小學演算法課程，“從娃娃抓起”培養演算法思維；加強演算法科普讀物與影視作品創作，以文化産業助推演算法思維教育；建立演算法思維評價指標體系，推動演算法思維教育科學化發展。

　　將提升演算法素養與現有消費權益、隱私權益、特殊人群權利保護體系“有效對接”“精準匹配”，構建向上向善的演算法傳播格局。配合《規定》對透明性、可解釋的演算法規則的要求，基於公開的演算法機制，增強用戶對演算法過濾資訊的辨別力，同時加強對熱點排序等功能的人工干預；在應對“隱私危機”方面，樹立個體資訊保護意識，厘清個人普通資訊與個人敏感資訊邊界；在個人資訊輸入頁面設置隱私洩露提醒，防止盲目洩露個人資訊；加強隱私權相關案例的媒體報道，樹立公眾維權意識；加強理性消費、公平消費等知識宣傳，開通差異化定價投訴渠道，明確獎懲機制，嚴格整治“大數據殺熟”等侵犯消費者權益行為，幫助大眾避開“消費陷阱”。

　　構建“主流價值觀+行業倫理+公共監管”的協同治理體系，強化演算法問責，營造合法規、有情懷、可追溯的演算法開發環境。演算法素養主體既包括演算法使用者，也包括演算法開發者。提升演算法開發者的演算法素養，更需要多元協力、攜手共治。應追蹤《網際網路資訊服務演算法推薦管理規定》等法規的實施效果，對違規應用演算法技術的企業進行處罰、約談等，實現剛性約束；在行業內廣泛開展對演算法倫理的宣傳與討論，加強主流價值觀的行業內宣傳，將社會公德和職業道德引入行業價值體系，實現柔性制約；督促網際網路行業建立實踐層面的操作規範，著意防範“演算法偏見”“演算法歧視”等現象，從開發設計環節追求演算法公平，實現技術創新與倫理之間的平衡；推進演算法開發過程公開化、透明化，引入公眾監督，營造依法、審慎、道德的行業環境。

　　作者：光明日報聯合調研組

　　(執筆人：北京市習近平新時代中國特色社會主義思想研究中心特約研究員毛湛文、本報記者白雪蕾；調研組其他成員：趙安琪、聶一丹、于昊、季蕓、代寧)