關(guān)鍵詞：智能算法;算法推薦;意識(shí)形態(tài)安全;國(guó)家安全

作者：修明圓;張新寧

作者單位：復(fù)旦大學(xué)

　　摘　 要:作為大數(shù)據(jù)與人工智能技術(shù)遷躍式發(fā)展的產(chǎn)物,算法推薦在信息傳播領(lǐng)域中正引領(lǐng)著新一輪的資訊分發(fā) 革命。 立足于技術(shù)的意識(shí)形態(tài)性視角,算法推薦在承襲技術(shù)合理性語(yǔ)境的過(guò)程中也暗含著系列意識(shí)形態(tài)安全風(fēng) 險(xiǎn)。 為此,需要從技術(shù)的意識(shí)形態(tài)向度審視算法屬性,從機(jī)制規(guī)則的內(nèi)在制約角度思考算法邏輯,從意識(shí)形態(tài)安 全的要素層面關(guān)注算法變量,從工具理性與價(jià)值理性的平衡視角審視算法倫理,從技術(shù)“黑箱”的屬性特點(diǎn)方面 考量算法規(guī)制。 如此,才能形成對(duì)智能算法推薦風(fēng)險(xiǎn)成因的多維系統(tǒng)分析,進(jìn)而在維護(hù)國(guó)家意識(shí)形態(tài)安全的視閾 中,為應(yīng)對(duì)防范風(fēng)險(xiǎn)提供決策參考。

　　近年來(lái),伴隨著大數(shù)據(jù)可用性與算力水平的提 升,以從海量數(shù)據(jù)中采集信息并進(jìn)行知識(shí)歸納為特 征的智能算法在重構(gòu)互聯(lián)網(wǎng)底層程序邏輯的過(guò)程 中,正逐漸引領(lǐng)著各領(lǐng)域算法革新的新常態(tài)。 以 “信息找人”“信息私人定制”為特征的智能算法推 薦,在顛覆傳統(tǒng)以人工為主導(dǎo)的“編輯分發(fā)”模式的 過(guò)程中,正成為微博、微信等社交媒體平臺(tái),抖音、 今日頭條等聚合型資訊終端平臺(tái),淘寶、美團(tuán)等電 子商務(wù)平臺(tái)的標(biāo)準(zhǔn)配置,并在推動(dòng)信息生產(chǎn)、篩選、 分發(fā)方式變革的過(guò)程中,不斷改變著互聯(lián)網(wǎng)信息的 分發(fā)秩序和傳播效果,特別是重塑了社會(huì)意識(shí)形態(tài) 內(nèi)容傳播的媒介生態(tài)。 從技術(shù)的二重性視角出發(fā), 智能算法推薦的發(fā)展既為主流意識(shí)形態(tài)內(nèi)容的分 發(fā)提供了數(shù)據(jù)支持和動(dòng)力因素,但也容易導(dǎo)致社會(huì) 意識(shí)形態(tài)內(nèi)容傳播面臨信息操縱、信息窄化、信息 失控、信息去中心化等風(fēng)險(xiǎn)。 基于總體國(guó)家安全觀 的理論視角,只有系統(tǒng)探討這一新技術(shù)實(shí)體對(duì)意識(shí) 形態(tài)安全所帶來(lái)風(fēng)險(xiǎn)的成因,才能為嘗試提出科學(xué) 的治理方案提供決策依據(jù),這對(duì)我國(guó)的網(wǎng)絡(luò)安全、 意識(shí)形態(tài)安全乃至政治安全、國(guó)家安全無(wú)疑有著重 要的理論和現(xiàn)實(shí)意義。

　　一、算法屬性探析:意識(shí)形態(tài)安全風(fēng)險(xiǎn)的 生成根源

　　以計(jì)算機(jī)算法和機(jī)器深度學(xué)習(xí)為內(nèi)核的算法 推薦內(nèi)置著客觀、中立的工具和知識(shí)體系,但作為 人的創(chuàng)造物,其也不可避免地承載著程序設(shè)計(jì)者的 價(jià)值信仰和理性建構(gòu),特別是在延續(xù)科技內(nèi)在意識(shí) 形態(tài)性面向的過(guò)程中,繼續(xù)承襲著技術(shù)依賴(lài)的意識(shí) 形態(tài)語(yǔ)境。

　　1. 科學(xué)技術(shù)的意識(shí)形態(tài)屬性

　　馬克思恩格斯認(rèn)為“科學(xué)是歷史杠桿” 和“最 高意義的革命力量”。 以馬爾庫(kù)塞、哈貝馬斯、霍克 海默為代表的法蘭克福學(xué)派學(xué)者也在馬克思主義 科技觀的基礎(chǔ)上進(jìn)一步從政治學(xué)、倫理學(xué)、社會(huì)學(xué)、 哲學(xué)等層面探究作為“精神生產(chǎn)”與“智力勞動(dòng)”的 科學(xué)技術(shù)對(duì)社會(huì)發(fā)展和社會(huì)意識(shí)所產(chǎn)生的影響。

　　其一,“科學(xué)與技術(shù)成為意識(shí)形態(tài)。”馬克斯· 韋伯將科學(xué)技術(shù)視為意識(shí)形態(tài),提出在發(fā)達(dá)的工業(yè) 社會(huì)或后期資本主義社會(huì)中,科學(xué)技術(shù)執(zhí)行著意識(shí)形態(tài)的功能,這與法蘭克福學(xué)派的科學(xué)技術(shù)社會(huì)功 能理論有著共通之處。 霍克海默在《科學(xué)及其危機(jī) 札記》一文中也提出科學(xué)是意識(shí)形態(tài)的觀點(diǎn),他指 出“之所以說(shuō)科學(xué)是意識(shí)形態(tài),是因?yàn)樗Ａ糁?種阻礙它發(fā)現(xiàn)社會(huì)危機(jī)真正原因的形式” [2] 。 馬爾 庫(kù)塞認(rèn)為,作為一種新的控制形式的當(dāng)代科學(xué)技術(shù) 具有著明確的意識(shí)形態(tài)屬性,其在為社會(huì)設(shè)定理想 生活幻景的過(guò)程中也致使人們?cè)跓o(wú)法抵抗被技術(shù) 消解里逐漸趨同。 哈貝馬斯繼續(xù)發(fā)展了“科學(xué)技術(shù) 即是意識(shí)形態(tài)”的命題,他認(rèn)為科技不僅是一種直 接的生產(chǎn)力,更重要的是它日益成為社會(huì)的意識(shí) 形態(tài)。

　　其二,“技術(shù)的合理性已經(jīng)變成政治的合理 性。”馬爾庫(kù)塞從馬克斯·韋伯關(guān)于資本主義社會(huì) 的“合理化”理論視角出發(fā),認(rèn)為科學(xué)技術(shù)在提高生 產(chǎn)效率的過(guò)程中發(fā)揮著穩(wěn)定社會(huì)秩序與為現(xiàn)存社 會(huì)制度做辯護(hù)的作用,科技進(jìn)步在為統(tǒng)治中的其他 權(quán)力提供合法性的基礎(chǔ)上深刻嵌入到了整個(gè)社會(huì) 的統(tǒng)治秩序里。 “技術(shù)的合理性已經(jīng)變成政治的合 理性” [3] ,技術(shù)控制體現(xiàn)出了“有益于整個(gè)社會(huì)集 團(tuán)和社會(huì)利益的理性” [4] ,統(tǒng)治的合理性需要把同 科學(xué)技術(shù)進(jìn)步聯(lián)系在一起的生產(chǎn)力的提高作為自 身合法性的基礎(chǔ)。 哈貝馬斯也在闡釋追求效率的 “工具行為” 和追求相互理論意見(jiàn)一致的“交往行 為”的理論基礎(chǔ)上,提出“工具行為” 正日益侵入 “交往行為”,技術(shù)合理性開(kāi)始轉(zhuǎn)化成為資本主義對(duì) 人的統(tǒng)治的合理性。

　　其三,“技術(shù)理性的概念本身就是意識(shí)形態(tài)。” 霍克海默認(rèn)為,科學(xué)同宗教、哲學(xué)、法律等意識(shí)形態(tài) 一樣,能夠?yàn)樯鐣?huì)不合理性做合法性置辯,其掩蓋 了社會(huì)的真實(shí)本性,具有欺騙性和虛幻性。 哈貝馬 斯則提出,在發(fā)達(dá)工業(yè)社會(huì)中,科學(xué)與技術(shù)作為新 的合法性形式已逐漸超越了意識(shí)形態(tài)的舊因素而 演化為以科學(xué)為核心的新型意識(shí)形態(tài)或技術(shù)主宰 觀念的意識(shí)形態(tài)。 科學(xué)技術(shù)具有著生產(chǎn)力與意識(shí) 形態(tài)的雙重功能,從功能的關(guān)系上看,科技的生產(chǎn) 力功能是科技成為意識(shí)形態(tài)的前提,科技的意識(shí)形 態(tài)功能則是科技成為生產(chǎn)力的結(jié)果。 如此,科技與 意識(shí)形態(tài)間的鴻溝逐漸被彌合,科技超越了生產(chǎn)力 范疇而具有了意識(shí)形態(tài)的屬性,并進(jìn)而由批判生產(chǎn) 關(guān)系的基礎(chǔ)成為了為政治合法性做辯護(hù)的工具,技 術(shù)理性的概念也由此披上了意識(shí)形態(tài)屬性的外衣。

　　2. 算法推薦的意識(shí)形態(tài)屬性

　　作為人工智能與大數(shù)據(jù)技術(shù)在信息傳播領(lǐng)域 中融合生成的新技術(shù)產(chǎn)物,算法推薦在占據(jù)互聯(lián)網(wǎng) 資訊分發(fā)生態(tài)系統(tǒng)核心驅(qū)動(dòng)地位、構(gòu)成虛擬空間信 息處理運(yùn)行規(guī)則基礎(chǔ)的過(guò)程中,也不可避免地內(nèi)置 著科學(xué)技術(shù)的意識(shí)形態(tài)面向。

　　首先,算法推薦沿襲了“ 技術(shù)理性” “ 技術(shù)依 賴(lài)”的意識(shí)形態(tài)語(yǔ)境。 算法推薦以一種前沿信息分 發(fā)技術(shù)的形態(tài)進(jìn)入到傳播市場(chǎng)里,在提升互聯(lián)網(wǎng)資 訊分發(fā)精準(zhǔn)有效性、滿(mǎn)足用戶(hù)個(gè)性化信息定制需求 中展現(xiàn)出的技術(shù)進(jìn)步合理性“外衣”使其存在發(fā)展 受到廣泛追捧歡迎。 在逐步取代人工編輯,推動(dòng)傳 統(tǒng)信息分發(fā)模式革新的基礎(chǔ)上,算法推薦展現(xiàn)了由 技術(shù)進(jìn)步所為受眾營(yíng)造的更加舒適的信息場(chǎng)域,依 然呈現(xiàn)著技術(shù)的所謂“中立性”表象,而實(shí)際上已經(jīng) 悄然掌握了信息社會(huì)中的新聞把關(guān)權(quán)、信息分發(fā) 權(quán)、議程設(shè)置權(quán)乃至對(duì)人們價(jià)值觀的塑造權(quán)與社會(huì) 意識(shí)形態(tài)的主導(dǎo)權(quán)。 它承襲了科技在社會(huì)各領(lǐng)域 中的公信力,并繼續(xù)將“技術(shù)理性” “技術(shù)依賴(lài)” 的 語(yǔ)境延續(xù)到現(xiàn)實(shí)社會(huì),執(zhí)行著科學(xué)技術(shù)的意識(shí)形態(tài) 功能。

　　其次,算法推薦承載的是程序所有者的理性建 構(gòu)。 算法作為程序編碼本身沒(méi)有偏見(jiàn)和主觀性,但 其作為人的創(chuàng)造物卻在架構(gòu)設(shè)計(jì)中嵌入了程序所 有者的主體價(jià)值意識(shí),如歧視、偏袒、刻板印象等。 程序所有者實(shí)際上掌握了算法的可見(jiàn)性權(quán)力,特別 是在算法推薦廣泛運(yùn)用的平臺(tái)媒體中,為達(dá)到預(yù)期 推送效果而預(yù)先過(guò)濾并突出顯示選項(xiàng)是系統(tǒng)所有 者進(jìn)行算法編碼的價(jià)值落點(diǎn)。 如平臺(tái)為優(yōu)化最大 商業(yè)利益變量,常常會(huì)通過(guò)“精選”某些內(nèi)容作為一 定時(shí)段分發(fā)推送、賦予流量的重點(diǎn),而這種“精選” 內(nèi)容的衡量標(biāo)準(zhǔn)實(shí)際上承載的就是平臺(tái)的利益傾 向,這種被“操縱”過(guò)的信息環(huán)境滲透的則是平臺(tái)媒 體的價(jià)值導(dǎo)向。 程序所有者的理性建構(gòu)在一定程 度上使算法推薦擁有了主觀色彩,編碼應(yīng)用也在底 層設(shè)計(jì)邏輯中暗含了人的主體意識(shí)。

　　最后,算法推薦能夠改變個(gè)體的價(jià)值傾向與意 識(shí)認(rèn)知。 算法推薦以編碼程序生成的智能算法為 核心,在定義內(nèi)容特征向量、收集個(gè)體行為數(shù)據(jù)、分 析用戶(hù)信息偏好、推薦分發(fā)適配內(nèi)容的基礎(chǔ)上,能 夠自主根據(jù)用戶(hù)畫(huà)像的比對(duì)找出數(shù)據(jù)間的關(guān)聯(lián)關(guān) 系以實(shí)現(xiàn)個(gè)體與內(nèi)容的精準(zhǔn)有效對(duì)接。 個(gè)體總是 依賴(lài)認(rèn)知啟發(fā)或心理捷徑進(jìn)行信息接收。 建立在 信息收集、軌跡監(jiān)控、數(shù)據(jù)計(jì)算等提升用戶(hù)黏性基礎(chǔ)上的智能算法致力于在應(yīng)用運(yùn)行中了解人、分析 人,個(gè)體在將信息選擇決策權(quán)交由算法的過(guò)程中也 越來(lái)越信任于其所進(jìn)行的內(nèi)容價(jià)值判斷,而“對(duì)媒 介影響潛意識(shí)的溫順的接受,使媒介成為囚禁其使 用者的無(wú)墻的監(jiān)獄” [5] 。 算法推薦的價(jià)值判斷標(biāo)準(zhǔn) 在一次次的信息分發(fā)中持續(xù)不斷地向人們進(jìn)行滲 透,潛移默化地塑造著個(gè)體的思想意識(shí)和價(jià)值選 擇,影響著人們的認(rèn)知和行為,并意在最終形塑個(gè) 體對(duì)外部世界的看法。

　　二、算法邏輯推演:意識(shí)形態(tài)安全風(fēng)險(xiǎn)的 產(chǎn)生機(jī)制

　　當(dāng)前主流的智能算法推薦規(guī)則類(lèi)型繁多,以人 口統(tǒng)計(jì)學(xué)信息數(shù)據(jù)、物品信息數(shù)據(jù)、用戶(hù)個(gè)體信息 數(shù)據(jù)、用戶(hù)行為信息數(shù)據(jù)為建模和預(yù)測(cè)依據(jù),總體 上可以把算法推薦的系統(tǒng)類(lèi)別劃分為基于內(nèi)容的 推薦、基于協(xié)同過(guò)濾的推薦、基于流行度的推薦以 及混合推薦等。 不同推薦算法系統(tǒng)內(nèi)置的程序機(jī) 制不同,其在基于各自算法、模型及數(shù)據(jù)處理方式 上所產(chǎn)生的意識(shí)形態(tài)風(fēng)險(xiǎn)路徑與威脅也各有差異 與側(cè)重。

　　1. 基于內(nèi)容的推薦算法: 偏見(jiàn)繭房與認(rèn)同 削弱

　　基于內(nèi)容的推薦算法(Content - based Recommendation)是利用機(jī)器學(xué)習(xí)通過(guò)數(shù)據(jù)標(biāo)簽事先定義 好推薦物品或信息內(nèi)容的特征向量,然后計(jì)算出對(duì) 象或項(xiàng)目間的相關(guān)性,再基于用戶(hù)已有的數(shù)字軌跡 (如瀏覽、評(píng)分、收藏、購(gòu)買(mǎi)記錄等),推薦與其偏好 類(lèi)別在特征標(biāo)簽上具有相似屬性的其他項(xiàng)目,通常 包含特征提取、特征向量化、相似度計(jì)算、推薦生成 四個(gè)步驟。 基于內(nèi)容的推薦算法核心注重從用戶(hù) 自身的行為數(shù)據(jù)出發(fā),依賴(lài)于通過(guò)個(gè)體偏好進(jìn)行計(jì) 算預(yù)測(cè),致力于實(shí)現(xiàn)個(gè)性化分發(fā)與精準(zhǔn)化推送。 但 與此同時(shí),這種一切以用戶(hù)興趣、需求為導(dǎo)向的算 法邏輯也存在著遮蔽意識(shí)主體信息視野、固化其已 有認(rèn)知的風(fēng)險(xiǎn)。 這是因?yàn)槭鼙姳疚坏倪壿嫹▌t使 得個(gè)體認(rèn)知與價(jià)值傾向不斷在算法推薦創(chuàng)造的舒 適信息場(chǎng)域中獲得正向激勵(lì)反饋,從而導(dǎo)致用戶(hù)沉 溺于自我意識(shí)的“回音室” 中。 “公眾因注意自己 選擇的東西和使自己愉悅的通訊領(lǐng)域,久而久之, 會(huì)將自身桎梏于像蠶繭一樣的‘繭房’之中。” [6] 這 將導(dǎo)致意見(jiàn)的自由市場(chǎng)受到一個(gè)個(gè)偏見(jiàn)“繭房”的 侵蝕,從而削弱社會(huì)意識(shí)形態(tài)的認(rèn)同效度。

　　2. 基 于 協(xié) 同 過(guò) 濾 的 推 薦 算 法: 圈 層 議 程 與共識(shí)分化

　　基于協(xié)同過(guò)濾的推薦算法(Collaborative Filtering Recommendation)是根據(jù)“兩個(gè)用戶(hù)喜歡的項(xiàng)目 交集越大,這兩個(gè)用戶(hù)越相似” [7]的假設(shè)所構(gòu)建的, 也就是人們通常所說(shuō)的“物以類(lèi)聚,人以群分”。 這 種算法根據(jù)用戶(hù)的個(gè)體數(shù)據(jù)與行為數(shù)據(jù)來(lái)計(jì)算用 戶(hù)間的相似度,并為用戶(hù)推薦與其興趣相似用戶(hù)喜 歡的物品以及與其觀點(diǎn)一致用戶(hù)偏好的信息,經(jīng)過(guò) 建立用戶(hù)—物品評(píng)分矩陣、相似度計(jì)算、預(yù)測(cè)評(píng)分、 推薦生成四個(gè)環(huán)節(jié)完成信息內(nèi)容的分發(fā)程序。 協(xié) 同過(guò)濾被視為是“利用集體智慧”的典范算法,但這 種基于用戶(hù)間的相似度、群體間的契合度進(jìn)行推薦 的規(guī)則邏輯也進(jìn)一步形塑了“人以類(lèi)聚”的網(wǎng)絡(luò)空 間,特別是加劇形成了具有“單向度思想和行為模 式”的社會(huì)群體。 當(dāng)前網(wǎng)絡(luò)空間中存在的“地域歧 視”“男女對(duì)立” “階層對(duì)立” 等現(xiàn)象都是基于社群 的聚集效應(yīng)所引發(fā)的,“在群體營(yíng)造的‘回音室’ 中,個(gè)體將排斥超出既有價(jià)值觀念的思想,進(jìn)一步 強(qiáng)化已有偏見(jiàn),加劇社群之間的敵對(duì)情緒” [8] 。 這 種社群之間的認(rèn)知區(qū)隔與不同圈層之間的價(jià)值對(duì) 立將會(huì)造成社會(huì)價(jià)值觀的沖突與分裂,并進(jìn)而在一 定程度上分化了社會(huì)價(jià)值共識(shí)的凝聚效用。

　　3. 基于時(shí)序流行度的推薦算法: 熱度至上 與主流冷落

　　基于 時(shí) 序 流 行 度 的 推 薦 算 法 ( Popularity - based Recommendation) 應(yīng)用主要以各大門(mén)戶(hù)網(wǎng)站 上的“熱搜”“榜單”等為代表。 應(yīng)用后臺(tái)根據(jù)對(duì)頁(yè) 面訪問(wèn)量、獨(dú)立訪客數(shù)量、分享率、討論量等指標(biāo)數(shù) 據(jù)的統(tǒng)計(jì),利用加權(quán)平均或指數(shù)衰減等方式對(duì)信息 內(nèi)容的熱度和流行度進(jìn)行量化評(píng)估,再選擇排名靠 前的信息內(nèi)容作為推薦結(jié)果展示推送給所有用戶(hù)。 微博的“熱搜榜”、微信的“24 小時(shí)熱文榜”、嗶哩嗶 哩的“全站日榜”、抖音的“視頻榜” 等都是由基于 時(shí)序流行度的推薦算法所生成的。 廣泛應(yīng)用于各 商業(yè)平臺(tái)中的基于時(shí)序流行度的推薦算法秉持著 “熱度為先” “流量至上”的規(guī)則邏輯,為迎合高閱 覽量、高傳播量、高點(diǎn)贊量的高收益變現(xiàn)閉環(huán),娛樂(lè) 八卦、炫富享樂(lè)、低俗獵奇、負(fù)面事件等迎合人們娛 樂(lè)需求的信息內(nèi)容便會(huì)充斥網(wǎng)絡(luò)空間,這不但會(huì)導(dǎo) 致那些蘊(yùn)含思想性、科學(xué)性、理論性的內(nèi)容被算法 計(jì)算規(guī)則所“冷落”,并且傳播權(quán)力的泛算法化也在 一定程度上影響著主流媒體的議程設(shè)置實(shí)效。 這也致使公共信息的生存空間不斷被擠占,無(wú)序傳播 離析著主流價(jià)值觀導(dǎo)向,進(jìn)而逐漸削弱主流意識(shí)形 態(tài)對(duì)社會(huì)集體認(rèn)知的引領(lǐng)力。

　　需要說(shuō)明的是,如今的算法推薦系統(tǒng)在實(shí)際應(yīng) 用中并不會(huì)僅采取單一的推薦算法類(lèi)型,因?yàn)槿魏?一種推薦算法都存在著自身的缺陷。 此時(shí)各種成 熟網(wǎng)站與應(yīng)用往往會(huì)通過(guò)組合不同類(lèi)型的推薦算 法來(lái)彌補(bǔ)缺勢(shì),并根據(jù)不同的應(yīng)用場(chǎng)景與目標(biāo)項(xiàng)目 選擇多種適配推薦算法進(jìn)行混合平衡,從而達(dá)到更 好的推薦效果。 混合方式的選擇通常會(huì)使用加權(quán)、 變換、層疊、特征組合、特征擴(kuò)充等手段來(lái)提升算法 的綜合性能,此時(shí)由算法推薦所帶來(lái)的意識(shí)形態(tài)安 全風(fēng)險(xiǎn)也會(huì)呈現(xiàn)出疊加態(tài)勢(shì)。

　　三、算法變量解析:意識(shí)形態(tài)安全風(fēng)險(xiǎn)的 催化要素

　　在由智能算法推薦營(yíng)造的新信息分發(fā)場(chǎng)域中, 系列意識(shí)形態(tài)安全要素也在算法變量的調(diào)控下發(fā) 生了新的更變,主要表現(xiàn)在意識(shí)形態(tài)內(nèi)容的傳播方 式、受眾的信息獲取習(xí)慣、內(nèi)容傳播的價(jià)值導(dǎo)向與 意識(shí)形態(tài)安全的內(nèi)外環(huán)境上。 正是這些因素的變 更打破了維系意識(shí)形態(tài)安全的平衡狀態(tài),并由此生 成了新的風(fēng)險(xiǎn)威脅。 因而只有理清這些因素的變 化情況,才能進(jìn)一步剖析算法推薦內(nèi)置意識(shí)形態(tài)安 全風(fēng)險(xiǎn)的成因。

　　1. 意識(shí)形態(tài)內(nèi)容傳播分發(fā)方式的更迭

　　憑借著技術(shù)優(yōu)勢(shì),算法推薦在推動(dòng)信息分發(fā)方 式革命性變革的過(guò)程中正逐步從技術(shù)工具演變?yōu)?信息內(nèi)容的擇取者、把關(guān)者與分發(fā)者,成為形塑社 會(huì)意識(shí)形態(tài)的新媒介工具。 在以“編輯分發(fā)”為主 導(dǎo)的報(bào)紙、電視、廣播等傳統(tǒng)大眾媒體中,內(nèi)容的生 產(chǎn)、篩選、審查、擇取、分發(fā)都交由專(zhuān)業(yè)媒體人士把 控,主流媒體憑借對(duì)媒介權(quán)力的絕對(duì)掌控力使得社 會(huì)意識(shí)形態(tài)內(nèi)容在分發(fā)中處于穩(wěn)定可控的狀態(tài), “主流媒體高效的議程設(shè)置實(shí)效使得主導(dǎo)意識(shí)形態(tài) 在凝 聚 社 會(huì) 價(jià) 值 共 識(shí) 方 面 處 于 絕 對(duì) 的 優(yōu) 勢(shì) 地 位” [9] 。 而伴隨著算法推薦的興起,信息處理過(guò)程 中的各項(xiàng)“準(zhǔn)公權(quán)力”卻在逐步由專(zhuān)業(yè)編輯轉(zhuǎn)移到 算法當(dāng)中,傳統(tǒng)媒體的“精英主義建構(gòu)”與“一元主 導(dǎo)地位”正逐漸被顛覆。 此時(shí),由技術(shù)工具“進(jìn)化” 為人工智能決策系統(tǒng)的算法推薦憑借其媒介權(quán)力 逐步成為主流意識(shí)形態(tài)塑造中的重要角色,促使了 意識(shí)形態(tài)內(nèi)容傳播分發(fā)方式的轉(zhuǎn)變。

　　2. 意識(shí)形態(tài)受眾信息獲取習(xí)慣的改變

　　傳統(tǒng)媒體囿于“編輯分發(fā)”模式的固有局限性, 往往會(huì)將受眾假定為“被動(dòng)接受信息的客體對(duì)象” 以及“單一且近似均質(zhì)的人群”。 鑒于專(zhuān)業(yè)媒體對(duì) 信息資訊篩選分發(fā)的把控,個(gè)體對(duì)內(nèi)容的自主選擇 權(quán)相對(duì)有限,此時(shí)的受眾處于被動(dòng)的信息接受者位 置。 伴隨著算法推薦的廣泛應(yīng)用,其個(gè)性化、精準(zhǔn) 化的分發(fā)特質(zhì)使得用戶(hù)與平臺(tái)之間逐漸建立起了 一種對(duì)接聯(lián)系,用戶(hù)開(kāi)始從“想象的受眾” 轉(zhuǎn)變?yōu)?“可測(cè)量的主體”,個(gè)體的興趣、偏好、個(gè)人特質(zhì)、消 費(fèi)優(yōu)先級(jí)等開(kāi)始成為信息分發(fā)過(guò)程的中心評(píng)估環(huán) 節(jié),信息的傳播邏輯開(kāi)始轉(zhuǎn)變?yōu)樘嵘脩?hù)滿(mǎn)意度、 增強(qiáng)用戶(hù)粘性為宗旨的“用戶(hù)至上”。 基于用戶(hù)的 性別、年齡、職業(yè)、學(xué)歷、收入等個(gè)體信息以及用戶(hù) 的瀏覽記錄、點(diǎn)贊、關(guān)注、評(píng)論、轉(zhuǎn)發(fā)等行為數(shù)據(jù),算 法推薦能夠?qū)崿F(xiàn)項(xiàng)目與對(duì)象間的關(guān)聯(lián)建模,在將用 戶(hù)置于信息分發(fā)主動(dòng)位置的基礎(chǔ)上,重新確立起了 信息接收客體的主體地位。

　　3. 網(wǎng)絡(luò)信息內(nèi)容傳播價(jià)值導(dǎo)向的轉(zhuǎn)換

　　傳統(tǒng)媒體在版面、欄目的編排設(shè)置中需要考慮 信息的實(shí)效性、通俗性與熱度等因素,社會(huì)利益至 上的分發(fā)準(zhǔn)則也需要將內(nèi)容的價(jià)值要素作為考評(píng) 的關(guān)鍵。 依靠專(zhuān)業(yè)化、深度化的采編團(tuán)隊(duì),“編輯分 發(fā)”模式發(fā)揮著“社會(huì)膝望者”的作用,在對(duì)信息進(jìn) 行篩選、甄別的基礎(chǔ)上,堅(jiān)持以正確價(jià)值導(dǎo)向內(nèi)容 為受眾塑造起看待事物的正確認(rèn)知與成熟思考體 系。 在通過(guò)社會(huì)主流價(jià)值觀整合多樣化思想意識(shí) 的過(guò)程中,傳統(tǒng)媒體能夠保證主流意識(shí)形態(tài)在各種 社會(huì)意識(shí)形態(tài)中牢牢確立起主導(dǎo)地位。 而在算法 推薦主導(dǎo)的信息分配機(jī)制下,信息“私人訂制”時(shí)代 的來(lái)臨以及平臺(tái)商業(yè)邏輯在信息分發(fā)導(dǎo)向中的融 入也正逐漸打破傳播生態(tài)中以重社會(huì)價(jià)值、重價(jià)值 理性為核心的分發(fā)目的。 算法技術(shù)逐漸成為了用 戶(hù)本位、平臺(tái)本位的“迎合者”,而背棄了社會(huì)價(jià)值 思想進(jìn)步的“引領(lǐng)者”,網(wǎng)絡(luò)信息內(nèi)容傳播的價(jià)值導(dǎo) 向也逐漸發(fā)生了偏移。

　　4. 網(wǎng)絡(luò)意識(shí)形態(tài)安全內(nèi)外環(huán)境的重塑

　　意識(shí)形態(tài)安全需要維持在一種客觀上沒(méi)有威 脅,主觀上沒(méi)有恐懼,主體間沒(méi)有沖突的內(nèi)外環(huán)境 里,如此,其才能發(fā)揮維系社會(huì)穩(wěn)定與政權(quán)合法性, 協(xié)調(diào)社會(huì)成員實(shí)現(xiàn)認(rèn)識(shí)、行動(dòng)統(tǒng)一性,抵御異己敵 對(duì)意識(shí)形態(tài)侵蝕、攻擊的維護(hù)功能。 以自上而下線(xiàn) 性集中式信息傳遞為特征的大眾媒體對(duì)信息議程的設(shè)定具有很強(qiáng)的可控性,能夠確保指導(dǎo)思想、政 策理論、道德秩序、政治信仰、民族文化等意識(shí)形態(tài) 要素處于絕對(duì)安全、占據(jù)主導(dǎo)位置的狀態(tài)之中。 而 伴隨著聚合平臺(tái)的興起加之算法推薦技術(shù)的驅(qū)動(dòng), 內(nèi)容生產(chǎn)與傳播渠道正逐漸打破原先由主流媒體 統(tǒng)一掌控的局面,爆炸式信息過(guò)載與定點(diǎn)式信息分 發(fā)正在弱化主流意識(shí)形態(tài)教育的統(tǒng)一性特質(zhì),意識(shí) 形態(tài)安全的內(nèi)部環(huán)境受到了干擾。 與此同時(shí),機(jī)器 學(xué)習(xí)算法的“黑箱”屬性也使敵對(duì)勢(shì)力能夠利用高 度精準(zhǔn)、隱蔽化的手段進(jìn)行非主流意識(shí)形態(tài)的傳播 與滲透,從而使網(wǎng)絡(luò)意識(shí)形態(tài)安全的外部環(huán)境受到 沖擊。

　　四、算法倫理考量:意識(shí)形態(tài)安全風(fēng)險(xiǎn)的 “理性”成因

　　任何一項(xiàng)科學(xué)技術(shù)在創(chuàng)造應(yīng)用中都被賦予了 兩種理性行為,即“價(jià)值合理性行為”與“目的合理 性行為”,馬克斯·韋伯也將其歸納為工具理性與 價(jià)值理性。 工具理性扮演著秉持功利性、效用性至 上的技術(shù)“開(kāi)拓者”角色,價(jià)值理性扮演著堅(jiān)守價(jià)值 性、倫理性的社會(huì)“守望者”角色,二者之間只有調(diào) 適張力才能保證技術(shù)向善發(fā)展。 算法推薦作為一 項(xiàng)技術(shù)所帶來(lái)的意識(shí)形態(tài)安全風(fēng)險(xiǎn)也需要基于技 術(shù)倫理的兩種理性層面考量其成因。

　　1. 工具理性是算法推薦的主導(dǎo)理性

　　工具理性( Instrumental Reason) 追求“能夠以 數(shù)學(xué)形式進(jìn)行量化和預(yù)測(cè)后果以實(shí)現(xiàn)目的的行 為” [10] ,在此基礎(chǔ)上形成的基礎(chǔ)科學(xué)、技術(shù)科學(xué)、應(yīng) 用科學(xué)構(gòu)成了當(dāng)今人類(lèi)文明積淀的基礎(chǔ)。 工具理 性強(qiáng)調(diào)人的行動(dòng)在功利性動(dòng)機(jī)的驅(qū)使下會(huì)注重從 效果最大化的角度利用工具效應(yīng)作為中介手段以 達(dá)到自身目的,具有輕人文、趨于功利化的傾向。 在近代資本主義發(fā)展工業(yè)現(xiàn)代化的道路上,追求有 用性成為了社會(huì)進(jìn)步的絕對(duì)真理,但與此同時(shí)工具 理性的逐漸凸顯也伴隨著價(jià)值理性的日漸式微,這 也導(dǎo)致了社會(huì)發(fā)展中對(duì)主體情感和精神價(jià)值的漠 視,并引發(fā)了一系列價(jià)值性思維的滑坡。

　　在算法推薦時(shí)代,智能算法大大提高了信息分 發(fā)的處理效率, 實(shí)現(xiàn)了對(duì)每一個(gè)用戶(hù)做精準(zhǔn)計(jì)算 并形成個(gè)人信息流的目標(biāo)。 算法對(duì)信息分發(fā)效度、 信息傳播精準(zhǔn)度、信息流量營(yíng)收的推崇使其蘊(yùn)含的 工具理性極大膨脹,“在技術(shù)光環(huán)之下,推薦算法從 不掩飾對(duì)資本和利潤(rùn)的追逐,將‘流量為王’奉為圭 臬” [11] 。 在堅(jiān)持有用性?xún)r(jià)值目標(biāo)至上的過(guò)程中,思 想意識(shí)、義務(wù)、尊嚴(yán)、美、規(guī)訓(xùn)等信念也被不同程度 地忽略。 平臺(tái)算法中的傳播法則與設(shè)計(jì)邏輯采用 的是在自然語(yǔ)言處理基礎(chǔ)上的標(biāo)簽化、指標(biāo)化與相 似化,實(shí)際上內(nèi)容價(jià)值并沒(méi)有作為信息價(jià)值衡量的 首要標(biāo)準(zhǔn)。 算法的程序設(shè)計(jì)者在推進(jìn)技術(shù)完善的 過(guò)程中也不斷通過(guò)采用流量池、疊加推薦和熱度加 權(quán)等模式致力于打造“爆款”、加大“引流”、實(shí)現(xiàn) “圈粉”,以完善平臺(tái)盈利的變現(xiàn)閉環(huán),這都導(dǎo)致資 本主導(dǎo)下的推薦算法逐漸失去客觀性的價(jià)值立場(chǎng), 進(jìn)而異化成為單純逐利的工具。

　　算法之中主導(dǎo)的工具理性使人們陷入“膚淺、 空洞、貧乏的精神境遇,失去對(duì)嚴(yán)肅、崇高、理性的 主動(dòng)追問(wèn)” [12] 。 工具理性的作用被無(wú)限放大, 在凌 駕于價(jià)值理性之上的過(guò)程中逐漸變成了一種霸權(quán), 形成支配人、控制人,主導(dǎo)社會(huì)、影響社會(huì)的無(wú)形 力量。

　　2. 價(jià)值理性的應(yīng)然“主位”實(shí)際缺失

　　價(jià)值理性也稱(chēng)實(shí)質(zhì)理性,是馬克斯·韋伯在其 “合理性”理論中提出的與工具理性相對(duì)應(yīng)的另一 種理性形態(tài),其主張“通過(guò)有意識(shí)地對(duì)一個(gè)特定的 行為———倫理的、美學(xué)的、宗教的或作任何其他闡 釋的———無(wú)條件的固有價(jià)值的純粹信仰,不管是否 取得成就” [13] ,是指絕對(duì)的不計(jì)后果地遵從某些價(jià) 值信念而行事的行為。 價(jià)值理性遵從一切行動(dòng)的 出發(fā)點(diǎn)應(yīng)以責(zé)任感、道德和誠(chéng)信等純粹信仰為基 礎(chǔ),通過(guò)純正向善的動(dòng)機(jī)以及合理合規(guī)的手段來(lái)實(shí) 現(xiàn)自己意欲達(dá)到的目的,而不管結(jié)果如何。 資本主 義的高度工具理性化會(huì)導(dǎo)致價(jià)值上的非理性,而二 者間的沖突和悖論也是資本主義社會(huì)出現(xiàn)危機(jī)與 諸多矛盾的體現(xiàn)。

　　從人的最終歸宿和終極關(guān)懷上看,工具理性應(yīng) 該是為價(jià)值理性所服務(wù)的,然而在資本運(yùn)作邏輯占 主導(dǎo)的算法推薦中,工具理性卻在侵占著價(jià)值理性 的表達(dá)陣地,其不但忽略了以人為本的信息分發(fā)邏 輯和傳播規(guī)則,并且導(dǎo)致了觀照社會(huì)公共領(lǐng)域的價(jià) 值理性的缺位,特別是致使算法推薦在信息分發(fā)中 發(fā)生了價(jià)值評(píng)判標(biāo)準(zhǔn)的偏移,從而使得偏離社會(huì)主 義意識(shí)形態(tài)主軌道的信息內(nèi)容的擴(kuò)散。 對(duì)工具理 性的推崇使算法平臺(tái)的逐利特性不斷強(qiáng)化,工具理 性與價(jià)值理性間張力的擴(kuò)大也淡化著主流意識(shí)形 態(tài)的價(jià)值性導(dǎo)向。

　　從根本上說(shuō),算法推薦是一種技術(shù)工具,是為 人的發(fā)展所服務(wù)的,是末;而算法推薦分發(fā)的信息內(nèi)容應(yīng)該帶給用戶(hù)思考、價(jià)值和知識(shí),是人的發(fā)展 所必須的,是本。 而在如今缺乏規(guī)制的算法推薦 中,本末卻在倒置,工具理性對(duì)價(jià)值理性的僭越使 得價(jià)值理性的“主位”實(shí)際處在缺位的狀態(tài)下,這就 不可避免地會(huì)削弱社會(huì)主流意識(shí)形態(tài)對(duì)社會(huì)與人 的發(fā)展的引導(dǎo)力。

　　五、算法規(guī)制審視:意識(shí)形態(tài)安全風(fēng)險(xiǎn)的 治理難題

　　算法推薦中暗含的意識(shí)形態(tài)安全風(fēng)險(xiǎn)在一定 程度上是具有“可預(yù)見(jiàn)性”的,但實(shí)現(xiàn)對(duì)其的有效規(guī) 制還尚存在諸多困難,其中的重要原因之一就在于 推薦算法固有的“機(jī)器學(xué)習(xí)”特征與“黑箱”屬性阻 礙著實(shí)際的監(jiān)管、審計(jì)與治理程序。

　　1. 機(jī)器學(xué)習(xí)型算法難以“陳述”常規(guī)決策依據(jù)

　　“機(jī)器學(xué)習(xí)算法”是以人工神經(jīng)網(wǎng)絡(luò)為機(jī)理的 深度學(xué)習(xí)方法族中的一類(lèi),其具有“從頭開(kāi)始學(xué)習(xí)” 的特征。 伴隨著機(jī)器學(xué)習(xí)算法的長(zhǎng)足發(fā)展,近年來(lái) 推薦算法的技術(shù)類(lèi)型也獲得了極大的革新,在給定 數(shù)據(jù)集上自動(dòng)進(jìn)行學(xué)習(xí)和預(yù)測(cè)的基礎(chǔ)上,其能夠 “通過(guò)迭代適應(yīng)和數(shù)據(jù)累積,以識(shí)別出特定因素(輸 入)和特定結(jié)果(輸出)之間的關(guān)系” [14] ,進(jìn)而自主 在海量數(shù)據(jù)源中捕捉非線(xiàn)性和非直接關(guān)聯(lián),并以此 作為推薦依據(jù)。 但與此同時(shí),機(jī)器學(xué)習(xí)算法的“自 主學(xué)習(xí)”特征也導(dǎo)致其在訓(xùn)練迭代中難以進(jìn)行常規(guī) 的人工說(shuō)明,其決策依據(jù)也往往無(wú)法被輕易量化, 從而為意識(shí)形態(tài)安全的監(jiān)管工作帶來(lái)了“不可解釋 性”難題。

　　一方面,推薦算法能夠進(jìn)行持續(xù)不斷的自我迭 代。 推薦算法的“機(jī)器學(xué)習(xí)”屬性使其在程序編寫(xiě) 中無(wú)需進(jìn)行統(tǒng)計(jì)學(xué)意義上的建模,不需要設(shè)定先驗(yàn) 規(guī)范功能變量。 因?yàn)橛伤惴ㄍ扑]所做出的判定不 依賴(lài)基于人的直覺(jué)和共識(shí)所形成的先驗(yàn)指標(biāo),而是 遵循一個(gè)通過(guò)實(shí)證數(shù)據(jù)確立起來(lái)的模型,這種模型 能夠自主在訓(xùn)練過(guò)程中依據(jù)結(jié)果不斷調(diào)整自身參 數(shù)與樣本權(quán)重,并在對(duì)模型進(jìn)行評(píng)估與優(yōu)化的過(guò)程 中自主進(jìn)行更新迭代。 但這種迭代往往不受程序 設(shè)計(jì)者的控制,具有不確定性,并且它與定量統(tǒng)計(jì) 分析模型十分相似,都難以整合無(wú)法被輕易量化或 無(wú)法進(jìn)行程序性表達(dá)的隱性知識(shí)。

　　另一方面,“算法黑箱”難以陳述表明判定決策 依據(jù)。 算法黑箱是指不具可檢查性的算法或用以 喂養(yǎng)和訓(xùn)練該算法的數(shù)據(jù)源,其存在于人工智能深 度學(xué)習(xí)的輸入與輸出之間,是難以為外界所觀察、 理解的“隱層”。 在機(jī)器學(xué)習(xí)的加持下,推薦算法模 型日益復(fù)雜的自我修正致使其判定機(jī)理愈發(fā)難以 解釋,其反映有關(guān)底層數(shù)據(jù)性質(zhì)問(wèn)題與調(diào)整自身運(yùn) 行方式客觀遵循的“知識(shí)邏輯”正逐漸跳脫出系統(tǒng) 設(shè)計(jì)者的初始思維,變得無(wú)法被充分理解。 常規(guī)決 策程序在受到質(zhì)詢(xún)時(shí),系統(tǒng)開(kāi)發(fā)者可以通過(guò)展示規(guī) 則邏輯來(lái)表明決策依據(jù),而推薦算法的編寫(xiě)者除了 能夠提供先驗(yàn)指標(biāo)設(shè)定外,卻常常難以對(duì)判定結(jié)果 做出闡釋,這也導(dǎo)致在監(jiān)管、審計(jì)、認(rèn)證程序中,推 薦算法的“黑箱”屬性阻礙著實(shí)際的執(zhí)法過(guò)程。

　　2. 監(jiān)管審查難度大且存在產(chǎn)權(quán)爭(zhēng)端矛盾

　　在數(shù)據(jù)驅(qū)動(dòng)時(shí)代,由算法推薦轉(zhuǎn)向所帶來(lái)的風(fēng) 險(xiǎn)積累使各國(guó)政府都認(rèn)識(shí)到對(duì)算法技術(shù)進(jìn)行規(guī)制 的必要性與緊迫性,但面對(duì)機(jī)器學(xué)習(xí)算法在改變行 為、確認(rèn)和自動(dòng)優(yōu)化系統(tǒng)操作上的審查難度,對(duì)其 的監(jiān)管一直以來(lái)都缺乏行業(yè)間與政府間的共識(shí),對(duì) 這一議題的研究也一直是世界頂級(jí)機(jī)器學(xué)習(xí)研究 論壇上的重要話(huà)題。

　　第一, 審查困難。 理解“正在運(yùn)行的算法”,特 別是它的更新,對(duì)于觀察者,包括那些創(chuàng)建初始代 碼的人來(lái)說(shuō),都不是可以立即實(shí)現(xiàn)的事情,這就導(dǎo) 致機(jī)器學(xué)習(xí)模型的不透明、不直觀性致使程序所有 者難以為外部審查提供合理解釋。 為解決這一問(wèn) 題,歐盟的一般數(shù)據(jù)保護(hù)法規(guī)曾提出過(guò)“可解釋的” 算法,即以決策樹(shù)的形式或要求算法的決策邏輯可 以追溯到詳細(xì)的決策參數(shù)。 但空泛的“可解釋性” 要求只是讓算法可以被技術(shù)人員解釋,至于算法審 查者是否理解或接受則難以界定。 這就導(dǎo)致當(dāng)審 查機(jī)構(gòu)與被審查者產(chǎn)生爭(zhēng)議時(shí),基于算法決策的邏 輯解釋總是缺乏說(shuō)服力,由此產(chǎn)生了審查的客觀 障礙。

　　第二,產(chǎn)權(quán)矛盾。 由一家公司開(kāi)發(fā)的算法通常 被視為該公司的知識(shí)產(chǎn)權(quán),算法程序的內(nèi)部策略或 訪問(wèn)控制權(quán)限在更新和設(shè)置的過(guò)程中都必須確保 只有相關(guān)人員可以對(duì)訓(xùn)練模型及其輸出結(jié)果進(jìn)行 使用或訪問(wèn),因而編碼具有機(jī)密性且不能被隨意復(fù) 制。 但監(jiān)管機(jī)構(gòu)如果要對(duì)算法編碼進(jìn)行審查就必 然需要公司提交源代碼以供分析測(cè)定,這就面臨著 企業(yè)核心機(jī)密受產(chǎn)權(quán)法保護(hù)與監(jiān)管程序會(huì)侵害到 企業(yè)利益之間的沖突。 特別是披露系統(tǒng)源代碼除 了會(huì)影響合法的商業(yè)利益,還有可能會(huì)給企業(yè)帶來(lái) 安全風(fēng)險(xiǎn)問(wèn)題與用戶(hù)隱私安全問(wèn)題,因而誰(shuí)能對(duì)監(jiān) 管的程序和結(jié)果負(fù)責(zé)是需要商榷的,特別是當(dāng)透明的初始代碼不能被看作是“程序化”的決策時(shí)。

　　第三,監(jiān)管窘境。 對(duì)算法推薦的規(guī)制需要在權(quán) 力合法合規(guī)使用的背景下加以闡釋,各國(guó)政府也在 試圖對(duì)算法進(jìn)行有效規(guī)制的過(guò)程中提出了許多構(gòu) 想,如“創(chuàng)設(shè)權(quán)力集中的監(jiān)管機(jī)構(gòu)” “建立新協(xié)同機(jī) 制”“規(guī)定算法規(guī)制操作的最大透明度” “創(chuàng)設(shè)嚴(yán)格 的紀(jì)律標(biāo)準(zhǔn)”“程序性監(jiān)控”“過(guò)程正當(dāng)性強(qiáng)調(diào)” “信 義義務(wù)”等。 這些舉措能夠使“更多數(shù)據(jù)”和“更優(yōu) 算法”的技術(shù)野心被適當(dāng)制約,但加強(qiáng)道德規(guī)范、持 續(xù)監(jiān)督和建立適當(dāng)?shù)姆煽蚣?以行政法律約束和 合理執(zhí)法方式等機(jī)制性條件實(shí)現(xiàn)程序標(biāo)準(zhǔn)和審查 程度的統(tǒng)一性問(wèn)題,還需要學(xué)術(shù)界和務(wù)實(shí)界進(jìn)一步 探討和研究。

　　六、算法威脅防治:意識(shí)形態(tài)安全風(fēng)險(xiǎn)的 應(yīng)對(duì)策略

　　預(yù)判風(fēng)險(xiǎn)是防范風(fēng)險(xiǎn)的前提,剖析風(fēng)險(xiǎn)成因是 應(yīng)對(duì)風(fēng)險(xiǎn)威脅的先決。 在從算法屬性、算法邏輯、 算法變量、算法倫理、算法規(guī)制等層面剖析算法推 薦內(nèi)置意識(shí)形態(tài)安全風(fēng)險(xiǎn)成因的基礎(chǔ)上,我們也需 要進(jìn)一步探究應(yīng)對(duì)風(fēng)險(xiǎn)的治理之策。

　　其一,優(yōu)化算法邏輯設(shè)計(jì),阻斷風(fēng)險(xiǎn)傳播機(jī)制。 針對(duì)算法邏輯推演中揭示的意識(shí)形態(tài)安全風(fēng)險(xiǎn)產(chǎn) 生機(jī)制,應(yīng)優(yōu)化算法設(shè)計(jì),確保算法在邏輯上更加 公正、透明。 具體而言,可以通過(guò)引入多樣化的數(shù) 據(jù)輸入,增強(qiáng)算法的泛化能力,避免算法在處理數(shù) 據(jù)時(shí)出現(xiàn)過(guò)度擬合現(xiàn)象,減少算法對(duì)特定數(shù)據(jù)集的 過(guò)度依賴(lài),從而降低算法偏見(jiàn)和歧視的風(fēng)險(xiǎn)。 例 如,在算法訓(xùn)練過(guò)程中,應(yīng)廣泛采納不同來(lái)源、不同 類(lèi)型的數(shù)據(jù),以減少數(shù)據(jù)偏倚對(duì)模型結(jié)果的影響。 同時(shí),加強(qiáng)對(duì)算法運(yùn)行過(guò)程的監(jiān)控,及時(shí)發(fā)現(xiàn)并糾 正算法邏輯中的不合理之處。 通過(guò)部署自動(dòng)化監(jiān) 控工具和引入專(zhuān)家審查機(jī)制,可以對(duì)算法輸出進(jìn)行 常態(tài)化審查,及時(shí)發(fā)現(xiàn)和糾正潛在的不合理或不公 正的結(jié)果,進(jìn)而能夠確保算法輸出的公正性和準(zhǔn)確 性,有效阻斷意識(shí)形態(tài)安全風(fēng)險(xiǎn)的傳播機(jī)制,為意 識(shí)形態(tài)安全提供更加堅(jiān)實(shí)的保障。

　　其二,精細(xì)管理算法變量,消除風(fēng)險(xiǎn)催化要素。 針對(duì)智能算法推薦中的意識(shí)形態(tài)變量風(fēng)險(xiǎn),應(yīng)適應(yīng) 傳播方式更迭,優(yōu)化內(nèi)容分發(fā)策略。 首先,應(yīng)根據(jù) 受眾的不同需求和興趣變化,實(shí)時(shí)調(diào)整算法模型, 避免單一的信息推送方式導(dǎo)致的過(guò)度信息過(guò)濾和 極化效應(yīng)。 在此基礎(chǔ)上,還應(yīng)密切關(guān)注受眾的信息 獲取習(xí)慣變化,根據(jù)用戶(hù)的行為模式,不斷完善推 薦算法的設(shè)計(jì),引導(dǎo)用戶(hù)獲得更加多元、客觀的資 訊。 此外,為了營(yíng)造健康的網(wǎng)絡(luò)信息生態(tài),必須加 強(qiáng)對(duì)網(wǎng)絡(luò)內(nèi)容的正向價(jià)值引導(dǎo)。 通過(guò)算法模型的 優(yōu)化,引導(dǎo)用戶(hù)獲取具有積極意義的信息,減少負(fù) 面信息的傳播,努力在社會(huì)輿論中營(yíng)造一種理性、 積極向上的氛圍。 與此同時(shí),隨著網(wǎng)絡(luò)意識(shí)形態(tài)安 全環(huán)境的日益復(fù)雜,需要加強(qiáng)對(duì)內(nèi)外部環(huán)境的監(jiān)測(cè) 和調(diào)控,在建立健全意識(shí)形態(tài)安全防護(hù)體系的基礎(chǔ) 上,確保意識(shí)形態(tài)領(lǐng)域的安全與穩(wěn)定。

　　其三,強(qiáng)化算法倫理教育,樹(shù)立正確風(fēng)險(xiǎn)觀念。 算法倫理考量揭示了意識(shí)形態(tài)安全風(fēng)險(xiǎn)的“理性” 成因,為了有效規(guī)避這些風(fēng)險(xiǎn),需要進(jìn)一步強(qiáng)化算 法設(shè)計(jì)者和使用者的倫理教育,提升其倫理意識(shí)和 社會(huì)責(zé)任感。 具體而言,可以通過(guò)舉辦定期的算法 倫理培訓(xùn)、設(shè)置算法倫理課程以及制定科學(xué)合理的 算法倫理準(zhǔn)則等,幫助從業(yè)人員正確理解和判斷算 法應(yīng)用中的倫理問(wèn)題。 應(yīng)鼓勵(lì)企業(yè)和組織制定嚴(yán) 格的倫理標(biāo)準(zhǔn),建立完善的倫理審查機(jī)制,確保算 法在使用過(guò)程中始終遵循社會(huì)公德、法律法規(guī)以及 全人類(lèi)的共同價(jià)值觀念。 算法使用者也應(yīng)定期關(guān) 注算法決策的公平性和透明度,避免對(duì)結(jié)果的盲目 依賴(lài),特別是避免因算法導(dǎo)致的信息偏差或歧視。

　　其四,完善算法規(guī)制體系,破解治理難題。 針 對(duì)算法規(guī)制審視中揭示的治理難題,應(yīng)完善算法規(guī) 制體系,加強(qiáng)算法監(jiān)管和治理。 一方面,建立健全 算法審查制度,對(duì)算法的設(shè)計(jì)、運(yùn)行及結(jié)果輸出進(jìn) 行全面審查,確保算法符合法律法規(guī)和倫理規(guī)范。 通過(guò)對(duì)算法進(jìn)行事前審查和事后監(jiān)督,能夠有效防 止算法的偏見(jiàn)和不公平問(wèn)題,保障公眾利益。 另一 方面,加強(qiáng)算法監(jiān)管隊(duì)伍建設(shè),提升監(jiān)管人員的專(zhuān) 業(yè)素養(yǎng)和執(zhí)法能力,加強(qiáng)定期培訓(xùn),確保算法監(jiān)管 工作的有效性和權(quán)威性。 同時(shí),隨著算法應(yīng)用的全 球化,算法監(jiān)管的國(guó)際合作同樣顯得尤為重要。 應(yīng) 推動(dòng)國(guó)際間的合作與經(jīng)驗(yàn)共享,共同面對(duì)算法應(yīng)用 中的全球性挑戰(zhàn),通過(guò)多邊合作和政策協(xié)調(diào),可以 確保算法技術(shù)在全球范圍內(nèi)得到負(fù)責(zé)任的使用。

　　結(jié)　 語(yǔ)

　　智能算法推薦作為現(xiàn)代信息技術(shù)的重要應(yīng)用, 其復(fù)雜性與影響力日益凸顯,而背后所潛藏的意識(shí) 形態(tài)安全風(fēng)險(xiǎn)亦不容忽視。 在深入探究智能算法 推薦的意識(shí)形態(tài)風(fēng)險(xiǎn)中,我們不僅要具備敏銳的風(fēng) 險(xiǎn)意識(shí),深刻洞察風(fēng)險(xiǎn)成因的多維特性,還需積極尋求并實(shí)施科學(xué)有效的防控對(duì)策。 唯有如此,才能 有力推動(dòng)構(gòu)建多元共治的算法治理體系,進(jìn)而在新 一輪技術(shù)革命浪潮中牢牢掌握意識(shí)形態(tài)安全建設(shè) 的主動(dòng)權(quán)。 這不僅有助于確保馬克思主義在我國(guó) 各個(gè)領(lǐng)域中的指導(dǎo)地位不動(dòng)搖,還能持續(xù)鞏固和增 強(qiáng)社會(huì)主義意識(shí)形態(tài)的凝聚力與引領(lǐng)力。 這一系 列舉措將為智能算法推薦技術(shù)的穩(wěn)健發(fā)展奠定堅(jiān) 實(shí)基礎(chǔ),為社會(huì)的和諧穩(wěn)定與國(guó)家的長(zhǎng)治久安提供 有力保障。