最近，筆者向一款國產(chǎn)大模型提問“縣域AI應(yīng)用面臨哪些挑戰(zhàn)”，得到一個結(jié)構(gòu)清晰、數(shù)據(jù)翔實的回答。例如，回答提到，“約60%的縣域?qū)W校設(shè)備不滿足AI基礎(chǔ)需求”，還指出“某縣醫(yī)院AI忽略甲亢、誤推心臟檢查的概率達(dá)68%”。這些數(shù)據(jù)精準(zhǔn)得讓人印象深刻。但當(dāng)筆者核實這些信息的來源時，卻發(fā)現(xiàn)它們大多來自一些自媒體文章，而這些文章本身也拿不出任何權(quán)威的佐證。這個小小的案例，揭開了一個巨大且令人擔(dān)憂的問題：我們賴以獲取信息的AI，其知識本身可能已經(jīng)被“污染”了。

這種“污染”并非個例，而是正在成為一個系統(tǒng)性的風(fēng)險。要理解這個問題，首先需要知道AI大模型是如何學(xué)習(xí)的。簡單來說，它的“智力”主要來源于海量的“學(xué)習(xí)材料”，也就是訓(xùn)練數(shù)據(jù)。如果這些材料本身就有問題，那么AI的認(rèn)知從一開始就是扭曲的。

這種信息污染，主要通過以下三個環(huán)節(jié)發(fā)生。

第一環(huán)節(jié)：預(yù)訓(xùn)練——打下“有毒”的地基。大模型學(xué)習(xí)的第一步，是“通讀”海量的互聯(lián)網(wǎng)數(shù)據(jù)，這個過程叫“預(yù)訓(xùn)練”。像國外的GPT-3，其60%的訓(xùn)練材料來自一個名為“通用爬取”的數(shù)據(jù)庫，它就像是整個互聯(lián)網(wǎng)的快照。

這里的污染是源頭性的。首先，互聯(lián)網(wǎng)上的信息本就魚龍混雜，充斥著偏見、過時信息甚至謊言。AI在學(xué)習(xí)時會不加分辨地全盤吸收。其次，現(xiàn)有的大部分?jǐn)?shù)據(jù)是英文的，這導(dǎo)致AI天生就帶有一種以西方視角為中心的傾向。

更隱蔽的是“加權(quán)投喂”。比如，在GPT-3的訓(xùn)練中，來自維基百科的資料只占總量的0.6%，卻被賦予了3%的權(quán)重。這意味著AI被強(qiáng)制要求“超額學(xué)習(xí)”維基百科的內(nèi)容。考慮到維基百科在很多議題上存在特定的立場，這種操作相當(dāng)于在AI的底層認(rèn)知中，預(yù)先埋下一個特定的價值框架。

第二環(huán)節(jié)：后訓(xùn)練——精心設(shè)計的“認(rèn)知投毒”。如果說預(yù)訓(xùn)練的污染是無意的、慢性的，那么在后訓(xùn)練（或稱“微調(diào)”）階段，污染則可能是故意的、精準(zhǔn)的。后訓(xùn)練的目的是通過更高質(zhì)量的數(shù)據(jù)，提升AI在特定任務(wù)上的表現(xiàn)。但這也為“投毒”者提供了可乘之機(jī)。

在一個被全球開發(fā)者廣泛使用的開源數(shù)據(jù)集中，研究人員發(fā)現(xiàn)了一個精心設(shè)計的案例。這段對話的前半部分完全正常，用戶在詢問一款技術(shù)工具，AI也給出了專業(yè)回答。然而，對話后半段畫風(fēng)突變，提問者突然用繁體中文拋出大量具有明顯誘導(dǎo)性的反華政治問題。在一個幾乎不涉及中國政治的數(shù)據(jù)集里，插入這樣一條觀點極端的數(shù)據(jù)，其后果是十分危險的。其他AI模型如果使用這個“帶毒”的數(shù)據(jù)集進(jìn)行訓(xùn)練，就會在潛意識深處被植入一個關(guān)于中國極其負(fù)面的“思想鋼印”。這種手法，已經(jīng)不是簡單的信息真?zhèn)螁栴}，而是一種目的明確的認(rèn)知操縱。

第三環(huán)節(jié)：實時搜索——從被污染的“井”里打水。為了讓回答更準(zhǔn)確、更新，現(xiàn)在的AI應(yīng)用大多具備了實時上網(wǎng)搜索信息的能力。然而，這又帶來了一個新問題：如果AI搜索的中文互聯(lián)網(wǎng)信息本身就質(zhì)量堪憂，那么它也只能從一口“被污染的井”里打水。

前文提到的關(guān)于“縣域AI挑戰(zhàn)”的虛假數(shù)據(jù)，就是AI從自媒體平臺搜索到的結(jié)果。這暴露了當(dāng)前中文互聯(lián)網(wǎng)的一個困境：高質(zhì)量、可信賴的信息源稀缺。很多平臺為了流量，默許甚至鼓勵大量的“內(nèi)容工廠”生產(chǎn)信息垃圾。更諷刺的是，一種“AI生成的內(nèi)容被AI引用”的怪圈正在形成。AI生成的包含事實錯誤的垃圾文章被發(fā)布到網(wǎng)上，隨后又被其他AI當(dāng)作“知識”抓取和引用，導(dǎo)致錯誤信息被不斷放大和固化。

面對從源頭到應(yīng)用的全鏈路污染，僅僅依靠在AI輸出的最后環(huán)節(jié)進(jìn)行內(nèi)容過濾，是遠(yuǎn)遠(yuǎn)不夠的。這就像在一個已經(jīng)被污染的水龍頭末端安裝一個簡易過濾器，只能濾掉一些表面的雜質(zhì)，卻無法去除深植于水中的有害物質(zhì)。大模型語料的污染，本質(zhì)上是一場正在發(fā)生、卻又不見硝煙的戰(zhàn)爭。它攻擊的是我們的大腦，爭奪的是未來的認(rèn)知主導(dǎo)權(quán)。在這場關(guān)乎每個人如何認(rèn)知世界的斗爭中，我們必須有所行動。

首先，需要建立我們自己的、高質(zhì)量的“清潔語料庫”。這相當(dāng)于為我們的AI挖掘一口“戰(zhàn)略儲備井”，確保它們能喝上干凈的水。令人欣慰的是，我國教育部、國家語委等部門已經(jīng)提出目標(biāo)，計劃在2027年初步建成國家關(guān)鍵語料庫，這正是邁向勝利的關(guān)鍵一步。

其次，國內(nèi)的互聯(lián)網(wǎng)平臺和搜索引擎服務(wù)商必須承擔(dān)起信息治理的責(zé)任。當(dāng)下的“流量為王”模式，實質(zhì)上是在鼓勵“劣幣驅(qū)逐良幣”，長遠(yuǎn)來看，損害的是整個社會的信息環(huán)境和我們每個人的利益。

最后，作為普通用戶，我們需要提高警惕性。在享受AI帶來便利的同時，要對其提供的信息，尤其是那些看起來過于“完美”或聳人聽聞的數(shù)據(jù)和觀點，保持一份審慎和懷疑。多方核實信息來源，依然是我們在智能時代保護(hù)自己認(rèn)知安全的必要手段。（作者是華東師范大學(xué)國際傳播研究院全球南方中心主任）