國安部：警惕AI“投毒”

【本報訊】據國家安全部微信公眾號二十一日發表文章稱，近期，AI“投毒”隱蔽產業鏈被曝光，引發社會廣泛關注。這種通過惡意數據污染AI模型的行為，不僅擾亂商業秩序、影響信息傳播，更會危害國家安全。人工智能在賦能千行百業的同時，其安全風險也不容忽視。推動AI治理向善，守住數據安全底線，既是行業責任，也需要全社會共同參與。

數據投毒三大類型

國安部稱，所謂“數據投毒”，是通過向AI大模型訓練數據中注入偽裝成正常樣本的惡意數據，實現削弱模型性能、降低準確性的攻擊方法，常被用於惡性市場競爭，甚至可能涉及間諜活動，日益呈現出鏈條化、隱蔽化、跨境化特徵。

一、數據投毒：源頭污染AI認知體系。不法分子藉助GEO（生成式引擎優化）工具批量、高權重生成虛假內容，如虛構產品介紹、虛假測評以及惡意對比信息等，定向投放至各類網絡平台。AI大模型在訓練與檢索增強生成階段會自動抓取網絡信息，少量虛假內容經迭代學習後就能固化為“標準答案”，最終輸出失真結果。

二、模型投毒：隱蔽植入惡意操控後門。該方式更具隱蔽性與危害性，不法分子會通過模型微調、插件植入、接口篡改，在模型權重中嵌入觸發式惡意指令。模型日常運行並無異常，但遇到特定關鍵詞、產品類別時會自動輸出預設虛假信息，可定向操控榜單、誤導專業認知，難以被常規審核識別，對政務、醫療、金融等關鍵領域AI應用構成直接威脅。

三、滋生蔓延：產業鏈日趨完整。當前AI“投毒”已形成完整黑灰產業鏈，從技術開發、內容生成、賬號註冊到批量投放、刷量控評以及榜單操控環環相扣，部分鏈條呈現跨境特徵，極易被境外勢力利用。

污染擴散危害國安

國安部指出，AI“投毒”不僅侵害消費者權益、擾亂市場秩序，還可能對國家政治安全、數據安全、社會安全等造成系統性、長期性危害。

一、危害政治安全與意識形態安全。境外反華敵對勢力可能通過GEO濫用渠道批量輸出虛假信息與政治謠言，歪曲事實，攻擊抹黑我黨和政府，誤導社會認知、擾亂輿論生態，對中國實施意識形態滲透，威脅國家安全與社會穩定。

二、危害國家數據安全與數據主權。數據是國家的重要戰略資源。AI“投毒”惡意污染公共數據、行業數據、訓練數據，將直接導致統計數據、決策數據、監管數據失真，對政府和企業科學決策造成影響。

三、危害社會安全與民生福祉。在醫療、金融、食品藥品等民生領域，AI虛假推薦極易誤導公眾購買劣質、三無產品，造成人身和財產損失。長期信息失真還會消解社會信任，積累矛盾風險，影響社會穩定。國安部強調，AI運營者要切實履行主體責任，嚴格核查語料來源，建立可追溯機制，築牢防範虛假信息的第一道防線；消費者也應提高自身辨別能力，警惕AI給出的可疑推薦，發現問題應及時舉報，形成全民監督的良好氛圍。