近期，AI“投毒”隱蔽產(chǎn)業(yè)鏈被曝光，這種通過惡意數(shù)據(jù)污染AI模型的行為，不僅擾亂商業(yè)秩序、影響信息傳播，更會危害國家安全。國家安全機關(guān)發(fā)布安全提示。

所謂“數(shù)據(jù)投毒”，是通過向AI大模型訓練數(shù)據(jù)中注入偽裝成正常樣本的惡意數(shù)據(jù)，實現(xiàn)削弱模型性能、降低準確性的攻擊方法，常被用于惡性市場競爭，甚至可能涉及間諜活動，日益呈現(xiàn)出鏈條化、隱蔽化、跨境化特征。不法分子借助GEO（即生成式引擎優(yōu)化）工具批量、高權(quán)重生成虛假內(nèi)容，如虛構(gòu)產(chǎn)品介紹、虛假測評、惡意對比信息等，定向投放至各類網(wǎng)絡(luò)平臺。AI大模型在訓練與檢索增強生成階段會自動抓取網(wǎng)絡(luò)信息，少量虛假內(nèi)容經(jīng)迭代學習后就能固化為所謂“標準答案”，最終輸出失真結(jié)果。 

而對模型進行“投毒”的方式則更具隱蔽性與危害性，不法分子會通過模型微調(diào)、插件植入、接口篡改，在模型權(quán)重中嵌入觸發(fā)式惡意指令。模型日常運行并無異常，但遇到特定關(guān)鍵詞、產(chǎn)品類別時會自動輸出預設(shè)虛假信息，可定向操控榜單、誤導專業(yè)認知，難以被常規(guī)審核識別，對政務(wù)、醫(yī)療、金融等關(guān)鍵領(lǐng)域AI應用構(gòu)成直接威脅。當前AI“投毒”已形成完整黑灰產(chǎn)業(yè)鏈，從技術(shù)開發(fā)、內(nèi)容生成、賬號注冊到批量投放、刷量控評、榜單操控環(huán)環(huán)相扣，部分鏈條呈現(xiàn)跨境特征，極易被境外勢力利用。 

AI“投毒”不僅侵害消費者權(quán)益、擾亂市場秩序，還可能對國家政治安全、數(shù)據(jù)安全、社會安全等造成系統(tǒng)性、長期性危害。國家安全機關(guān)提示，AI運營者要切實履行主體責任，嚴格核查語料來源，建立可追溯機制，筑牢防范虛假信息的第一道防線；消費者也應提高自身辨別能力，警惕AI給出的可疑推薦，發(fā)現(xiàn)問題應及時舉報，形成全民監(jiān)督的良好氛圍。