給AI“洗腦”已成產(chǎn)業(yè)鏈,央視3.15晚會(huì)曝光AI大模型被“投毒”

2026年央視3·15晚會(huì)首次將聚光燈對(duì)準(zhǔn)了一個(gè)新興的灰色產(chǎn)業(yè)——GEO(生成式引擎優(yōu)化)。這項(xiàng)本應(yīng)是AI時(shí)代營銷新范式的技術(shù),在部分商家手中卻演變成了給AI大模型“投毒”的工具,一條完整的產(chǎn)業(yè)鏈正在悄然形成。

GEO:從“優(yōu)化”到“投毒”的異化

GEO全稱生成式引擎優(yōu)化,被稱為“AI時(shí)代的SEO”。其核心目標(biāo)從傳統(tǒng)SEO的“排名優(yōu)先”轉(zhuǎn)變?yōu)椤氨籄I理解與采納”,旨在讓品牌內(nèi)容在多輪對(duì)話與聚合答案中被優(yōu)先引用。這本是一項(xiàng)正當(dāng)?shù)募夹g(shù)應(yīng)用,但當(dāng)它被用于操控AI輸出、植入虛假信息時(shí),就變成了“數(shù)據(jù)投毒”的利器。

記者調(diào)查發(fā)現(xiàn),在多個(gè)網(wǎng)絡(luò)平臺(tái)上,從事GEO業(yè)務(wù)的服務(wù)商公開宣稱:用戶只需支付相應(yīng)費(fèi)用,就能在各大主流AI大模型里,讓客戶的產(chǎn)品榜上有名;讓客戶的商品廣告,成為AI模型給出的“標(biāo)準(zhǔn)答案”。

一家業(yè)內(nèi)知名的GEO服務(wù)商負(fù)責(zé)人王總直言不諱地表示:“就是相當(dāng)于做軟文,然后讓AI平臺(tái)去刷錄、輸入、抓取?!彼M(jìn)一步解釋,由于AI大模型的算法更新頻繁,要想維持持續(xù)推薦,必須持續(xù)大量投喂與客戶相關(guān)的推廣軟文。

一場精心設(shè)計(jì)的“投毒”實(shí)驗(yàn)

為了驗(yàn)證GEO技術(shù)的“威力”,業(yè)內(nèi)人士在電商平臺(tái)上隨機(jī)購買了一款名為“力擎GEO優(yōu)化系統(tǒng)”的軟件,進(jìn)行了一場令人震驚的實(shí)驗(yàn)。

實(shí)驗(yàn)人員虛構(gòu)了一款名為“Apollo-9”的智能手環(huán),將虛構(gòu)的產(chǎn)品信息輸入軟件系統(tǒng),勾選文章創(chuàng)作指令。不一會(huì)兒,系統(tǒng)就自動(dòng)生成了十余篇智能手環(huán)的宣傳軟文,內(nèi)容包含“量子糾纏傳感”“黑洞級(jí)續(xù)航”等夸張技術(shù)描述。

選取其中十余篇虛構(gòu)軟文,通過該系統(tǒng)發(fā)布到互聯(lián)網(wǎng)上。隨后,在AI大模型平臺(tái)詢問“智能健康手環(huán)推薦”,結(jié)果令人震驚——兩個(gè)主流AI大模型都推薦了這款虛構(gòu)的智能手環(huán),而且排名靠前。

產(chǎn)業(yè)鏈全貌:從工具研發(fā)到批量發(fā)稿

力擎GEO系統(tǒng)的運(yùn)營者李總揭示了這條產(chǎn)業(yè)鏈的運(yùn)作邏輯:“GEO業(yè)務(wù)受熱捧的主要原因就是它能在AI大模型里幫客戶喂料、投毒,實(shí)現(xiàn)客戶的商業(yè)目的?!?/p>

上游:工具研發(fā)商

“力擎GEO優(yōu)化系統(tǒng)”關(guān)聯(lián)公司為北京力思文化傳媒有限公司,成立于2018年4月,法定代表人為李千鐘,注冊資本100萬人民幣。該系統(tǒng)宣稱能夠覆蓋國內(nèi)8大主流AI模型定向訓(xùn)練、批量軟文生成、12大自媒體平臺(tái)自動(dòng)發(fā)布。

中游:批量發(fā)稿平臺(tái)

GEO業(yè)務(wù)的火爆催生出了不少專門從事發(fā)稿業(yè)務(wù)的公司和平臺(tái)。這些平臺(tái)手握海量自媒體賬號(hào)、博客、論壇資源,長期承攬各種發(fā)稿業(yè)務(wù),以便讓AI大模型引用和抓取。一篇軟文發(fā)布費(fèi)用僅幾十元,平臺(tái)單日可發(fā)布數(shù)百上千篇內(nèi)容,成為圍獵AI大模型、進(jìn)行數(shù)據(jù)“投毒”的重要一環(huán)。

下游:有推廣需求的商家

服務(wù)商報(bào)價(jià)顯示,一年6600元即可讓品牌出現(xiàn)在AI回答前3位置。李總坦言:“比如說手機(jī)品牌,就5個(gè)位置,最多10個(gè)位置,這么多手機(jī)怎么弄。一年可能上億的廣告費(fèi),花個(gè)幾百萬投點(diǎn)毒,總行吧!”

據(jù)明略科技數(shù)據(jù),2025年全球GEO市場規(guī)模約112億美元,中國GEO規(guī)模約29億元。預(yù)計(jì)2030年全球市場規(guī)模將達(dá)1007億美元,中國市場規(guī)模達(dá)240億元。

然而,這個(gè)快速增長的行業(yè)卻魚龍混雜。天眼查數(shù)據(jù)顯示,我國擁有超214.7萬家軟件開發(fā)相關(guān)企業(yè),其中3.67%的相關(guān)企業(yè)曾出現(xiàn)經(jīng)營異常,0.35%的相關(guān)企業(yè)曾出現(xiàn)行政處罰。

李總在采訪中道出了行業(yè)的畸形心態(tài):“因?yàn)槿W(wǎng)的人投‘毒’投太多了。你看我們現(xiàn)在(干)GEO的都是投‘毒’,投的信息源太多,網(wǎng)上信息并不是很準(zhǔn)。是不好,但是每個(gè)商家都喜歡,都希望是別人別投‘毒’,自己投‘毒’,或者給別人投點(diǎn)‘毒’。”

各方反應(yīng)與監(jiān)管困境

AI廠商回應(yīng)

315晚會(huì)曝光后,多家AI廠商迅速回應(yīng)。豆包表示并沒有被這次曝光的AI投毒所影響;千問則表示所謂的投毒并沒有影響到自己的核心判斷和知識(shí)體系;而Deepseek則回應(yīng)稱作為AI模型,確實(shí)存在被這種“投毒”現(xiàn)象影響的可能,但目前這種情況產(chǎn)生實(shí)際誤導(dǎo)的風(fēng)險(xiǎn)相對(duì)可控。

企業(yè)緊急“滅火”

被點(diǎn)名的“力擎GEO優(yōu)化系統(tǒng)”在各平臺(tái)的賬號(hào)正在抹除痕跡,或銷號(hào)或改名刪除內(nèi)容。其百家號(hào)已經(jīng)無法打開,顯示“用戶不存在”;視頻號(hào)賬號(hào)已經(jīng)改名,并刪除了此前的所有宣傳視頻。

監(jiān)管困境

GEO技術(shù)的發(fā)展正處于一個(gè)極其微妙的法治十字路口,體現(xiàn)了AI技術(shù)治理中的“科林格里奇困境”——在技術(shù)早期難以預(yù)見風(fēng)險(xiǎn),而當(dāng)有害后果顯現(xiàn)時(shí),技術(shù)已深度嵌入社會(huì)體系。

現(xiàn)行《廣告法》《反不正當(dāng)競爭法》主要針對(duì)傳統(tǒng)廣告形式,對(duì)于AI大模型中的“隱蔽推薦”缺乏明確界定。北京市中咨太原律師事務(wù)所分析指出,GEO面臨民事、行政及刑事三重法律風(fēng)險(xiǎn),可能涉及不正當(dāng)競爭、虛假廣告甚至破壞計(jì)算機(jī)信息系統(tǒng)罪。

GEO產(chǎn)業(yè)鏈的曝光標(biāo)志著AI發(fā)展進(jìn)入新階段:從技術(shù)競賽轉(zhuǎn)向可信度建設(shè)。

力擎GEO運(yùn)營者李總的話令人深思:“全網(wǎng)的人投‘毒’投太多了。每個(gè)商家都喜歡,都希望別人別投‘毒’,自己投‘毒’。”

真正有價(jià)值的GEO應(yīng)該是幫助優(yōu)質(zhì)內(nèi)容被AI更準(zhǔn)確地識(shí)別,而不是靠“投毒”收割紅利。這個(gè)行業(yè)的健康發(fā)展,需要平臺(tái)、用戶、監(jiān)管三方協(xié)同發(fā)力。技術(shù)越智能,獨(dú)立思考越重要。AI可以幫你整理信息,但判斷真假的開關(guān),始終得握在自己手里。

正如新華社評(píng)論所言:“‘AI向善’,必先‘向真’。

免責(zé)聲明:本文部分文字、圖片、音視頻來源于網(wǎng)絡(luò)、AI,不代表本站觀點(diǎn),版權(quán)歸版權(quán)所有人所有。本文無意侵犯媒體或個(gè)人知識(shí)產(chǎn)權(quán),如有異議請(qǐng)與我們聯(lián)系。