AI造假起號亂象調(diào)查

2025-08-11 21:51 來源：新華網(wǎng)

新華視點｜3到15天速成萬粉號——AI造假起號亂象調(diào)查

外國人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學……社交媒體上，一些AI生成的視頻關(guān)注度頗高，“細節(jié)滿滿”讓很多網(wǎng)友信以為真。“新華視點”記者調(diào)查發(fā)現(xiàn)，不少社交賬號利用AI技術(shù)造假、博眼球快速“吸粉”起號，進而變現(xiàn)。

近期，多個平臺對“AI起號”現(xiàn)象開展專項治理行動，清理違規(guī)內(nèi)容并封禁部分賬號。

AI造假起號成新套路

廣西市民王夏經(jīng)常刷到這樣的視頻：“帥哥”“美女”高頻率更新日常生活，并在評論區(qū)與網(wǎng)友頻繁互動。由于熟悉AI軟件，王夏很快發(fā)現(xiàn)這些視頻的主角是AI數(shù)字人，“但視頻沒有任何AI生成提示字樣，好幾個賬號顯示來自同一家MCN公司”。

當前，生成式人工智能技術(shù)日益普及，不少內(nèi)容創(chuàng)作者通過AI創(chuàng)作出更具想象力的作品。但也有一些人利用AI造假，無底線博眼球，作為起號變現(xiàn)捷徑。

記者在某社交平臺上發(fā)現(xiàn)，部分賬號將目標鎖定中老年女性群體，利用AI打造“完美熟齡女性形象”，搭配“40+、50+長這樣，怎么樣”等話術(shù)，進行“年齡焦慮”營銷。

此類賬號發(fā)布的穿搭、保養(yǎng)、護膚、養(yǎng)生等視頻多未設置AI生成提示，不少網(wǎng)友誤以為是真人，在評論區(qū)咨詢保養(yǎng)方法。一些賬號背后運營者則借機推送“三無”保健產(chǎn)品廣告，還有“水軍”互動造勢。記者注意到，雖然部分視頻存在明顯技術(shù)破綻，但瀏覽、點贊、評論量依舊不少。

記者調(diào)查發(fā)現(xiàn)，當前，主流網(wǎng)絡平臺普遍升級AI內(nèi)容識別系統(tǒng)，要求對AI生成作品添加標注，但仍有一些人采用各種手段繞過審核。

“平臺甄別AI內(nèi)容主要依靠特征性技術(shù)痕跡，一些起號者通過多種手段削弱特征痕跡，逃避平臺標注。”重慶理工大學計算機科學與工程學院教授李彥說，如通過微信轉(zhuǎn)壓縮等方式改變視頻文件代碼結(jié)構(gòu)，再上傳至平臺，就較難判定為AI生成內(nèi)容。

記者用一款AI軟件生成一張人像圖片，裁掉AI生圖軟件水印后發(fā)布在社交平臺上。發(fā)布后，平臺系統(tǒng)并未自動識別、提示添加標注。相當一部分網(wǎng)友辨別不出這是AI生成圖，紛紛點贊、發(fā)送私信，賬號后臺收到超200條消息。

起號有教程

多手段變現(xiàn)

記者調(diào)查發(fā)現(xiàn)，社交平臺上有不少AI造假起號的教程，情感、養(yǎng)生、顏值等類別是“重災區(qū)”，相關(guān)帖子常以“條條是爆款”“最適合普通人入局”“3天暴力起號”等為噱頭。

以一則“養(yǎng)生賽道”起號教程為例，先向AI軟件輸入器官、食物等關(guān)鍵詞，生成吸睛文案，批量產(chǎn)出擬人化素材、智能合成動態(tài)視頻；再在片尾設置養(yǎng)生知識問答，引導互動并刺激轉(zhuǎn)發(fā)，以提升賬號互動權(quán)重。該教程聲稱：“按照此方法，單條視頻制作最快僅需15分鐘，單賬號日均收益可達500+（元）。”

有專營平臺起號的商家告訴記者，只需繳納1680元，3到15天即可運營出一個萬粉AI賬號。當賬號積累一定流量后，就可以通過電商帶貨、賬號轉(zhuǎn)賣等方式變現(xiàn)。

“后面的電商帶貨，從直播間搭建、選品策略、話術(shù)設計到違禁詞規(guī)避等，我們有一套運營體系，學員照葫蘆畫瓢就行。”一名售賣AI賬號起號教程的商家說。

一名博主透露，她借助AI軟件生成的“氛圍感美女”視頻在多個平臺“吸粉”過萬，接到不少推廣商單，月收入在1萬元左右。

有商家稱，手上有未標注AI生成的“美女”賬號，粉絲量均在一萬以上，且為“三無賬號”（無實名、無賬號違規(guī)、無作品違規(guī)），“現(xiàn)在平臺風控很嚴，賬號會升值”。

該商家說，這些賬號銷售十分火爆，買家經(jīng)常催著加急起號，有個合作商“一周就要幾十個萬粉號”。在其提供的交易截圖中，9個賬號的成交價從700元至4000元不等，而百萬粉絲的號要十幾萬元。

記者搜索發(fā)現(xiàn)，社交平臺上有眾多網(wǎng)友求購和出售賬號。一名賣家稱，2.5萬粉絲的AI養(yǎng)生號售價6000元，11萬粉絲的AI寵物號售價1.6萬元，11.7萬粉絲的AI母嬰號售價1.35萬，這些賬號同樣為“三無賬號”。

一名賬號售賣者在朋友圈展示銷售火爆。（網(wǎng)絡截圖）

阻斷AI造假起號利益鏈

根據(jù)反電信網(wǎng)絡詐騙法，任何單位和個人不得非法買賣、出租、出借互聯(lián)網(wǎng)賬號。多個網(wǎng)絡平臺規(guī)定，賬號僅限本人使用，禁止以任何形式出租、轉(zhuǎn)讓、售賣或以其他方式許可他人使用賬號。

重慶公孝律師事務所執(zhí)行主任徐斌表示，AI造假起號灰色產(chǎn)業(yè)鏈是技術(shù)異化的結(jié)果，可能造成低俗獵奇信息泛濫，加速虛假新聞、謠言傳播，擾亂網(wǎng)絡空間秩序，亟待加強清理整治。

今年4月以來，中央網(wǎng)信辦部署開展“清朗·整治AI技術(shù)濫用”專項行動，聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標識缺失誤導公眾等AI技術(shù)濫用亂象開展重點整治。第一階段累計處置違規(guī)小程序、應用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬余條，處置賬號3700余個。

前不久，多家互聯(lián)網(wǎng)平臺發(fā)布專項治理公告，重點整治AI批量造假、AI起號引流帶貨、轉(zhuǎn)讓銷售AI虛擬賬號等違規(guī)行為。

李彥等專家認為，AI造假起號的背后，涉及技術(shù)提供者、傳播平臺、內(nèi)容發(fā)布者等多個參與方，技術(shù)、數(shù)據(jù)等關(guān)鍵信息存在壁壘，需加強協(xié)同治理，多方共同打擊違規(guī)行為。

北京郵電大學互聯(lián)網(wǎng)治理與法律研究中心執(zhí)行主任謝永江建議，技術(shù)提供者強化技術(shù)的安全性和合規(guī)性研發(fā)，提供技術(shù)支持和解決方案；平臺提高對深度偽造內(nèi)容的檢測精度，進一步完善相關(guān)規(guī)則，明確對AI造假起號等違規(guī)行為的界定和處罰標準等。

阻斷違規(guī)賬號的流量變現(xiàn)，是從根源上打擊黑灰產(chǎn)業(yè)鏈的關(guān)鍵。受訪專家建議，監(jiān)管部門應督促平臺履行治理責任，建立違規(guī)賬號“黑名單”，對高頻、反復觸犯平臺規(guī)則的賬號主體加大處罰力度，禁止違規(guī)賬號進行帶貨、賣課等商業(yè)活動，持續(xù)開展AI造假起號整治，切斷其獲利渠道。

謝永江說，還應鼓勵公眾參與亂象治理，如舉報可疑賬號、引入專業(yè)機構(gòu)開展評估等，“真實、優(yōu)質(zhì)的用戶創(chuàng)作，是平臺活力和創(chuàng)新的源泉”。

編輯：徐衛(wèi)民