“去水印”繞過監(jiān)管 “反標(biāo)識”生意紅火 AI生成內(nèi)容“持證上崗”為何難落地
2026-01-15 11:17:56
來源：經(jīng)濟參考報
分享到
記者從社交平臺及電商平臺搜索發(fā)現(xiàn)的AI去水印服務(wù)及工具。制圖 馬莎
針對AI生成內(nèi)容使用亂象，2025年9月1日《人工智能生成合成內(nèi)容標(biāo)識辦法》施行，明確AI生成內(nèi)容必須添加標(biāo)識，標(biāo)志著我國AI生成內(nèi)容邁入“持證上崗”的規(guī)范化時代。
如今新規(guī)落地已過百日，盡管各大平臺陸續(xù)上線標(biāo)識功能并配套相應(yīng)管理措施，但記者調(diào)查發(fā)現(xiàn)，短視頻、圖文筆記、直播間，仍有許多AI內(nèi)容未亮明身份，甚至一些原本顯性的違規(guī)行為逐漸轉(zhuǎn)向暗箱操作，深度偽造技術(shù)與黑灰產(chǎn)結(jié)合愈發(fā)緊密……標(biāo)識制度在執(zhí)行層面仍面臨重重挑戰(zhàn)。
標(biāo)識落地顯成效
行業(yè)治理邁新階
家住甘肅省蘭州市的王浩（化名）去年8月在社交平臺發(fā)布了一條“喜提邁巴赫”的AI合成視頻后，多年未聯(lián)系的“老同學(xué)”打來電話祝賀并向其張口借錢。王浩坦言，這條視頻如果晚發(fā)一個月，就不會鬧出這樣的笑話。“沒有AI標(biāo)識，很多人當(dāng)真了?！?/p>
“作品由AI生成”“內(nèi)容存在AI成分注意甄別”……自去年9月《人工智能生成合成內(nèi)容標(biāo)識辦法》正式施行以來，AI生成內(nèi)容全面進入“持證上崗”的時代。一方面，針對可能導(dǎo)致公眾混淆或者誤認的內(nèi)容，要求添加顯式標(biāo)識；另一方面，要求服務(wù)提供者在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識，為內(nèi)容溯源與責(zé)任認定提供技術(shù)保障。
中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的《生成式人工智能應(yīng)用發(fā)展報告（2025）》顯示，截至2025年6月，我國生成式人工智能用戶規(guī)模達5.15億人，較2024年12月增長2.66億人，用戶規(guī)模半年翻番。
記者梳理發(fā)現(xiàn)，各大網(wǎng)絡(luò)平臺均已構(gòu)建起各具特色的AI標(biāo)識實施機制。抖音、今日頭條、快手等內(nèi)容平臺在發(fā)布界面增設(shè)“AI生成內(nèi)容聲明”選項，用戶勾選后將在作品標(biāo)題下方顯示統(tǒng)一標(biāo)識。喜馬拉雅等音頻平臺也采用了“片頭提示+文字標(biāo)注”等形式，對AI合成語音內(nèi)容進行明確標(biāo)識。
西部一所高校的AI治理團隊2025年四季度做的一項抽樣調(diào)研顯示，AI標(biāo)識政策落地后，用戶對未知來源內(nèi)容的“質(zhì)疑意識”提升了近40%。此外，由于隱式標(biāo)識能快速鎖定內(nèi)容的生成工具和傳播節(jié)點，該團隊參與的一起跨境AI虛假新聞溯源案例中，追責(zé)周期從過去的平均72小時縮短至12小時。
甘肅慧聯(lián)信息科技發(fā)展有限責(zé)任公司總經(jīng)理王雪蓮表示，AI標(biāo)識政策的實施，破解了AI內(nèi)容“難識別、難追溯”的行業(yè)痛點，在政策引導(dǎo)下，從平臺合規(guī)到用戶認知，從技術(shù)研發(fā)到行業(yè)自律都呈現(xiàn)出向好的積極態(tài)勢。
黑灰產(chǎn)鉆營牟利
“反標(biāo)識”亂象升級
“但AI偽造仍未根除，技術(shù)更高明，手段更隱蔽，標(biāo)識治理面臨‘道高一尺魔高一丈’的現(xiàn)實挑戰(zhàn)?！蓖跹┥徴f。
“AI偽造爛水果騙取‘僅退款’薅羊毛”“一位明星穿梭8個直播間來回帶貨”……業(yè)內(nèi)人士認為，AI偽造已從“一眼假”逐步實現(xiàn)高擬真段位升級，且背后已滋生分工明確、收益可觀的完整黑灰產(chǎn)鏈條。
記者在各大電商平臺和社交媒體上搜索“AI去水印”“無痕除標(biāo)識”等關(guān)鍵詞發(fā)現(xiàn)，從幾十元的基礎(chǔ)工具到上千元的定制服務(wù)，“明碼標(biāo)價”的規(guī)避標(biāo)識“生意”形成黑灰產(chǎn)，各類繞過平臺檢測的“反標(biāo)識”技術(shù)和服務(wù)“隱身術(shù)”持續(xù)迭代升級。
在某社交平臺上，一則“AI生圖變現(xiàn)指南”的評論區(qū)里，一條分享“AI去水印神器”的評論獲得高贊，點進該用戶主頁，就有明碼標(biāo)價9.9元、19.9元等不同價位的去水印工具。記者私信該用戶詢問商品購買方法時，對方表示要換平臺加好友下單，且提醒稱“產(chǎn)品屬性特殊，發(fā)貨后不支持退款，若不想使用需自行處理或贈予朋友?！?/p>
記者在某電商平臺搜索相關(guān)產(chǎn)品，一款“萬物皆可去水印”的商品賣家介紹，這款工具能無痕去除98%的AI生成痕跡，尤其是AI視頻的處理。
除不法商家低成本牟利，部分違規(guī)者還利用不同平臺標(biāo)識規(guī)則差異，進行跨平臺“零成本”規(guī)避監(jiān)管。
“由于各平臺的AI識別技術(shù)水平和標(biāo)識要求不同，在A平臺被要求標(biāo)注的內(nèi)容，通過格式轉(zhuǎn)換后在B平臺發(fā)布就很有可能繞過檢測。”甘肅省計算中心副主任沈玉琳說。
記者用一款A(yù)I軟件生成一張礦泉水瓶損壞的圖片，保存至手機相冊后裁掉AI標(biāo)識，再將其發(fā)布到社交平臺時，并未被檢測出AI元素。
沈玉琳認為，“反標(biāo)識”技術(shù)正從單一手段向“多元技術(shù)路線與商業(yè)模式并行”的完整產(chǎn)業(yè)鏈形態(tài)升級，催生元數(shù)據(jù)“深度清零”、格式多輪轉(zhuǎn)碼、標(biāo)識“露而不顯”等“升級版”AI仿造亂象。
甘肅政法大學(xué)民商經(jīng)濟法學(xué)院副教授盛玉華介紹，AI標(biāo)識政策落地一百多天以來，主流AI服務(wù)已普遍添加顯式標(biāo)識，溯源能力增強，但處罰標(biāo)準(zhǔn)模糊、技術(shù)檢測不足仍制約其成效進一步釋放。
“一方面，《人工智能生成合成內(nèi)容標(biāo)識辦法》第十三條僅規(guī)定‘依據(jù)現(xiàn)有法規(guī)處理’，缺乏針對未標(biāo)識、惡意篡改標(biāo)識等行為的具體罰則；另一方面，部分平臺缺乏隱式標(biāo)識核驗工具，難以有效識別違規(guī)內(nèi)容。”盛玉華說。
多維協(xié)同筑防線
破解AI治理難題
受訪專家及業(yè)內(nèi)人士呼吁，AI治理需在“標(biāo)識可見”的基礎(chǔ)上，進一步筑牢“可識別、可追溯、可問責(zé)”的縱深防線，從技術(shù)創(chuàng)新、責(zé)任劃分、協(xié)同治理等多維度發(fā)力，應(yīng)對技術(shù)演進帶來的監(jiān)管挑戰(zhàn)。
——完善“不可篡改、全程可溯”技術(shù)硬屏障。北京師范大學(xué)中國教育與社會發(fā)展研究院助理研究員蔣艷雙認為，目前大多數(shù)平臺監(jiān)管技術(shù)仍存薄弱環(huán)節(jié)，未來應(yīng)加快推進AI標(biāo)識技術(shù)的標(biāo)準(zhǔn)化，細化不同平臺、不同類型內(nèi)容的標(biāo)識技術(shù)規(guī)范，避免因技術(shù)差異導(dǎo)致監(jiān)管漏洞。
此外，還需進一步強化隱式標(biāo)識的抗篡改技術(shù)升級，確保標(biāo)識信息在文件格式轉(zhuǎn)換、二次編輯等操作后仍能有效識別，整合不同AI工具的生成痕跡，提升對各類規(guī)避手段的識別精準(zhǔn)度。
——厘清“生成、傳播、使用”權(quán)責(zé)邊界。盛玉華等人建議，應(yīng)進一步細化《人工智能生成合成內(nèi)容標(biāo)識辦法》中的主體責(zé)任，明確生成合成內(nèi)容服務(wù)提供者、傳播平臺、分發(fā)平臺等不同主體的具體義務(wù)。
同時，強化對黑灰產(chǎn)的處罰力度，對惡意刪除標(biāo)識、偽造標(biāo)識、提供規(guī)避標(biāo)識工具、批量篡改標(biāo)識等行為從重處罰，可探索建立違規(guī)主體“黑名單”制度，將多次實施規(guī)避標(biāo)識行為的個人和企業(yè)納入黑名單，從利益根源上遏制黑灰產(chǎn)。
——構(gòu)建 “政府、公眾、平臺”治理閉環(huán)。蘭州大學(xué)信息科學(xué)與工程學(xué)院教授楊裔建議，需進一步完善舉報與監(jiān)督機制，鼓勵公眾參與AI內(nèi)容治理，建立健全跨平臺投訴舉報聯(lián)動機制，實現(xiàn)違規(guī)賬號信息共享，避免違規(guī)主體“換平臺重來”。
此外，還需持續(xù)強化公眾AI素養(yǎng)科普，普及AI內(nèi)容標(biāo)識識別方法、常見造假手段及維權(quán)路徑，引導(dǎo)公眾養(yǎng)成“看標(biāo)識、辨真?zhèn)巍钡腁I使用習(xí)慣。
“多管齊下、層層設(shè)防，各方形成合力織就一張人人參與的治理大網(wǎng)，引導(dǎo)AI技術(shù)告別野蠻生長的浮躁，真正成為賦能千行百業(yè)的好工具、好幫手?！笔Y艷雙說。（姜偉超 馬莎）
返回頂部