三個月內(nèi)，網(wǎng)店父親在嘉興經(jīng)營的個月生鮮網(wǎng)店連續(xù)遭遇9起“僅退款”事件，這讓在上海工作的內(nèi)遭難困陳曉薇警覺起來。

今年10月假期，遇起她專程回到老家，造假仔細(xì)查看父親的退款手機(jī)記錄，試圖弄清緣由。強(qiáng)制

“父親的標(biāo)識背后店鋪主打‘現(xiàn)摘現(xiàn)發(fā)’，已經(jīng)營五年。網(wǎng)店每次發(fā)貨前，個月他都會錄制封箱視頻，內(nèi)遭難困清晰記錄柑橘的遇起色澤、果徑和包裝單號。造假”陳曉薇告訴央視網(wǎng)《鋒面》記者。退款

然而，強(qiáng)制當(dāng)她登錄網(wǎng)店后臺核查時(shí)，卻發(fā)現(xiàn)這幾起“僅退款”的買家均提供了開箱圖片——箱內(nèi)的柑橘要么腐爛變質(zhì)、要么干癟失水，甚至出現(xiàn)蟲蛀痕跡。

受訪者供圖

起初，陳父以為是快遞運(yùn)輸環(huán)節(jié)出了問題，前幾單均同意了退款申請。但隨著類似情況越來越多，他與快遞公司多次溝通未果，只得求助女兒?！拔乙粡堃粡堊屑?xì)查看，注意到其中一張圖的角落留有疑似水印的痕跡，像是被裁剪過?！标悤赞甭?lián)想到近期媒體報(bào)道的AI修圖“僅退款”現(xiàn)象，懷疑店鋪遭遇了有組織的惡意退款。

通過簡單搜索，陳曉薇發(fā)現(xiàn)，利用AI技術(shù)篡改圖片、偽造商品質(zhì)量問題并申請退款的行為已非個例。她隨即向平臺提交封箱視頻和疑似AI修改的圖片申訴，卻因“憑證不足”被駁回，平臺建議她與買家協(xié)商解決?！暗@類買家通常已將我們拉黑，根本無法聯(lián)系?！标悤赞睙o奈表示。

她進(jìn)一步致電平臺客服，對方回復(fù)稱“無法判定圖片是否由AI生成”。由于涉及訂單總金額不足1000元，未達(dá)到詐騙罪立案標(biāo)準(zhǔn)，報(bào)警途徑也難以走通。陳曉薇感嘆，AI生成的水印可以被輕易去除，平臺缺乏有效檢測機(jī)制，最終受損的往往是像父親這樣誠信經(jīng)營的小商家。

值得注意的是，2025年3月14日，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合多部門發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識辦法》，明確規(guī)定AI生成內(nèi)容需進(jìn)行強(qiáng)制標(biāo)識，如文本添加提示符號、圖片視頻嵌入水印等。該辦法于今年9月1日正式實(shí)施。

圖源：中央網(wǎng)絡(luò)安全和信息化委員會辦公室網(wǎng)站

但《鋒面》記者調(diào)查發(fā)現(xiàn)，一方面，仍有大量新生成的AI內(nèi)容未按規(guī)定添加標(biāo)識；另一方面，即便已添加水印，也可通過技術(shù)手段輕松去除。這使“強(qiáng)制標(biāo)識”政策在落地時(shí)面臨新挑戰(zhàn)。

“水印”的去與留

事實(shí)上，自生成式AI技術(shù)興起以來，“打假”與“辨真”便成為技術(shù)發(fā)展過程中繞不開的話題。

“目前相關(guān)規(guī)定主要將AI內(nèi)容標(biāo)識分為顯式和隱式兩種，顯式標(biāo)識要求以用戶可明顯感知的方式標(biāo)注AI生成內(nèi)容?！豹?dú)立AI開發(fā)者路磊指出，當(dāng)前爭議主要集中在顯式標(biāo)識的實(shí)施層面。

“但主流采用的‘水印’方式存在一個致命缺陷——極易被篡改或去除?！甭防谂e例說明，“比如多數(shù)AI繪圖工具將水印置于畫面角落，用戶僅需使用手機(jī)自帶的裁剪功能，就能在不影響畫面整體效果的情況下輕松去除水印?！?/p>

通過裁剪圖片去除AI水印

記者調(diào)查發(fā)現(xiàn)，電商平臺上存在大量“圖片視頻去水印”服務(wù)，單次收費(fèi)僅需幾元至十幾元。有商家透露，圖片去水印操作簡單，甚至有時(shí)使用基礎(chǔ)修圖軟件即可完成；視頻去水印則相對復(fù)雜，需要一幀一幀修復(fù)、校準(zhǔn)，但對畫質(zhì)要求不高的可以直接裁剪去除。

這樣一來，視頻或圖片很容易就擺脫“AI生成”的標(biāo)簽，達(dá)到以假亂真的效果?！叭コ『?，不僅普通用戶難以辨別，部分專業(yè)檢測工具也會失效?！甭防诒硎尽?/p>

與此同時(shí)，創(chuàng)作者群體卻面臨“過度標(biāo)識”的困擾。插畫師李沐陽抱怨道：“我用了72個圖層、手繪三萬多筆完成的作品，僅因使用AI微調(diào)局部光影，就被系統(tǒng)打上‘AI生成’標(biāo)簽?！逼渥髌吩谏缃黄脚_發(fā)布后不僅被自動標(biāo)注，還遭遇流量限制，曝光量不足平日十分之一，甚至收到“用AI偷懶”的負(fù)面評論。

“從發(fā)絲筆觸到衣物褶皺都經(jīng)過精心打磨，AI目前根本達(dá)不到這種創(chuàng)作精度?！崩钽尻枱o奈表示，他聯(lián)系平臺客服，卻被以“系統(tǒng)自動標(biāo)識”為由拒絕人工干預(yù)修正。

一面是消費(fèi)者苦于難以辨識經(jīng)過篡改的AI內(nèi)容，一面是創(chuàng)作者受困于平臺的機(jī)械化標(biāo)識機(jī)制。AI水印的“強(qiáng)制標(biāo)識”，遭遇兩種看似矛盾實(shí)則普遍存在的尷尬。

平臺的難題

根據(jù)中國通信院發(fā)布的《生成式人工智能產(chǎn)業(yè)發(fā)展報(bào)告（2025）》，2024年我國生成式AI用戶規(guī)模已達(dá)約3.8億人。與此同時(shí)，《中國網(wǎng)絡(luò)視聽發(fā)展研究報(bào)告（2025）》顯示，2024年平均每日新增視頻內(nèi)容超過1億條。

面對如此龐大的數(shù)據(jù)量，平臺陷入了難以實(shí)現(xiàn)“逐一審核”的資源困境。

根據(jù)路磊的觀察，當(dāng)前像李沐陽所遭遇的“誤判”，主要源于平臺普遍采用的AI識別模型。“這些模型通過學(xué)習(xí)海量AI生成內(nèi)容建立判定標(biāo)準(zhǔn)，卻容易將人類創(chuàng)作中的優(yōu)質(zhì)特征誤判為AI產(chǎn)物?！崩纾嫀煼磸?fù)打磨的筆觸與色彩搭配，學(xué)術(shù)論文中邏輯嚴(yán)密的表達(dá)，都可能被系統(tǒng)標(biāo)記為AI作品——越是精良的作品，越容易被誤判，形成一種技術(shù)悖論。

圖源：視覺中國

西南政法大學(xué)人工智能法學(xué)院教授馮子軒進(jìn)一步指出：“人工智能生成的內(nèi)容涵蓋文本、短視頻、直播、虛擬場景等多元形態(tài)，不同場景的技術(shù)架構(gòu)、傳播邏輯差異巨大，單一的技術(shù)方案沒有辦法適配所有的場景。”

然而，即便采用嵌入代碼的隱式標(biāo)識，也面臨技術(shù)標(biāo)準(zhǔn)不統(tǒng)一的挑戰(zhàn)。某頭部互聯(lián)網(wǎng)公司的AI架構(gòu)師張曉（化名）透露，不同AI工具生成的隱式標(biāo)識格式差異巨大：有的嵌入特定字符，有的采用數(shù)字水印加密。“平臺難以適配數(shù)十種甚至上百種標(biāo)識規(guī)則。在跨平臺傳播過程中，標(biāo)識丟失或無法識別的問題時(shí)有發(fā)生?！?/p>

張曉還表示，多模態(tài)AI識別需要強(qiáng)大的算力支持。目前企業(yè)為控制成本，無法對所有上傳內(nèi)容進(jìn)行全面檢測，只能通過抽樣檢查、關(guān)鍵詞過濾等方式簡化工作。

因此，平臺陷入雙重困境：一方面難以應(yīng)對每日海量的生成內(nèi)容，另一方面又必須在“維護(hù)創(chuàng)作者體驗(yàn)與平臺流量”和“履行AI生成內(nèi)容核驗(yàn)義務(wù)”之間平衡。

圖源：視覺中國

李沐陽認(rèn)為，當(dāng)前平臺尚未建立完善的申訴機(jī)制。“我可以接受誤判，但不能接受申訴無門?！彼啻螄L試與平臺溝通，卻始終未能解決問題?！霸贏I日益普及的今天，平臺難免出現(xiàn)誤判，但必須設(shè)立專門的申訴渠道?！?/p>

對此，路磊透露，建立專業(yè)復(fù)核團(tuán)隊(duì)需要大量既懂AI技術(shù)又懂創(chuàng)作的復(fù)合型人才，而這類人才目前稀缺且培養(yǎng)成本高昂。因此，像李沐陽這樣“投訴12天才得以解決”的情況，在未來一段時(shí)間內(nèi)仍將存在。

解決AI亂象，不能止于“打個水印”

在采訪中，受訪者普遍認(rèn)同，對AI內(nèi)容進(jìn)行強(qiáng)制標(biāo)識的初衷是合理的。然而，如何確保AI在“技術(shù)向善”的方向上不偏離軌道，多位專家和業(yè)內(nèi)人士提出了各自的見解。

北京航空航天大學(xué)法學(xué)院副教授趙精武指出，強(qiáng)制標(biāo)識并非解決AI亂象的“萬能鑰匙”，真正需要建立的是覆蓋全鏈條的治理體系。

那么，如何構(gòu)建既具穿透力又具備廣泛適用性的規(guī)范？在馮子軒看來，應(yīng)通過“底線”與“彈性”相結(jié)合的方式搭建基礎(chǔ)框架：“即由法律確立統(tǒng)一的標(biāo)識標(biāo)準(zhǔn)，同時(shí)為不同應(yīng)用場景預(yù)留適配空間。明確‘顯式標(biāo)識’與‘隱式標(biāo)識’的雙重要求，并通過責(zé)任分層機(jī)制匹配不同場景?！崩纾?wù)提供者承擔(dān)“源頭標(biāo)識義務(wù)”，平臺履行“核驗(yàn)補(bǔ)充義務(wù)”，并對用戶故意刪除標(biāo)識的行為明確法律責(zé)任。

圖源：視覺中國

面對“造假成本低、合規(guī)反而吃虧”的現(xiàn)象，馮子軒主張?zhí)岣哌`法代價(jià)：“內(nèi)容創(chuàng)作者應(yīng)承擔(dān)首要責(zé)任，必須依法完成標(biāo)注。一旦出現(xiàn)造假行為，應(yīng)作為第一責(zé)任主體承擔(dān)法律后果。平臺方面，既要提供標(biāo)識技術(shù)支持，也需建立實(shí)時(shí)核驗(yàn)機(jī)制。若因平臺失職導(dǎo)致違規(guī)內(nèi)容大規(guī)模傳播，則應(yīng)承擔(dān)相應(yīng)補(bǔ)充責(zé)任。”

針對AI標(biāo)識可能引發(fā)的“誤傷”問題，馮子軒建議按商業(yè)與非商業(yè)場景進(jìn)行區(qū)分，對原創(chuàng)度設(shè)置差異化的標(biāo)注要求?！胺巧虡I(yè)內(nèi)容可采用輕量化顯式標(biāo)識，商業(yè)內(nèi)容則需確保標(biāo)識清晰可見，并建立誤判復(fù)核機(jī)制，允許創(chuàng)作者向平臺申請糾錯與賠償?！?/p>

事實(shí)上，除強(qiáng)制標(biāo)識外，AI相關(guān)法規(guī)仍在不斷完善中。職業(yè)律師安宇華指出，目前《生成式人工智能服務(wù)暫行管理辦法》與《人工智能合成內(nèi)容標(biāo)識辦法》等均屬于部門規(guī)章，法律效力層級較低，內(nèi)容也較為零散，缺乏一部高位階的統(tǒng)籌性法律。“以溫崢嶸遭遇的AI換臉事件為例，維權(quán)僅能依賴肖像權(quán)、隱私權(quán)等分散條款，對大規(guī)模聲譽(yù)損害難以量化界定，缺乏強(qiáng)有力的高階法律支撐?！?/p>

在規(guī)則統(tǒng)籌不足的同時(shí)，具體細(xì)則也有待進(jìn)一步明確。馮子軒認(rèn)為，當(dāng)前的雙軌標(biāo)識機(jī)制標(biāo)準(zhǔn)模糊，處罰規(guī)則不夠清晰，有必要出臺更詳盡的執(zhí)行細(xì)則?！袄?，以強(qiáng)制性國家標(biāo)準(zhǔn)為基礎(chǔ)，確保隱式標(biāo)識可跨平臺追溯與核驗(yàn)；將罰款額度與違法所得掛鉤，按違規(guī)情節(jié)分層處罰，對惡意篡改標(biāo)識、批量造假等行為加大懲處，并明確創(chuàng)作者、平臺及技術(shù)提供者的責(zé)任邊界。”

可以預(yù)見，《人工智能生成合成內(nèi)容標(biāo)識辦法》的出臺僅是治理進(jìn)程的起點(diǎn)。完善強(qiáng)制標(biāo)識只是基礎(chǔ)，構(gòu)建全方位的AI信息治理，或許才是真正的解題之道。

監(jiān)制：李紹飛

編輯：楊瑞

審校：天明

(責(zé)任編輯：探索)