三個月內，網店父親在嘉興經營的個月生鮮網店連續(xù)遭遇9起“僅退款”事件，這讓在上海工作的內遭難困陳曉薇警覺起來。
今年10月假期，遇起她專程回到老家，造假仔細查看父親的退款手機記錄，試圖弄清緣由。強制
“父親的標識背后店鋪主打‘現(xiàn)摘現(xiàn)發(fā)’，已經營五年。網店每次發(fā)貨前，個月他都會錄制封箱視頻，內遭難困清晰記錄柑橘的遇起色澤、果徑和包裝單號。造假”陳曉薇告訴央視網《鋒面》記者。退款
然而，強制當她登錄網店后臺核查時，卻發(fā)現(xiàn)這幾起“僅退款”的買家均提供了開箱圖片——箱內的柑橘要么腐爛變質、要么干癟失水，甚至出現(xiàn)蟲蛀痕跡。
受訪者供圖
起初，陳父以為是快遞運輸環(huán)節(jié)出了問題，前幾單均同意了退款申請。但隨著類似情況越來越多，他與快遞公司多次溝通未果，只得求助女兒?！拔乙粡堃粡堊屑毑榭?，注意到其中一張圖的角落留有疑似水印的痕跡，像是被裁剪過?！标悤赞甭?lián)想到近期媒體報道的AI修圖“僅退款”現(xiàn)象，懷疑店鋪遭遇了有組織的惡意退款。
通過簡單搜索，陳曉薇發(fā)現(xiàn)，利用AI技術篡改圖片、偽造商品質量問題并申請退款的行為已非個例。她隨即向平臺提交封箱視頻和疑似AI修改的圖片申訴，卻因“憑證不足”被駁回，平臺建議她與買家協(xié)商解決?！暗@類買家通常已將我們拉黑，根本無法聯(lián)系?！标悤赞睙o奈表示。
她進一步致電平臺客服，對方回復稱“無法判定圖片是否由AI生成”。由于涉及訂單總金額不足1000元，未達到詐騙罪立案標準，報警途徑也難以走通。陳曉薇感嘆，AI生成的水印可以被輕易去除，平臺缺乏有效檢測機制，最終受損的往往是像父親這樣誠信經營的小商家。
值得注意的是，2025年3月14日，國家互聯(lián)網信息辦公室聯(lián)合多部門發(fā)布了《人工智能生成合成內容標識辦法》，明確規(guī)定AI生成內容需進行強制標識，如文本添加提示符號、圖片視頻嵌入水印等。該辦法于今年9月1日正式實施。
圖源：中央網絡安全和信息化委員會辦公室網站
但《鋒面》記者調查發(fā)現(xiàn)，一方面，仍有大量新生成的AI內容未按規(guī)定添加標識；另一方面，即便已添加水印，也可通過技術手段輕松去除。這使“強制標識”政策在落地時面臨新挑戰(zhàn)。
“水印”的去與留
事實上，自生成式AI技術興起以來，“打假”與“辨真”便成為技術發(fā)展過程中繞不開的話題。
“目前相關規(guī)定主要將AI內容標識分為顯式和隱式兩種，顯式標識要求以用戶可明顯感知的方式標注AI生成內容?！豹毩I開發(fā)者路磊指出，當前爭議主要集中在顯式標識的實施層面。
“但主流采用的‘水印’方式存在一個致命缺陷——極易被篡改或去除?！甭防谂e例說明，“比如多數(shù)AI繪圖工具將水印置于畫面角落，用戶僅需使用手機自帶的裁剪功能，就能在不影響畫面整體效果的情況下輕松去除水印。”
通過裁剪圖片去除AI水印
記者調查發(fā)現(xiàn)，電商平臺上存在大量“圖片視頻去水印”服務，單次收費僅需幾元至十幾元。有商家透露，圖片去水印操作簡單，甚至有時使用基礎修圖軟件即可完成；視頻去水印則相對復雜，需要一幀一幀修復、校準，但對畫質要求不高的可以直接裁剪去除。
這樣一來，視頻或圖片很容易就擺脫“AI生成”的標簽，達到以假亂真的效果。“去除水印后，不僅普通用戶難以辨別，部分專業(yè)檢測工具也會失效?！甭防诒硎?。
與此同時，創(chuàng)作者群體卻面臨“過度標識”的困擾。插畫師李沐陽抱怨道：“我用了72個圖層、手繪三萬多筆完成的作品，僅因使用AI微調局部光影，就被系統(tǒng)打上‘AI生成’標簽?！逼渥髌吩谏缃黄脚_發(fā)布后不僅被自動標注，還遭遇流量限制，曝光量不足平日十分之一，甚至收到“用AI偷懶”的負面評論。
“從發(fā)絲筆觸到衣物褶皺都經過精心打磨，AI目前根本達不到這種創(chuàng)作精度?！崩钽尻枱o奈表示，他聯(lián)系平臺客服，卻被以“系統(tǒng)自動標識”為由拒絕人工干預修正。
一面是消費者苦于難以辨識經過篡改的AI內容，一面是創(chuàng)作者受困于平臺的機械化標識機制。AI水印的“強制標識”，遭遇兩種看似矛盾實則普遍存在的尷尬。
平臺的難題
根據中國通信院發(fā)布的《生成式人工智能產業(yè)發(fā)展報告（2025）》，2024年我國生成式AI用戶規(guī)模已達約3.8億人。與此同時，《中國網絡視聽發(fā)展研究報告（2025）》顯示，2024年平均每日新增視頻內容超過1億條。
面對如此龐大的數(shù)據量，平臺陷入了難以實現(xiàn)“逐一審核”的資源困境。
根據路磊的觀察，當前像李沐陽所遭遇的“誤判”，主要源于平臺普遍采用的AI識別模型?！斑@些模型通過學習海量AI生成內容建立判定標準，卻容易將人類創(chuàng)作中的優(yōu)質特征誤判為AI產物?！崩?，畫師反復打磨的筆觸與色彩搭配，學術論文中邏輯嚴密的表達，都可能被系統(tǒng)標記為AI作品——越是精良的作品，越容易被誤判，形成一種技術悖論。
圖源：視覺中國
西南政法大學人工智能法學院教授馮子軒進一步指出：“人工智能生成的內容涵蓋文本、短視頻、直播、虛擬場景等多元形態(tài)，不同場景的技術架構、傳播邏輯差異巨大，單一的技術方案沒有辦法適配所有的場景?！?/p>
然而，即便采用嵌入代碼的隱式標識，也面臨技術標準不統(tǒng)一的挑戰(zhàn)。某頭部互聯(lián)網公司的AI架構師張曉（化名）透露，不同AI工具生成的隱式標識格式差異巨大：有的嵌入特定字符，有的采用數(shù)字水印加密?！捌脚_難以適配數(shù)十種甚至上百種標識規(guī)則。在跨平臺傳播過程中，標識丟失或無法識別的問題時有發(fā)生?！?/p>
張曉還表示，多模態(tài)AI識別需要強大的算力支持。目前企業(yè)為控制成本，無法對所有上傳內容進行全面檢測，只能通過抽樣檢查、關鍵詞過濾等方式簡化工作。
因此，平臺陷入雙重困境：一方面難以應對每日海量的生成內容，另一方面又必須在“維護創(chuàng)作者體驗與平臺流量”和“履行AI生成內容核驗義務”之間平衡。
圖源：視覺中國
李沐陽認為，當前平臺尚未建立完善的申訴機制。“我可以接受誤判，但不能接受申訴無門?！彼啻螄L試與平臺溝通，卻始終未能解決問題?！霸贏I日益普及的今天，平臺難免出現(xiàn)誤判，但必須設立專門的申訴渠道?！?/p>
對此，路磊透露，建立專業(yè)復核團隊需要大量既懂AI技術又懂創(chuàng)作的復合型人才，而這類人才目前稀缺且培養(yǎng)成本高昂。因此，像李沐陽這樣“投訴12天才得以解決”的情況，在未來一段時間內仍將存在。
解決AI亂象，不能止于“打個水印”
在采訪中，受訪者普遍認同，對AI內容進行強制標識的初衷是合理的。然而，如何確保AI在“技術向善”的方向上不偏離軌道，多位專家和業(yè)內人士提出了各自的見解。
北京航空航天大學法學院副教授趙精武指出，強制標識并非解決AI亂象的“萬能鑰匙”，真正需要建立的是覆蓋全鏈條的治理體系。
那么，如何構建既具穿透力又具備廣泛適用性的規(guī)范？在馮子軒看來，應通過“底線”與“彈性”相結合的方式搭建基礎框架：“即由法律確立統(tǒng)一的標識標準，同時為不同應用場景預留適配空間。明確‘顯式標識’與‘隱式標識’的雙重要求，并通過責任分層機制匹配不同場景?！崩?，服務提供者承擔“源頭標識義務”，平臺履行“核驗補充義務”，并對用戶故意刪除標識的行為明確法律責任。
圖源：視覺中國
面對“造假成本低、合規(guī)反而吃虧”的現(xiàn)象，馮子軒主張?zhí)岣哌`法代價：“內容創(chuàng)作者應承擔首要責任，必須依法完成標注。一旦出現(xiàn)造假行為，應作為第一責任主體承擔法律后果。平臺方面，既要提供標識技術支持，也需建立實時核驗機制。若因平臺失職導致違規(guī)內容大規(guī)模傳播，則應承擔相應補充責任。”
針對AI標識可能引發(fā)的“誤傷”問題，馮子軒建議按商業(yè)與非商業(yè)場景進行區(qū)分，對原創(chuàng)度設置差異化的標注要求。“非商業(yè)內容可采用輕量化顯式標識，商業(yè)內容則需確保標識清晰可見，并建立誤判復核機制，允許創(chuàng)作者向平臺申請糾錯與賠償。”
事實上，除強制標識外，AI相關法規(guī)仍在不斷完善中。職業(yè)律師安宇華指出，目前《生成式人工智能服務暫行管理辦法》與《人工智能合成內容標識辦法》等均屬于部門規(guī)章，法律效力層級較低，內容也較為零散，缺乏一部高位階的統(tǒng)籌性法律?！耙詼貚槑V遭遇的AI換臉事件為例，維權僅能依賴肖像權、隱私權等分散條款，對大規(guī)模聲譽損害難以量化界定，缺乏強有力的高階法律支撐。”
在規(guī)則統(tǒng)籌不足的同時，具體細則也有待進一步明確。馮子軒認為，當前的雙軌標識機制標準模糊，處罰規(guī)則不夠清晰，有必要出臺更詳盡的執(zhí)行細則?！袄?，以強制性國家標準為基礎，確保隱式標識可跨平臺追溯與核驗；將罰款額度與違法所得掛鉤，按違規(guī)情節(jié)分層處罰，對惡意篡改標識、批量造假等行為加大懲處，并明確創(chuàng)作者、平臺及技術提供者的責任邊界。”
可以預見，《人工智能生成合成內容標識辦法》的出臺僅是治理進程的起點。完善強制標識只是基礎，構建全方位的AI信息治理，或許才是真正的解題之道。
監(jiān)制：李紹飛
編輯：楊瑞
審校：天明