本刊記者 崔曉萌

“同一演員同時出現(xiàn)在三個直播間，利用一個紅衣頸膜推薦官，合成何追一個白衣美妝顧問，行騙還有一個素顏生活博主。利用一個主播同一時間用相似的合成何追話術推薦著不同品牌的產品……”北京消費者鐘女士稱，這個演員挺出名的行騙，最近經常刷到她帶貨，利用當時覺得這演員怎么什么廣告都接。合成何追

沒想到，因為多個直播間出現(xiàn)她的利用帶貨形象，該演員也很無奈。合成何追她還曾在假冒自己的行騙直播間質問：“你是我，那我是利用誰？”沒想到立馬被拉黑……

據了解，目前不少商家截取明星過往素材，合成何追經摳圖換臉合成虛假直播，行騙卻無任何AI生成標注，這類內容在直播平臺不算少見。

今年4月，上述演員就曾發(fā)布打假視頻，稱自己“僅一個官方直播賬號”，引發(fā)粉絲舉報潮，有粉絲一天之內就舉報了18個偽造直播間。

如今這類利用AI深度合成技術行騙的案例越來越多。此前有江西老人要貸款200萬元給AI合成的“靳東”拍戲，港星黃百鳴的AI“分身”被用來推銷藥膏。央視此前曝光的仿冒全紅嬋帶貨事件中，虛假視頻銷量超4.7萬件，雖然其家人早已聲明未授權，侵權內容仍屢禁不止。

“無論從什么方面來講，這都是一個違法侵權的行為?！敝袊ù髮W傳播法研究中心副主任朱巍接受本刊記者采訪時表示，使用AI換臉技術進行直播帶貨是典型的深度合成行為。從被編輯者的角度講，這種行為侵犯了被編輯者的人格權，屬于違法和違規(guī)行為；從廣告法和消費者權益保護法等角度來看，這種行為還涉及虛假宣傳和欺詐消費者的問題，可能觸發(fā)退一賠三的法律責任；從市場公平競爭的角度來看，這種行為違反了《反不正當競爭法》的相關規(guī)定。

他還提示，“平臺方在發(fā)現(xiàn)此類侵權行為后應及時下架相關內容，并對發(fā)布者采取禁言、封禁等措施，否則可能承擔連帶責任。”

確實不少網友認為，這類AI騙術在直播平臺大行其道，平臺有不可推卸的責任。據悉，抖音今年已封禁千余個AI仿冒賬號，并將線索移交監(jiān)管部門。但業(yè)內人士指出，部分平臺仍存在“審核滯后”問題。

朱巍表示，平臺對發(fā)布的內容負有審核責任，但具體審核標準因內容形式（如短視頻、廣告、直播）而異。侵權行為可能涉及多個主體（如MCN機構、商家），需從賬號注冊者到實際控制人全面追責。

具有迷惑性的新騙局屢禁不止，普通消費者該如何鑒別？業(yè)內人士也給出了一些方法：基于AI技術去識別AI內容是最快的方式。也有消費者也在蹲直播間的過程總結出一些經驗：“真實直播能實時互動，AI分身只會循環(huán)話術?！?/p>

北京中銀律師事務所陳川川律師接受本刊記者采訪時介紹，消費者首先要注意看平臺標識和發(fā)布者信息，其次觀看直播過程中要觀察視頻細節(jié)、核實商品信息，并警惕“全網最低價”等話術。發(fā)現(xiàn)疑似AI侵權或詐騙時，立即保存證據（截圖、錄屏），向平臺投訴舉報，必要時尋求法律援助。

實際上，對于此類亂象，監(jiān)管層也在加快補位。9月1日施行的《人工智能生成合成內容標識辦法》要求，AI生成內容必須主動標注，惡意隱匿將受嚴懲。多地市場監(jiān)管部門已展開專項行動。

朱巍認為，目前對AI深度學習的相關法律已經制定，關鍵在于多方協(xié)同落實。

在強化法律執(zhí)行方面，他提出了三點建議：首先，要建立起信用監(jiān)管機制，對頻繁違規(guī)的MCN機構及其關聯(lián)賬號實施連帶責任追究。其次，主體責任應延伸至AI技術提供方平臺，從源頭控制未標記內容的生成。第三，社交平臺需提升技術防控能力，主動攔截違規(guī)信息發(fā)布。

“AI時代要有火眼金睛，但不能把火眼金睛的責任交給老百姓。”朱巍稱。

(責任編輯：焦點)