本刊記者 崔曉萌

“同一演員同時出現(xiàn)在三個直播間，利用一個紅衣頸膜推薦官，合成何追一個白衣美妝顧問，行騙還有一個素顏生活博主。利用一個主播同一時間用相似的合成何追話術(shù)推薦著不同品牌的產(chǎn)品……”北京消費者鐘女士稱，這個演員挺出名的行騙，最近經(jīng)常刷到她帶貨，利用當(dāng)時覺得這演員怎么什么廣告都接。合成何追

沒想到，因為多個直播間出現(xiàn)她的利用帶貨形象，該演員也很無奈。合成何追她還曾在假冒自己的行騙直播間質(zhì)問：“你是我，那我是利用誰？”沒想到立馬被拉黑……

據(jù)了解，目前不少商家截取明星過往素材，合成何追經(jīng)摳圖換臉合成虛假直播，行騙卻無任何AI生成標(biāo)注，這類內(nèi)容在直播平臺不算少見。

今年4月，上述演員就曾發(fā)布打假視頻，稱自己“僅一個官方直播賬號”，引發(fā)粉絲舉報潮，有粉絲一天之內(nèi)就舉報了18個偽造直播間。

如今這類利用AI深度合成技術(shù)行騙的案例越來越多。此前有江西老人要貸款200萬元給AI合成的“靳東”拍戲，港星黃百鳴的AI“分身”被用來推銷藥膏。央視此前曝光的仿冒全紅嬋帶貨事件中，虛假視頻銷量超4.7萬件，雖然其家人早已聲明未授權(quán)，侵權(quán)內(nèi)容仍屢禁不止。

“無論從什么方面來講，這都是一個違法侵權(quán)的行為?！敝袊ù髮W(xué)傳播法研究中心副主任朱巍接受本刊記者采訪時表示，使用AI換臉技術(shù)進行直播帶貨是典型的深度合成行為。從被編輯者的角度講，這種行為侵犯了被編輯者的人格權(quán)，屬于違法和違規(guī)行為；從廣告法和消費者權(quán)益保護法等角度來看，這種行為還涉及虛假宣傳和欺詐消費者的問題，可能觸發(fā)退一賠三的法律責(zé)任；從市場公平競爭的角度來看，這種行為違反了《反不正當(dāng)競爭法》的相關(guān)規(guī)定。

他還提示，“平臺方在發(fā)現(xiàn)此類侵權(quán)行為后應(yīng)及時下架相關(guān)內(nèi)容，并對發(fā)布者采取禁言、封禁等措施，否則可能承擔(dān)連帶責(zé)任?！?/p>

確實不少網(wǎng)友認(rèn)為，這類AI騙術(shù)在直播平臺大行其道，平臺有不可推卸的責(zé)任。據(jù)悉，抖音今年已封禁千余個AI仿冒賬號，并將線索移交監(jiān)管部門。但業(yè)內(nèi)人士指出，部分平臺仍存在“審核滯后”問題。

朱巍表示，平臺對發(fā)布的內(nèi)容負(fù)有審核責(zé)任，但具體審核標(biāo)準(zhǔn)因內(nèi)容形式（如短視頻、廣告、直播）而異。侵權(quán)行為可能涉及多個主體（如MCN機構(gòu)、商家），需從賬號注冊者到實際控制人全面追責(zé)。

具有迷惑性的新騙局屢禁不止，普通消費者該如何鑒別？業(yè)內(nèi)人士也給出了一些方法：基于AI技術(shù)去識別AI內(nèi)容是最快的方式。也有消費者也在蹲直播間的過程總結(jié)出一些經(jīng)驗：“真實直播能實時互動，AI分身只會循環(huán)話術(shù)?！?/p>

北京中銀律師事務(wù)所陳川川律師接受本刊記者采訪時介紹，消費者首先要注意看平臺標(biāo)識和發(fā)布者信息，其次觀看直播過程中要觀察視頻細節(jié)、核實商品信息，并警惕“全網(wǎng)最低價”等話術(shù)。發(fā)現(xiàn)疑似AI侵權(quán)或詐騙時，立即保存證據(jù)（截圖、錄屏），向平臺投訴舉報，必要時尋求法律援助。

實際上，對于此類亂象，監(jiān)管層也在加快補位。9月1日施行的《人工智能生成合成內(nèi)容標(biāo)識辦法》要求，AI生成內(nèi)容必須主動標(biāo)注，惡意隱匿將受嚴(yán)懲。多地市場監(jiān)管部門已展開專項行動。

朱巍認(rèn)為，目前對AI深度學(xué)習(xí)的相關(guān)法律已經(jīng)制定，關(guān)鍵在于多方協(xié)同落實。

在強化法律執(zhí)行方面，他提出了三點建議：首先，要建立起信用監(jiān)管機制，對頻繁違規(guī)的MCN機構(gòu)及其關(guān)聯(lián)賬號實施連帶責(zé)任追究。其次，主體責(zé)任應(yīng)延伸至AI技術(shù)提供方平臺，從源頭控制未標(biāo)記內(nèi)容的生成。第三，社交平臺需提升技術(shù)防控能力，主動攔截違規(guī)信息發(fā)布。

“AI時代要有火眼金睛，但不能把火眼金睛的責(zé)任交給老百姓?！敝煳》Q。