違法成本低

在某社交平臺上，分身北京商報(bào)記者搜索“協(xié)和醫(yī)院于康教授”的協(xié)和詞條發(fā)現(xiàn)，目前還有不少與該教授有關(guān)的醫(yī)生健康飲食科普短視頻在傳播。以其中某條打出“于康教授：你知道嗎？被盜這7種水果對身體好處非常多”的短視頻為例，該視頻只能看到教授肩頸以上的臉賣部位，背景圖以山水畫為主。減肥在內(nèi)容方面，食整視頻中在介紹完對肝臟好的治偽7種水果后，開始為某養(yǎng)生講堂引流，分身稱在添加其公眾號后可以免費(fèi)領(lǐng)取相關(guān)食療養(yǎng)生課程。協(xié)和

在天使投資人、醫(yī)生資深人工智能專家郭濤看來，被盜“AI換臉”不法商用現(xiàn)象頻發(fā)與操作門檻低密不可分。臉賣目前，減肥在技術(shù)層面，食整AI換臉工具已高度普及，手機(jī)小程序、開源軟件讓操作簡化為“一鍵生成”，單次換臉成本低至幾分錢，無需專業(yè)知識即可完成。

在蘋果應(yīng)用程序商店里搜索“AI換臉”，排名靠前、涉及AI換臉變裝等效果生成的星繪App、臉貓App及AI換臉App，下載量分別達(dá)到21萬、6.9萬和3.2萬。另外，電商平臺上不少制作AI數(shù)字人的商家也并不會對數(shù)字人模型的來源進(jìn)行審核。北京商報(bào)記者以消費(fèi)者身份咨詢某電商平臺制作AI數(shù)字人的商家獲悉，參照該人物形象及相關(guān)文案，最快只需2個(gè)小時(shí)就能進(jìn)行1:1克隆產(chǎn)出相關(guān)無AI水印的短視頻，按照200字及以內(nèi)文案收費(fèi)，只需花費(fèi)45元。

河南澤槿律師事務(wù)所主任付建表示，因AI技術(shù)逐漸成熟，操作門檻逐步降低，并且不法商家違法成本偏低，目前多數(shù)案件僅處行政拘留或小額罰款，民事賠償數(shù)額有限。

此外，據(jù)北京市海淀區(qū)市場監(jiān)管局相關(guān)負(fù)責(zé)人介紹， AI深度偽造視頻鑒別成本遠(yuǎn)高于侵權(quán)違法行為造假成本，并且大量AI合成視頻涌現(xiàn)電商平臺，但權(quán)利人可能并不知曉或知情后維權(quán)周期長、程序復(fù)雜，使得部分權(quán)利人最終放棄維權(quán)。

溯源追責(zé)難

針對AI換臉，除違法成本偏低、承擔(dān)后果較輕外，對其及時(shí)監(jiān)管和溯源追責(zé)也存在難度。

北京市京師律師事務(wù)所律師盧鼎亮表示，一方面，AI換臉造假手段迭代快，不法商家會通過鏡像翻轉(zhuǎn)、畫中畫遮擋、對抗性噪聲嵌入等方式規(guī)避檢測，監(jiān)管技術(shù)難以實(shí)時(shí)跟進(jìn)；另一方面，平臺監(jiān)管被動，多數(shù)平臺仍以事后處理為主，等用戶投訴后才下架內(nèi)容，速度遠(yuǎn)不及AI造假傳播速度。

另據(jù)觀察，AI換臉的發(fā)布者和制作方都有“脫身之道”。從前述某社交平臺上“協(xié)和醫(yī)院于康教授”的短視頻來看，仔細(xì)觀看該視頻，能明顯看出教授的嘴型與配音并不匹配，且在視頻下方還有“AI生成，內(nèi)容僅供參考，若有不適，請及時(shí)就醫(yī)，如有侵權(quán)請告知，立馬刪除”的小字提示。

北京商報(bào)記者與多位AI數(shù)字人制作商家交流時(shí)發(fā)現(xiàn)，各商家均會提出免責(zé)聲明，例如，聲稱店鋪所有視頻與圖片素材均由AI生成，不涉及侵權(quán)；提供的視頻制作服務(wù)僅供合法用途，若因客戶使用本服務(wù)而導(dǎo)致任何法律責(zé)任，本店鋪不承擔(dān)任何責(zé)任等。

“制作商提出的口頭或文字免責(zé)聲明無效，因其不能免除侵犯他人人格權(quán)、欺詐消費(fèi)者等法定責(zé)任。涉嫌違反《中華人民共和國民法典》中關(guān)于肖像權(quán)、消費(fèi)者知情權(quán)的條款。且即便標(biāo)注‘AI生成’，制作發(fā)布方未經(jīng)當(dāng)事人同意使用其肖像仍屬違法違規(guī)，因?yàn)椤吨腥A人民共和國民法典》中明確肖像權(quán)需經(jīng)權(quán)利人許可方可使用，標(biāo)注行為不能抵消侵權(quán)本質(zhì)。”付建說。

“用AI治AI”需建“制度護(hù)欄”

近年來，為整治AI換臉，政策法規(guī)也不斷完善。例如，中央網(wǎng)信辦開展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動，重點(diǎn)打擊未經(jīng)授權(quán)克隆生物特征等行為；國家網(wǎng)信辦、工信部等聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》于今年9月1日正式實(shí)施，明確AI生成內(nèi)容必須“亮明身份”；地方層面，北京、上海等探索AI管理地方立法，形成國家與地方協(xié)同治理格局等。

網(wǎng)信部門近日也開始從嚴(yán)整治利用AI仿冒公眾人物開展直播營銷問題亂象，嚴(yán)厲處置“百貨超市小店”“娜娜好物聯(lián)盟”“環(huán)球護(hù)膚美妝甄選”等一批違法違規(guī)網(wǎng)絡(luò)賬號。同時(shí)，督促網(wǎng)站平臺發(fā)布治理公告，舉一反三，開展集中清理整治，目前已累計(jì)清理相關(guān)違規(guī)信息8700余條，處置仿冒公眾人物賬號1.1萬余個(gè)。

盧鼎亮表示，未來，如何明確和壓實(shí)網(wǎng)絡(luò)平臺的審查和管理責(zé)任，利用技術(shù)手段主動發(fā)現(xiàn)、攔截違規(guī)內(nèi)容，如何實(shí)現(xiàn)更有效、更普適、更難篡改的溯源和水印技術(shù)，如何實(shí)行執(zhí)法人員可具體操作的實(shí)施指南和取證規(guī)范，如何加強(qiáng)國際司法協(xié)作共同打擊跨境AI犯罪等，都是進(jìn)一步的課題。

談及“用AI治AI”，盧鼎亮認(rèn)為，這是當(dāng)前應(yīng)對深度合成技術(shù)濫用的重要思路，其本質(zhì)上是一場在數(shù)字世界中不斷升級的“攻防戰(zhàn)”。AI治理技術(shù)主要圍繞“偵測、溯源、阻斷”三個(gè)環(huán)節(jié)展開，“用AI治AI”具有高效率與自動化的特點(diǎn)， AI識別準(zhǔn)確率還會隨著數(shù)據(jù)積累和算法優(yōu)化而不斷提升。但“用AI治AI”也充滿挑戰(zhàn)。偽造技術(shù)也在不斷進(jìn)化，會專門針對檢測AI的弱點(diǎn)進(jìn)行優(yōu)化，從而導(dǎo)致“貓鼠游戲”的永恒對抗。同時(shí)，沒有任何AI檢測能達(dá)到100%準(zhǔn)確。誤將真實(shí)內(nèi)容判為虛假，或漏掉高精度偽造內(nèi)容，都可能帶來負(fù)面后果。如何設(shè)定閾值、建立人工復(fù)核申訴機(jī)制也至關(guān)重要，需要在機(jī)制上減少誤判風(fēng)險(xiǎn)，防止“算法暴政”。未來的治理格局是攻防兩端AI技術(shù)的持續(xù)博弈與共同進(jìn)化，除技術(shù)外，也需要構(gòu)建完善的制度護(hù)欄，讓技術(shù)創(chuàng)新在法治軌道上行穩(wěn)致遠(yuǎn)。

北京商報(bào)記者 劉洋 程靚

最新評論