▲網傳AI仿冒全紅嬋帶貨畫面。圖/央視新聞

“大家好，克隆我是聲音你們的嬋寶，今天有事請大家?guī)兔?。網絡嬋妹就想著幫助媽媽，橫行讓家里的任由生活過得更好一點，同時把老家的克隆土雞蛋分享給粉絲們嘗嘗……”

據(jù)央視新聞報道，在互聯(lián)網上，聲音奧運冠軍的網絡“聲音”突然開始推銷農產品，知名演員的橫行“聲音”24小時不間斷在直播間與粉絲互動……隨著AI技術的普及，“克隆”特定人物聲音已實現(xiàn)“一鍵式”操作。任由當聲音能被輕易竊取和濫用，克隆隨之而來的聲音侵權亂象頻繁上演。

在媒體的網絡梳理里，全紅嬋、橫行孫穎莎、王楚欽這些知名的運動員全都“中招”。他們“推銷土雞蛋”被AI工具一鍵生成，搭配上他們的畫面鏡頭，利用粉絲對運動員的喜愛，迅速就可以“起號帶貨”。

這是很惡劣的伎倆，不僅侵犯運動員的人格權，也在誆騙利用消費者的情感，讓很多人誤以為真的在幫運動員的“家里生活過得好一點”。如果任由AI克隆聲音在網上橫行，不僅會傷害粉絲群體對運動員的信任，沖擊正常的帶貨生態(tài)，長此以往也會損害人們對真實與善意的基本信賴。

同時，也要看到，隨著技術進步，侵權和維權的成本逐漸不成比例，這在客觀上造成了此類亂象屢禁不止。

據(jù)網絡安全專家介紹，基于開源的語音大模型，只需一段清晰的語音樣本，任何人的聲音都可能在極短時間內被克隆，并能被操縱說出攻擊者設定的任意內容?？梢?，AI克隆聲音幾乎是零成本、零門檻，早已能輕松實現(xiàn)。

然而，想要維權卻并不容易。此前很多靳東、劉曉慶、古天樂、張文宏等知名人物都曾遭遇類似困境，也都紛紛發(fā)布聲明表示維權，但實際走到法律層面的并不多。這些賬號往往變換迅速，內容刪除、隱藏頻繁，給取證造成巨大困難，也因此有法律人士指出，“部分受害方遇到該情況往往會迫于無奈，放棄以訴訟方式維權?！?/p>

但這種侵權行為不應該是個無解難題?？梢韵胂螅S著AI技術的普及，類似產品可能會越來越多、傳播越來越隱蔽，如果只靠被侵權者“一個個去追責”，恐怕也是捉襟見肘。反過來說，只有在技術和制度層面提前“補漏”，才更有可能實現(xiàn)有效封堵。

首先，應該盡到審核把關之責的就是互聯(lián)網平臺?；ヂ?lián)網平臺理應在直播上線、廣告投放、商品銷售等關鍵環(huán)節(jié)完善風險識別機制，對涉及名人頭像、聲音的帶貨行為進行重點審核。一旦發(fā)現(xiàn)疑似AI克隆造假，應當主動攔截、第一時間下架，阻斷其傳播。

今年9月1日將施行的《人工智能生成合成內容標識辦法》，其中也對“生成合成內容添加顯式標識”“提供網絡信息內容傳播服務的服務提供者應當采取技術措施，規(guī)范生成合成內容傳播活動”等提出了明確要求。

對此，互聯(lián)網平臺也應當對標要求，進一步完善技術識別能力，規(guī)范AI內容的標記，并對有意繞開標記規(guī)范的賬號進行嚴肅處理，從而規(guī)范平臺整體的AI應用生態(tài)。

另外，相關部門也可以考慮和平臺建立消費者舉報、被侵權者維權的綠色通道，對平臺的證據(jù)保全等提出細化要求。在維權訴求發(fā)出之后，相關各方可以迅速聯(lián)動，完成素材封存、賬號鎖定、傳播追蹤等關鍵動作，將傳播、取證到司法裁判各環(huán)節(jié)都打通、提速，提升維權效率，讓侵權者付出沉重代價。

長遠來看，治理AI克隆不僅是保護個體權益、維護市場秩序，更是為人工智能產業(yè)的健康發(fā)展掃清障礙。只有在發(fā)展與監(jiān)管之間找到平衡，將技術創(chuàng)新置于明確的法律邊界和倫理規(guī)范之中，才能真正讓AI成為推動社會進步的正向力量，從而構建一個更透明、更可信賴的數(shù)字世界。

編輯 / 徐秋穎

校對 / 楊許麗