近日，因“AI換臉”導致的詐騙案件引發關注。伴隨著AI大模型的發展，“換臉技術”的應用范圍越來越廣，技術的突破還使得換臉后的人物表情、動作細節更為逼真，一旦被不法分子利用，可能帶來嚴重危害。

【資料圖】

總臺記者經調查發現，網上“AI換臉”軟件的獲取非常容易。利用此類軟件的法律邊界在哪里？如何做好事前監管？

01

網上出現“AI換臉”付費軟件

套餐價格從499元至2888元不等

在網上，演示換臉軟件使用方法及效果的教程比比皆是，其中不少“AI換臉”軟件需要高價付費使用。

記者根據搜索結果聯系到一名開發者，他向記者提供一段使用其軟件實現換臉的示范視頻——雙視窗頁面左側是換臉之前的原始視頻，右側則是換臉之后的視頻，肉眼來看，換臉之后的“數字人”口型、表情、微小的動作幾乎毫無破綻。

在其銷售的網站上，該軟件開發者還展示了如何將兩位知名女星的眼睛和嘴巴“拼接”到一起，生成全新“數字人”的視頻。

這一付費軟件提供從初級（LV1）到超級（LV4）再到全套（LV5）的不同版本。以初級套餐來說，499元提供軟件界面、視頻指導、換臉模型等，如果花2888元，則可得到全套（LV5）等級的視頻換臉模型。

△網絡上提供多種不同等級的換臉軟件產品

02

“想換什么臉都可以”

AI大模型可集成多種功能打造“數字人”

記者發現，該網站底部沒有任何文字顯示其已經過備案。賣家也十分謹慎，全程僅用文字交流。他表示，與初級（LV1）至超級（LV4）套餐相比，全套（LV5）版本迭代更多，能力更強，也可以理解為換臉效果更為逼真，同時，不僅可以實現視頻換臉，還支持直播換臉。

記者進一步詢問能否根據自己的需求換臉時，軟件開發者表示：“想換什么樣的臉拿素材訓練就可以。”

△軟件開發者與記者的聊天截圖

一位從事AI開發的技術人員表示，這意味著可能會有更多難以控制的風險。“集成文生圖、文生文，文生音頻、文生視頻、換臉，這樣的功能結合起來，就可以打造出一個完全嶄新的‘數字人’或者叫‘AI人’，監管成本和難度高了好幾個數量級。”

△賣家展示的用戶反饋

03

專家：有效的標識監管體系

能提前厘清“AI換臉”帶來的模糊邊界

北京嘉維律師事務所律師、IT法律專家趙占領表示，從事后打擊的角度講，刑法中有關于詐騙罪的規定；民法典明確，公民享有肖像權、姓名權、名譽權等相應的民事權利。也就是說，如發生使用他人肖像進行詐騙的相關案例，不法分子能夠在事后被法律約束與制裁。但在人工智能技術飛速發展的當下，還應探討如何能夠做到有效的事前防范。

例如，在《互聯網信息服務深度合成管理規定》中要求，深度合成服務可能導致公眾混淆或者誤認的，深度合成服務提供者應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識。

《生成式人工智能服務管理辦法（征求意見稿）》要求，利用生成式人工智能產品向公眾提供服務前，應當按照有關規定向國家網信部門申報安全評估；要尊重他人合法利益；產品提供者應當對生成式人工智能產品的預訓練數據、優化訓練數據來源的合法性負責等。

浙江大學國際聯合商學院數字經濟與金融創新研究中心聯席主任盤和林認為，從目前來說，如果能夠有效落實標識的要求，形成有效的監管體系，可以在很大程度上提前厘清“AI換臉”所帶來的模糊邊界。

盤和林：當前“AI換臉”的標識監管體系還沒有形成，要針對不標注的內容，通過技術的手段來辨別，并且對不標注的個人或者是單位組織要有具體的處罰措施、標準以及制度。

北京嘉維律師事務所律師、IT法律專家趙占領認為，從長遠來看，監管與處罰措施還需要隨著技術發展不斷“迭代”，才能形成立體有效的治理方案。

（文章來源：央視新聞客戶端）

標簽：