只需一張照片，經(jīng)過深度合成、算法處理，任何人都可以成為視頻中的主人公……“AI換臉”頻繁出現(xiàn)在諸多“惡搞”視頻中。

4月7日，杭州市蕭山區(qū)檢察院曝光的一個“女神群”，就與這項技術相關，引發(fā)廣泛關注。

現(xiàn)在由“AI換臉”引發(fā)的案件多嗎？它在什么情況下會觸及法律底線？遇到類似利用“AI換臉”技術實施犯罪的行為該怎么辦？

潮新聞記者采訪了杭州市蕭山區(qū)檢察院第一檢察部負責人。

圖文無關，來自視覺中國

男子利用“AI換臉”動起歪腦筋

早在“AI換臉”剛興起時，80后安徽籍男子虞某就從中嗅到了一絲商機。

起初，虞某想通過在網(wǎng)上推廣該項技術及相關的軟件來獲利。但是，一段時間過去，他沒有獲得什么關注度。

偶然的一次機會，虞某看到有些人會在群里發(fā)布一些淫穢信息來吸引他人關注，就動起了歪腦筋。

虞某先是將原本建的“換臉軟件資源群”的群名更改為“女神試看群”，后又通過互聯(lián)網(wǎng)下載了部分淫穢視頻，截取片段后發(fā)布在該公開群中，吸引、招攬各色人群加入。當觀看者達到一定人數(shù)后，虞某會發(fā)布群消息稱，繳納198元-498元不等的“會費”，進入“內(nèi)部群”可以收看完整版。

“內(nèi)部群”里發(fā)送的淫穢視頻有不少是由虞某本人使用“AI換臉技術”合成的。根據(jù)顧客的需要還可以使用不同的女明星的形象，進行“私人定制”。甚至，有不少人因為看了這些視頻后對換臉技術產(chǎn)生了興趣，向其咨詢?nèi)绾钨徺I換臉軟件。

一面通過“吸粉引流”收取會費；一面又通過出售“換臉軟件”頻頻獲利，虞某原本沒聲沒響的“生意”一下打開了局面，短短幾個月就獲利數(shù)萬元。

后經(jīng)他人舉報，2023年3月28日，蕭山區(qū)檢察院依法以制作、傳播淫穢物品牟利罪對虞某提起公訴，案件目前正在法院審理。

截至案發(fā)，公安機關共在虞某所組建的公開群內(nèi)查證淫穢視頻1200余部、圖片1600余張。經(jīng)鑒定，上述均系淫穢物品。

圖片來源：視覺中國

AI時代，我們?nèi)绾问睾梅傻拙€？

近年來，“AI換臉”因為其深度擬真、低制作門檻的特點，擴散速度很難控制。人臉作為具有身份識別特征的重要生物識別信息，極易造成詐騙、敲詐勒索等有針對性的違法犯罪活動。

杭州市蕭山區(qū)檢察院第一檢察部負責人表示，像本案中虞某的這種行為，一方面侵犯了女明星的肖像權、名譽權；“AI換臉”如情節(jié)嚴重的，可能構(gòu)成相應的刑事犯罪。另一方面，虞某這種制作、傳播淫穢物品的行為也對社會正常的秩序和風氣，對公序良俗造成了損害。

該負責人告訴記者，目前以相同行為實施犯罪的案例還不是很多。但是從虞某本人供述來看，在他們所在的“圈子”中，類似利用AI換臉對淫穢視頻進行加工，并在公開群里投放吸引“流量”的案件并不少見。

那么，在“AI換臉”技術火熱的當下，判定其是否違法的邊界又在哪里呢？

“技術本身是中立的，但AI技術從誕生開始就存在極大的爭議和被濫用的空間，因此必須進行嚴格的監(jiān)管。”該負責人說，惡搞視頻制作中“AI換臉”技術的應用容易侵犯他人肖像權；但最終判定是否侵犯名譽權，還是要從視頻的具體內(nèi)容來考量，如果有人利用換臉軟件對他人進行惡意丑化、玷污式惡搞，或者將他人的臉換到不雅視頻中，就侵犯了他人的名譽權，嚴重的也可能會構(gòu)成侮辱罪、誹謗罪。

當前，網(wǎng)絡上不少平臺提供AI換臉服務，在滿足社交、娛樂等需求的同時，易出現(xiàn)類似本案中不當利用、非法利用的行為，杭州也已有過相關判例。

因此，杭州市蕭山區(qū)檢察院第一檢察部負責人提醒，相關平臺應加強對“AI換臉”技術應用的管理。同時，希望用戶也能依法使用該項技術，一旦遇到類似本案中利用“AI換臉技術”實施犯罪行為的，應第一時間固定證據(jù)，并及時向司法機關報案。

(來源："網(wǎng)信浙江”）

(鏈接：https://mp.weixin.qq.com/s/twGPQlILo87NeOOtn-gzSQ）