人們常說(shuō)“耳聽為虛、眼見為實(shí)”。然而在今天，“眼見”就真的是真實(shí)的嗎？

隨著數(shù)字技術(shù)的迅猛發(fā)展，一種叫“深度偽造”的技術(shù)正慢慢滲入人們的生活。這種技術(shù)可以利用人工智能和大數(shù)據(jù)生成虛假圖片、視頻、文本等，其逼真程度往往讓人難辨真?zhèn)巍?/p>

先進(jìn)的技術(shù)本無(wú)好壞之分，但當(dāng)技術(shù)披上了“偽造”的外衣，則不僅會(huì)讓一些不明真相的網(wǎng)民受到欺騙，更深層面上來(lái)看，它最大的威脅，是在廣大群眾中造成信任的危機(jī)。

一

想知道什么是“深度偽造”，首先要知道它的技術(shù)原理——“深度合成”技術(shù)。簡(jiǎn)單來(lái)說(shuō)，就是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等合成類算法，實(shí)現(xiàn)文本轉(zhuǎn)語(yǔ)音、音樂(lè)生成、人臉生成替換、圖像增強(qiáng)等功能的技術(shù)

舉幾個(gè)例子就會(huì)發(fā)現(xiàn)，“深度合成”在我們身邊其實(shí)已經(jīng)運(yùn)用得比較廣泛。

圖片合成，包括人臉替換、專屬表情包制作、寫真換裝等，人們可以一鍵創(chuàng)造出任何自己想看到的全新圖像。比如在一些小程序中，只需上傳一張自己的照片，一鍵換裝、一鍵美顏、一鍵換背景等都可以通過(guò)AI技術(shù)輕松實(shí)現(xiàn)。就算想要合成“粉紅色大象在撒哈拉沙漠玩撲克”等天馬行空的圖片，也都不是難事。

語(yǔ)音合成，即運(yùn)用AI技術(shù)生成接近真人語(yǔ)調(diào)和節(jié)奏的聲音。比如，當(dāng)你聽到“注意看，這個(gè)男人叫小帥”這句話時(shí)，腦海里是不是有一個(gè)聲音已經(jīng)呼之欲出？沒(méi)錯(cuò)，這個(gè)常常出現(xiàn)在抖音、B站的電影解說(shuō)配音，就是“深度合成”出的一款聲音。它的音色、語(yǔ)氣和停頓非常自然，幾乎沒(méi)有機(jī)器的生硬之感。而這種無(wú)限接近真人的聲音合成技術(shù)，在智能語(yǔ)音導(dǎo)航、有聲書朗讀、客服電話中已經(jīng)得到廣泛應(yīng)用。

視頻合成，即通過(guò)改變?nèi)说拿娌刻卣?，從而操縱面部表情，可以讓一個(gè)人看起來(lái)在說(shuō)他從未說(shuō)過(guò)的話。比如，在電影《阿甘正傳》中，制作方就曾將肯尼迪的影像填充在影片中，炮制了肯尼迪接見阿甘的畫面。而在一些“換臉”小程序里，網(wǎng)友也可以用自己的照片替換影視劇主角的臉，合成一段由自己“出演”的經(jīng)典影片。

近年來(lái)，“深度合成”技術(shù)已在很多領(lǐng)域大量應(yīng)用，生產(chǎn)出的內(nèi)容數(shù)量和關(guān)注度呈快速增長(zhǎng)態(tài)勢(shì)。統(tǒng)計(jì)數(shù)據(jù)顯示，在國(guó)內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺(tái)上，2021年新發(fā)布的“深度合成”視頻數(shù)量較2017年已增長(zhǎng)10倍以上。

由此可見，在“深度合成”技術(shù)的世界里，耳聽、眼見甚至連觸摸，都不見得是真實(shí)的。

然而，每一次技術(shù)變革在帶來(lái)福祉的同時(shí)，也經(jīng)常伴隨著風(fēng)險(xiǎn)。正如同硬幣的正反兩面，“深度合成”的另一面就是“深度偽造”，即利用“深度合成”技術(shù)生成虛假的視頻、照片和文本等。

二

“深度偽造”可以說(shuō)一出生就帶有“原罪”。2017年，一位名為“deepfakes”的美國(guó)網(wǎng)友上傳了經(jīng)過(guò)合成技術(shù)編輯的色情視頻，這是“深度偽造”在世人面前的第一次亮相，很不光彩。

此后，隨著技術(shù)逐步“平民化”，造假手段也一日千里、突飛猛進(jìn)，由此帶來(lái)的風(fēng)險(xiǎn)隱患也越來(lái)越多。

“深度偽造”造成的虛假信息傳播，給社會(huì)治理增添了不少難題。麻省理工學(xué)院分析了十多年來(lái)300萬(wàn)推特用戶發(fā)布的信息后發(fā)現(xiàn)：一個(gè)捏造故事傳播到1500人的速度是真實(shí)故事的6倍。有數(shù)據(jù)顯示，自2018年11月以來(lái)，在線識(shí)別的“深度偽造”視頻數(shù)量每6個(gè)月翻一番。

正因?yàn)椤吧疃葌卧臁钡男畔O易迷惑人，這一技術(shù)也成了認(rèn)知戰(zhàn)信息戰(zhàn)的新武器。美西方國(guó)家近年針對(duì)我國(guó)的輿論戰(zhàn)中，大量使用“深度偽造”作品。像香港“修例風(fēng)波”期間，一些境外媒體偽造“港警毆打無(wú)辜民眾”等視頻，顛倒黑白，煽動(dòng)輿論，極易讓人產(chǎn)生錯(cuò)誤認(rèn)知，損害我國(guó)形象。

除此之外，利用“深度偽造”實(shí)施的經(jīng)濟(jì)詐騙更是五花八門。比如在2020年，香港一銀行經(jīng)理被詐騙者使用語(yǔ)音克隆技術(shù)冒充“合作伙伴”騙取了3500萬(wàn)美元，這也成為目前已知造成最大經(jīng)濟(jì)損失的“深度偽造”案件。一項(xiàng)研究估計(jì)，受“深度偽造”影響，全球企業(yè)每年損失高達(dá)780億美元。

“深度偽造”不僅給個(gè)人、企業(yè)和社會(huì)帶來(lái)隱患，更是給國(guó)家安全帶來(lái)威脅。一些國(guó)家的現(xiàn)實(shí)政治顯示，特定情況下“適時(shí)”出現(xiàn)的“深度偽造”，會(huì)造成社會(huì)動(dòng)蕩，甚至改變一個(gè)國(guó)家的政治進(jìn)程。有美國(guó)政客曾說(shuō)：“過(guò)去威脅美國(guó)需要核武器、航母和導(dǎo)彈，但今天，制作一個(gè)逼真的‘深度偽造’視頻，就能破壞選舉，使國(guó)家陷入巨大的內(nèi)部危機(jī)?！?/p>

三

“深度合成”這項(xiàng)技術(shù)本身并沒(méi)有錯(cuò)，但一旦被惡意濫用，跨越道德和法律的邊界滑向“深度偽造”時(shí)，就會(huì)遺禍無(wú)窮。當(dāng)“深度偽造”這個(gè)“魔盒”被打開，虛實(shí)交界處必須設(shè)置一道明辨是非的防火墻。

首先，還是要用好法律這把武器。近幾年，很多國(guó)家針對(duì)“深度偽造”等新技術(shù)，出臺(tái)了相關(guān)法律法規(guī)或管理辦法。我國(guó)從2019年11月起，先后出臺(tái)《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律法規(guī)，對(duì)生成合成類內(nèi)容等提出監(jiān)管要求。

比如《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》中明確，利用新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)，不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息。同時(shí)也明確，違反該規(guī)定的，由網(wǎng)信、文化和旅游、廣播電視等部門依照相關(guān)法律法規(guī)規(guī)定處理。

能否將這些規(guī)定執(zhí)行到位，還需要有關(guān)部門加大網(wǎng)絡(luò)安全執(zhí)法力度，不斷完善日常監(jiān)督檢查和定期檢查相結(jié)合的監(jiān)督管理制度，推動(dòng)網(wǎng)絡(luò)平臺(tái)履責(zé)盡責(zé)，有效規(guī)范涉及“深度合成”技術(shù)應(yīng)用的行為。

其次，要善于用技術(shù)制約技術(shù)，加快打造“深度偽造”信息檢測(cè)系統(tǒng)。比如，美國(guó)五角大樓國(guó)防高級(jí)研究計(jì)劃局啟動(dòng)了“媒體取證”計(jì)劃，贊助十幾個(gè)高水平的研究機(jī)構(gòu)加強(qiáng)對(duì)“深度偽造”、合成媒體的檢測(cè)。

在國(guó)內(nèi)，部分互聯(lián)網(wǎng)公司在這方面也具備一定的技術(shù)積累。早在2019年，百度安全就推出國(guó)內(nèi)首個(gè)基于人臉?biāo)阉?、人臉屬性提取、語(yǔ)音識(shí)別和OCR識(shí)別的深偽檢測(cè)平臺(tái)，對(duì)主流“深度偽造”數(shù)據(jù)識(shí)別準(zhǔn)確率在99%以上。

然而可以預(yù)見的是，隨著技術(shù)的不斷發(fā)展，“深度偽造”也將變得更加難以檢測(cè)。要想在這場(chǎng)基于技術(shù)博弈的“貓鼠游戲”中占得上風(fēng)，就需要加強(qiáng)“深度偽造”檢測(cè)技術(shù)研發(fā)，在關(guān)鍵技術(shù)領(lǐng)域突破攻堅(jiān)，持續(xù)提升和迭代檢測(cè)技術(shù)能力。

最后，“深度偽造”面向的是廣大網(wǎng)民，因此還需加強(qiáng)網(wǎng)絡(luò)安全教育，提升全民網(wǎng)絡(luò)素養(yǎng)。我國(guó)是網(wǎng)絡(luò)大國(guó)，擁有世界上數(shù)量最多的網(wǎng)民，截至2022年6月，我國(guó)網(wǎng)民規(guī)模為10.51億，互聯(lián)網(wǎng)普及率達(dá)74.4%。但也要看到，我國(guó)數(shù)字素養(yǎng)教育起步晚，教育水平、知識(shí)水平參差不齊。還需要持續(xù)加強(qiáng)對(duì)網(wǎng)民的宣傳教育，特別要注重對(duì)特定群體的數(shù)字技術(shù)掃盲，在整個(gè)社會(huì)接種防范“深度偽造”的“疫苗”。

“深度合成”技術(shù)可以說(shuō)是一把雙刃劍，而“深度偽造”就是那道頗具傷害性的鋒芒。希望在各方的共同努力下，我們能用好這把劍，讓它多朝著有利于社會(huì)發(fā)展的方向，發(fā)揮作用。

(來(lái)源："天目新聞"）

(鏈接：https://py.zjol.com.cn/pyxw/202212/t20221208_25159612.shtml)