防不勝防，10分鐘就被AI騙走430萬(wàn)元！這是近日震驚全網(wǎng)的真實(shí)詐騙案件。話題#AI詐騙正在全國(guó)爆發(fā)#沖上網(wǎng)絡(luò)熱搜,和你通過社交軟件視頻對(duì)話的,可能不是你認(rèn)識(shí)的那個(gè)人本人,而是經(jīng)過AI偽裝的騙子！

近期，內(nèi)蒙古自治區(qū)包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布了一起使用AI技術(shù)進(jìn)行電信網(wǎng)絡(luò)詐騙的案件。不法分子利用AI技術(shù)，通過聲音合成，偽造成特定人物的聲音，通過AI換臉，偽裝成特定人物，實(shí)時(shí)與他人進(jìn)行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯(lián)系被害人，博取被害人信任后實(shí)施詐騙。見多識(shí)廣的科技公司法人代表短短10分鐘內(nèi)就被騙了430多萬(wàn)元。

今年以來，ChatGPT和GPT-4等技術(shù)的應(yīng)用成為信息科技領(lǐng)域的熱點(diǎn)，引起公眾對(duì)AI技術(shù)的廣泛關(guān)注。但伴隨深度合成技術(shù)的開放開源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為屢見不鮮。

AI詐騙和普通電信網(wǎng)絡(luò)詐騙有何不同，有哪些常用手法，普通人該如何進(jìn)行防范？“AI換臉”的法律邊界在哪？面對(duì)人工智能技術(shù)這把“雙刃劍”，電信網(wǎng)絡(luò)詐騙治理工作又該如何應(yīng)對(duì)？記者本期將帶您走進(jìn)AI新騙局進(jìn)行解讀。

當(dāng)騙子用起了AI技術(shù)……

技術(shù)改變了生活，也改變了詐騙。AI詐騙現(xiàn)在有多兇猛？目前包括北京反詐、武漢市反電信網(wǎng)絡(luò)詐騙中心等官方公眾號(hào)平臺(tái)，都警告了AI技術(shù)新騙局的嚴(yán)重性，甚至表示“詐騙成功率接近100%”。

AI詐騙是指不法分子利用AI技術(shù)合成聲音、視頻、圖片等方式進(jìn)行詐騙。常見手法主要有四種：第一種，轉(zhuǎn)發(fā)微信語(yǔ)音。騙子在盜取微信號(hào)后，向該微信號(hào)的好友提出轉(zhuǎn)賬要求。為取得信任，騙子會(huì)轉(zhuǎn)發(fā)之前的語(yǔ)音，進(jìn)而獲得錢款。雖然目前微信語(yǔ)音是不能轉(zhuǎn)發(fā)的，但騙子可以通過提取語(yǔ)音文件或安裝增強(qiáng)版微信（插件），實(shí)現(xiàn)語(yǔ)音轉(zhuǎn)發(fā)。第二種，聲音合成。騙子通過騷擾電話等方式，錄音提取某人的聲音，并對(duì)素材進(jìn)行合成，用偽造的聲音實(shí)施詐騙。第三種，AI換臉。視頻通話的可信度明顯高于語(yǔ)音和電話，利用AI換臉，騙子可以偽裝成任何人。騙子基于公眾發(fā)布的照片、視頻，通過人體圖像合成技術(shù)，生成假臉。多數(shù)假臉都是使用睜眼照片合成的，假臉極少甚至不會(huì)眨眼，看是否眨眼是判斷一個(gè)視頻真假的好辦法。第四種，通過AI技術(shù)篩選受騙人群。騙子利用AI來分析公眾發(fā)布在網(wǎng)上的各類信息，根據(jù)所要實(shí)施的騙術(shù)對(duì)人群進(jìn)行篩選，在短時(shí)間內(nèi)便可生產(chǎn)出定制化的詐騙腳本，從而實(shí)施精準(zhǔn)詐騙。

在最近發(fā)生的幾起AI詐騙事件中，“深度偽造”技術(shù)deepfake在其中起到了非常關(guān)鍵的作用。如今隨著AIGC（AI generated content，人工智能生成內(nèi)容）技術(shù)的大爆發(fā)，普通人接觸各種先進(jìn)生成工具變得不費(fèi)吹灰之力，制作出越發(fā)難以識(shí)別的高質(zhì)量deepfake視頻也越來越容易，我們想要一眼識(shí)別出來這些造假內(nèi)容就更加困難。

“花式”AI詐騙來襲如何防范

面對(duì)利用AI等新型手段的詐騙，我們要牢記以下幾點(diǎn)：

首先，避免占便宜心理，警惕陌生人提供的好處。在涉及錢款時(shí)，要提高安全意識(shí)，通過電話、視頻等方式確認(rèn)對(duì)方是否為本人。在不能確定真實(shí)身份時(shí)，可將到賬時(shí)間設(shè)定為“2小時(shí)到賬”或“24小時(shí)到賬”，以預(yù)留處理時(shí)間。此外，可以選擇向?qū)Ψ姐y行卡匯款，避免通過微信等社交工具轉(zhuǎn)賬。這樣做，一方面便于核實(shí)對(duì)方信息，確認(rèn)錢款去向；另一方面，對(duì)方能通過短信通知得知轉(zhuǎn)賬信息。

其次，加強(qiáng)個(gè)人信息保護(hù)意識(shí)，盡量減少在社交平臺(tái)上發(fā)布圖片、視頻等內(nèi)容。不輕易提供人臉、指紋等個(gè)人生物信息給他人，不過度公開或分享動(dòng)圖、視頻等。防止騙子利用AI技術(shù)掌握大量個(gè)人信息并對(duì)人物性格、需求傾向等進(jìn)行刻畫，從而有針對(duì)性地實(shí)施詐騙。

最后，防患于未然，及時(shí)做好家中老人的宣傳防范工作。提醒、告誡老年人在接到電話、收到短信時(shí)，只要是不認(rèn)識(shí)、不熟悉的人和事，均不要理睬，以免被誘被騙。不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息，陌生鏈接不要點(diǎn)，陌生軟件不要下載，陌生好友不要隨意添加，不明二維碼不要隨意掃描。管理好自己的朋友圈，也不要輕易向陌生人開啟手機(jī)屏幕共享。

這場(chǎng)與AI詐騙的對(duì)抗，光靠個(gè)人增強(qiáng)安全意識(shí)還遠(yuǎn)遠(yuǎn)不夠。銀行、支付平臺(tái)、軟件廠商等更要提高信息安全意識(shí)，國(guó)家層面也要盡快出臺(tái)更為安全和完善的對(duì)不良AI內(nèi)容的監(jiān)管政策。只有各方共同努力，這樣的熱搜才能越來越少。

整治AI詐騙 用“法”打敗“魔法”

針對(duì)技術(shù)手段日益更新的AI詐騙事件，2022年11月25日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》），自2023年1月10日起施行。國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，出臺(tái)《規(guī)定》，旨在加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理，弘揚(yáng)社會(huì)主義核心價(jià)值觀，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。

近年來，深度合成技術(shù)快速發(fā)展，在滿足用戶需求、改進(jìn)用戶體驗(yàn)的同時(shí)，也被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽(yù)、榮譽(yù)，仿冒他人身份實(shí)施詐騙等，影響傳播秩序和社會(huì)秩序，損害人民群眾合法權(quán)益，危害國(guó)家安全和社會(huì)穩(wěn)定。出臺(tái)《規(guī)定》，是防范化解安全風(fēng)險(xiǎn)的需要，也是促進(jìn)深度合成服務(wù)健康發(fā)展、提升監(jiān)管水平的需要。

《規(guī)定》明確了深度合成數(shù)據(jù)和技術(shù)管理規(guī)范。要求深度合成服務(wù)提供者和技術(shù)支持者加強(qiáng)訓(xùn)練數(shù)據(jù)管理和技術(shù)管理，保障數(shù)據(jù)安全，不得非法處理個(gè)人信息，定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理。深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標(biāo)識(shí)。提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。要求任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。

近幾年，很多國(guó)家針對(duì)“深度偽造”等新技術(shù)，出臺(tái)了相關(guān)法律法規(guī)或管理辦法。我國(guó)從2019年11月起，先后出臺(tái)《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律法規(guī)，對(duì)生成合成類內(nèi)容等提出監(jiān)管要求。近期，也有平臺(tái)和企業(yè)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等，一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。

要將這些規(guī)定執(zhí)行到位，還需要有關(guān)部門加大網(wǎng)絡(luò)安全執(zhí)法力度，不斷完善日常監(jiān)督檢查和定期檢查相結(jié)合的監(jiān)督管理制度，推動(dòng)網(wǎng)絡(luò)平臺(tái)履職盡責(zé)，有效規(guī)范涉及深度合成技術(shù)應(yīng)用的行為。

面對(duì)AI技術(shù)“雙刃劍”如何應(yīng)對(duì)

在電信網(wǎng)絡(luò)詐騙治理領(lǐng)域，人工智能技術(shù)“雙刃劍”效應(yīng)明顯，治理與詐騙技術(shù)對(duì)抗日趨激烈。

一方面，人工智能技術(shù)不斷促進(jìn)治理能力提升。一些機(jī)構(gòu)和企業(yè)積極利用大數(shù)據(jù)分析、機(jī)器學(xué)習(xí)等人工智能技術(shù)開展詐騙治理和風(fēng)險(xiǎn)防控工作，技術(shù)識(shí)別準(zhǔn)確度更高、監(jiān)測(cè)攔截實(shí)時(shí)性更強(qiáng)、防護(hù)覆蓋面更大，有效降低了詐騙風(fēng)險(xiǎn)與危害。

例如在反電信網(wǎng)絡(luò)詐騙專用號(hào)碼96110的背后，中國(guó)電信織就了一張緊密的“反詐密網(wǎng)”，基于云、人工智能、大數(shù)據(jù)等技術(shù)，打造了“翼平安反詐”云平臺(tái)，支撐公安機(jī)關(guān)96110反詐產(chǎn)品的應(yīng)用與服務(wù)。96110“翼平安反詐”服務(wù)以AI能力為核心，以能力平臺(tái)為載體，融合人工外呼、機(jī)器人外呼、大數(shù)據(jù)短信等觸達(dá)手段實(shí)現(xiàn)受眾的精準(zhǔn)觸達(dá)，涉詐人群早告知、防詐信息早預(yù)警，降低人民群眾因涉詐案件造成的損失，為保障人民群眾財(cái)產(chǎn)安全、提升社會(huì)安全貢獻(xiàn)力量。

中國(guó)聯(lián)通充分發(fā)揮IT集約和數(shù)據(jù)集中優(yōu)勢(shì)，率先建立集團(tuán)級(jí)大數(shù)據(jù)反詐平臺(tái)，基于全網(wǎng)集中的話單和信令數(shù)據(jù)，不斷提升運(yùn)算能力，縮短處置時(shí)延，實(shí)現(xiàn)涉詐號(hào)碼精準(zhǔn)發(fā)現(xiàn)、一點(diǎn)快速處置，成為工信部網(wǎng)絡(luò)安全試點(diǎn)示范項(xiàng)目。同時(shí)建立AI反黑產(chǎn)實(shí)驗(yàn)平臺(tái)，探索網(wǎng)絡(luò)黑灰產(chǎn)識(shí)別能力，積極加大跨行業(yè)數(shù)據(jù)合作力度，健全完善多主體參與、多手段結(jié)合的綜合治理格局，持續(xù)凈化網(wǎng)絡(luò)環(huán)境。

中國(guó)移動(dòng)浙江公司研發(fā)出“諦聽”電信網(wǎng)絡(luò)反欺詐平臺(tái)，利用AI反詐騙模型，把傳統(tǒng)的事后追溯反詐手段升級(jí)到事前預(yù)警手段，有效預(yù)先阻斷網(wǎng)絡(luò)欺詐行為。用戶在上網(wǎng)過程中，可能會(huì)毫無察覺地被非法網(wǎng)站竊取相關(guān)信息，而“諦聽”平臺(tái)的AI機(jī)器人可以鎖定非法網(wǎng)站資源庫(kù)，第一時(shí)間判斷可能出現(xiàn)的詐騙行為，對(duì)用戶及時(shí)地發(fā)出警示，提醒被害人和公安部門。

另一方面，人工智能技術(shù)被惡意利用帶來風(fēng)險(xiǎn)隱患。詐騙分子利用人工智能技術(shù)精準(zhǔn)篩選受騙者，精心設(shè)計(jì)詐騙腳本，偽造高仿真詐騙信息，使得詐騙呈現(xiàn)成本低、花樣新、波及廣等特點(diǎn)，隱蔽性、復(fù)雜性、迷惑性增加，引起社會(huì)的關(guān)注和擔(dān)憂。

當(dāng)前，電信網(wǎng)絡(luò)詐騙犯罪出現(xiàn)一些新特點(diǎn)，詐騙集團(tuán)除了利用GOIP設(shè)備（一種虛擬撥號(hào)集成通信設(shè)備）外，還利用區(qū)塊鏈、虛擬貨幣、AI、遠(yuǎn)程操控、共享屏幕等新技術(shù)新業(yè)態(tài)，不斷更新升級(jí)犯罪工具，與公安機(jī)關(guān)在通信網(wǎng)絡(luò)和轉(zhuǎn)賬洗錢等方面的攻防對(duì)抗不斷加劇升級(jí)。

自2022年12月1日起，正式施行的《中華人民共和國(guó)反電信網(wǎng)絡(luò)詐騙法》第二章專章規(guī)定了電信領(lǐng)域的治理，主要涉及電話用戶實(shí)名制管理，移動(dòng)電話卡治理，規(guī)范國(guó)際通信業(yè)務(wù)出入口局主叫號(hào)碼傳送，非法設(shè)備、軟件的治理等，成為電信企業(yè)反詐騙的行動(dòng)指南。

《中華人民共和國(guó)反電信網(wǎng)絡(luò)詐騙法》第二十五條第二款要求，電信業(yè)務(wù)經(jīng)營(yíng)者、互聯(lián)網(wǎng)服務(wù)提供者應(yīng)當(dāng)依照國(guó)家有關(guān)規(guī)定，履行合理的注意義務(wù)，重點(diǎn)對(duì)利用以下四類業(yè)務(wù)從事涉詐支持、幫助活動(dòng)進(jìn)行監(jiān)測(cè)識(shí)別和處置：一是提供互聯(lián)網(wǎng)接入、服務(wù)器托管、網(wǎng)絡(luò)存儲(chǔ)、通訊傳輸、線路出租、域名解析等網(wǎng)絡(luò)資源服務(wù)；二是提供信息發(fā)布或者搜索、廣告推廣、引流推廣等網(wǎng)絡(luò)推廣服務(wù)；三是提供應(yīng)用程序、網(wǎng)站等網(wǎng)絡(luò)技術(shù)、產(chǎn)品的制作、維護(hù)服務(wù)；四是提供支付結(jié)算服務(wù)。

當(dāng)前我國(guó)在電信網(wǎng)絡(luò)詐騙治理工作上取得了明顯成效，但是面對(duì)人工智能時(shí)代電信網(wǎng)絡(luò)詐騙的高隱蔽性、高危害性等特點(diǎn)，當(dāng)前治理工作仍然存在著一定的問題與短板：法律法規(guī)尚需完善、管理范圍仍需延伸、技術(shù)反制能力亟待提高、社會(huì)宣傳引導(dǎo)仍需加強(qiáng)、協(xié)同精準(zhǔn)治理力度有待加大等。需堅(jiān)持發(fā)展與治理并重的思路，發(fā)揮法律、監(jiān)管、技術(shù)、宣傳、協(xié)同多方面綜合治理能力，有效應(yīng)對(duì)人工智能時(shí)代下的電信網(wǎng)絡(luò)詐騙的治理問題，切實(shí)維護(hù)人民群眾財(cái)產(chǎn)安全和利益。

正如同硬幣的正反兩面，每一次技術(shù)變革在帶來福祉的同時(shí)，也經(jīng)常伴隨風(fēng)險(xiǎn)。風(fēng)險(xiǎn)促使我們深入思考，但不能因噎廢食。要因勢(shì)利導(dǎo)，使其趨利避害，應(yīng)是全行業(yè)未來努力的方向。

(來源："網(wǎng)信浙江”）

(鏈接：https://mp.weixin.qq.com/s/zVOwNp4IHa4Iwn5hm5Ediw）