近年來，隨著人臉識(shí)別技術(shù)的廣泛應(yīng)用和人工智能技術(shù)的進(jìn)步，一些不法分子開始利用AI技術(shù)融合他人面孔和聲音、制造逼真的合成圖像來實(shí)施新型網(wǎng)絡(luò)詐騙，類似騙局手段多樣、門檻低、辨別難度大，經(jīng)常讓人防不勝防，短時(shí)間內(nèi)造成較大損失。那么，如何警惕AI“深度造假”？

公司老板遭遇AI換臉詐騙

10分鐘被“好友”騙走430萬元

今年5月8日，內(nèi)蒙古包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布了一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件。4月20日，福建省福州市某科技公司法定代表人郭先生的“好友”突然通過微信視頻聯(lián)系他，聲稱自己的朋友在外地投標(biāo)，需要430萬元保證金，且需要公對(duì)公賬戶過賬，所以想要借用郭先生公司的賬戶走賬。

這位“好友”向郭先生要了銀行卡號(hào)，聲稱已把錢轉(zhuǎn)入郭先生的賬戶，并將銀行轉(zhuǎn)賬截圖發(fā)給郭先生?；谝曨l聊天信任的前提，郭先生并未核實(shí)錢是否到賬，就陸續(xù)轉(zhuǎn)給對(duì)方共計(jì)430萬元，之后郭先生才發(fā)現(xiàn)被騙。對(duì)方通過智能AI換臉技術(shù)，佯裝成好友對(duì)他實(shí)施了詐騙。

民警陳歆怡曾辦理過多起倒賣、非法利用用戶人臉照片的侵公案件，她表示AI換臉換聲的基本邏輯是通過深度學(xué)習(xí)特定算法，將目標(biāo)人物的人臉、表情、聲音等嫁接進(jìn)模仿的視頻中，成本低、合成速率高、檢測(cè)鑒別難度大，一般人很難發(fā)現(xiàn)偽裝痕跡。目前，AI詐騙主要有兩種形式：

第一種是通過技術(shù)手段合成換臉、換聲的視頻或語音，在視頻聊天、普通電話中直接播放。這種詐騙主要出現(xiàn)于比較緊急的情況，如遭遇事故求助等，播放結(jié)束后就會(huì)中斷連接，無法與被害人形成回合性對(duì)話。

另一種是在視頻通話中直接換臉并替換聲音，或直接換聲撥打電話。

民警提示，以上兩種詐騙方式都受限于樣本數(shù)量，所以可以通過延長(zhǎng)通話時(shí)間、多次進(jìn)行提問的方式讓對(duì)方多說話，露出破綻。

如何預(yù)防此類詐騙案件的發(fā)生？

2022年，網(wǎng)信辦、工信部和公安部制定的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，深度合成服務(wù)者應(yīng)采取技術(shù)或人工方式對(duì)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核。今年8月，網(wǎng)信辦發(fā)布的《人臉識(shí)別技術(shù)應(yīng)用安全管理規(guī)定(試行)(征求意見稿)》明確，人臉識(shí)別技術(shù)使用者應(yīng)每年對(duì)圖像采集設(shè)備、個(gè)人身份識(shí)別設(shè)備的安全性和可能存在的風(fēng)險(xiǎn)進(jìn)行檢測(cè)評(píng)估，采取有效措施保護(hù)圖像采集設(shè)備、個(gè)人身份識(shí)別設(shè)備免受攻擊、侵入、干擾和破壞。

北京航空航天大學(xué)法學(xué)院副教授趙精武表示，相關(guān)部門加強(qiáng)監(jiān)管的同時(shí)，也需要公眾自身樹立起良好的防詐騙意識(shí)?！吧婕暗睫D(zhuǎn)賬等財(cái)務(wù)信息的電話請(qǐng)求，采取其他方式跟好友進(jìn)行確認(rèn)。”

民警進(jìn)一步強(qiáng)調(diào)，要想從源頭上預(yù)防此類詐騙案件的發(fā)生，保護(hù)好個(gè)人信息是關(guān)鍵：

不要隨意接聽陌生電話，防止詐騙人員以電銷推廣等借口采集發(fā)音、語句；

避免在個(gè)人互聯(lián)網(wǎng)社交賬戶上過多暴露個(gè)人照片、聲音、視頻等信息；

對(duì)外提供人臉照片時(shí)需謹(jǐn)慎對(duì)待；

使用小眾軟件進(jìn)行身份認(rèn)證、網(wǎng)絡(luò)貸款實(shí)名放貸時(shí)需提高警惕；

不要隨意點(diǎn)擊陌生鏈接，鏈接中的木馬程序會(huì)竊取用戶手機(jī)內(nèi)的照片、監(jiān)聽回傳通話內(nèi)容；

開啟定位服務(wù)、輸入身份證號(hào)、錄入人臉識(shí)別信息、指紋識(shí)別信息等個(gè)人生物信息時(shí)，一定要慎之又慎。

此外，民警表示，各APP網(wǎng)絡(luò)服務(wù)提供者在收集、使用個(gè)人信息時(shí)應(yīng)遵循合法、正當(dāng)、必要、公開的原則，不得收集與其提供的服務(wù)無關(guān)的個(gè)人信息，應(yīng)當(dāng)采取技術(shù)措施和其他必要措施，確保其收集的個(gè)人信息安全，不得主動(dòng)向外提供，也要防止信息泄露、毀損、丟失。

如何實(shí)現(xiàn)安全和便捷兼?zhèn)涞腁I驗(yàn)證模式？對(duì)此，趙精武認(rèn)為，二者的平衡有探討的空間。“需要結(jié)合AI技術(shù)的發(fā)展動(dòng)向進(jìn)行同步調(diào)整，也需要服務(wù)提供者在相關(guān)深度合成產(chǎn)品和服務(wù)中增加‘AI生成’的標(biāo)識(shí)機(jī)制，降低第三方識(shí)別AI生成內(nèi)容的難度?！?/p>

(來源："網(wǎng)信浙江”)

(鏈接：https://mp.weixin.qq.com/s/0SuILfkxDX687_QBKOrf9A)