AI換臉技術(shù)被用于詐騙。圖源：視覺(jué)中國(guó)

近日，包頭警方發(fā)布一起利用AI實(shí)施電信詐騙的典型案例。福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬(wàn)元，對(duì)方通過(guò)智能AI換臉技術(shù)，佯裝成好友對(duì)其實(shí)施了詐騙。隨后，“AI詐騙正在全國(guó)爆發(fā)”的話題沖上熱搜，引發(fā)熱議。

包裹在AI技術(shù)下的騙局，讓人心生恐慌，因?yàn)樗哂泻軓?qiáng)的隱蔽性。以往，騙子多是以“未曾謀面的陌生人”的角色出現(xiàn)，盡管具備迷惑性，但不少人難免會(huì)多幾個(gè)心眼。然而披上AI外衣的詐騙，卻通過(guò)在受害人心里建立起信任基礎(chǔ)，利用“熟人”身份降低受害人的戒備心，識(shí)別騙局更為不易。

近些年，AI寫(xiě)作、AI換臉等深度合成技術(shù)迅速發(fā)展，令人喜憂參半。人們一邊驚嘆于技術(shù)的先進(jìn)拓展了人類(lèi)的想象，一邊又擔(dān)心它模糊現(xiàn)實(shí)與虛擬的邊界。面對(duì)這把雙刃劍，如何在技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防范間找到平衡并不簡(jiǎn)單。有學(xué)者稱(chēng)之為“科林格里奇困境”——當(dāng)技術(shù)的改變相對(duì)容易時(shí)，其不良后果卻難以完全預(yù)見(jiàn)；而當(dāng)不良后果變得明顯時(shí)，采取行動(dòng)往往為時(shí)已晚或成本過(guò)高。

AI換臉技術(shù)被用于詐騙，尚屬人工智能高速成長(zhǎng)階段的新問(wèn)題，但其造成的財(cái)產(chǎn)風(fēng)險(xiǎn)，對(duì)肖像權(quán)、知識(shí)產(chǎn)權(quán)等權(quán)益的侵犯卻不容低估。此前，人類(lèi)總能通過(guò)不斷適應(yīng)新技術(shù)的發(fā)展而調(diào)整治理手段，一次次走出“科林格里奇困境”。如今，也該為狂奔的AI安上“剎車(chē)”了。

針對(duì)AI詐騙，2022年12月，國(guó)家網(wǎng)信辦、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，明確深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，“應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意”。今年5月9日，抖音平臺(tái)發(fā)布的《關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》提出，各生成式人工智能技術(shù)的提供者均應(yīng)對(duì)生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，以便公眾判斷。

實(shí)際上，對(duì)AI換臉技術(shù)用于詐騙并非“無(wú)計(jì)可施”。從目前來(lái)看，AI換臉必須經(jīng)過(guò)本人同意、AI畫(huà)面與真實(shí)畫(huà)面必須形成“辨識(shí)差異”將是監(jiān)管的主要方向。而在上述案例中，個(gè)人微信、人臉、聲音等隱私信息為何遭泄露值得追問(wèn)，AI技術(shù)之所以在詐騙事件中屢屢得逞，也是因?yàn)楸I取了個(gè)人的隱私信息，作為編織騙局的“脈絡(luò)”。因此，對(duì)隱私信息的使用處理，理應(yīng)嚴(yán)格遵守信息保護(hù)邊界，避免因隨意泄露給信息提供者帶來(lái)嚴(yán)重后果。

無(wú)論是問(wèn)題暴露前的“未雨綢繆”，還是問(wèn)題顯現(xiàn)后的“查漏補(bǔ)缺”，都是人類(lèi)厘清技術(shù)發(fā)展“邊界”的必要手段。我們尤須引導(dǎo)新技術(shù)向上向善，謹(jǐn)防詐騙披上AI外衣。

(來(lái)源："網(wǎng)信浙江”）

(鏈接：https://mp.weixin.qq.com/s/fdRZHKtUqtdxhRU-3ZhGPw）