當(dāng)?shù)貢r(shí)間1月21日

美國新罕布什爾州一些選民

接到了由機(jī)器人撥打的語音電話

在神秘電話中

“拜登總統(tǒng)”以經(jīng)典口頭禪開頭

對他們發(fā)出見解

“拜登”給我打電話？

真的假的？

當(dāng)?shù)貢r(shí)間22日

美國白宮方面緊急澄清

語音疑似由AI“深度偽造”

（Deepfake）技術(shù)合成

《紐約雜志》網(wǎng)站報(bào)道截圖

從AI擬聲、合成虛假照片

再到生成視頻

隨著人工智能技術(shù)的快速發(fā)展

各種以假亂真的情況

在世界多地頻頻上演

近期，美國流行樂歌星

泰勒·斯威夫特的

“AI偽造照片”事件

掀起軒然大波

甚至驚動了美國白宮

這種生成合成圖像、音頻或視頻的技術(shù)

引發(fā)了人們對虛假信息傳播的思考

圖源：澎湃新聞

怎么防止AI“深度偽造”的事故

再三發(fā)生？

各界人士在積極行動

美國白宮發(fā)言人卡琳·讓-皮埃爾表示

雖然社交媒體公司

在內(nèi)容管理方面有獨(dú)立決策權(quán)

但它們在嚴(yán)格落實(shí)其監(jiān)管制度上

應(yīng)起到重要作用

圖源：訊飛星火生成

生成式人工智能公司OpenAI

日前表示

在競選活動中

政界人士及其競選團(tuán)隊(duì)

不得使用該公司的AI工具

用戶也被禁止創(chuàng)建假扮政治候選人

或政府機(jī)構(gòu)和官員的

聊天機(jī)器人

此次偽造拜登語音所用的工具背后

是語音克隆初創(chuàng)公司ElevenLabs

該公司也已暫停利用

AI“深度偽造”技術(shù)

發(fā)布信息的賬戶

并警告

不得將克隆聲音用于

欺詐、歧視、發(fā)表仇恨言論

或任何觸犯法律之事

圖源：訊飛星火生成

美國消費(fèi)者技術(shù)協(xié)會首席執(zhí)行官

夏皮羅提出

政府需要在AI領(lǐng)域扮演重要角色

確保設(shè)置安全屏障和護(hù)欄

讓產(chǎn)業(yè)內(nèi)人士知道

哪些能做、哪些不能做

針對近期的AI“深度偽造”事件

當(dāng)?shù)貢r(shí)間2月1日

美國聯(lián)邦通信委員會（FCC）主席

杰西卡·羅森沃塞爾提議

把使用AI生成的

語音撥打機(jī)器人電話（robocall）

定為非法

FCC的委員們將在未來幾周內(nèi)

對該提案進(jìn)行表決

圖源：訊飛星火生成

盡管AI技術(shù)給我們帶來了新挑戰(zhàn)

但國際社會普遍認(rèn)為

不能“因噎廢食”

不能拒絕發(fā)展相關(guān)技術(shù)

畢竟，在技術(shù)進(jìn)步的過程中

AI技術(shù)本身就可用來對抗

AI“深度偽造”行為

比如

有開發(fā)者建議平臺

給AI生成軟件加上隱形水印

以快速識別AI并進(jìn)行溯源

去年12月發(fā)布的

一款名為mist的隱形圖片水印

則能極大程度干擾AI模型

使之生成的圖片遭受不同程度的破壞

圖源：訊飛星火生成

還有專家認(rèn)為

法律手段也要有所作為

對一些技術(shù)解決不了的問題

進(jìn)行立法追責(zé)

中國發(fā)布的

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》

已于2023年1月10日起施行

《規(guī)定》強(qiáng)調(diào)

深度合成服務(wù)提供者需要

對深度合成內(nèi)容進(jìn)行顯著標(biāo)識

任何組織和個(gè)人

不得采用技術(shù)手段

刪除、篡改、隱匿相關(guān)標(biāo)識

作為普通用戶

假如接到來自名人的電話

你能識別出真假嗎？

面對AI的“深度偽造”

我們該如何避免危害呢？

參考丨法治日報(bào)、央視財(cái)經(jīng)、南方都市報(bào)、羊城晚報(bào)、澎湃新聞、新浪科技

(來源："網(wǎng)信浙江”)

(鏈接：https://mp.weixin.qq.com/s/ziCKtHtaOGqRohTKe199dw）