2023年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)期間，從“互聯(lián)網(wǎng)之光”博覽會(huì)到多場(chǎng)論壇討論，AI大模型成為了與會(huì)嘉賓口中的高頻詞。與會(huì)人士認(rèn)為，對(duì)人工智能來(lái)說(shuō)，今年是具有里程碑意義的一年，生成式人工智能賦能千行百業(yè)，未來(lái)潛力已初見(jiàn)端倪。

然而，人工智能的快速發(fā)展，也帶來(lái)了一定的安全隱患。以ChatGPT為代表的生成式人工智能快速發(fā)展，語(yǔ)言生成、圖像生成、聲音生成等各類(lèi)生成式人工智能程序?qū)映霾桓F，其中，能夠模仿人類(lèi)聲音的“聲音生成式AI”受到關(guān)注。

AI擬聲發(fā)展到哪了？

以假亂真！

在ChatGPT、GPT-4引領(lǐng)的浪潮之下，AI使科技變革提速。

此前，一段美國(guó)歌手泰勒·斯威夫特“說(shuō)”中文的短視頻在網(wǎng)絡(luò)刷屏，引發(fā)熱議。視頻中，泰勒·斯威夫特“說(shuō)”著流利中文，音色和講母語(yǔ)時(shí)的音色類(lèi)似，甚至連口型都能對(duì)上。

類(lèi)似的視頻還有很多外國(guó)人“說(shuō)”地道中文、很多中國(guó)藝人“說(shuō)”起流利的英文……不少網(wǎng)友感嘆，“嘴型、手勢(shì)都對(duì)得上，太自然了，差點(diǎn)兒以為是真的?！薄安恢棺煨危€有身體動(dòng)作和語(yǔ)速的配合?！?/p>

其實(shí)，這些視頻有一個(gè)共同點(diǎn)：都是由AI生成的。

在音樂(lè)行業(yè)，AI的應(yīng)用已非常廣泛。在中國(guó)引起關(guān)注的“AI孫燕姿”翻唱歌曲，主要由多位創(chuàng)作者通過(guò)名為“so-vits-svc”的開(kāi)源項(xiàng)目自制。其創(chuàng)作者之一表示，該團(tuán)隊(duì)花費(fèi)半年左右時(shí)間，采集了孫燕姿約100首歌曲作為訓(xùn)練數(shù)據(jù)，并通過(guò)上百組實(shí)驗(yàn)得到了當(dāng)前的模型。

各國(guó)積極行動(dòng)，

應(yīng)對(duì)AI擬聲“灰色地帶”

當(dāng)AI語(yǔ)音克隆技術(shù)用于正當(dāng)目的時(shí)，能幫助語(yǔ)音合成、語(yǔ)音翻譯、語(yǔ)音恢復(fù)等。而值得關(guān)注的是，AI模擬聲音如此逼真，若它用于非法目的，或?qū)閭卧熳C據(jù)、欺詐勒索、電信詐騙等行為提供可能，引發(fā)一系列倫理及法律問(wèn)題。

今年3月，《衛(wèi)報(bào)》澳大利亞版的一位記者表示，使用人工智能做出自己的聲音，能夠進(jìn)入其Centrelink自助服務(wù)賬戶(hù)?！缎l(wèi)報(bào)》調(diào)查后發(fā)現(xiàn)，Centrelink和澳大利亞稅務(wù)局（ATO）使用的“聲紋”安全系統(tǒng)或許可以“被欺騙”。

安全機(jī)構(gòu)McAfee針對(duì)AI詐騙進(jìn)行了調(diào)查，結(jié)果顯示，近四分之一的人遇到過(guò)某種形式的AI語(yǔ)音詐騙。

Voicemod公司首席執(zhí)行官Jaime Bosch曾表示，在創(chuàng)作模板時(shí)，他會(huì)擔(dān)心這項(xiàng)技術(shù)被濫用的風(fēng)險(xiǎn)，因?yàn)樗鼧O有可能被拿來(lái)欺詐，或模仿一些重要的政治人物。Voicemod還將推進(jìn)一個(gè)“水印”解決方案，確保變聲技術(shù)的發(fā)布是安全的。

對(duì)于音樂(lè)行業(yè)而言，AI克隆聲音生成音樂(lè)的影響同樣較大。

今年4月，網(wǎng)友“Ghostwriter977”使用說(shuō)唱歌手Drake和R&B歌手TheWeeknd的聲音對(duì)AI進(jìn)行訓(xùn)練，模仿兩人音樂(lè)風(fēng)格生成了“合唱”歌曲《Heart on My Sleeve》。作為兩位歌手簽約的唱片公司，環(huán)球音樂(lè)集團(tuán)（UMG）很快提出了版權(quán)主張，并要求從流媒體服務(wù)中撤下這首歌曲。

美國(guó)國(guó)家音樂(lè)出版商協(xié)會(huì)（NMPA）主席兼首席執(zhí)行官大衛(wèi)·伊斯雷特表示，應(yīng)允許詞曲作者和音樂(lè)出版商更好地保護(hù)他們的作品免受未經(jīng)授權(quán)的使用，這在AI時(shí)代將受到前所未有的挑戰(zhàn)。紐約的音樂(lè)版權(quán)律師馬克·奧斯特羅也曾提到，AI生成的音樂(lè)是一個(gè)“灰色地帶”。

如何對(duì)AI擬聲

設(shè)置“防火墻”？

11月9日，2023年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)人工智能賦能產(chǎn)業(yè)發(fā)展論壇在浙江烏鎮(zhèn)舉行。與會(huì)專(zhuān)家認(rèn)為，國(guó)際社會(huì)亟待加強(qiáng)對(duì)話(huà)合作，不斷彌合數(shù)字鴻溝和治理能力的差距，共同推動(dòng)人工智能健康發(fā)展，促進(jìn)人工智能技術(shù)造福于人類(lèi)。

面對(duì)人工智能帶來(lái)的機(jī)遇與風(fēng)險(xiǎn)，各國(guó)也積極行動(dòng)。中國(guó)發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》中的相關(guān)規(guī)定明確，提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改。

美國(guó)通過(guò)平臺(tái)審查、技術(shù)對(duì)抗、法律監(jiān)督形成自下而上的治理路徑，先后提出了多部與深度偽造有關(guān)的法案。

歐盟則將深度偽造視為對(duì)生物識(shí)別信息的濫用，運(yùn)用《通用數(shù)據(jù)保護(hù)條例》加以規(guī)制，并發(fā)布《反虛假信息行為準(zhǔn)則》，通過(guò)行業(yè)自律、提升人工智能安全素養(yǎng)、加強(qiáng)人工智能倫理治理等協(xié)調(diào)歐盟各成員國(guó)參與治理。

(來(lái)源："網(wǎng)信浙江”)

(鏈接：https://mp.weixin.qq.com/s/QsuLjuXf3LWS-M_jVWBPlg）