6月20日11時(shí)許，上海市公安局城市軌道和公交總隊(duì)官方微博@軌交幺幺零 發(fā)布警情通報(bào)：兩名營銷人員為博取關(guān)注造謠地鐵站發(fā)生持刀傷人的情況，被警方依法行政拘留，其中一人還使用AI生成技術(shù)制作虛假現(xiàn)場(chǎng)視頻，再度引發(fā)公眾對(duì)于人工智能技術(shù)被濫用的擔(dān)憂。

輿論普遍認(rèn)為，此類行為不僅違反了法律，也對(duì)網(wǎng)絡(luò)環(huán)境和公共安全造成了威脅。一方面，有觀點(diǎn)指出，涉事營銷人員缺乏法治意識(shí)，為了個(gè)人得失不惜損害公共利益，應(yīng)當(dāng)受到法律的嚴(yán)懲；另一方面，此次事件也引發(fā)了對(duì)AI技術(shù)監(jiān)管的討論，公眾和專家呼吁加強(qiáng)對(duì)AI合成技術(shù)的監(jiān)管，同時(shí)提高公眾的信息識(shí)別能力，防止AI工具被用于不當(dāng)目的。

進(jìn)入AI時(shí)代，視頻造假“門檻”日益降低

今年2月，Sora的問世引發(fā)了激烈的討論和反響（參考：），有人驚嘆于人工智能技術(shù)的迅速發(fā)展，也有人對(duì)其帶來的安全隱患表示擔(dān)憂。不斷有輿論指出的是，以Sora為代表的AI技術(shù)的發(fā)展，雖然大大方便了工作和生活，但也讓造謠的成本隨之降低。一方面，假新聞的生產(chǎn)更加自動(dòng)化和智能化；另一方面，基于深度偽造技術(shù)制作的假新聞在視覺和聽覺上與真實(shí)內(nèi)容幾乎沒有區(qū)別，因此也越來越難以被發(fā)現(xiàn)。

如今，圖片可以P、視頻可以生成，“有圖有真相”“我要看到現(xiàn)場(chǎng)視頻，否則不信”都已經(jīng)不再是網(wǎng)民“混跡網(wǎng)絡(luò)瓜田”的“金科玉律”。今年2月，中國香港警方披露，有詐騙分子利用AI仿造了英國公司高層管理人員的形象和聲音，在“多人視頻會(huì)議”中騙取財(cái)務(wù)職員轉(zhuǎn)賬2億港元；5月，安寧市公安局網(wǎng)安民警在巡查中發(fā)現(xiàn)，一本地網(wǎng)民在短視頻平臺(tái)發(fā)布的一段長達(dá)1分55秒、“圖片+配音”形式的“安徽某地發(fā)生樓房坍塌多人受傷”視頻，實(shí)為AI軟件制作的謠言。傳統(tǒng)的信息真實(shí)性驗(yàn)證方法似乎已經(jīng)失效，以假亂真的虛假視頻不斷欺騙著網(wǎng)民的感官。

早在2023年7月，浙江省就破獲了省內(nèi)首例團(tuán)伙制作虛假視頻案件。三名犯罪嫌疑人利用AI技術(shù)在網(wǎng)上制作并發(fā)布“浙江省紹興市上虞區(qū)工業(yè)園區(qū)火災(zāi)”等超過三千個(gè)虛假視頻，通過播放量賺取收益。其中，一名犯罪嫌疑人電腦使用都不甚嫻熟，僅接受短短幾天培訓(xùn)，就成為了虛假視頻制作的“熟練工”——利用ChatGPT自動(dòng)生成腳本和相關(guān)視頻素材，最后一鍵生成有音樂、字幕的虛假視頻，整個(gè)過程最快只需要1分鐘。日益降低的造假門檻反映出AI技術(shù)在信息制作上的高效性和易用性，同時(shí)也給監(jiān)管等方面帶來更多挑戰(zhàn)。@潮新聞 評(píng)論認(rèn)為：“這樣的結(jié)果更加讓人對(duì)人工智能的‘B面’感到擔(dān)憂。”

“網(wǎng)上沖浪”用戶需提升辨別能力

AI生成的視頻大行其道，使得辨別圖文和視頻新聞的真?zhèn)纬蔀榫W(wǎng)民一項(xiàng)必備技能。公眾想不被假新聞“牽著鼻子走”，就必須成為信息的審慎接收者和辨別者。

首先，最直觀的應(yīng)關(guān)注發(fā)布渠道是否為官方或權(quán)威機(jī)構(gòu)。官方渠道的信息往往經(jīng)過嚴(yán)格的審核流程，具有更高的可信度。其次，也需要從視頻時(shí)間、地點(diǎn)、內(nèi)容、水印等的合理性角度進(jìn)行判斷，關(guān)注事實(shí)邏輯、人物表現(xiàn)等細(xì)節(jié)痕跡。例如，@央視新聞 報(bào)道指出，可利用光影指標(biāo)輔助進(jìn)行視頻真?zhèn)蔚呐袛唷?/p>

來源：央視新聞

合理監(jiān)管和利用AI技術(shù)

營造清朗網(wǎng)絡(luò)環(huán)境

2023年7月13日，中央網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，對(duì)AI技術(shù)的開發(fā)者和使用者進(jìn)行規(guī)范。《辦法》明確，國家采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任。

加強(qiáng)對(duì)AI技術(shù)的監(jiān)管

相關(guān)部門首先應(yīng)當(dāng)加強(qiáng)對(duì)AI技術(shù)的監(jiān)管，根據(jù)法律法規(guī)對(duì)使用AI技術(shù)制作和傳播虛假信息的行為進(jìn)行嚴(yán)格限制和處罰。正如此次事件中警方在警情通報(bào)中強(qiáng)調(diào)的：網(wǎng)絡(luò)不是法外之地，公安機(jī)關(guān)將依法嚴(yán)厲打擊為“蹭熱度”而故意編造傳播虛假信息的違法犯罪行為。

引入人工智能技術(shù)識(shí)別假消息

在假視頻和假新聞的識(shí)別方面，可以重新引入人工智能技術(shù)，以“白AI”限制“黑AI”。解放日?qǐng)?bào)社“上海網(wǎng)絡(luò)辟謠”微信公眾號(hào)發(fā)文指出：現(xiàn)有的人工智能技術(shù)已經(jīng)有能力“一目千行”“一目萬行”，有望及時(shí)填補(bǔ)人工核查的缺陷，快速有效識(shí)別AI造假。

多方合作共建健康網(wǎng)絡(luò)生態(tài)

相關(guān)部門還需要與技術(shù)企業(yè)、社交媒體平臺(tái)等各方精誠合作，共同構(gòu)建健康的網(wǎng)絡(luò)生態(tài)。包括推動(dòng)平臺(tái)加強(qiáng)自我管理，完善內(nèi)容審核機(jī)制，以及共同開發(fā)和部署先進(jìn)的內(nèi)容識(shí)別技術(shù)等。通過建立行業(yè)標(biāo)準(zhǔn)和最佳實(shí)踐，具體可對(duì)虛假信息的定義、識(shí)別標(biāo)志、處理流程以及用戶舉報(bào)機(jī)制等方面制定一套清晰的指導(dǎo)原則，統(tǒng)一規(guī)范不同平臺(tái)的假新聞防治和處理，幫助平臺(tái)和用戶正確對(duì)待虛假視頻和虛假新聞。

(來源："人民網(wǎng)輿情數(shù)據(jù)中心”)

(鏈接：https://mp.weixin.qq.com/s/neuSk9b9wTdtlzfLeVPLTg）