當(dāng)AI會“說謊”，我們該如何應(yīng)對？

前不久，西藏日喀則發(fā)生地震后，一張“被壓在廢墟下的小男孩”圖片在社交平臺廣為傳播。后經(jīng)證實(shí)，該圖為AI生成。事實(shí)上，這并非個(gè)案。隨著人工智能技術(shù)在文本生成、圖片創(chuàng)作、視頻合成等領(lǐng)域被廣泛應(yīng)用，利用AI造謠變得更加容易，且此類謠言迷惑性極強(qiáng)，常常以假“亂”真，導(dǎo)致“有圖卻無真相”“眼見未必為實(shí)”，危害大、識別難，日益成為一個(gè)全球治理難題。

世界經(jīng)濟(jì)論壇發(fā)布的《2025年全球風(fēng)險(xiǎn)報(bào)告》顯示，錯(cuò)誤和虛假信息是2025年全球面臨的五大風(fēng)險(xiǎn)之一。而AI的濫用無疑是構(gòu)成這種威脅的重要“推手”。那么，當(dāng)前AI造謠有哪些突出表現(xiàn)？如何破解這一難題？

小孩被埋圖為自媒體AI合成的視頻內(nèi)容，與本次西藏地震無關(guān) 圖源：“新華每日電訊”微信公眾號

一

近年來，網(wǎng)絡(luò)謠言逐漸出現(xiàn)一些新動(dòng)向，其中比較典型的便是利用AI造謠。這是因?yàn)锳I本身就是基于“投喂”素材生成內(nèi)容，而這些素材很多都缺乏真實(shí)性、權(quán)威性，出現(xiàn)紕漏在所難免。值得注意的是，這些不實(shí)內(nèi)容一旦被大量傳播，產(chǎn)生破壞輿論環(huán)境、擾亂社會秩序等不良后果時(shí)，則必須加以治理。

比如，利用AI軟件生成虛假文案。在AI軟件的“助攻”下，人們只需輸入關(guān)鍵詞或主題，便可“一鍵生成”足以亂真的文本、圖片、音視頻等。一些不法分子為了獲取流量和利益，利用AI大肆制造、傳播聳人聽聞的虛假新聞，以“標(biāo)題黨”“震驚體”等形式，對“死亡”“爆炸”“地震”“洪災(zāi)”等情節(jié)進(jìn)行突出強(qiáng)調(diào)，以此引起公眾關(guān)注。此前諸如“某地一民房發(fā)生爆炸事故”“某地洪災(zāi)致多人死亡”“某地地鐵站捅人”等離譜的“重磅消息”均為AI編造而成，致使部分網(wǎng)民信以為真，跟風(fēng)轉(zhuǎn)發(fā)，影響惡劣。

比如，利用AI技術(shù)將虛假元素與真實(shí)事件進(jìn)行關(guān)聯(lián)拼湊。在一些重大突發(fā)事件中，不乏有人為了蹭熱點(diǎn)，通過張冠李戴、移花接木等辦法，用“假圖”冒充新聞現(xiàn)場圖片，并將其與真實(shí)新聞事件進(jìn)行惡意關(guān)聯(lián)、“合成”，炒作輿論、撩撥網(wǎng)民情緒，對搶險(xiǎn)救災(zāi)、應(yīng)急處置等線下工作造成干擾。這類謠言真假混雜、似是而非，甄別難度極大。去年，新疆喀什、阿克蘇地區(qū)相繼發(fā)生地震，部分自媒體置事實(shí)真相于不顧，利用AI技術(shù)對一些舊圖、視頻片段進(jìn)行拼湊，制造謠言把網(wǎng)民“往溝里帶”。還有某網(wǎng)民通過AI技術(shù)制造“滿載楊梅的果樹被洪水淹了一半”的假象，以博取流量。

再如，利用AI換臉技術(shù)生成虛假視頻。現(xiàn)如今，利用深度偽造技術(shù)，能夠精準(zhǔn)地將一個(gè)人的外貌、聲音乃至行為模式等復(fù)制到另一個(gè)人身上，從而生成高度逼真的謠言信息。隨著越來越多文旅局長變裝、上鏡“火出圈”，一些利用“AI換臉”技術(shù)合成的“文旅局局長高清寫真”等圖片、視頻在社交平臺廣為流傳，引發(fā)網(wǎng)友質(zhì)疑。去年，一名教授發(fā)表聲明稱：“近期網(wǎng)上出現(xiàn)了大量假冒本人推銷醫(yī)藥書籍和治療手段的虛假視頻，大多是人工智能AI合成。”國外很多人同樣深受其擾。據(jù)媒體報(bào)道，一名西班牙14歲女孩遭受網(wǎng)絡(luò)霸凌，其臉部被AI技術(shù)合成在一張露骨假照片上，于當(dāng)?shù)厣缃幻襟w群組中被不斷傳播擴(kuò)散。

圖源：視覺中國

二

有報(bào)告稱，2023年以來，AI謠言信息量有明顯上升趨勢。那么，AI謠言有著哪些顯著特點(diǎn)？治理AI謠言究竟難在哪里？

首先，AI謠言的逼真性和規(guī)模性，使得識別難度加大。AI的技術(shù)優(yōu)勢一旦被造謠者利用，通過對受眾行為和平臺傳播規(guī)律的精準(zhǔn)分析，極短時(shí)間就可生成公眾高度關(guān)注的內(nèi)容，人物、時(shí)間、地點(diǎn)、事件等關(guān)鍵要素一應(yīng)俱全，且情節(jié)生動(dòng)、圖文并茂，甚至還有逼真的視頻片段，讓人難辨真?zhèn)?。在此基礎(chǔ)上，再利用社交機(jī)器人進(jìn)行批量推送，進(jìn)一步擴(kuò)大傳播范圍，極易產(chǎn)生輿情“爆點(diǎn)”，破壞性遠(yuǎn)遠(yuǎn)超過人工散布謠言。據(jù)媒體報(bào)道，有的MCN機(jī)構(gòu)靠批量炮制AI謠言牟利，初步估算平均每天收入高達(dá)上萬元。

其次，一些平臺管理粗放，為AI謠言“開路放行”。有觀點(diǎn)認(rèn)為，平臺審核機(jī)制存在不足，可能是當(dāng)前AI謠言大行其道的重要原因之一。當(dāng)大量信息集聚，平臺的活躍度也因此大大提高，一些平臺出于利益考慮，治理謠言的動(dòng)力不足，時(shí)常選擇放任甚至變相鼓勵(lì)虛假信息傳播。為了證實(shí)這一點(diǎn)，有媒體記者進(jìn)行了測試，在某平臺上，AI視頻發(fā)出約一小時(shí)后，平臺才作出“疑似使用AI生成技術(shù)”的備注。這種“后知后覺”的管理方式，導(dǎo)致謠言信息一經(jīng)發(fā)布，很容易失控并造成不可逆的危害。

再次，AI謠言面臨追溯難、查處難的困境。一方面，最初利用AI生成信息的人與造謠的人有時(shí)并非同一個(gè)人，這無疑加大了信息溯源的難度。此外還有一些造謠者在引用AI內(nèi)容時(shí)可能采用“據(jù)傳”“聽說”等模糊話術(shù)來逃避追責(zé)。另一方面，AI技術(shù)本身具有匿名性和隱蔽性，一些黑產(chǎn)公司在炮制謠言信息后，往往有“能力”通過技術(shù)手段進(jìn)行隱藏或偽裝，這也使得謠言鑒定追蹤的難度和成本加大。

漫畫 圖源：“鈞正平工作室”微信公眾號

三

習(xí)近平總書記曾強(qiáng)調(diào)，要壓實(shí)互聯(lián)網(wǎng)企業(yè)的主體責(zé)任，決不能讓互聯(lián)網(wǎng)成為傳播有害信息、造謠生事的平臺。治理AI謠言是一項(xiàng)復(fù)雜的系統(tǒng)工程，不僅關(guān)乎AI技術(shù)提供者，對互聯(lián)網(wǎng)平臺、監(jiān)管部門以及社會各界也都提出了新的挑戰(zhàn)。

平臺是AI謠言的主要傳播渠道，要斬?cái)郃I造謠的利益鏈，還需要平臺有所作為。比如，健全完善謠言審核識別機(jī)制，運(yùn)用AI技術(shù)+人工復(fù)核相結(jié)合的方式進(jìn)行信息監(jiān)測和過濾，對AI生成內(nèi)容第一時(shí)間添加明確標(biāo)識，加大對涉及重大事件、敏感話題中圖片、視頻的真?zhèn)魏瞬?，及時(shí)甄別、攔截、處置不實(shí)信息和賬號。同時(shí)，建立便捷的舉報(bào)和投訴渠道，對于網(wǎng)民反映的疑似謠言信息及時(shí)予以查證、處理，對于網(wǎng)民申訴被“誤傷”的信息內(nèi)容經(jīng)證實(shí)后及時(shí)予以恢復(fù)。對于多次利用AI造謠的用戶，平臺不妨采取“封號”等禁止性措施，規(guī)范內(nèi)容發(fā)布、傳播等行為。

治理AI謠言需要對不法行為嚴(yán)加懲處，增強(qiáng)法律的威懾力。曾有專家指出，利用AI編造網(wǎng)絡(luò)謠言的亂象頻發(fā)，一大核心原因便是違法成本過低而收益較高。近幾年，與AI相關(guān)法律法規(guī)不斷完善，國家有關(guān)部門先后出臺《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等，“不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息”。一旦出現(xiàn)違規(guī)信息，AI使用者和AI平臺的管理者都將視情承擔(dān)相應(yīng)法律責(zé)任。比如，在“廣州即將成為全國首個(gè)限制外賣配送的城市”謠言案中，當(dāng)?shù)鼐揭婪▽υ熘{者采取刑事強(qiáng)制措施，被業(yè)內(nèi)專家評價(jià)為“是打擊治理AI造謠違法犯罪行為的樣板案例，將對不法分子起到有力震懾作用”。

AI謠言之所以總能傷害大眾，從而達(dá)到某種不可告人的目的，很大程度上是因?yàn)樵熘{者總能精準(zhǔn)捕捉大眾的心理，編撰出令大眾相信的假消息。減輕或者避免這種傷害，就該讓人們看清AI謠言的真面目。除了及時(shí)辟謠以外，有關(guān)部門可以經(jīng)常公布一些典型案例，剖析AI謠言的生產(chǎn)機(jī)制、話術(shù)套路、識別方式等，引導(dǎo)網(wǎng)民在面對夸大其詞的謠言時(shí)能夠保持理性判斷，綜合多種渠道驗(yàn)證信息真?zhèn)?。比如，央視新聞為了讓網(wǎng)民更直觀地了解AI謠言，曾在節(jié)目中曝光了其編造的過程，宣傳效果較好。

人工智能如同眾多科學(xué)技術(shù)一樣，對人類社會有著正反兩方面的影響。治理AI謠言，沒有“局外人”，唯有提高平臺管理能力、加強(qiáng)法律規(guī)制、培養(yǎng)公眾的批判性思維，形成社會共治格局，才能實(shí)現(xiàn)長治久安，讓AI不再“說謊”，朝著“向善”的方向健康發(fā)展。

(來源："網(wǎng)信浙江”)

(鏈接：https://mp.weixin.qq.com/s/yx3j0u7HqFjOqMBeEXMejA）