近日，網(wǎng)傳中國電科員工陳某龍因不滿節(jié)假日被加班“怒懟”領(lǐng)導(dǎo)，在微信群內(nèi)吐槽并得到多位同事聲援集體辭職，引起廣泛關(guān)注。

7日晚，事件有反轉(zhuǎn)。警方通報，陳某龍因此前向中國電科求職未被錄用，心生不滿，利用圖像處理軟件捏造制作了多張“怒懟領(lǐng)導(dǎo)、發(fā)泄情緒”的聊天截圖，并發(fā)布在社交平臺，誤導(dǎo)了一部分網(wǎng)友。

利用圖片處理技術(shù)進(jìn)行造假的事件近年來并不少見。前不久，幾張?zhí)乩势赵诩~約街頭遭警察圍捕的圖片在美國社交網(wǎng)絡(luò)很火爆，而這些照片后來被證明是由AI生成。普京、拜登等人也曾同樣“中招”。

5個字以蔽之，“有圖無真相”。面對技術(shù)發(fā)展，特別是AI合成技術(shù)的顛覆性發(fā)展所帶來的虛假信息泛濫和一系列事關(guān)公共利益、倫理價值的負(fù)面反應(yīng)，你害怕了嗎？我們又該如何看待？

圖源：視覺中國

一

當(dāng)大量技術(shù)生成的圖片和視頻充斥社交平臺，會造成什么后果？

顯而易見的是，“眼見未必為實”。曾經(jīng)，我們將“有圖有真相”作為辨別真假信息的重要手段之一。技術(shù)合成卻告訴我們，我們看到的圖片、視頻，都未必是真實的。

比如，此前在社交平臺熱傳的某特效合成師將影視劇片段中的男主角替換成自己，和一眾女明星“演起了對手戲”，并在短視頻平臺發(fā)布，引發(fā)大量爭議。

除了擔(dān)心“被騙”，還要擔(dān)心“被害”。正如網(wǎng)友所言，AI合成技術(shù)讓我意識到要保護(hù)好自己的臉，不然一不小心就成了丑聞的主角、黃色謠言的受害者、網(wǎng)絡(luò)的“紅人”。

近年來，AI合成的對象從國家政要和影視明星等公眾人物漸漸向普通人蔓延。3月28日，一起利用AI惡意P圖的事件引爆網(wǎng)絡(luò)。廣州一位穿搭博主，去年7月在社交平臺發(fā)布的一張搭乘地鐵時的隨手拍，在近段時間被人用AI技術(shù)“一鍵脫衣”，生成為地鐵裸女圖瘋傳。甚至有不法分子向受害者發(fā)送包含其臉部信息的色情內(nèi)容作為勒索素材，以此來牟利。

此外，AI合成還可能危害國家安全和利益。比如，據(jù)報道，2019年印巴局勢緊張期間，路透社發(fā)現(xiàn)了30起關(guān)于該事件的“深度偽造”視頻，極大刺激了兩國的民族主義者，導(dǎo)致事態(tài)進(jìn)一步升級。

因此，有人認(rèn)為，“假照片”的泛濫將加劇偏見。面對大量難辨真假的圖像，很多人可能只會相信符合自己偏見的信息。也就是說，當(dāng)你心里認(rèn)定某個人可能存在某個問題，這時一張AI生成的圖片放在面前，你會自然而然將其作為個人觀點的印證。

美國一社交平臺用戶使用AI合成特朗普遭到逮捕的圖片 圖源：視覺中國

二

AI技術(shù)頻頻被惡意使用，“有圖無真相”大行其道，背后并非沒有緣由。

技術(shù)不斷成熟是重要因素。比如，走紅網(wǎng)絡(luò)的由AI生成的“中國情侶”圖片，就是由Midjourney最新推出的V5版本生成，該工具是近期繼GPT-4后又一受到關(guān)注的AI產(chǎn)品，代表了目前生成式AI的前沿水平，在某些領(lǐng)域已得到商用。技術(shù)迭代后，預(yù)計其能力將進(jìn)一步增強(qiáng)。此外，元宇宙等也為AI合成提供了技術(shù)加持。

互聯(lián)網(wǎng)大流量是巨大誘因。面對互聯(lián)網(wǎng)的海量信息，人工智能或是基于“深度偽造”引起事件的沖突性，或是將個人與公共人物進(jìn)行關(guān)聯(lián)而吸引大量眼球，等等，大流量的刺激及其背后蘊藏的商業(yè)利益，讓部分不法分子樂此不疲地投入到AI合成領(lǐng)域。

管理能力跟不上技術(shù)發(fā)展，辟謠速度跟不上虛假信息的傳播速度，由此也帶來一定挑戰(zhàn)。比如，隨著合成技術(shù)不斷提升，新型偽造方法層出不窮，基于生物特征的傳統(tǒng)鑒別方式越來越難以發(fā)揮作用，無法及時監(jiān)測到虛假信息、有害信息。

我們常說，技術(shù)本身是中立的，無所謂好壞，每一項技術(shù)的發(fā)展，對于推動人類進(jìn)步都有其獨特意義。

以AI合成背后的人工智能技術(shù)為例，有機(jī)構(gòu)曾預(yù)測，從2017年到2030年，人工智能對經(jīng)濟(jì)增長的貢獻(xiàn)將超過全部GDP的55%，其中中國占全球?qū)⒔话搿?/p>

而具體到AI合成技術(shù)，同樣有其存在的正面價值。企業(yè)或者機(jī)構(gòu)可以更便捷地提供面向公眾的產(chǎn)品和服務(wù)，涵蓋圖像、視頻、音頻、文本等多領(lǐng)域。像在影視制作、廣告營銷、社交娛樂等領(lǐng)域，AI合成主播、虛擬偶像、修復(fù)歷史老照片等就具有一定的文化和收藏價值。

以傳播應(yīng)用領(lǐng)域來說，據(jù)報道，在北京冬奧會自由式滑雪女子大跳臺決賽中，憑借最后一跳的出色發(fā)揮，谷愛凌逆轉(zhuǎn)奪冠，這個激動人心的時刻，被AI合成主播“小聰”用手語解說。作為全球首個手語AI合成主播，“小聰”利用深度合成技術(shù)，能夠為聽障人士獲取信息帶來便利。

可以說，在合理使用的情況下，AI合成技術(shù)無疑是人類在“人機(jī)共生”時代迎來的一位在生產(chǎn)生活領(lǐng)域都不可或缺的好伙伴。

圖源：視覺中國

三

問題的關(guān)鍵在于，我們在正視技術(shù)正向價值的同時，也不能忽視背后的風(fēng)險，弄清楚誰在用、怎么用，誰在管、怎么管很重要。

面對技術(shù)的負(fù)面價值，選擇視而不見當(dāng)鴕鳥顯然是不行的，而一味壓制阻礙其正向發(fā)展亦是不對的，唯有各方攜起手來，依靠依法治網(wǎng)這一“利器”，在法律體系建設(shè)、平臺和個人自律約束、倫理道德等方面構(gòu)筑起規(guī)范和管理的體系架構(gòu)，才能引導(dǎo)其依法合規(guī)發(fā)展，發(fā)揮更大作用。

這方面，相關(guān)部門一直在努力。自2019年起，《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等文件相繼出臺，均對生成合成類內(nèi)容提出不同程度的監(jiān)管要求。

像2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》就明確規(guī)定，任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國家安全和利益、損害國家形象、侵害社會公共利益等活動。

平臺和個人的管理和自律同樣不可少。社交平臺要承擔(dān)起主體責(zé)任，加強(qiáng)用戶審核與信息審查，加強(qiáng)對信息的甄別與篩查，避免為虛假有害信息傳播提供渠道；從業(yè)人員則要嚴(yán)格遵守法律法規(guī)和公序良俗，技術(shù)的開發(fā)和應(yīng)用不能以損害他人和公共權(quán)益為代價。

廣大網(wǎng)友也是重要一環(huán)。如果一味提醒網(wǎng)民保護(hù)好自己的隱私，不要隨意上傳照片到社交平臺，未免多了些“受害者有罪論”傾向。但值得提醒的是，一旦個人利益受到侵害，絕不能忍氣吞聲，而是要用法律的武器、輿論的武器進(jìn)行抗?fàn)帯４送?，對于網(wǎng)絡(luò)信息，公眾也要提升甄別力，保持理智，不輕信偏聽，必要時讓子彈先飛一會兒。

從人類歷史來看，每一次技術(shù)的顛覆性發(fā)展，都會帶來關(guān)于技術(shù)與法律、技術(shù)與倫理的討論。也正是基于一次次探討，使得技術(shù)得到良性發(fā)展，從而促使了人類社會生產(chǎn)力的提升。

無論如何，面對迎面而來的AI，不要焦慮、不要恐懼，始終要有自信，畢竟人工智能不是取代人類，而是服務(wù)于人類，我們始終是駕馭機(jī)器和技術(shù)的主體。

(來源："網(wǎng)信浙江”）

(鏈接：https://mp.weixin.qq.com/s/xNfoAR7IJYhkBWU_61hObg）