據(jù)每日甘肅網(wǎng)報(bào)道，近日，甘肅省平?jīng)鍪泄簿志W(wǎng)安大隊(duì)偵破一起利用AI人工智能技術(shù)炮制虛假不實(shí)信息的案件。警方通過對“今晨甘肅一火車撞上修路工人致9人死亡”的虛假文章調(diào)查后，發(fā)現(xiàn)犯罪嫌疑人通過人工智能軟件將搜集到的新聞要素修改編輯后，使用某軟件上傳至其購買的百家號上非法獲利。

“某地取消機(jī)動車尾號限行”“這里發(fā)生重大傷亡事故”“再次發(fā)現(xiàn)新物種！”如今，在社交媒體爆炸式信息沖擊下，花樣百變的新發(fā)現(xiàn)總是能突出重圍，博取眼球，然而這些或令人震驚或喜出望外的“新聞”，卻有不少是虛晃一槍。近年來，伴隨著人工智能技術(shù)的進(jìn)步，AI造假之風(fēng)卻愈演愈烈。AI“一鍵換臉”，一位無關(guān)人士可以變成當(dāng)事人，AI“視頻合成”，事故現(xiàn)場無中生有。這些不法分子通過AI偽造假新聞、假人物、假現(xiàn)場，冠以突發(fā)新聞、科普內(nèi)容等名號在互聯(lián)網(wǎng)廣泛傳播，吸睛牟利，不僅制造謠言、混淆視聽，更擾亂網(wǎng)絡(luò)傳播秩序，讓“眼見不再為實(shí)”的當(dāng)下，掀起更大的社會信任恐慌。

我國《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。

“造謠一張嘴，辟謠跑斷腿”，換臉、換聲等AI造假亂象小到惡意抹黑他人名譽(yù)，大至編造災(zāi)害信息制造社會恐慌，不僅大大增加科普辟謠的難度，更動搖了新聞?wù)鎸?shí)性根基，容易引發(fā)輿情危機(jī)，影響政府公信力。一旦這些假新聞被大量傳播瀏覽，造成網(wǎng)上公共秩序嚴(yán)重混亂，還會觸犯我國刑法，涉嫌尋釁滋事罪，可謂是后患無窮。

治理AI造假亂象，首先必須厘清AI技術(shù)應(yīng)用的底線和紅線，絕不能縱容不法分子利用其侵害國家安全和社會公共利益、擾亂經(jīng)濟(jì)秩序和社會秩序、侵犯他人合法權(quán)益。其次，AI技術(shù)的提供者必須守土有責(zé)，從技術(shù)源頭上加強(qiáng)數(shù)據(jù)和算法管理，強(qiáng)化對合成技術(shù)使用者真實(shí)身份信息的認(rèn)證和核查，避免不法者濫用技術(shù)牟利，相關(guān)監(jiān)管部門也要加大監(jiān)管力度，發(fā)現(xiàn)違法亂象，依法依規(guī)嚴(yán)懲。

另外，社交媒體、網(wǎng)站等內(nèi)容發(fā)布平臺要保持內(nèi)容合規(guī)意識，加強(qiáng)對用戶賬號真實(shí)信息的核查，杜絕“僵尸號”賬號買賣。加大用戶內(nèi)容巡查監(jiān)管頻次，提高檢測偽造行為的技術(shù)水平，及時甄別違法違規(guī)合成內(nèi)容，避免給虛假信息引流，造成更大的傳謠風(fēng)險。

AI深度合成技術(shù)在數(shù)字仿真、沉浸式擬真等創(chuàng)新場景應(yīng)用前景廣闊，理應(yīng)成為內(nèi)容生產(chǎn)的好幫手，而非假新聞的策源地，更不是違法犯罪的推手。從AI造假亂象中應(yīng)該看到，我們在享受技術(shù)高速迭代紅利的同時，應(yīng)該有更加深刻的倫理道德考量，不讓AI成為烏龍事件和反轉(zhuǎn)新聞的制造機(jī)，守護(hù)風(fēng)清氣正的網(wǎng)絡(luò)生態(tài)，是每一個互聯(lián)網(wǎng)用戶的應(yīng)有之責(zé)。

(來源："網(wǎng)信浙江”）

(鏈接：https://mp.weixin.qq.com/s/FKKdQ04aw8A5_8smDMMwfA）