7月6日，被視為全球AI行業(yè)風(fēng)向標(biāo)的世界人工智能大會在上海開幕，從大模型、芯片到機器人，大會集中展示了當(dāng)前人工智能技術(shù)在各領(lǐng)域的賦能“進度表”。

人工智能引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革是它的“A面”，讓人贊嘆、驚喜，但它的“B面”卻正在引發(fā)一場看不見的安全攻防戰(zhàn)。

7月4日，紹興警方公布摧毀了一個利用ChatGPT制作虛假視頻的團伙，該案系浙江全省首例。讓人驚異的是，當(dāng)事人落網(wǎng)之時，并非人們想象中的黑客高手，而是一個連電腦都不能熟練操作的技術(shù)“小白”，這樣的結(jié)果更加讓人對人工智能的“B面”感到擔(dān)憂。

“要使科學(xué)造福于人類,而不應(yīng)成為禍害?！?0多年前，愛因斯坦對加利福尼亞理工學(xué)院學(xué)生所說的話揭示了科技的“雙刃劍”效應(yīng)。人工智能“B面”究竟長什么模樣，“造物者”如何對抗自己創(chuàng)造的“敵人”？

1分鐘制作虛假視頻

直到被捕，正在家?guī)Ш⒆拥臏扯疾恢雷约簽楹芜`法。

今年6月，一則“上虞工業(yè)園區(qū)發(fā)生火災(zāi)”的視頻在某平臺發(fā)布，短時間內(nèi)視頻瀏覽量迅速攀升，給當(dāng)?shù)卦斐刹恍〉挠绊?。然而，上虞警方?jīng)過核實，發(fā)現(xiàn)視頻內(nèi)容完全為虛假信息。這引起警方的注意，在鎖定外省某網(wǎng)絡(luò)科技公司有較大作案嫌疑后，警方立刻赴外省實施抓捕，抓獲包括湯某在內(nèi)的3名犯罪嫌疑人。

今年6月，一則“上虞工業(yè)園區(qū)發(fā)生火災(zāi)”的視頻在某平臺發(fā)布

湯某今年36歲，初中文化。今年兩三月份，她入職了親戚創(chuàng)辦的網(wǎng)絡(luò)科技公司。剛開始，她每天的工作就是用手頭幾十個賬號發(fā)發(fā)短視頻，如果視頻點擊流量數(shù)據(jù)可觀，就能拿到相應(yīng)的提成。對一個家庭主婦來說，這是一份性價比很高的工作。

入職一段時間后，公司的小組長向她傳授用AI技術(shù)自制視頻的方法，短短幾天，連電腦都用不太明白的湯某就成了視頻制作的“熟練工”——利用ChatGPT技術(shù)，自動生成“腳本”和相關(guān)視頻素材，最后一鍵生成有音樂、字幕的虛假視頻，時間最快只需要1分鐘。

經(jīng)過調(diào)查，上虞警方發(fā)現(xiàn)犯罪嫌疑人張某和陳某合伙創(chuàng)辦的這家網(wǎng)絡(luò)科技公司，已非法購買視頻賬號1500余個，發(fā)布未經(jīng)核實視頻3000個以上，獲取流量后通過流量算法返款盈利。目前，三人均以尋釁滋事罪被警方采取刑事強制措施，案件正在進一步偵辦中。

濫用人工智能技術(shù)，不僅降低了違法犯罪行為的“門檻”和成本，讓復(fù)雜的“技術(shù)活”變成簡單的“體力活”，同時衍生出全新形態(tài)的違法犯罪，加大了公安機關(guān)的打擊難度。這是不少我省參與一線辦案民警的深切感受。

2017年，紹興警方歷經(jīng)半年，輾轉(zhuǎn)13省，偵破全國首例利用AI（人工智能）犯罪、侵犯公民個人信息案。犯罪團伙利用人工智能深度學(xué)習(xí)技術(shù)，讓機器自主操作并識別圖片、字母、數(shù)字等驗證碼，輕松繞過互聯(lián)網(wǎng)公司設(shè)置的賬戶登錄安全防護，給網(wǎng)絡(luò)詐騙等網(wǎng)絡(luò)犯罪提供便利。

今年3月，廣東廣州一女子在地鐵上的照片被人以AI技術(shù)“一鍵脫衣”，造謠圖在網(wǎng)絡(luò)廣泛傳播，給當(dāng)事人造成巨大困擾。今年5月，內(nèi)蒙古包頭警方發(fā)布一起利用人工智能實施電信詐騙的典型案例，受害者被“AI換臉”誤導(dǎo)，10分鐘內(nèi)被騙430萬元。

除了制作虛假視頻、電信詐騙等已“浮現(xiàn)”的犯罪形態(tài)外，2020年，英國倫敦大學(xué)學(xué)院發(fā)布的一份報告，還列舉了未來15年人工智能可能被用于犯罪的不同方式，如非法控制自動駕駛汽車、破壞信息系統(tǒng)、AI輔助跟蹤、自主攻擊無人機、以及大規(guī)模網(wǎng)絡(luò)勒索等。

人工智能似乎正呈現(xiàn)出可怕的“B”面。

“魔法”可以打敗“魔法”嗎？

“人工智能該不該按下‘暫停鍵’？”隨著AI的安全風(fēng)險越來越被重視，今年以來，一場激烈的辯論在世界“科技圈”內(nèi)持續(xù)進行。

今年3月底，非營利組織“未來生命研究所”發(fā)出一封“呼吁所有AI實驗室立即暫停對比GPT-4更強大的AI系統(tǒng)訓(xùn)練至少6個月”的公開信，包括埃隆·馬斯克，圖靈獎得主杰弗里·辛頓等一眾科技界“大佬”均在聯(lián)合署名者名單中。公開信還寫道：“只有在我們確信它們有積極效果且風(fēng)險可控時，才應(yīng)研發(fā)強大的人工智能系統(tǒng)。”

人工智能為何不被人所信任？

在紹興這起案件偵破后，潮新聞記者在ChatGPT上提了一個問題：如果有人利用你實施犯罪，你會怎么辦？

ChatGPT的回答是，首先我要聲明，作為一個語言模型，我沒有實際存在的身體或能力參與犯罪行為，我只是一個通過文本進行交流的人工智能程序。因此，建議你與執(zhí)法機構(gòu)聯(lián)系、匯報給技術(shù)公司或者尋求法律援助。

ChatGPT很“聰明”地撇清了自己的責(zé)任，只是在文末善意提醒：“記住，合法和道德使用技術(shù)是每個人的責(zé)任”。

透過和ChatGPT這番對話，我們看到目前的人工智能應(yīng)用似乎仍有局限性，“AI”認為它只是扮演一個“執(zhí)行者”的角色，其自身難以識別出使用者的真正意圖。這是否意味著，在技術(shù)基層面難以規(guī)避利用人工智能技術(shù)產(chǎn)生的犯罪，“魔法”難以打敗“魔法”？

浙江大學(xué)求是講席教授、網(wǎng)絡(luò)空間安全學(xué)院院長任奎給出的答案是否定的。他告訴潮新聞記者，以ChatGPT為代表的生成式人工智能為例（指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)），在模型使用階段的“前端”，即應(yīng)對輸入ChatGPT的語義信息進行提取審查，確保其不會誘導(dǎo)模型生成有害內(nèi)容。在“終端”上可以利用深度合成檢測技術(shù)，分析圖像、視頻等內(nèi)容的特征，從而判斷其是否經(jīng)過合成或修改，及時發(fā)現(xiàn)生成內(nèi)容中的虛假成分。  

任奎教授的觀點也得到了上海交通大學(xué)寧波人工智能研究院人工智能智慧教研中心主任、可之科技董事長王冠的認可。例如“數(shù)字水印”技術(shù)也是一種防止AI被濫用的防范措施。即通過在圖片、視頻等數(shù)字內(nèi)容中嵌入特定信息，當(dāng)AI“抓取”這些內(nèi)容時，“數(shù)字水印”也同步被采集，這樣就可以輕松追蹤和驗證內(nèi)容的真實性和來源。就好像農(nóng)產(chǎn)品上的溯源碼一樣，用戶通過掃碼就知道它的生產(chǎn)、流通等信息，判斷接收到的產(chǎn)品是否真實可靠。

事實上，以“白AI”限制“黑AI”的反制技術(shù)，已在一些應(yīng)該場景上得以實現(xiàn)。如針對AI換臉，目前，清華大學(xué)孵化團隊瑞萊智慧RealAI、騰訊優(yōu)圖實驗室等企業(yè)機構(gòu)已構(gòu)建人臉合成檢測平臺并發(fā)布針對性的檢測產(chǎn)品，支持對多種換臉方法進行檢測。

中國科學(xué)院院士、清華大學(xué)人工智能研究院院長、北京瑞萊智慧科技有限公司首席科學(xué)家張鈸曾提出了“第三代人工智能”的概念，即安全、可靠、可信的人工智能。這一觀點已逐步成為人工智能行業(yè)從業(yè)者的共識，布局人工智能安全的產(chǎn)品和解決方案也在成為一片行業(yè)的新藍海。

“國家隊”正在出手

防止人工智能技術(shù)被濫用，僅僅依靠行業(yè)自律遠不夠，中國互聯(lián)網(wǎng)協(xié)會監(jiān)管支撐部主任郝智超建議，AI技術(shù)發(fā)展還要有相關(guān)法律法規(guī)來畫紅線、踩剎車，讓AI技術(shù)的研發(fā)、傳播、使用有規(guī)可循。

從全球來看，今年以來， AI立法進程明顯提速，世界各國的監(jiān)管都在追趕AI的演化速度。

今年6月，歐洲議會以499票贊成、28票反對和93票棄權(quán)，高票通過了《人工智能法案》（AI Act）談判授權(quán)草案。歐洲議會稱“已經(jīng)為制定史上首部人工智能法案做好談判準(zhǔn)備”。

與此同時，美國總統(tǒng)拜登釋放管控AI信號，有美國國會議員提交了AI監(jiān)管立法提案。美國參議院民主黨領(lǐng)袖查克·舒默展示了他的“人工智能安全創(chuàng)新框架”，并計劃在短短“幾個月”內(nèi)制定聯(lián)邦層面的人工智能法案。

我國同樣已經(jīng)開始探索并逐步構(gòu)建完善的人工智能監(jiān)管體系。此前，已有《新一代人工智能發(fā)展規(guī)劃》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等文件正式公布。2023年4月份，國家網(wǎng)信辦起草《生成式人工智能服務(wù)管理辦法（征求意見稿）》并向社會公開征求意見，提出AI內(nèi)容必須真實準(zhǔn)確，禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

近期，國務(wù)院辦公廳發(fā)布的《國務(wù)院2023年度立法工作計劃》還將人工智能法草案列為預(yù)備提請全國人大常委會審議項目，表明相關(guān)立法已提上日程。

在立法規(guī)范中，如何保護人工智能技術(shù)的健康發(fā)展，也是業(yè)界普遍關(guān)心的問題。

長期關(guān)注人工智能技術(shù)發(fā)展的浙江合創(chuàng)律師事務(wù)所合伙人丁杰認為，在相關(guān)法律法規(guī)制定中，應(yīng)充分考慮人工智能技術(shù)具有的“兩面性”，不能“因噎廢食”，要鼓勵科研人員和科技企業(yè)開展技術(shù)創(chuàng)新，搶占產(chǎn)業(yè)先機。他表示，從現(xiàn)有的以及計劃中的監(jiān)管體系來看，主要在于抑制AI技術(shù)帶來的負面效應(yīng)，并不會限制技術(shù)發(fā)展。

在接受媒體采訪時，西南政法大學(xué)人工智能法學(xué)院教授朱福勇表示，通常在人工智能技術(shù)發(fā)展初期，不宜采取過于嚴苛的監(jiān)管措施，當(dāng)技術(shù)成熟、市場需求增長、風(fēng)險和問題日益突出的時候，則應(yīng)加大監(jiān)管強度。當(dāng)前情勢下，堅守價值引領(lǐng)與技術(shù)“糾錯”并行、秩序保障與創(chuàng)新提升協(xié)同、權(quán)益維護與義務(wù)承擔(dān)對稱，是最恰當(dāng)?shù)钠胶庵馈?/strong>

(來源："網(wǎng)信浙江”）

(鏈接：https://mp.weixin.qq.com/s/VobfW4Ez3FDKNSAkNn20vg）