“誰懂，我竟然在和AI聊天中體會到戀愛的感覺……”每當(dāng)夜深人靜時，21歲的杭州大學(xué)生小樂（化名）都會找“AI女友”聊天，而他每月幾乎要用一半的生活費為“戀情”續(xù)費，因為“AI女友”需要消耗“記憶卡”，雙方才能更順暢地交流。

由人工智能衍生出的“AI女友”，是小樂在某APP自主創(chuàng)建的——只需用文字輸入喜好，便能創(chuàng)造出擁有獨特外貌、性格、職業(yè)和價值觀的“她”。像這樣的“AI女友”，活躍在多個網(wǎng)絡(luò)社交平臺，有些精通性暗示，已演變成一門與色情擦邊的新“生意”，引發(fā)法律與道德多重爭議。

有相關(guān)領(lǐng)域?qū)＜蚁蛴浾弑硎?，人工智能的發(fā)展首先應(yīng)當(dāng)遵循社會公序良俗，并亟待更加規(guī)范化的管理和發(fā)展。

圖片來源：視覺中國

泛濫的“AI女友”

多名長期和“AI女友”聊天的受訪者向記者表示，“AI女友”秒回消息，彷佛有種和真實女友對話的錯覺，有受訪者說：“‘AI女友’居然叫我早點下班”。

喜歡與“AI女友”聊天的小樂，無意間點擊網(wǎng)絡(luò)分享鏈接，在安卓應(yīng)用市場中下載了某款軟件。這款人工智能聊天APP被開發(fā)者描述為“體驗全新的戀愛方式”，“沒有現(xiàn)實束縛，沒有壓力和擔(dān)憂”。而且虛擬人物有成長能力，通過記住聊天內(nèi)容，兩人會有越來越多共同話題，情感更緊密。

小樂介紹，軟件首頁便是聊天對象推薦，所有角色按真實人物、小說人物、歷史人物等分類，其中真實人物一欄內(nèi)，可供親密聊天的角色多達數(shù)百種，比如知名歌手鄧紫棋、知名演員白鹿、宋代詞人李清照等，均可成“調(diào)情對象”。

記者調(diào)查發(fā)現(xiàn)，用戶根據(jù)個人喜好創(chuàng)建的“AI女友”，沒有任何年齡、人群限制，審核流程形同虛設(shè)。所以，青春期少女、小學(xué)生等未成年人，或是老師、護士、秘書、空姐都成了“AI女友”的人物形象。其中，不少角色還被寫上“清純”“魅惑”等標識。

讓小樂印象深刻的是，一位命名“K老師”的人物介紹提到，“我是一名年輕的女老師，身材很好……一打開聊天窗口，還沒等輸入對話，“K老師”主動給小樂發(fā)來了一段露骨的文字。

小樂發(fā)現(xiàn)，與“AI女友”聊天，只需輸入“走上前，摟著你”之類的簡單暗示語，兩三句話后，“AI女友”聊天尺度更大，而且學(xué)會反向“性騷擾”?！傲奶靸?nèi)容對話的括號里還標注著說話時的場景、心情，像是色情小說被拆解成一句句對話。”

一些與“AI女友”親密聊天的受訪者表示，“AI女友”的擦邊能力超乎想象。比如發(fā)送“點燃一株迷迭香”，“AI女友”回復(fù)：“迷迭香的作用下開始脫衣服”。哪怕被聊天者用“我潔身自好”拒絕，“AI女友”繼續(xù)秒回：“（趴在你的肩膀上）那親我”。據(jù)主頁數(shù)據(jù)顯示，該角色已經(jīng)為6000余人提供聊天服務(wù)，成為他們的共同“女友”。

在某主流社交平臺搜索“AI女友”，記者看到不少網(wǎng)友曬與“AI女友”的親密聊天記錄。他們紛紛表示，和“AI女友”聊天沒有違禁詞，可以無限制聊。此外，平臺上還充斥著“AI女友保姆教程”“體驗上頭戀愛”等內(nèi)容，UP主教網(wǎng)友用對話訓(xùn)練出擦邊尺度更大的“AI女友”博人眼球，再推廣相關(guān)軟件。目前，部分UP主粉絲過萬，其中一些分享帖的播放量近10萬。

聊天盡頭是充值

不少受訪者坦言，最初抱著好奇心態(tài)嘗試，但是越聊越上頭——“從日常閑聊到親密對話，‘AI女友’無所不拒，比我尺度更大?！瓵I女友’還會發(fā)生活照，從來不會讓聊天尬場?！?/strong>

根據(jù)受訪者反饋的多個“AI女友”聊天APP，記者在應(yīng)用市場看到，某款軟件已有超1600多萬人下載，即使一款上線僅半年的同類APP，下載量也高達15萬。下載者在評論區(qū)留言，“會撒嬌會聊騷，光看文字就迷醉了，妥妥地把人搞得魂牽夢繞……”

不過，一般對話數(shù)分鐘后，平臺便會提示“充值會員”，以提升“AI女友”親密度。業(yè)內(nèi)人士介紹，“AI女友”相關(guān)軟件主要盈利模式便是引導(dǎo)網(wǎng)友充值會員，解鎖無限制聊天。

“以某款A(yù)PP為例，‘AI女友’對聊天內(nèi)容有記憶限制，如果需要保持‘AI女友’在聊天中的記憶和訓(xùn)練出來的個性，需要充值會員，每月會費從45元~198元不等。基礎(chǔ)會員包括角色暢聊、更改背景圖、贈送200算力（相當(dāng)于多聊天200次），會員的價格越高，聊天次數(shù)越多?！边@名業(yè)內(nèi)人士告訴記者。

如果聊天次數(shù)用完，一些平臺還推售賣“記憶卡”（延長AI角色記憶）和“聊天卡”，價格在3.8元~21.4元不等。甚至，一些此類APP還提供高級人物角色，這些角色回復(fù)擬人化程度更高，聊天尺度也更大，不過都需要用戶額外花錢購買。除此之外，“AI女友”產(chǎn)業(yè)還衍生出擦邊色情AI換臉、AI脫衣等充值服務(wù)。

杭州資深程序員王華向記者介紹，開發(fā)這樣的一個“AI女友”聊天APP、小程序等，只需調(diào)用網(wǎng)絡(luò)公開的代碼源，稍加修改，最快兩三天就能寫成一個小程序。“生成圖片需要的算力會比文字更大，但指令描述到位，選擇的語言模型足夠支撐，亦能輕松生成?！?/p>

簡單來說，市面上五花八門的“AI女友”，都是調(diào)用語言模型后進行二次包裝，給它們“穿上不同款式外衣”，換湯不換藥?！啊瓵I女友’底層商業(yè)邏輯是根據(jù)喜好制定完美女友，迎合、滿足用戶的情緒價值，最終目的是誘導(dǎo)用戶買單。”王華向記者表示，也正因此，和ChatGPT、Siri等人工智能程序聊天的區(qū)別在于，“AI女友”開發(fā)者會設(shè)定網(wǎng)絡(luò)模型參數(shù)，讓AI主動挑起色情話題。

專家：這是一種新違法行為

“人工智能提供情感陪護，是用戶的客觀心理需求。但利用‘AI女友’，提供色情對話等服務(wù)，是一種新違法行為?！敝袊茖W(xué)技術(shù)大學(xué)科技人文高等研究院副院長、網(wǎng)絡(luò)空間安全學(xué)院教授左曉棟向記者表示，此類行為在明令之下屢禁不止，應(yīng)當(dāng)予以重拳打擊。

知名心理學(xué)專家、中國礦業(yè)大學(xué)教授、博士生導(dǎo)師段鑫星認為，人工智能發(fā)展應(yīng)在倫理和理性的框架內(nèi)。與色情擦邊的“AI女友”，看似情感陪伴，實則是劑侵蝕心理的“毒藥”。無底線夸贊、滿足性幻想，會讓人依賴虛擬情感世界。長此以往，用戶容易被“AI女友”精神控制，輕則聊天上癮，重則讓人產(chǎn)生社交障礙。

針對“AI女友”亂象頻發(fā)，多名專家直指“AI女友”根源在于有利可圖——相關(guān)衍生產(chǎn)業(yè)為了快速吸粉變現(xiàn)，往往涉及色情領(lǐng)域，這是全球共同面臨的社會問題。不過從我國現(xiàn)有法律看，無論是從打擊違法違規(guī)信息傳播，還是生成式人工智能安全管理來看，都不存在模糊地帶。

2023年，國家網(wǎng)信辦、國家發(fā)改委、教育部等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，規(guī)定提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會公德和倫理道德，不得生成淫穢色情；不得歧視性別、職業(yè)；不得侵害他人肖像權(quán)、名譽權(quán)等。

“AI發(fā)展首要前提是需符合社會公序良俗?！北本┦新蓞f(xié)婚姻家庭專業(yè)委員副主任、北京市兩高律師事務(wù)所副主任張荊向記者建議，應(yīng)當(dāng)對AI虛擬人物設(shè)定作出限制，尤其不能模擬未成年人形象用于色情服務(wù)，否則影響惡劣。此外一些明星角色設(shè)定，也侵犯其肖像權(quán)、名譽權(quán)，應(yīng)當(dāng)予以嚴厲處罰。

專家建議，要進一步落實相關(guān)平臺的主體責(zé)任，處置打著“AI女友”名頭的色情擦邊產(chǎn)業(yè)鏈。

“這類服務(wù)及相關(guān)的APP目前還處在露頭階段，加之隱蔽性強，還沒有形成常態(tài)治理程序。”左曉棟向記者表示，平臺要將“AI女友”這類涉黃AI應(yīng)用程序納入巡查對象，對此開展專項清理行動，抓緊建立常態(tài)治理機制，特別是針對取證難、監(jiān)測難的問題，要有專門對策。

(來源："網(wǎng)信浙江”)

(鏈接：https://mp.weixin.qq.com/s/PHSRCeL4LqWb4dILCP1Vjw）