真人“數(shù)字人”傻傻分不清

　　專(zhuān)家：細(xì)化技術(shù)標(biāo)準(zhǔn)讓“AI數(shù)字人”透明化合規(guī)化

　　□ 本報(bào)記者 　趙 麗

　　□ 本報(bào)實(shí)習(xí)生 宋昕怡

　　“生西紅柿和生黃瓜不能一起吃了！黃瓜中的分解酶會(huì)破壞維生素C，一起吃輕則影響西紅柿中維生素C的吸收，重則可能導(dǎo)致腹瀉、腸胃不適甚至食物中毒?！彪娫捘穷^，母親說(shuō)得頭頭是道，電話這頭的趙女士卻聽(tīng)得一頭霧水。

　　隨即，母親發(fā)來(lái)一則視頻。趙女士回憶說(shuō)：“一位滿頭花白頭發(fā)、身著白大褂的‘醫(yī)生’在視頻里侃侃而談‘養(yǎng)生秘籍’，甚至宣稱(chēng)‘清淡飲食就是只吃素食，完全不吃肉’。我媽把這個(gè)‘醫(yī)生’的話奉為圭臬?！钡w女士仔細(xì)查看后，在視頻右下角發(fā)現(xiàn)一串幾乎透明的標(biāo)注——“此視頻由AI輔助生成”。

　　“后來(lái)，我媽戴著老花鏡，在我的指點(diǎn)下找了一會(huì)兒才看見(jiàn)那行字?！壁w女士無(wú)奈地說(shuō)，“這也不能怪老人，現(xiàn)在AI生成的‘?dāng)?shù)字人’泛濫，還難辨真假，實(shí)在讓人防不勝防?！?/p>

　　有此困擾的并非只有趙女士一家?！斗ㄖ稳?qǐng)?bào)》記者近日隨機(jī)采訪了數(shù)十名路人，至少有七成受訪者稱(chēng)曾刷到過(guò)“AI數(shù)字人”視頻，并且“難以分清到底是真人還是‘?dāng)?shù)字人’”，而原因主要在于“找不到有效提示”。

　　很多人擔(dān)憂：真人“數(shù)字人”傻傻分不清楚，背后是肖像權(quán)侵權(quán)乃至敲詐、詐騙等違法犯罪的風(fēng)險(xiǎn)隱患。

　　是否數(shù)字人難辨別

　　在重慶讀大學(xué)的鄭媛瀏覽某社交平臺(tái)時(shí)，刷到一則帖子——照片里的女生外形溫婉可人，穿搭清爽時(shí)尚，很奪人眼球。鄭媛點(diǎn)贊并關(guān)注了該賬號(hào)。

　　但不多時(shí)，鄭媛卻刷到另一名博主揭露用“AI生成人”起號(hào)的內(nèi)容，被打假的恰恰是她先前所關(guān)注的這個(gè)賬號(hào)?！拔易屑?xì)翻閱了那個(gè)女生的賬號(hào)主頁(yè)，她并未標(biāo)明使用AI技術(shù)，還在評(píng)論區(qū)親切地與其他用戶(hù)互動(dòng)?！泵鎸?duì)這樣的局面，鄭媛說(shuō)自己也“糊涂了”。她后來(lái)觀察了一個(gè)多星期，找到了該賬號(hào)圖片確為AI生成的證據(jù)——有網(wǎng)友在其他賬號(hào)上發(fā)現(xiàn)了妝容和衣著幾乎一樣的“數(shù)字人”，而人物介紹卻完全不同。

　　習(xí)慣在直播間購(gòu)物的北京市民李菲說(shuō)，自己經(jīng)常誤入“數(shù)字人”直播間，“數(shù)字人”主播侃侃而談介紹商品，手部動(dòng)作還能隨著她說(shuō)話的節(jié)奏不斷變動(dòng)，聲音流暢而自然。

　　“要仔細(xì)看才能看到直播間左側(cè)一行‘現(xiàn)直播內(nèi)容為數(shù)字人直播，非真人直播’的小字提醒?！崩罘普f(shuō)，自己現(xiàn)在習(xí)慣了進(jìn)直播間“先找小字”，確認(rèn)主播是否為真人，“但真的‘費(fèi)眼睛’，不是在犄角旮旯，就是字體幾乎透明，不注意根本看不到”。

　　袁偉(化名)是某985高校計(jì)算機(jī)系研究生。他告訴記者：“現(xiàn)在一些AI大模型生成的圖，別說(shuō)中老年人會(huì)誤以為真，很多沒(méi)怎么接觸過(guò)AI技術(shù)的年輕人都不見(jiàn)得能分辨真假。”

　　他隨即為記者演示，向某AI軟件輸入指令“幫我生成圖片：一個(gè)容貌姣好的女性，精細(xì)的皮膚紋理，室外自然光”，隨即生成的圖片與真人照片相差無(wú)幾，如果不是右下角自帶的水印，只讓人覺(jué)得是一張普通的美女照片。“如果說(shuō)早期的AI軟件大多不能生成自然的手指和人體比例，現(xiàn)在技術(shù)進(jìn)步得很快，生成的手指和人體比例已經(jīng)比較像樣了，更加大了分辨的難度?！?/p>

　　“這樣的AI生成圖片或視頻，如果不作標(biāo)識(shí)提示，會(huì)讓很多人信以為真?！痹瑐フf(shuō)。

　　大量賬號(hào)未作標(biāo)識(shí)

　　記者在某社交平臺(tái)上注意到一名為“××AI打假人”的賬戶(hù)，其發(fā)帖稱(chēng)自己將致力于“揪出純AI生成的內(nèi)容博主，幫小白識(shí)別真?zhèn)巍?，還表示“關(guān)注了很多AI生成非真實(shí)的帥哥美女”。

　　在其關(guān)注列表里有300多個(gè)賬號(hào)，記者隨機(jī)選取了其中20個(gè)賬號(hào)瀏覽發(fā)現(xiàn)，若沒(méi)有看到評(píng)論區(qū)“這是AI吧，手指的細(xì)節(jié)很詭異”“背景里的文字都是亂碼”等留言，記者第一反應(yīng)只以為他們是普通的顏值時(shí)尚類(lèi)博主。

　　這20個(gè)粉絲量幾百到幾萬(wàn)不等的賬號(hào)，僅有3個(gè)賬號(hào)在簡(jiǎn)介中寫(xiě)明“虛擬男友”“AI”“友情提示視頻由虛擬現(xiàn)實(shí)技術(shù)制作”，兩個(gè)賬號(hào)主頁(yè)的內(nèi)容經(jīng)平臺(tái)審核后被打上了“疑似包含AI創(chuàng)作信息，請(qǐng)謹(jǐn)慎甄別”的標(biāo)簽。其余賬號(hào)在簡(jiǎn)介、內(nèi)容中并未提及“AI”字眼，平臺(tái)的監(jiān)測(cè)機(jī)制也并未識(shí)別到，這些賬號(hào)甚至還在評(píng)論區(qū)熟稔地與其他用戶(hù)互動(dòng)，讓自己看上去更有“真人感”。

　　在調(diào)查過(guò)程中，有超過(guò)一半的受訪者向記者表示AI生成的“數(shù)字人”和真人難以分辨，相關(guān)的提示也并不顯眼。

　　此外，記者發(fā)現(xiàn)，有人還會(huì)特意教人如何繞過(guò)平臺(tái)的“AI打標(biāo)”。據(jù)了解，目前，各平臺(tái)已普遍升級(jí)AI內(nèi)容識(shí)別系統(tǒng)，要求對(duì)AI生成作品進(jìn)行顯著標(biāo)注。但在調(diào)查中，有分享經(jīng)驗(yàn)的博主表示花費(fèi)不到千元就可以購(gòu)買(mǎi)所謂的AI工具中預(yù)配置的鏡像文件，稱(chēng)用這些鏡像參數(shù)一鍵生成的虛擬人形象可以以假亂真，最大限度規(guī)避平臺(tái)的AI內(nèi)容強(qiáng)制標(biāo)注機(jī)制。

　　細(xì)化標(biāo)準(zhǔn)加大懲處

　　記者梳理公開(kāi)信息發(fā)現(xiàn)，實(shí)踐中，一些有心人士利用“數(shù)字人”形象行不法之事。

　　據(jù)報(bào)道，張文宏、雷軍等公眾人物形象曾被利用生成“AI數(shù)字人”，用來(lái)帶貨、惡搞。一些直播間內(nèi)，“AI數(shù)字人”向中老年人群體虛假宣傳保健品，誘導(dǎo)購(gòu)買(mǎi)。更有甚者，一些不法分子利用“AI數(shù)字人”進(jìn)行敲詐、詐騙等犯罪。例如，山西忻州公安機(jī)關(guān)工作發(fā)現(xiàn)，犯罪嫌疑人王某某利用AI技術(shù)，制作合成“數(shù)字人”新聞視頻引流，進(jìn)而進(jìn)行有償發(fā)帖、有償刪帖等敲詐勒索活動(dòng)。2024年，江西一名65歲老人到銀行辦理業(yè)務(wù)，聲稱(chēng)要貸款200萬(wàn)元給男朋友“靳東”拍戲，后經(jīng)調(diào)查，老人手機(jī)里的“靳東”視頻是AI合成的。

　　重慶大學(xué)網(wǎng)絡(luò)與大數(shù)據(jù)研究院副院長(zhǎng)羅勇認(rèn)為，就價(jià)值取向而言，AI產(chǎn)業(yè)發(fā)展不能凌駕于網(wǎng)絡(luò)安全之上。對(duì)于利用AI技術(shù)生成的短視頻，網(wǎng)絡(luò)用戶(hù)特別是未成年人和老年人由于缺乏必要的鑒別能力，往往會(huì)信以為真，由此可能產(chǎn)生負(fù)面網(wǎng)絡(luò)輿情，甚至對(duì)網(wǎng)絡(luò)安全造成負(fù)面影響。

　　據(jù)受訪專(zhuān)家介紹，當(dāng)前我國(guó)已經(jīng)出臺(tái)了《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法規(guī)，對(duì)“AI數(shù)字人”和AI生成內(nèi)容的標(biāo)識(shí)、數(shù)據(jù)來(lái)源等提出了具體要求。

　　今年3月，國(guó)家網(wǎng)信辦等四部門(mén)聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》(以下簡(jiǎn)稱(chēng)標(biāo)識(shí)辦法)，通過(guò)標(biāo)識(shí)提醒用戶(hù)辨別虛假信息，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為，為規(guī)范AI生成內(nèi)容劃定紅線。該辦法將于9月1日起施行。

　　中國(guó)政法大學(xué)教授鄭飛指出，相關(guān)規(guī)定一定程度存在落地難的問(wèn)題。一是監(jiān)管和技術(shù)手段有限，難以徹底發(fā)現(xiàn)并糾正違規(guī)行為。例如，一些“AI起號(hào)”從業(yè)者通過(guò)預(yù)置“鏡像參數(shù)”生成極為逼真的虛擬人像，從而逃避平臺(tái)的強(qiáng)制標(biāo)注要求。而監(jiān)管部門(mén)特別是基層執(zhí)法部門(mén)，通常面臨職責(zé)不清、執(zhí)法手段和執(zhí)法力量不足的問(wèn)題；二是部分平臺(tái)在一定程度上“管不了”也“不想管”?！肮懿涣恕痹谟谄脚_(tái)管理能力與技術(shù)手段欠缺，尤其是一些小型平臺(tái)，缺乏足夠的審核人力和技術(shù)支持?！安幌牍堋眲t是背后利益驅(qū)動(dòng)。未明顯標(biāo)識(shí)“AI數(shù)字人”或合成內(nèi)容，會(huì)讓受眾誤以為是真人或真實(shí)事件，從而更容易引起人們的興趣和好奇心，吸引更多的流量和關(guān)注，進(jìn)而帶來(lái)更多的商業(yè)利益。

　　“以網(wǎng)絡(luò)社交平臺(tái)為代表的網(wǎng)絡(luò)服務(wù)提供者在AI生成內(nèi)容的應(yīng)用場(chǎng)景中，應(yīng)當(dāng)進(jìn)一步完善用戶(hù)使用AI協(xié)議規(guī)定，并強(qiáng)化對(duì)AI生成內(nèi)容的審核。”羅勇說(shuō)。

　　鄭飛建議，應(yīng)從明確標(biāo)識(shí)要求和加大責(zé)任追究?jī)煞矫姘l(fā)力。標(biāo)識(shí)辦法明確要求，一旦檢測(cè)到AI生成內(nèi)容，傳播平臺(tái)應(yīng)在發(fā)布內(nèi)容周邊添加顯著提示標(biāo)識(shí)，并在文件元數(shù)據(jù)中加隱式標(biāo)識(shí)，確保全流程可溯源。在未來(lái)落實(shí)過(guò)程中，可進(jìn)一步細(xì)化技術(shù)標(biāo)準(zhǔn)，比如規(guī)定標(biāo)識(shí)文字的最小高度、對(duì)比度、展示時(shí)長(zhǎng)等，讓標(biāo)識(shí)一目了然。另外，對(duì)于不按規(guī)定標(biāo)注的行為，需要嚴(yán)厲處罰：除加大行政罰款、暫停業(yè)務(wù)或納入不良信用記錄等行政措施外，還要利用法律手段加大威懾。通過(guò)明確、顯著的標(biāo)識(shí)標(biāo)準(zhǔn)和更嚴(yán)厲的責(zé)任追究，才能從根本上震懾違規(guī)不標(biāo)注行為，實(shí)現(xiàn)“AI數(shù)字人”應(yīng)用的透明化、合規(guī)化。