中新網(wǎng)10月29日電 據(jù)“公安部網(wǎng)安局”微信公眾號(hào)消息，隨著AI生成技術(shù)的普及，只需簡(jiǎn)單輸入文字指令，就能生成以假亂真的圖像、視頻，這不僅讓謠言傳播門檻大幅降低，更讓不少人在“獵奇”“博流量”的驅(qū)使下，觸碰法律與道德的紅線。近日，山東威海網(wǎng)安部門查獲兩起通過AI編造、傳播網(wǎng)絡(luò)謠言的違法行為。

　　案例一：近日，威海網(wǎng)民張某為提升賬號(hào)關(guān)注度，博取流量、牟取私利，使用某AI工具編造了“在監(jiān)獄直播帶貨”圖片的謠言信息，并發(fā)布在某互聯(lián)網(wǎng)平臺(tái)，引發(fā)大量網(wǎng)民關(guān)注和討論，擾亂公共秩序。

　　案例二：近日，在廣東臺(tái)風(fēng)期間，威海網(wǎng)民遲某為博取眼球、吸引流量，編造“廣東陽江兩所教學(xué)樓因臺(tái)風(fēng)受損”虛假災(zāi)情視頻畫面，在某短視頻平臺(tái)發(fā)布，誤導(dǎo)大量網(wǎng)民關(guān)注，嚴(yán)重?cái)_亂社會(huì)公共秩序，引發(fā)恐慌，造成了不良社會(huì)影響。

　　公安機(jī)關(guān)依法給予張某和遲某行政處罰。

　　法律責(zé)任

　　根據(jù)《中華人民共和國治安管理處罰法》第二十五條的規(guī)定，散布謠言，謊報(bào)險(xiǎn)情、疫情、警情或者以其他方法故意擾亂公共秩序的，處以五日以上十日以下拘留，可以并處五百元以下罰款；情節(jié)較輕的，處五日以下拘留或者五百元以下罰款。

　　風(fēng)險(xiǎn)隱患

　　通過類似案件看，一些AI謠言的背后已形成分工明確的灰色產(chǎn)業(yè)鏈。其具備“低成本量產(chǎn)”的特性，有資料顯示通過AI單日最高可生成4000至7000篇虛假文章，成本僅為傳統(tǒng)造謠的1%。AI謠言帶來的風(fēng)險(xiǎn)隱患確實(shí)值得高度警惕，其風(fēng)險(xiǎn)隱患主要體現(xiàn)在：

　　一是與傳統(tǒng)謠言相比，AI謠言因其技術(shù)特性，危害性呈指數(shù)級(jí)放大：

　　二是具有高仿真與強(qiáng)迷惑性，生成的文字、圖片、音視頻內(nèi)容逼真，普通網(wǎng)民難以分辨。

　　三是進(jìn)化與迭代能力強(qiáng)，AI謠言甚至能針對(duì)辟謠信息快速生成新版本進(jìn)行反駁或迭代，形成“打地鼠”式的動(dòng)態(tài)對(duì)抗，讓治理防不勝防。

　　如何預(yù)防

　　作為信息接收者，可以通過以下方式識(shí)別潛在的AI謠言：

　　查源頭：警惕那些沒有明確作者、來源模糊或偽裝成“網(wǎng)友投稿”“內(nèi)部消息”的內(nèi)容?？煽康男畔⑼ǔＳ姓?guī)的新聞機(jī)構(gòu)或官方信源背書。

　　看細(xì)節(jié)：對(duì)于圖片和視頻，仔細(xì)觀察是否存在AI生成的典型痕跡，例如人物手指數(shù)量異常、光影效果不自然、視頻口型與聲音不同步或背景模糊扭曲等。

　　驗(yàn)邏輯：判斷內(nèi)容是否存在明顯的事實(shí)錯(cuò)誤或邏輯矛盾，比如時(shí)間線錯(cuò)亂(用未來的數(shù)據(jù)描述過去的事件)或地理信息錯(cuò)誤。

　　用工具：善用權(quán)威辟謠平臺(tái)進(jìn)行查證，同時(shí)可以關(guān)注公安部網(wǎng)安局發(fā)布的相關(guān)警示信息。