當(dāng)你刷到“‘鋼鐵保姆’機器人引發(fā)市民搶購”的消息時，需警惕這不過是條假資訊；看到“霸總創(chuàng)業(yè)三年成功買下8000平辦公樓”這類內(nèi)容，也別急著羨慕，所謂的“霸總”只是用來吸引流量的“假人設(shè)”；而當(dāng)知名藝人在視頻中推薦“三無”化妝品，同樣不必驚訝，這很可能是AIGC(人工智能生成內(nèi)容)造假的產(chǎn)物。

　　針對社媒平臺上各類博眼球的虛假資訊，平臺出手，對“幕后”的黑灰產(chǎn)賬號開展封禁治理。同時，專家建議網(wǎng)友“擦亮雙眼”，發(fā)現(xiàn)虛假信息及時向平臺進(jìn)行舉報。

　　【典型案例】

　　當(dāng)網(wǎng)友在社媒平臺搜索“出國考試”相關(guān)內(nèi)容時，可能會被“掛幾家騙子公司”“騙子公司虛假宣傳真厲害”這類筆記標(biāo)題吸引，點進(jìn)用戶“xx學(xué)長的留學(xué)日記”等賬號發(fā)布的內(nèi)容。

　　實際上，黑灰產(chǎn)組織針對留學(xué)輔導(dǎo)機構(gòu)發(fā)布負(fù)面內(nèi)容存在固定套路：他們常以夸張標(biāo)題吸引點擊，文中點名多家規(guī)模較大的留學(xué)輔導(dǎo)機構(gòu)并附上logo，但正文內(nèi)容十分模糊，雖對機構(gòu)進(jìn)行負(fù)面定性卻不闡述具體問題。這些筆記的真實目的是誘導(dǎo)用戶私信獲取更多信息，當(dāng)用戶私信后，對方會誘導(dǎo)將溝通再轉(zhuǎn)移至微信渠道，最終推薦與之合作的機構(gòu)產(chǎn)品。

　　需要注意的是，黑灰產(chǎn)組織的賬號常以學(xué)長、學(xué)姐等虛假人設(shè)批量出現(xiàn)。他們并非只針對頭部企業(yè)，而是將行業(yè)里幾乎所有企業(yè)、機構(gòu)都裹挾其中，不和他們合作的就會被抹黑，這使得用戶很難獲得真實信息，進(jìn)而難以作出符合自身需求的決策。

　　【應(yīng)對策略】

　　據(jù)了解，社媒平臺上，虛假不實內(nèi)容、虛假人設(shè)和AIGC造假三類“虛假”信息頻發(fā)。黑灰產(chǎn)組織批量制造黑灰產(chǎn)賬號，通過虛假、重復(fù)、低質(zhì)內(nèi)容騙取用戶流量；養(yǎng)號漲粉后，又會發(fā)布虛假、惡意營銷內(nèi)容，或者銷售灰色商品，提供灰色服務(wù)，甚至從事違法活動，從而實現(xiàn)不當(dāng)牟利。從建號到養(yǎng)號再到牟利，黑灰產(chǎn)賬號進(jìn)行全鏈路批量造假，對社區(qū)生態(tài)和秩序的危害十分巨大。

　　針對這些現(xiàn)象，小紅書平臺開展了黑灰產(chǎn)賬號治理行動，對黑灰產(chǎn)堅決打擊。2025年上半年，平臺通過建設(shè)虛假內(nèi)容全鏈路治理體系，共處置虛假筆記320萬篇，處置虛假人設(shè)賬號1萬個，處置虛假低質(zhì)AIGC筆記60萬篇；通過持續(xù)建設(shè)“同質(zhì)化識別”能力，全面提升處置手段，升級機器對抗，共封禁批量造假黑灰產(chǎn)賬號超1000萬個。

　　在線上治理的同時，平臺調(diào)查團(tuán)隊還向多地警方和市場監(jiān)督部門積極提供線索，對黑灰產(chǎn)團(tuán)伙進(jìn)行線下打擊。目前有7起案件在偵辦中，后續(xù)警方和市場監(jiān)督部門將根據(jù)調(diào)查結(jié)果采取各種處罰措施，涉及犯罪行為的還將進(jìn)一步追究刑事責(zé)任。

　　【專家建議】

　　除了平臺對虛假信息重拳出擊，網(wǎng)友看到這類虛假信息時，也可主動進(jìn)行舉報，共同維護(hù)良好網(wǎng)絡(luò)風(fēng)氣。

　　為了確保舉報渠道暢通，小紅書開通了監(jiān)管網(wǎng)站、App客戶端舉報、舉報熱線和舉報郵箱四種途徑。同時，在常態(tài)化轉(zhuǎn)發(fā)重要辟謠稿件的基礎(chǔ)上，搭建了辟謠專區(qū)，為用戶提供一站式辟謠信息服務(wù)。

　　人民大學(xué)傳播學(xué)教授董晨宇接受記者采訪時表示，應(yīng)對當(dāng)前互聯(lián)網(wǎng)虛假內(nèi)容快速增長與傳播，需要各平臺積極打擊，全社會共同參與?！疤摷賰?nèi)容無法完全被消滅，但可以通過科普、舉報、公眾傳播學(xué)素養(yǎng)的提升，將虛假控制在較低的水平線?！?/p>

　　文/本報記者 陳斯

　　來源：北京青年報