中新網3月12日電(記者 吳家駒)近期，Seedance 2.0等AI視頻生成模型，憑借其強大的視頻生成能力引起廣泛關注，而互聯網上隨之出現的一些偽造視頻，也讓公眾心生擔憂。

　　當AI視頻越來越“以假亂真”，如何構筑“防火墻”？

　　近日，中國信息通信研究院人工智能研究所工程師郭蘇敏在接受中新網專訪表示，產業(yè)需要走體系化治理路線，加強生成內容的源頭治理，推動分類分級的風險管控，打造“技管結合”的治理架構，并推動AI生成模型安全測試。

　　“生成式人工智能的多模態(tài)能力持續(xù)優(yōu)化，大幅降低了創(chuàng)作門檻。”郭蘇敏表示。

　　郭蘇敏認為，從產業(yè)和技術視角來看，Seedance 2.0是AI視頻生成領域的重大突破，也是AI視頻生成的里程碑時刻，其采用雙分支擴散變換器架構，實現了多工種的整合，大幅降低視頻生產周期，實現視頻創(chuàng)作范式變革。

　　影視行業(yè)將是深受影響的行業(yè)之一。郭蘇敏表示，短期來看，Seedance 2.0將驅動影視行業(yè)深度變革，加速釋放技術的價值紅利。長遠來看，生成式人工智能技術或推動AI生成視頻向長視頻敘事演進，與智能體、數字人等技術實現深度整合，推動影視業(yè)形成創(chuàng)意引領、技術賦能的新生態(tài)。

　　同時，郭蘇敏強調，隨著AI生成的視頻越來越逼真，人工智能數據安全、算法偏見、模型幻覺、情感依賴、數據污染等問題也在不斷放大。例如，AI生成的視頻可能被利用于生成虛假信息實施金融詐騙，造成人格侵權、虛假信息泛濫、詐騙與財產損失、版權侵犯等多重風險，對個人、社會造成負面影響。

　　面對AI生成真人視頻的亂象，部分AI生成視頻模型曾嘗試推出限制措施。今年2月9日，Seedance 2.0宣布暫停真人素材參考功能。然而，一些AI生成的真人視頻仍在網上廣泛傳播，多位明星曾控訴AI視頻給自己帶來的負面影響。

　　面對新技術帶來的治理挑戰(zhàn)，郭蘇敏認為，產業(yè)需要走體系化治理路線，配套檢測與溯源機制，將安全合規(guī)理念貫穿研發(fā)、部署、應用的全流程，實現穿透式治理。

　　一是加強生成內容的源頭治理，訓練數據是視頻生成的原料，更逼真的視頻生成往往需要更高質量的數據，也易造成版權侵權等挑戰(zhàn)，需加強對訓練數據的合規(guī)審查與清洗。模型研發(fā)必須內置風險控制能力，包括內容合規(guī)校驗、身份核驗、敏感場景攔截。同時，落實《人工智能生成合成內容標識辦法》《網絡安全技術 人工智能生成合成內容標識方法》要求，推動數字水印、隱水印、內容溯源成為生成模型的標配能力，從源頭實現可追溯。

　　二是推動分類分級的風險管控。根據模型生成能力實行分層級的權限管控，例如，具有高逼真生成能力的模型不宜向無資質主體開放接口，應加強權限管控與審計監(jiān)督。

　　中國信通院圍繞風險管理打造“人工智能治理公共產品”，發(fā)布《人工智能 安全治理 系統(tǒng)風險管理能力要求》行業(yè)標準，根據數據、模型算法、網絡、應用進行風險分類，圍繞應用對個人、組織、社會、國家的影響進行風險分級并判定隱患等級，提出風險應對、動態(tài)跟蹤與持續(xù)改進的實施方法，將治理體系扎實嵌入運營流程，旨在為企業(yè)提供敏捷治理方案。

　　三是打造“技管結合”的治理架構。更逼真的視頻生成能力要求更加嚴格的內容審核機制，也要求對用戶行為進行更規(guī)范的引導。

　　中國信通院《人工智能安全治理研究報告(2025年)》在吸收產業(yè)實踐的基礎上，提出“兩橫三縱”的人工智能安全治理產業(yè)實踐框架，深度融合“管理層”的制度牽引作用與“技術層”的能力支撐作用，構建“開發(fā)側”“部署側”與“應用側”安全關，實現從模型研發(fā)、系統(tǒng)部署到場景應用的全鏈條防護。

　　四是推動AI生成模型安全測試，構建針對AI視頻生成的安全評測集，推動多模態(tài)領域的人工智能安全基準測試(AI Safety Benchmark)，加強對生成音頻、視頻的評估測試，形成良性治理循環(huán)。(完)