中新網(wǎng)福州4月30日電 (記者 劉育英)奇安信集團(tuán)董事長齊向東在第八屆數(shù)字中國建設(shè)峰會期間接受媒體采訪表示，層出不窮的新興場景，充分展現(xiàn)出人工智能大模型帶來的無限生產(chǎn)力、創(chuàng)造力。但新技術(shù)是把雙刃劍，大模型應(yīng)用在帶來機(jī)遇的同時，也面臨三重挑戰(zhàn)。

　　一是“小數(shù)據(jù)”安全問題。傳統(tǒng)大數(shù)據(jù)存在碎片化、質(zhì)量參差不齊等問題，而大模型需要經(jīng)過加工處理的“精華小數(shù)據(jù)”。一旦精華小數(shù)據(jù)被竊取、泄露或篡改，企業(yè)核心競爭力將受損。

　　二是大模型“裸奔”風(fēng)險。大模型深度融入關(guān)鍵領(lǐng)域，如智慧城市、工控系統(tǒng)、智慧政務(wù)等，風(fēng)險串聯(lián)成網(wǎng)。奇安信監(jiān)測發(fā)現(xiàn)，大量Ollama大模型服務(wù)器“裸奔”，存在被攻擊導(dǎo)致業(yè)務(wù)中斷的風(fēng)險。

　　三是AI決策失準(zhǔn)風(fēng)險。對AI的過度依賴可能導(dǎo)致善惡真?zhèn)坞y辨，黑客可通過漏洞利用、數(shù)據(jù)投毒等方式干擾大模型決策。內(nèi)部員工更新知識庫時引入錯誤信息，也會污染模型學(xué)習(xí)環(huán)境，導(dǎo)致錯誤結(jié)論。

　　齊向東認(rèn)為，筑牢AI安全底線，要把握住五個關(guān)鍵：構(gòu)建大模型安全“紅域”形成多維度邊界隔離；權(quán)限強管控，以用戶身份為新邊界開展網(wǎng)絡(luò)和數(shù)據(jù)安全防護(hù)；嚴(yán)把內(nèi)容關(guān)，構(gòu)建貫穿大模型全生命周期的內(nèi)容安全治理機(jī)制；以實戰(zhàn)為導(dǎo)向加強大模型應(yīng)用安全評估；運營可閉環(huán)，做到對安全威脅的實時監(jiān)測和應(yīng)急處置。(完)