自2023年起，被外界譽為“人工智能教父”的杰弗里·辛頓每年都會在公開場合發(fā)出關(guān)于AI的警告。

　　那一年，他提醒人們，AI的發(fā)展將帶來越來越大的風(fēng)險。

　　2024年，他聲稱，AI將操控人類。

　　2025年，他在上海舉辦的世界人工智能大會上，將人類與AI的關(guān)系形容為“把小老虎當(dāng)寵物”——當(dāng)幼虎長大后，很可能傷人。

　　如今，在AI帶來的蓬勃機遇面前，越來越多的人并非害怕技術(shù)本身，而是擔(dān)心自己無法掌握方向盤。

　　人工智能的發(fā)展正以難以預(yù)測的速度推進，而治理機制和國際共識仍然滯后。

　　面對這場技術(shù)變革，中國正在給出自己的方案——不僅考慮如何發(fā)展，更著眼于如何在發(fā)展中確保安全、在競爭中尋求合作。

　　其一是保證人工智能健康有序發(fā)展。

　　“不發(fā)展是最大的不安全?！睅字芮暗闹袊ヂ?lián)網(wǎng)大會上，清華大學(xué)智能法治研究院院長申衛(wèi)星的這句話，引起了業(yè)內(nèi)共鳴。

　　他認(rèn)為，當(dāng)前在人工智能領(lǐng)域，不能因為治理或立法，扼殺掉產(chǎn)業(yè)發(fā)展的機會?！暗斯ぶ悄芤泊_實必須保證健康有序發(fā)展，這個底線是應(yīng)該明確的。”

　　業(yè)內(nèi)普遍認(rèn)為，人工智能領(lǐng)域的治理，應(yīng)在設(shè)定明確底線的前提下，為發(fā)展留出充足的空間。而鼓勵創(chuàng)新應(yīng)該作為人工智能治理的第一原則。

　　近期召開的國務(wù)院常務(wù)會議明確指出，當(dāng)前人工智能技術(shù)加速迭代演進，要深入實施“人工智能+”行動，大力推進人工智能規(guī)?；虡I(yè)化應(yīng)用，推動人工智能在經(jīng)濟社會發(fā)展各領(lǐng)域加快普及、深度融合，形成以創(chuàng)新帶應(yīng)用、以應(yīng)用促創(chuàng)新的良性循環(huán)。

　　其二是加快形成多元協(xié)同治理格局。

　　治理的目標(biāo)不僅是防范風(fēng)險，更要讓技術(shù)在可控范圍內(nèi)釋放最大價值。國務(wù)院常務(wù)會議提出，要提升安全能力水平，加快形成動態(tài)敏捷、多元協(xié)同的人工智能治理格局。

　　中國社會科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任周輝對三里河表示，人工智能技術(shù)屬于顛覆性技術(shù)，在治理過程中，需要將一致性評估、合規(guī)性審查等引入人工智能監(jiān)管機制。同時，考慮到人工智能發(fā)展速度不斷加快，應(yīng)適應(yīng)性地構(gòu)建敏捷治理機制。

　　此外，由于人工智能技術(shù)在全球各領(lǐng)域都會產(chǎn)生深遠(yuǎn)影響，其發(fā)展和應(yīng)用帶來的風(fēng)險與挑戰(zhàn)往往是跨越國界的，治理更需國際合作。對此，中國是倡導(dǎo)者也是積極實踐者。

　　中國工程院院士鄔賀銓在2025互聯(lián)網(wǎng)安全大會上指出，數(shù)字空間是人類共同的新家園，人工智能與數(shù)字安全的挑戰(zhàn)是全球性的，單打獨斗無法應(yīng)對。

　　復(fù)旦大學(xué)中國研究院副研究員劉典認(rèn)為，中國應(yīng)摒棄個別國家的“小院高墻”政策，通過“一帶一路”等多雙邊框架，推動AI技術(shù)務(wù)實合作。

　　中國社會科學(xué)院法學(xué)研究所教授姚佳表示，打造一個全方位、多層次、匯聚廣泛共識，具有包容性、平等性和多元性的人工智能治理框架，應(yīng)是各國未來合作的重要方向。

　　其三是讓技術(shù)解決技術(shù)的挑戰(zhàn)。

　　面對人工智能帶來的新挑戰(zhàn)，傳統(tǒng)、被動、碎片化的安全防護已力不從心，亟須變革。

　　鄔賀銓曾多次表示，要創(chuàng)新升級數(shù)字安全防護體系，構(gòu)建AI驅(qū)動的主動免疫。

　　2025世界人工智能大會期間，辛頓呼吁人類探索通用AI訓(xùn)練方法，使人工智能向善。

　　上海人工智能實驗室主任周伯文指出，在面對長期風(fēng)險，特別是管理可能超越人類智能的智能體時，要轉(zhuǎn)向“內(nèi)生安全”的新思路，即從“讓人工智能變得安全”(Make AI Safe)邁向“打造安全的人工智能”(Make Safe AI)。前者是后置性的安全補丁，缺乏敏捷性和韌性；后者則強調(diào)安全的內(nèi)生性和原生性。

　　人工智能的未來，并不只是關(guān)于算力的競賽。更重要的是，誰能在技術(shù)創(chuàng)新與規(guī)則之間找到平衡，誰就有可能贏得真正的主動。

　　中國正在給出的答案，是一條兼顧發(fā)展、治理與技術(shù)安全的道路。

　　(“三里河”工作室)