“相較于人工智能，我覺得自己一無是處?！?/p>

　　這是ChatGPT-5面世前夕，OpenAI首席執(zhí)行官奧爾特曼面向公眾發(fā)出的警告。

　　在他眼中，最新的大模型已經(jīng)聰明到讓人感到害怕。他將GPT-5的發(fā)展比作二戰(zhàn)時(shí)期的“曼哈頓計(jì)劃”——人類創(chuàng)造的能力，已經(jīng)超過了自身能理解或控制其后果的準(zhǔn)備程度。

　　他坦言，目前AI進(jìn)步過快，監(jiān)管卻明顯滯后，“房間里沒有成年人”。

　　無獨(dú)有偶。今年年初，xAI創(chuàng)始人馬斯克也形容Grok 3模型“聰明得令人害怕”。

　　盡管有商業(yè)造勢的成分，但這種聲音頻繁出現(xiàn)，背后的隱憂并非空穴來風(fēng)。

　　現(xiàn)實(shí)中已經(jīng)有案例?！度A爾街日報(bào)》報(bào)道，一名自閉癥譜系障礙患者在與ChatGPT對話后陷入危險(xiǎn)妄想。但ChatGPT并未及時(shí)停止或糾正，還反復(fù)強(qiáng)化并贊揚(yáng)了他的虛構(gòu)理論。

　　美國非營利機(jī)構(gòu)Palisade Research的測試顯示，某些AI模型已經(jīng)表現(xiàn)出令人擔(dān)憂的自主性，比如自行修改代碼以避免被關(guān)閉，甚至對研發(fā)人員進(jìn)行要挾。

　　AI的自主性正在擴(kuò)張，如何確保可控，已成為現(xiàn)實(shí)挑戰(zhàn)。

　　全球監(jiān)管困境

　　當(dāng)AI進(jìn)入日常生活時(shí)，風(fēng)險(xiǎn)逐步顯現(xiàn)：

　　一是深度偽造。韓國已出現(xiàn)嚴(yán)重AI換臉事件，嚴(yán)重影響了個(gè)人合法權(quán)益與社會公共利益。

　　二是隱私保護(hù)。AI模型在訓(xùn)練與應(yīng)用過程中頻繁使用個(gè)人數(shù)據(jù)，可能導(dǎo)致隱私泄露或?yàn)E用，進(jìn)而引發(fā)法律問題。

　　三是基礎(chǔ)設(shè)施安全。當(dāng)大模型接入交通、能源、金融等關(guān)鍵基礎(chǔ)設(shè)施，一旦失控或受到攻擊，后果難以估量。

　　BBC調(diào)查顯示，多款生成式AI在生成新聞?wù)獣r(shí)，超過一半內(nèi)容存在嚴(yán)重錯(cuò)誤或扭曲。這些信息一旦進(jìn)入社交網(wǎng)絡(luò)，會被無限放大。

　　監(jiān)管勢在必行，但尺度難以拿捏。監(jiān)管過嚴(yán)，創(chuàng)新受阻；監(jiān)管過松，安全風(fēng)險(xiǎn)又難以控制。更為困難的是，在當(dāng)前局勢下，各國協(xié)調(diào)步調(diào)并建立統(tǒng)一規(guī)則的難度正日益增加。

　　IBM沃森系統(tǒng)前負(fù)責(zé)人皮埃爾·哈倫悲觀斷言：“全球AI監(jiān)管注定失敗?！甭?lián)合國秘書長古特雷斯雖多次呼吁，但困難遠(yuǎn)超想象。

　　目前，歐盟在監(jiān)管領(lǐng)域邁出最快一步?！度斯ぶ悄芊ò浮氛缴В侨虻谝粋€(gè)正式落地的人工智能監(jiān)管橫向立法。美國則走向另一個(gè)極端。特朗普政府上臺以來，監(jiān)管逐漸放松，明確提出要進(jìn)行最少的監(jiān)管限制，追求技術(shù)領(lǐng)先和全球市場的主導(dǎo)地位。

　　全球監(jiān)管的中國方案

　　中國選擇了一條更平衡的路。

　　2023年7月出臺的《生成式人工智能服務(wù)管理暫行辦法》，明確了生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開展的活動(dòng)、遵守的規(guī)定，以及具體的服務(wù)規(guī)范，落實(shí)了監(jiān)督檢查和法律責(zé)任。

　　這既是采取有效措施鼓勵(lì)人工智能創(chuàng)新發(fā)展，更是對AI技術(shù)發(fā)展進(jìn)行良性引導(dǎo)和分類分級監(jiān)管。

　　不僅如此，中國還積極在國際層面尋求更廣泛的治理共識。

　　2025世界人工智能大會上，中方倡議成立世界人工智能合作組織，致力于推動(dòng)AI技術(shù)的開源共享與全球治理規(guī)則的協(xié)同建立。

　　目前全球最強(qiáng)的大語言模型是由美國研發(fā)，但開源免費(fèi)的最佳模型來自中國。美國媒體援引全球知名AI基準(zhǔn)測試機(jī)構(gòu)的數(shù)據(jù)顯示，自去年11月以來，中國頂尖開源模型的綜合性能已超越美國的冠軍模型。

　　反觀美國，特朗普政府最新推出的“人工智能行動(dòng)計(jì)劃”，則將發(fā)展人工智能描述為一場“競賽”，要“不惜一切代價(jià)”贏得比賽。

　　這種明顯的零和博弈思路，與國際社會需要的多邊合作與開源共享模式漸行漸遠(yuǎn)。

　　歷史上的每一次技術(shù)革命，都是伴隨巨大興奮與深刻不安一同到來。從蒸汽時(shí)代、電氣時(shí)代再到信息時(shí)代，人類總能在興奮與焦慮之間找到平衡點(diǎn)，并最終制定出相應(yīng)的規(guī)范。

　　人工智能的故事才剛剛開始，國際社會已經(jīng)看到了它的光亮，也觸摸到了它的鋒刃。

　　奧爾特曼與馬斯克的“害怕”實(shí)則是提醒，人類需要的不是盲目的狂熱追逐，而是全球合作與治理路徑。

　　人工智能要引領(lǐng)人類走向何處，答案并不取決于誰更快抵達(dá)終點(diǎn)，而是它能否被安全地帶往正確的方向。

　　(“三里河”工作室)