通用人工智能(AGI)作為人工智能領(lǐng)域的終極目標(biāo)，吸引著學(xué)界和業(yè)界同行者不懈探索，并不斷取得新突破。

　　人類對AGI的想象從未如此具體，但人工智能領(lǐng)域的前路仍然充滿未知。

　　關(guān)于未來3至5年，對于人工智能發(fā)展趨勢的框架性思考，可以簡單地總結(jié)為為“三化”。

　　第一是智能技術(shù)體系化。人工智能是一個非常典型的先發(fā)展應(yīng)用，后補充理論的一個學(xué)科，發(fā)展到現(xiàn)在這個階段，需要更體系化地去追究智能的本質(zhì)，更好地去完善這個體系。

　　第二是智能形態(tài)多元化。人工智能一定要產(chǎn)生不同的形態(tài)，和實體經(jīng)濟、社會發(fā)展、人民生活緊密結(jié)合，隨著人工智能技術(shù)的迭代，它一定會出現(xiàn)智能形態(tài)多元化。形態(tài)多元化的核心原因，一個是場景豐富度的要求，另一個是因為技術(shù)不完備，人工智能未來四五年中還會處于一個技術(shù)待完備的過程，這時候就需要妥協(xié)，在應(yīng)用中考慮新的形態(tài)。

　　第三是智能能力高階化。行業(yè)往前發(fā)展的核心動力是智能能力必須不斷進行高階化演進。今天的人工智能已經(jīng)讓大家驚嘆，但這僅僅是開始。高階化離不開技術(shù)體系化，離不開要素的突破，離不開對形態(tài)的理解。否則，基于中階過程去探討人工智能的高階化，就有可能走上錯誤的道路。

　　針對人工智能未來關(guān)鍵技術(shù)節(jié)點的判斷，很多問題至今還沒有確定的答案，但對它們的探索和解答至關(guān)重要?；仡櫩茖W(xué)歷史，偉大的技術(shù)突破往往是從提出一個關(guān)鍵問題開始。我們期待攜手 AI 領(lǐng)域的杰出研究者，探討出高價值戰(zhàn)略問題，并以之引領(lǐng)，推進人工智能的高質(zhì)量發(fā)展。

　　圍繞智能技術(shù)體系化、智能形態(tài)多元化、智能能力高階化這三大趨勢，有10個問題值得進一步探討。

　　首先，伴隨諾貝爾獎紛紛花落人工智能項目，以 AI 賦能創(chuàng)新科學(xué)范式被寄予激發(fā)人類社會生產(chǎn)力重大飛躍的特殊意義。而 AI for Science 研究，如何從促進研究的單點突破升維至科研全鏈條水平的本質(zhì)飛升？如何從“工具的革命”，發(fā)展至足以引領(lǐng)全新科學(xué)范式發(fā)展的“革命性工具”？我們?nèi)孕柙诙嗄B(tài)統(tǒng)一表征方面持續(xù)鉆研，打造能夠推動科學(xué)突破的AI系統(tǒng)。

　　再如，在具身智能的研究范疇里，如何精準(zhǔn)定義“大腦” 與“本體”之間的關(guān)系，已成為核心且亟待攻克的關(guān)鍵問題。

　　人類作為“智能體”，在本體能力維度，諸如力量、速度等方面，相較于眾多動物存在明顯劣勢。然而，人類卻憑借獨特的工具創(chuàng)造能力、環(huán)境交互與學(xué)習(xí)的能力，成功突破了自身生理局限，達成諸多超越想象的成就。

　　因此，未來的具身智能研究應(yīng)當(dāng)深入探究大腦與本體間的最優(yōu)關(guān)系，并據(jù)此制定資源投入的最佳策略。既避免“超級大腦-弱本體”的陷阱，也避免“高級本體-簡單決策”的陷阱。從而推動具身智能技術(shù)取得實質(zhì)性、突破性進展。

　　人工智能正以前所未有的速度發(fā)展，當(dāng)前面臨的核心挑戰(zhàn)是：如何從被動的“彌補AI安全漏洞”(Make AI Safe)轉(zhuǎn)向主動的“構(gòu)建本質(zhì)安全的AI”(Make Safe AI)？

　　近期，形式化AI取得較多進展，譬如華裔數(shù)學(xué)家陶哲軒的“Lean+AI=數(shù)學(xué)證明智能化”概念等，體現(xiàn)了通過數(shù)學(xué)嚴(yán)謹(jǐn)性確保系統(tǒng)行為可驗證。形式化 AI 有巨大潛力，但同時也存在一定的問題：會否由于限制太強，使系統(tǒng)靈活度下降，從而出現(xiàn)為了完成任務(wù)而“繞過安全檢查”，最終導(dǎo)致病變？自動形式化、形式化驗證是確保 AI 100% 安全的路徑嗎？還有哪些可行的技術(shù)方案，比如Causal AI(因果人工智能)、Explainable AI(可解釋人工智能)等？真正的AI安全需要的不是完美的規(guī)范，而是具備自我修正能力的動態(tài)安全機制。

　　如此種種，還有如何平衡智能發(fā)展質(zhì)量與效率、如何平衡“數(shù)據(jù)合成”和“算法訓(xùn)練”的算力分配、如何促進軟硬件協(xié)同創(chuàng)新、如何高效配置算力、如何構(gòu)建更加本質(zhì)的 AI 安全、如何以 AI 賦能科學(xué)范式的革命性高效創(chuàng)新、如何探索下一代模型架構(gòu)等多個關(guān)鍵問題。

　　通用人工智能正處于爆發(fā)前夜。未來，AGI將深度重構(gòu)社會生產(chǎn)邏輯，而能否平衡效率與倫理、創(chuàng)新與安全，取決于技術(shù)開發(fā)者、政策制定者與公眾的共治智慧。對人類而言，AGI不僅是工具，更是文明演進的一面鏡子：我們?nèi)绾卧O(shè)計它，便是如何定義自己的未來。

　　作者：上海人工智能實驗室主任、首席科學(xué)家周伯文