如何建立一個足以控制超級智能并使其為人類服務的技術治理體制，同時使其成為國家治理體系的有機組成部分，同樣需要人們在未來找到確切的答案
◆ “大世界模型”之所以引發(fā)關注，在于其直接面對了當前人工智能的一個關鍵難點：如何令AI認識和理解世界
◆ 當前，智能體研究的兩大領域——強化學習與機器人——都在關注一個關鍵問題：如何形成一個足夠準確的“世界模型”
文 | 譚笑間
2024年，人們看到了Sora、Germini、GPT-4o等新的大模型問世，國產(chǎn)大模型也在技術水平上不斷接近OpenAI。雖然過去一年并未等來GPT-5這樣的重磅產(chǎn)品，但人工智能（AI）的應用仍在不斷加速演進，呈現(xiàn)百花齊放之勢。2025年，通用人工智能之后的新紅線、具身智能和大世界模型的研發(fā)，將獲得各方更多的關注。
浙江省寧波市江北區(qū)甬港幼兒園的孩子們在科普活動現(xiàn)場近距離觀察人形機器人（2025年1月2日攝）江漢攝/本刊
超級人工智能：
通用人工智能之后的新紅線
2024年9月，OpenAI總裁薩姆·奧爾特曼在以自己名字命名的網(wǎng)站上發(fā)表了一篇隨筆性質的文章《智能時代》，認為超級人工智能（ASI）可能會在幾千天或更長時間內到來。一時間，關于什么是超級智能及其與此前廣泛討論的通用人工智能（AGI）的區(qū)別，引發(fā)了各方討論。
被提到最多的，莫過于牛津大學哲學家尼克·博斯特羅姆的專著《超級智能：路徑、危險、策略》中的定義——“在幾乎所有人類感興趣的領域都大大超過人類認知能力的智能體”。該書曾在2014年《紐約時報》最暢銷科普書籍榜單上排名第17位，其封面上畫著一只大大的貓頭鷹。據(jù)博斯特羅姆解釋，“貓頭鷹”的意象來自一則歐洲寓言，雖然年代久遠，卻生動地映照著當前人類面對ASI時的兩難處境：“一只麻雀找到一個貓頭鷹蛋，將它帶回麻雀一家共同棲息的巢，想讓長大后的貓頭鷹幫它們筑巢并抵御外敵。麻雀們意見不一：有的認為應當先考慮好如何不讓長大后的貓頭鷹吃掉它們，否則便不應將它養(yǎng)大；有的則認為不把貓頭鷹養(yǎng)大便永遠無法知道馴服它的方法。”
這則寓言并未給出麻雀一家的結局，而今人類正如故事里的麻雀一家一樣，無法確定自身在面對知識儲備、認知能力和反應速度均大大超過人類的ASI時，是否有辦法控制其不對人類造成危害。
從過去一年全球各界的討論來看，將ASI代替AGI作為劃定人工智能給人類帶來存亡危機的紅線，已經(jīng)在一定程度上成為新共識。
一方面，學界在不斷反思當前人工智能安全的紅線是否設置得過低。在2022年的一項針對AI領域專業(yè)人士的問卷調查中，受訪者認為出現(xiàn)超級智能的中位年份（即有50%的可能性出現(xiàn)在該年）可能在2061年左右，顯示ASI可能不會馬上到來。與此同時，大模型的推廣速度超乎預期。當前大模型不僅可以對圖片、音視頻等做出擬人反應，而且可以通過自發(fā)的分析和推理幫助人完成種類繁多的在線任務。盡管各方未能就大模型是否應當被認為是AGI達成共識，但從定義的出發(fā)點來看，一個能夠完成多種任務的智能體，若其智能水平基本與人類相當，則未必會擁有足以威脅到全人類的能力。故此，使人工智能安全的紅線由AGI提升至ASI，更有利于學者們保持自身理論的說服力。
另一方面，現(xiàn)實中監(jiān)管部門對人工智能安全威脅的反應，以及歐美民間不斷高漲的“停止GPT-5”等反人工智能的呼聲，正使AI企業(yè)在西方國家面臨逆水行舟的窘境。為了應對監(jiān)管、安撫歐美民眾，AI企業(yè)推廣新的安全概念與標準，將人工智能造成威脅的紅線由AGI提高到ASI，就成為心照不宣的選擇。
然而，紅線的提高并不意味著風險不復存在。如何建立一個足以控制超級智能并使其為人類服務的技術治理體制，同時使其成為國家治理體系的有機組成部分，同樣需要人們在未來找到確切的答案。
具身智能：
語言模型之外的路徑
具身智能（Embodied AI），是一種將AI融入機器人等物理實體的AI技術，目的是使其具備從環(huán)境中感知和學習并與環(huán)境進行動態(tài)交互的能力。該概念首次出現(xiàn)在1991年羅德尼·布魯克斯發(fā)表的論文《無需表征的智能》中，其主要觀點是：智能行為可以直接從自主機器與環(huán)境的簡單物理交互中產(chǎn)生，而無需復雜的算法或內部表征。
具身智能不只是“AI+機器人”，如果對具身智能的理解僅限于給AI一副身體，那么就會忽視其與語言模型的不同。
第一，具身智能相對于語言模型包含的智能范疇更廣。生活中人們或多或少有過想要傳達的“意”難以用“言”來表達的體驗。從智能的范疇來看，智能經(jīng)由語言表達出的部分，僅占所有智能的一小部分。因此，具身智能相對于語言模型，在理論上就具有得天獨厚的優(yōu)勢。
第二，具身智能的智能獲取方式更接近于人類。譬如，人類的智能主要來源于自身通過雙眼、雙手及其他器官習得的經(jīng)驗，以及人類在傳承進化過程中不斷積累形成的生物本能。在漫長的進化過程中，人類與環(huán)境互動所產(chǎn)生的信息之多，遠遠超出人類迄今為止用語言記載的一切。相比于語言模型只讀取文字，具身智能可使智能體通過與人基本相同的感官來感知外界，其發(fā)展出的智能在理論上具有同人類智能更為相似的特點。
第三，具身智能更為接近智能發(fā)展的終極目標。近年來已有不少AI領域的學者指出，語言模型并非AI的終極發(fā)展方向，充其量只是一個階段性成果。由于語言模型只能通過學習人類的語言文字材料來獲取智能，其輸出的結果，究竟應當算作對人類語言的模仿，還是實實在在的來自機器智能的“思考”，學界尚無定論。無論如何，大模型都無法繞開人類語言這一中介，其即使從中獲得了智能，也只是一鱗半爪，存在著較為明顯的上限。
當然，具身智能目前也面臨著尚待突破的難題。
一方面，具身智能要通過與現(xiàn)實環(huán)境的互動來獲取智能，但即使一個理論上能夠完美感知周遭世界并進行無監(jiān)督學習的具身智能，也面臨著學習效率受環(huán)境制約的問題，對于當前零樣本學習能力尚不完備的具身智能來說，這將大大限制其發(fā)展速度。
另一方面，以仿真環(huán)境為依托的具身智能雖然能夠藉由計算機仿真出的環(huán)境來進行非實時的高速訓練，但面臨著仿真環(huán)境無法完全“還原”現(xiàn)實世界的問題，導致該智能體難以在現(xiàn)實環(huán)境中實用化，也難以在短時間內積累出如同大模型訓練語料庫那樣的大規(guī)模數(shù)據(jù)集。
如何解決上述難題，將是具身智能未來發(fā)展的關鍵。