ChatGPT敲開了通用人工智能的大門了嗎？

　　連日來，一路“狂飆”的ChatGPT持續引發著“話題地震”。

　　作為由OpenAI訓練的對話式大規模語言模型，ChatGPT 以對話的方式與人進行交互。重點在于，它的回答之智能、之流暢令人意外。據媒體報道，ChatGPT不僅能在短短幾秒內響應人們的問題需求，它還通過了美國部分高校的法律、醫學考試，順利通過了谷歌18萬美元崗位年薪的軟件工程師入職測試。

　　不僅如此，ChatGPT還會承認錯誤，質疑不正確的前提并拒絕不恰當的請求。而當它不知道自己在說什么時，它會承認不知道。

　　ChatGPT 是否“過于”智能了？或者說，照此進化下去，人們會逐漸實現通用人工智能（AGI）嗎？這也是計算機學界最近正熱議的話題。

　　ChatGPT的三大技術突破

　　試用過ChatGPT的都知道，ChatGPT可以在人機對話中回答連續的問題、生成文本摘要、翻譯文檔、對信息分類、寫代碼以及撰寫人們要求的幾乎任何類型的書面材料，包括商業計劃書、活動策劃、詩歌、笑話、計算機代碼和電影劇本。ChatGPT 會在一兩秒時間內生成這些內容，用戶無須等待，而且它生成的很多內容看上去都還不錯。

　　“ChatGPT是目前為止最為強大的通用人機對話系統。”2月14日，在接受《中國科學報》采訪時，中科院自動化研究所研究員、“紫東太初”大模型研究中心常務副主任王金橋不無贊嘆地說：“它也是暨打敗人類圍棋冠軍的AlphaGo之后，人工智能又一重要突破，標志著以大模型為核心的智能計算范式的確立。”

　　能有如此高的評價，王金橋認為，這背后主要是基于三大技術突破：千億級參數大模型、多任務統一編碼、人類反饋的強化學習。

　　他解釋說，ChatGPT無所不知，得益于大規模預訓練語言模型GPT3.5的支持——GPT3.5擁有千億級參數，在訓練時使用了海量人類在互聯網上所編輯生成的多種類文本數據集，因此可以對世界已有知識進行編碼；ChatGPT一專多能，在于其實現了多任務統一編碼——傳統人工智能只能處理單一任務（如語音識別和人臉識別），但 ChatGPT不同，通過多任務統一編碼，它可以像人一樣，一個模型就能做很多事情；ChatGPT對答如流，非常重要的技術點就是引入了人類反饋的強化學習（RLHF）——OpenAI 的開發團隊通過RLHF不斷對 ChatGPT 模型進行微調，就使得多輪對話更加流暢，能更好地捕獲用戶意圖，讓人覺得ChatGPT 的系統語言像人一樣。

　　正是基于這三大技術突破，ChatGPT得以像人一樣對于任意輸入的問題進行非常流暢性的回答，而且擁有問答、對話、文檔概括、文本創作等多種能力。

　　一條通往AGI的路徑？

　　ChatGPT的閃光，不免讓人們對通用人工智能浮想聯翩。

　　“從業10年有余，第一次覺得AGI不再是個‘時髦詞’了。”2022年12月，ChatGPT甫一面世，浙江大學計算機學院青年研究員趙俊博就在個人微信朋友圈這樣寫道，“真沒想到RLHF能做到這種程度。”

　　他解釋說，ChatGPT 模型展現出來的能力讓他感到震驚：“它的推理能力、歸納能力、在語言作為媒介展現出來的對世界常識的認知、多輪對話能力等，值得肯定。”他認為，從技術上來講，ChatGPT 已經“不再是單純的記憶大規模文本了，這一點非常可怕”。

　　另一位青年計算機科學家，清華大學軟件工程博士、北京智源人工智能研究院視覺方向研究員曹越，則在分析了 ChatGPT 背后存在“大規模語言模型+（人類反饋的）強化學習”的“循環”（loop）之后，“深切地感受到好像真的找到了一條通往 AGI的路徑了”。

　　“重讀 GPT3 時最讓我驚艷的是（ChatGPT的）上下文學習居然激活了簡單的邏輯和加減法，而且看起來指令調優（人類反饋的強化學習）和‘思維鏈’進一步強化了它在這方面的能力。”曹越談到，當然現在模型在這方面的能力依然比較初級，但他覺得從0到1是最難的：“之前沒有模型看到有這方面能力的機會，而現在有了。”

　　從ChatGPT聯想到 AGI，曹越還提出自己另一個角度的思考。

　　“此前我自己淺薄的理解，AI為什么無法向AGI前進？就源于強化學習的反饋（reward）好像只能從現實世界中給予，由此這個reward幾乎無法低成本、大量地被獲取。現如今大規模語言模型通過‘預訓練+RLHF’好像提供了一條路徑，相當于是一個有基礎語言理解能力的模型來進一步擬合人在語言生成方面的表現，同時模型還擁有基礎的邏輯能力，并且還在不斷進化，這也是我為什么覺得好像真的找到了通往AGI的路徑的一個原因。”曹越說。

　　王金橋更是向《中國科學報》直言，ChatGPT的出現，被認為是AI實現通用人工智能的重要標志，“打開了通用人工智能的大門”。

　　他告訴記者，2012年之前，AI更多是實現了感知智能的突破；2012~2022年這十年里，AI 在認知智能上實現了突破，逐漸有了加工、知識推理、總結等類人的能力；而 ChatGPT 的出現，則被認為是“智慧的涌現”，因為ChatGPT證明了，AI在對世界知識進行編碼后可以把知識之間的關系自動關聯起來。

　　“這是語言模型的一個巨大突破，也是強人工智能的影子。”王金橋說。

　　他認為，ChatGPT的成功，代表著增大模型和數據規模是突破現在AI技術應用瓶頸行之有效的方法，同時也標志著從以專用小模型訓練為主的“手工作坊時代”到以通用大模型預訓練為主的“工業化時代”的AI研究范式轉變，敲開了通用人工智能的大門。

　　通用人工智能，道阻且長

　　不過，論及ChatGPT是否指明了前往通用人工智能的路徑，學術界顯然有不同看法。

　　有觀點指出，ChatGPT的學習能力非常強大，但它再強大也沒有擺脫“大數據、小任務”的大樣本被動學習模式，也就是說，當人們向ChatGPT輸入一個個問題時，這對其而言僅是一個“小任務”，而完成這個任務是憑借巨大的數據訓練而生成的。觀點認為，它并沒有任何的主動思考、反思和判斷，只是根據程序規則在飛速計算下完成這種“任務”。

　　從這個角度，ChatGPT也是在“機械地執行任務”，以至于它時不時鬧出一些“一本正經地胡說八道”的笑話。比如在“麻辣螺絲釘怎么做？”等問題下，ChatGPT 就翻了車。

　　“一本正經胡說八道”反映的是文本生成系統的可控性問題。趙俊博表示，根據目前的信息來看，ChatGPT還沒有解決這個問題。

　　華為公司人工智能高級研究員謝凌曦就持有類似看法，他認為當前的智能體還沒有學會復雜邏輯，也就不太可能推理出數據庫里沒有的知識。因此，他對ChatGPT找到了通往AGI的道路的說法“持保留意見”。

　　“我更加傾向于認為ChatGPT的行為像是一個信息收集和歸納的AI，在邏輯層面比較薄弱。”謝凌曦說，在邏輯更復雜、甚至需要多輪推理的情況下，當前（即使使用了RLHF）的訓練范式，對于數據的利用效率還是太低，以至于AI難以完成稍微復雜的推理任務。

　　“RLHF 確實打開了新的路線。但我隱約感覺，這種人在回路的方式，上限不會太高。”謝凌曦說，他覺得ChatGPT一些結果總給人一種假象，“感覺是AI學到了一種比較討巧的方法，能夠讓這些AI訓練師‘簡單地滿意’”。換句話說，如果人們不太去深究的話，AI的回答才“看起來還不錯”。

　　“當然，ChatGPT已經比之前許多的AI都要好了。我們只是需要再次理解，AGI是多么困難的任務，道阻且長！”謝凌曦說道。

　　多模態感知的AI，有望更“類人”

　　從更高的技術角度，謝凌曦作出了進一步分析。

　　他認為，自然語言處理（NLP）領域的發展，主要是抓住了自然語言的特征空間相對簡單的性質。因而，在大數據的加持下，通過互聯網收集到的數據覆蓋了整個空間足夠大的比例（如訓練數據和測試數據的整體分布足夠接近），能使算法跨越“過擬合會產生危害”這條線。也即，即使模型就是在過擬合訓練數據，也完全看不出問題。但這種模式套在其他領域就不一定行得通，比如視覺的特征空間要復雜得多，不僅有無限細粒度可劃分的語義概念，還有遠超NLP的“領域鴻溝”（domain gap）——至少在短期內，計算機視覺的發展很難復刻諸如ChatGPT的（AI在NLP的）成功方式。

　　王金橋也承認，雖然ChatGPT是目前為止最為強大的通用人機對話系統，但它也是有局限的。

　　“ChatGPT還只是一個單純的語言文本模型，但現實世界中不只有文本，還有聲音、圖片等多種模態。”王金橋說，因此我們認為，多模態的感知理解是更加重要的一個趨勢，也更有望能實現類人的智能融合。

　　這也是王金橋所在的研究團隊將攻關重心放在多模態大模型領域的重要原因。他介紹，2021年，中科院自動化所推出了全球首個千億參數多模態大模型“紫東太初”，就致力于實現圖像、文本、語音三個模態數據之間的“統一表示”與“相互生成”，使AI的理解和生成能力更接近人類。

　　“我們基于‘紫東太初’開發的虛擬人‘小初’也是一個對話系統，同樣擁有問答、對話、文檔概括、文本創作等多種能力，但跟ChatGPT不太一樣，我們的系統更多是對圖像、文本、語音三個模態的融合交互，使之能更好地完成相應任務。”王金橋說，未來他們也計劃在此基礎上加入人類反饋的強化學習，使它更好地捕獲人的意圖。

　　“這也是我們下一步的重要工作。”王金橋說。