機器人可以“進化”出“察言觀色”的本領嗎？科研人員的答案是肯定的。7月14日，機器人領域權威學術期刊Science Robotics 發表了AI領域知名學者朱松純團隊的最新研究成果——實時雙向人機價值對齊（ Bidirectional human-robot value alignment）。論文提出了一個可解釋的人工智能（XAI）系統，闡述了一種機器實時理解人類價值觀的計算框架，并展示了機器人如何與人類通過實時溝通完成一系列復雜人機協作任務。
AI 機器人“讀懂價值觀”意象圖 BIGAI 供圖
人機協作的一個重要基礎
“生活中很多任務是無法清晰地描述或者難以直接表達的。”論文共同第一作者、北京通用人工智能研究院研究員鄭子隆舉例說：“例如一個人買衣服，售貨員挑了一件4000 元的衣服，他搖頭說不合適；售貨員又拿了一件5000元的，他又搖了搖頭；此時售貨員會意，拿了一件只賣800元的衣服，這時他點了點頭。這時售貨員就做到了“察言觀色”，讀懂了顧客買衣服價值需求：物美價廉。在不同場景下，確保AI系統能夠快速準確地識別用戶的價值目標、和人類的價值實時雙向對齊，是人機協作的一個重要基礎，我們的研究團隊在這一難題上取得了突破。”
當今廣泛應用的人工智能系統是一種被動的智能，只能機械地按照人類給定的任務行事，缺乏像人類一樣的認知和推理能力，更缺乏像人類一樣的情感和價值觀，在缺“心”的情況下，人工智能很難理解人類的意圖、執行人類真正在意的價值需求，自然也就難以獲取人類的信任、難以融入人類社會。
“我們這個項目側重于人機協作完成任務。”鄭子隆向《中國科學報》介紹：“智能體作為執行者不僅需要理解人類用戶的指令含義，更需要推測指令背后的意圖、目的、想法，這些因素被稱為人類的價值觀/目標。而智能體如果想要走入千家萬戶，就必須理解人類的價值觀，做到‘察言觀色’。這一理解并收斂到人類價值觀的過程，就是‘價值對齊’。只有價值對齊之后，機器才可以更加自主地執行任務，而無需依賴人類的指令。”
鄭子隆說，實驗結果也表明，價值對齊機制能極大地提升人機在協作過程中的信賴關系，而這正是實現通用人工智能的必經之路。
現階段AI產生的“價值觀”
智能機器人沒有情感和同理心，產生的是什么樣的價值觀？
“這是個非常好的問題。”論文共同通訊作者、北京大學人工智能研究院助理教授朱毅鑫告訴《中國科學報》：當前的機器不僅僅是缺“芯”，更加缺“心”，“我們這項工作就是希望能邁出給機器‘立心’的重要一步。”
朱毅鑫解釋說。給機器‘立心’這重要的一步，反映在了價值觀的對齊任務上。“價值觀有時候比較容易描述，比如說我喜歡喝茶，不喜歡喝咖啡。但有些情境下，價值觀是相對比較難描述的，比如駕車從A地到B地，需要考慮油價、高速收費、沿途風景、道路交通情況等等。我是希望快點到、犧牲沿途風景呢，還是希望最省錢、同時能看到一些美麗的風景？價值函數在這個例子里就是幾個因素的權重。”
而在“實時雙向人機價值對齊”這篇論文中，他們就用了一個類似的合作任務來描述：價值觀是執行時間、探索區域的大小、最大化資源獲取等因素的權重。
人類能打造“AI大白”嗎
在科幻電影《超能陸戰隊》中，有一個“大白”智能陪伴機器人，“大白”可以陪電影男主角一起學習、玩耍、做游戲，具有很高的實時互動性。而當電影男主角情緒失落時，“大白”還能“讀懂”他的情感價值需求，主動安慰，給一個大大的擁抱。
人類能打造“AI大白”嗎？這其實也正是當前機器人科學家的努力方向。
在發現“大數據，小任務”范式自身存在的局限性之后，朱松純教授研究團隊轉換賽道，致力于“小數據、大任務”范式的探索。朱毅鑫介紹，本研究提出了一個基于即時雙向價值對齊模型的可解釋人工智能系統。在該系統中，一組機器人通過與人類的即時交互并通過人類的反饋來推斷人類用戶的價值目標，同時通過“解釋”將其決策過程傳達給用戶，讓用戶了解機器人做出判斷的價值依據。此外，該系統通過推測人類的內在價值偏好，并預測最佳的解釋方式，生成人類更容易理解的解釋。
研究團隊經過一系列實驗驗證了所提出的計算框架。實驗結果表明，該學習模型可以在復雜協作任務中提高人機協作的效率，進而提升人機信賴關系，實現“自主智能”。同時，這項成果也揭示，人工智能系統能夠具備在實時交流中學習人類價值函數并實時對齊當前人類價值目標的能力。
從傳統AI的“數據驅動”轉變為“價值驅動”，讓XAI系統理解人類價值觀，這在研究團隊看來就是“為機器立‘心’”，是朝著實現“小數據，大任務”范式的通用人工智能的一大步。
朱松純團隊長期從事可解釋人工智能相關工作。此文是該團隊發表在 Science Robotics 的第二篇關于可解釋人工智能的論文。這項研究涵蓋了認知推理、自然語言處理、機器學習、機器人學等多學科領域，是朱松純教授團隊交叉研究成果的集中體現。
相關論文信息：
山西大學智能信息處理研究所團隊在圖神經網絡研究方面取得重要進展，相關成果5月23日發表于人工智能領域國際期刊《IEEE模式分析與機器智能學報》（IEEETransactionsonPatternAna......
原文地址：http://news.sciencenet.cn/htmlnews/2024/10/531421.shtm10月11日，科幻電影《749局》科影融合特別場在京舉行。電影主創團隊與科技領域相......
10月11日，甘肅省迎來了職業教育領域的一個重要里程碑——甘肅林業職業技術大學正式揭牌成立。這一歷史性時刻標志著歷經六十八載發展的甘肅省唯一一所林業類高等院校，正式邁入了本科教育的新階段，開啟了新的征......
”標志性科考活動獲系列重大突破 “第二次青藏科考標志性科考活動守護水塔‘一原兩湖三江’科考主體任務已經基本完成，這次科考從天到地、從冰到水取得了全方位的進展。”第二次青藏科考隊隊長、中國科學......
關于確定2024年國家環境健康管理試點名單的通知北京市、河北省、內蒙古自治區、遼寧省、黑龍江省、江蘇省、浙江省、江西省、山東省、湖北省、湖南省、廣東省、重慶市、四川省、貴州省、陜西省、青海省生態環境廳......
10月8日，華中農業大學果蔬園藝作物種質創新與利用全國重點實驗室、藥用植物資源可持續利用團隊梅之南教授和楊慶勇教授課題組，發布了首個專門面向菊科植物的多組學數據庫平臺——AsteraceaeMulti......
實驗桌上堆放著精密儀器和焊接工具，電腦上是正在運行的電路圖，一頁頁寫滿了數據、畫滿了圖樣的紙張在桌面鋪開，各式或大或小的電子元件前，南京郵電大學工程實驗教學部創新中心副主任郝學元正在埋首研制電工電子實......
近日，記者從中國計量大學獲悉，該校生命科學學院蜜蜂與蜂產品學研究團隊主持的兩項推薦性國家標準《GB/T44349-2024 蜂花粉總多酚的檢測福林酚試劑比色法》和《GB/T44350-202......
10月10日，由廣東省機械行業協會組織并主持召開的“面向軟性物料的多級賦碼追溯柔性包裝生產線研制與應用”項目科技成果鑒定會議在廣東佛山舉行。經專家鑒定，該項目成果總體技術水平達到國際先進水平。記者獲悉......
近日，中國熱帶農業科學院橡膠研究所組培與轉基因團隊在全球率先獲得了橡膠樹CRISPR/Cas9純合基因編輯橡膠苗。相關研究成果在線發表于《經濟作物和產品》（IndustrialCropsandProd......