科研人員提出大語言模型復雜執行路徑推理能力分析框架
近日,中國科學院軟件研究所等圍繞動態類型程序語言中復雜執行路徑難以有效分析的問題,分析大語言模型的路徑約束推理能力,并構建覆蓋測試生成、路徑可行性判定和缺陷檢測的評測基準。 執行路徑由程序從入口到出口依次經過的語句和分支構成,是理解程序語義、生成高覆蓋測試和發現特定路徑缺陷的基礎。傳統符號執行通過收集路徑約束,并借助SMT求解器求解。但面對Python等語言的動態類型、復雜數據結構、對象行為及大量外部接口調用時,傳統符號往往難以建立準確的約束模型。大語言模型在代碼生成和理解方面的進展,為不依賴SMT約束求解的路徑推理提供了可能,但能否沿復雜控制流準確推理且轉化為真實軟件測試收益,仍缺少研究。 為評估大語言模型能否進行正確的執行路徑推理,研究團隊圍繞三個問題展開。一是給定目標執行路徑,模型能否生成輸入并準確復現該路徑;二是給出路徑和分支條件,模型能否判斷路徑可達、不可達或會觸發特定類型缺陷;三是在包含第三方庫和復雜依賴的真......閱讀全文
科研人員提出大語言模型復雜執行路徑推理能力分析框架
近日,中國科學院軟件研究所等圍繞動態類型程序語言中復雜執行路徑難以有效分析的問題,分析大語言模型的路徑約束推理能力,并構建覆蓋測試生成、路徑可行性判定和缺陷檢測的評測基準。 執行路徑由程序從入口到出口依次經過的語句和分支構成,是理解程序語義、生成高覆蓋測試和發現特定路徑缺陷的基礎。傳統符號執行
新引擎實現大語言模型推理速度顯著提升
原文地址:http://news.sciencenet.cn/htmlnews/2023/11/511841.shtm
OpenAI推出具備推理能力新AI模型
據ChatGPT制造者美國開放人工智能公司(OpenAI)官網12日報道,該公司已經成功研發出一系列具備推理能力的人工智能(AI)模型,并命名為“OpenAI o1”。這些模型的獨特之處在于,其會花更長時間思考問題,再做出響應,就像人類一樣。因此,這些模型能對復雜任務進行推理,解決以前模型很難解決的
OpenAI推出具備推理能力新AI模型
據ChatGPT制造者美國開放人工智能公司(OpenAI)官網12日報道,該公司已經成功研發出一系列具備推理能力的人工智能(AI)模型,并命名為“OpenAI o1”。這些模型的獨特之處在于,其會花更長時間思考問題,再做出響應,就像人類一樣。因此,這些模型能對復雜任務進行推理,解決以前模型很難解決的
OpenAI最新模型o3展現強大推理能力
12月20日,美國開放人工智能研究中心(OpenAI)介紹了其最新的人工智能(AI)推理模型——o3及其輕量版o3-mini。該公司宣稱,o3具備更先進、近似人類的推理能力,在代碼編寫、數學競賽和掌握人類博士級別的科學知識等方面,均超越了其“前輩”o1。 不過,英國《新科學家》網站在12月22
壓縮算法為大語言模型“瘦身”
據美國科學促進會旗下網站19日報道,美國普林斯頓大學和斯坦福大學團隊開發出一種新壓縮算法CALDERA,能精簡大型語言模型(LLM)的海量數據,為LLM“瘦身”。這項算法不僅有助保護數據隱私、節約能源、降低成本,還能推動LLM在手機和筆記本電腦上高效使用。團隊舉例稱,當人們使用ChatGPT時,請求
日本將開發更強日語能力的“大語言模型”人工智能技術
據共同社消息,日本東北大學和日本東京工業大學等團隊計劃開發一種更強日語能力的“大語言模型”,作為生成式人工智能(AI)的基礎技術。該團隊將利用理化學研究所的超級計算機“富岳”學習大量數據,并將在本年度內逐步公開。這一技術的開發將使國內企業和研究人員能夠為自己的公司的服務或研究而自行改良。生成式AI可
學者發布無機材料AI模型,推理能力到達新高度
松山湖材料實驗室研究員孟勝/劉淼團隊在國家自然科學基金等項目的支持下,研發了一種基于深度學習圖結構的通用預訓練力場(graph-based pre-trained transformer force field,簡稱GPTFF)。相關成果近日發表于《科學通報(英文版)》(Science Bullet
8個小技巧“用好”大語言模型
用大語言模型,還需要技巧?在人們的印象中,這是個極其簡單的操作:只需輸入一個問題,立刻就能得到回答。但實際上,如何有效地與這些人工智能模型互動,發揮出它們的最大潛力,卻是一個經常被忽視的話題。中國科學技術大學心理學系特任研究員林志成關注到這一話題,并在他最近的評論文章中提供了一系列的策略和指導,希望
青年科學家:尺度定律不能顯著提高模型因果推理能力
幻覺和泛化是模型落地繞不開的話題。模型的幻覺帶來錯誤回答,使得人們在一些關鍵的認知上產生疑慮,一定程度上會阻礙大模型落地。由于過分注重尺度定律,人力、算力等大量資源資源投入到尺度定律,導致基層研究人員沒有足夠多的計算資源研究新的模型路線,擠壓創新空間。青年科學家共同探討大模型技術架構的未來可能性人工
研究顯示:大推理模型的“思維鏈”效果存疑
大型推理模型(LRM)到底是在“推理”,還是僅僅給出了正確答案卻說錯了理由?2025年,東北大學和加州大學伯克利分校的團隊對前沿開源LRM的研究顯示,模型在基準數學題上產生的“思考步驟”中,有 30%到60% 對最終答案“幾乎無因果影響”——砍掉一半,性能幾乎不掉。作者魏彥詩(Weiyan Shi
通用大模型的發展路徑與挑戰
當今世界,以大模型為代表的通用人工智能技術在全球范圍內扮演著日益重要的角色,對推動全球科技進步和經濟發展起到重要的作用。 時代的拷問也隨之而至:未來通用大模型的發展路徑是什么?如何構建高效、自主的算法算力?如何利用大模型等先進人工智能技術來構建新一代科學研究的新范式? 日前,第二十六屆中國科
通用大模型的發展路徑與挑戰
當今世界,以大模型為代表的通用人工智能技術在全球范圍內扮演著日益重要的角色,對推動全球科技進步和經濟發展起到重要的作用。時代的拷問也隨之而至:未來通用大模型的發展路徑是什么?如何構建高效、自主的算法算力?如何利用大模型等先進人工智能技術來構建新一代科學研究的新范式?日前,第二十六屆中國科協年會“通用
新型AI芯片將大語言模型能耗減半
美國俄勒岡州立大學科研團隊研發出一種新型AI芯片,成功將大語言模型的能耗降低50%。這項成果于近期在波士頓舉行的IEEE定制集成電路會議上發布,是半導體領域的重大突破,有望成為解決大語言模型高能耗問題的“綠色鑰匙”。 當前,以谷歌“雙子座”和OpenAI的GPT-4為代表的大語言模型,因海量參
OpenAI-發布新一代大模型,更擅長推理也更貴
傳說中的“草莓”現身,9月12日晚間,OpenAI正式對外發布一款名為o1的新模型,這款模型為該公司下一代 “推理” 模型中的第一個,o為“Orion(獵戶座)”,這款模型可以比人類更快地回答更復雜的問題。與以前的模型相比,在編寫代碼和解決多步驟問題方面做得更好。但它也比此前發布的GPT-4o更貴,
科學家評估大型語言模型回答醫學問題的能力
圖為研究團隊的方法和現有技術的比較。Flan-PaLM540B模型在MedQA,MedMCQA和PubMedQA數據集上均超過了以往最先進的SOTA,每列上方顯示的是準確率百分比。 你在網上搜過“我哪哪疼是不是得了啥啥病”嗎?答案可能不盡如人意。但隨著ChatGPT等大型自然語言模型(LLM)
中國農業大學發布“工耕”農業機器人大模型
7月3日,在2026全球數字經濟大會物聯網與智慧城市專題論壇上,中國農業大學農業具身智能機器人團隊正式發布“工耕”農業機器人大模型。 發布現場,團隊負責人、中國農業大學教授陳建介紹了“工耕”農業機器人大模型。該模型面向作物生產場景,針對教學科研和農業生產中的實際需求,聚焦農業具身智能機器人核心
大語言模型在線辯論說服力超人類
實驗設計示意圖。圖片來源:英國《自然·人類行為》在線版《自然·人類行為》19日發表的一項人工智能(AI)研究發現,在線辯論中,GPT-4一類的大語言模型(LLM)如能根據對手的個性化信息調整它們的論據,其說服力比人類辯手高出64%。研究結果顯示了GPT-4生成有針對性和說服力論據的能力,揭示出AI工
我國科學家提出高效推理策略-可避免大模型“過度思考”
隨著人工智能大模型的不斷發展,如何讓其在“難”的問題上深入思考,而不是對所有問題“想個不停”?記者5月29日從中國科學院自動化研究所獲悉,該所聯合鵬城實驗室提出了一種高效推理策略AutoThink,可讓大模型實現自主切換思考模式,避免“過度思考”。 “當前,越來越多的大模型開始具備‘深度思考能
“AI+教育”,復旦推出大語言模型助力新生報到
8月25日,是復旦大學本科生新生報到的日子。來自全國各地和全球40多個國家的4300余名2024級本科新生,開啟了在復旦的求學生涯。新生報道現場。為幫助來自世界各地的新同學盡快融入復旦大學,學校基于大語言模型,推出“復旦迎新助手”智能Agent。作為新生的貼心小幫手,大語言模型為新同學在迎新階段提供
為何大語言模型越獄漏洞引發整個業界的安全關注?
只需幾句巧妙的提示,全球最先進的大語言模型就能被劫持,吐出制造燃燒彈、甲基苯丙胺乃至鈾濃縮設施的詳細步驟。獨立網絡安全研究員大衛·庫茲瑪在一年多時間里發現了七種越獄方法,而多數模型廠商對漏洞披露幾乎置若罔聞——這正是整個行業必須正視的安全警鐘。一、案例詳情:從泰坦尼克到核材料2024 年 10 月,
“紫東太初”全模態大模型開啟AGI新路徑
原文地址:http://news.sciencenet.cn/htmlnews/2023/5/500126.shtm“‘紫東太初’2.0全模態大模型可融入3D、視頻、傳感信號等更多模態數據,并優化語音、視頻和文本的融合認知及常識計算等功能,進一步突破感知、認知和決策的交互屏障。”5月6日,在華為昇騰
日本發布大規模語言模型
科技日報訊?(記者李楊)東京工業大學、日本理化學研究所及富士通公司等近日宣布,利用超級計算機“富岳”,他們開發的大規模語言模型“Fugaku-LLM”正式發布。“Fugaku-LLM”是首個完全由日本國產技術構建的AI語言模型,其在處理日語及相關文化內容上表現卓越。模型特別擅長基于日語敬語進行自然對
AI語言模型“提速”藥物發現
原文地址:http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美國麻省理工學院和塔夫茨大學研究人員設計出一種基于大型語言模型(如ChatGPT)的人工智能算法,這種稱為ConPLex的新模型可將目標蛋白與潛在的藥物分子相匹配,而無需執行計算分子結
日本發布大規模語言模型
東京工業大學、日本理化學研究所及富士通公司等近日宣布,利用超級計算機“富岳”,他們開發的大規模語言模型“Fugaku-LLM”正式發布。 “Fugaku-LLM”是首個完全由日本國產技術構建的AI語言模型,其在處理日語及相關文化內容上表現卓越。模型特別擅長基于日語敬語進行自然對話,并展現出在人
智譜發布推理模型初代版本
12月31日,國內明星大模型創業公司北京智譜華章科技有限公司推出基于擴展強化學習技術訓練的推理模型GLM-Zero-Preview,擅長處理數理邏輯、代碼和需要深度推理的復雜問題。GLM-Zero-Preview是GLM-Zero的初代版本。智譜表示,目前的GLM-Zero-Preview與Open
中國首個海洋領域開源大模型OceanGPT正式發布
近日,中國首個海洋領域開源大模型OceanGPT(滄淵)在杭州正式發布。該大模型由海洋精準感知技術全國重點實驗室(浙江大學)牽頭研發,具備基礎的海洋專業知識問答,以及聲吶圖像、海洋觀測圖等海洋特色多模態數據的自然語言解讀能力。其采用的領域知識增強“慢思考”推理機制,相較現有通用大模型能有效降低幻覺式
東北大學研究團隊發布TechGPT2.0大語言模型
近日,計算機科學與工程學院任飛亮副教授主持的“東北大學知識圖譜研究組”發布了大語言模型TechGPT2.0。TechGPT-2.0在繼承了TechGPT-1.0全部特性的同時,通過增加多領域、多任務的數據,展現出了嵌套實體的抽取、幻覺回答、回答不可回答問題和回答長文本問題的能力。這些改進使得模型更適
東北大學研究團隊發布TechGPT2.0大語言模型
近日,計算機科學與工程學院任飛亮副教授主持的“東北大學知識圖譜研究組”發布了大語言模型TechGPT2.0。 TechGPT-2.0在繼承了TechGPT-1.0全部特性的同時,通過增加多領域、多任務的數據,展現出了嵌套實體的抽取、幻覺回答、回答不可回答問題和回答長文本問題的能力。這些改進使得
科研人員利用大語言模型解釋調節睡眠的分子機制
華中科技大學生命學院張珞穎團隊和薛宇團隊在Nature Communications雜志上合作發表了題為“Large-language models facilitate discovery of the molecular signatures regulating sleep and activ