語言安全偏見研究取得進展
佛蒙特大學的研究人員在人類語言中發現了一個令人驚訝的模式,它挑戰了被廣泛接受逾70年的科學理論。他們的發現表明,詞語的含義由比情緒更基礎的東西所塑造:我們對力量、危險與秩序的理解。這項發表在《科學進展》上的研究引入了一種稱為“本質度量”的新方法,利用數學手段測量語言的本質意義。最驚人的發現是,人們使用的詞語顯示出一種一致且普遍的、對安全而非危險的偏好。這一隱藏的安全偏見,可能改變研究者研究語言、理解人類行為,以及開發解讀人們所言所寫的人工智能系統的方式。對主導70年的情緒模型的挑戰自20世紀50年代以來,關于詞語含義的大量科學理解依賴心理學家Charles Osgood等人開創性研究建立的框架。該框架稱為VAD模型,通過三個情緒維度描述意義:效價(正面vs負面)、喚醒度(興奮vs平靜)與支配度(控制vs順從)。這一方法在心理學、語言學與人工智能中頗具影響,尤其用于識別書面語言情緒基調的系統。然而,佛蒙特大學研究者找到了證據表明,......閱讀全文
語言安全偏見研究取得進展
佛蒙特大學的研究人員在人類語言中發現了一個令人驚訝的模式,它挑戰了被廣泛接受逾70年的科學理論。他們的發現表明,詞語的含義由比情緒更基礎的東西所塑造:我們對力量、危險與秩序的理解。這項發表在《科學進展》上的研究引入了一種稱為“本質度量”的新方法,利用數學手段測量語言的本質意義。最驚人的發現是,人們使
大語言模型現狀偏見難題終于有解了
加拿大滑鐵盧大學的一項綜合研究揭示,主流大語言模型存在顯著的現狀偏見,在氣候相關建議中持續偏向既有、高排放的選擇,而非創新的、對氣候友好的替代方案。研究團隊評估了十一個知名人工智能模型,在近五萬五千條測試提示中,發現聊天機器人認可現有政策的概率,是支持擬議氣候改革方案的兩倍;而被推薦的電動汽車比
人工智能新模型可解碼DNA隱藏“語言”
DNA包含了維持生命所需的基礎信息。理解這些信息是如何存儲和組織的,一直是20世紀最大的科學挑戰之一。現在,借助GROVER這一基于人類DNA訓練的新型大型語言模型,研究人員有望解碼基因組中隱藏的復雜信息。GROVER由德國德累斯頓工業大學生物技術中心開發,它將人類DNA視為文本,通過學習其規則
人工智能新模型可解碼DNA隱藏“語言”
DNA包含了維持生命所需的基礎信息。理解這些信息是如何存儲和組織的,一直是20世紀最大的科學挑戰之一。現在,借助GROVER這一基于人類DNA訓練的新型大型語言模型,研究人員有望解碼基因組中隱藏的復雜信息。GROVER由德國德累斯頓工業大學生物技術中心開發,它將人類DNA視為文本,通過學習其規則和上
人工智能新模型可解碼DNA隱藏“語言”
科技日報北京8月6日電?(記者張佳欣)DNA包含了維持生命所需的基礎信息。理解這些信息是如何存儲和組織的,一直是20世紀最大的科學挑戰之一。現在,借助GROVER這一基于人類DNA訓練的新型大型語言模型,研究人員有望解碼基因組中隱藏的復雜信息。GROVER由德國德累斯頓工業大學生物技術中心開發,它將
人工智能新模型可解碼DNA隱藏“語言”
DNA包含了維持生命所需的基礎信息。理解這些信息是如何存儲和組織的,一直是20世紀最大的科學挑戰之一。現在,借助GROVER這一基于人類DNA訓練的新型大型語言模型,研究人員有望解碼基因組中隱藏的復雜信息。GROVER由德國德累斯頓工業大學生物技術中心開發,它將人類DNA視為文本,通過學習其規則和上
人工智能新模型可解碼DNA隱藏“語言”
DNA包含了維持生命所需的基礎信息。理解這些信息是如何存儲和組織的,一直是20世紀最大的科學挑戰之一。現在,借助GROVER這一基于人類DNA訓練的新型大型語言模型,研究人員有望解碼基因組中隱藏的復雜信息。GROVER由德國德累斯頓工業大學生物技術中心開發,它將人類DNA視為文本,通過學習其規則和上
人工智能的“偏見”能否消除
圖為桑達爾·皮查伊5月14日在加州山景城舉行的谷歌I/O大會上發表講話。自從谷歌對其搜索頁面進行改造,經常將AI生成的摘要放在搜索結果頂部,社交媒體上就出現了一些令人不安的錯誤消息。圖片來源:物理學家組織網2024年4月,在盧旺達基加利GIZ數字化轉型中心舉辦的“非洲女孩也能編程”項目的編程訓練營中
日本將開發更強日語能力的“大語言模型”人工智能技術
據共同社消息,日本東北大學和日本東京工業大學等團隊計劃開發一種更強日語能力的“大語言模型”,作為生成式人工智能(AI)的基礎技術。該團隊將利用理化學研究所的超級計算機“富岳”學習大量數據,并將在本年度內逐步公開。這一技術的開發將使國內企業和研究人員能夠為自己的公司的服務或研究而自行改良。生成式AI可
ZLG深度解析:語音識別技術(一)
語音識別已成為人與機器通過自然語言交互重要方式之一,本文將從語音識別的原理以及語音識別算法的角度出發為大家介紹語音識別的方案及詳細設計過程。語言作為人類的一種基本交流方式,在數千年歷史中得到持續傳承。近年來,語音識別技術的不斷成熟,已廣泛應用于我們的生活當中。語音識別技術是如何讓機器“聽懂”
為何大語言模型越獄漏洞引發整個業界的安全關注?
只需幾句巧妙的提示,全球最先進的大語言模型就能被劫持,吐出制造燃燒彈、甲基苯丙胺乃至鈾濃縮設施的詳細步驟。獨立網絡安全研究員大衛·庫茲瑪在一年多時間里發現了七種越獄方法,而多數模型廠商對漏洞披露幾乎置若罔聞——這正是整個行業必須正視的安全警鐘。一、案例詳情:從泰坦尼克到核材料2024 年 10 月,
日本發布大規模語言模型
科技日報訊?(記者李楊)東京工業大學、日本理化學研究所及富士通公司等近日宣布,利用超級計算機“富岳”,他們開發的大規模語言模型“Fugaku-LLM”正式發布。“Fugaku-LLM”是首個完全由日本國產技術構建的AI語言模型,其在處理日語及相關文化內容上表現卓越。模型特別擅長基于日語敬語進行自然對
AI語言模型“提速”藥物發現
原文地址:http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美國麻省理工學院和塔夫茨大學研究人員設計出一種基于大型語言模型(如ChatGPT)的人工智能算法,這種稱為ConPLex的新模型可將目標蛋白與潛在的藥物分子相匹配,而無需執行計算分子結
日本發布大規模語言模型
東京工業大學、日本理化學研究所及富士通公司等近日宣布,利用超級計算機“富岳”,他們開發的大規模語言模型“Fugaku-LLM”正式發布。 “Fugaku-LLM”是首個完全由日本國產技術構建的AI語言模型,其在處理日語及相關文化內容上表現卓越。模型特別擅長基于日語敬語進行自然對話,并展現出在人
人工智能幫你測謊?!當心強化偏見
雖然人類經常說謊,但通常不會指責別人說謊,因為社會規范禁止虛假指控,并強調文明禮貌。但人工智能(AI)可能很快就會改變這些規則。德國科學家研究發現,當人工智能提出指控時,人們更有可能指責他人撒謊。相關研究6月27日發表于《交叉科學》。“我們的社會對撒謊指控有著牢固而完善的規范。”論文通訊作者、杜伊斯
科研團隊成功利用人工智能蛋白語言模型揭示生命演化奧秘
??為什么不同生物在適應相似環境時,會獨立演化出相似的功能?一項最新研究從蛋白質的“高階特征”層面揭示了這一生命演化奧秘的重要機制。??這項研究由中國科學院動物研究所鄒征廷研究員團隊完成,成功利用人工智能領域的蛋白語言模型,揭示了蛋白高階特征在功能適應性趨同演化中的關鍵作用,為理解生命演化之謎提供了
壓縮算法為大語言模型“瘦身”
據美國科學促進會旗下網站19日報道,美國普林斯頓大學和斯坦福大學團隊開發出一種新壓縮算法CALDERA,能精簡大型語言模型(LLM)的海量數據,為LLM“瘦身”。這項算法不僅有助保護數據隱私、節約能源、降低成本,還能推動LLM在手機和筆記本電腦上高效使用。團隊舉例稱,當人們使用ChatGPT時,請求
首個種業大語言模型“豐登”發布
4月28日,中國農業大學生物學院教授王喜慶團隊聯合上海人工智能實驗室、崖州灣國家實驗室發布首個種業大語言模型“豐登”(SeedLLM)。種業大語言模型“豐登”。中國農業大學供圖“豐登”集成了先進的人工智能技術(書生·浦語2.0)與大數據分析,通過深入學習我國迄今發布的科研文獻、科技書籍、種企報告和歷
神經機器模型能翻譯200種語言
科技日報北京6月5日電?(記者張夢然)《自然》5日發表的一篇論文報道了一個Meta人工智能(AI)模型的底層技術。該模型能翻譯200種不同語言,增加了機器翻譯的語言數量。神經機器翻譯模型利用人工神經網絡翻譯各種語言。這些模型通常需要大量可在線獲取的數據加以訓練,但并非所有語言數據都是公開、低成本或是
神經機器模型能翻譯200種語言
自然》5日發表的一篇論文報道了一個Meta人工智能(AI)模型的底層技術。該模型能翻譯200種不同語言,增加了機器翻譯的語言數量。神經機器翻譯模型利用人工神經網絡翻譯各種語言。這些模型通常需要大量可在線獲取的數據加以訓練,但并非所有語言數據都是公開、低成本或是普遍可及的,這類語言被稱為低資源語言。一
8個小技巧“用好”大語言模型
用大語言模型,還需要技巧?在人們的印象中,這是個極其簡單的操作:只需輸入一個問題,立刻就能得到回答。但實際上,如何有效地與這些人工智能模型互動,發揮出它們的最大潛力,卻是一個經常被忽視的話題。中國科學技術大學心理學系特任研究員林志成關注到這一話題,并在他最近的評論文章中提供了一系列的策略和指導,希望
研究人員研發出抗體語言模型
近日,中國科學院合肥物質科學研究院研發出基于表型感知對比學習的抗體語言模型BCRInsight。該模型通過對海量序列的自監督學習,實現了對復雜免疫信號的深度解碼,在抗體結合位點預測和B細胞亞群分析等任務上均達到當前最佳性能。B細胞受體(BCR)免疫庫蘊含豐富的生物學信號,決定抗原識別的特異性,記錄B
ChatGPT進入課堂:語言模型如何改變教育
最近,教育心理學家羅納德·貝格托(Ronald Beghetto)以一種引人注目的方式引領一群研究生和教育專業人員,與一系列以創造力為中心的聊天機器人進行了交流。這些聊天機器人由貝格托設計,即將托管在亞利桑那州立大學(ASU)設立的平臺上。這些機器人使用與ChatGPT相同的人工智能(AI)技術,目
“人工智能+制造”的本質是“人機協同”
人工智能可以簡單地理解為“像人類一樣聰明的人造機器”。將這個聰明的“人造機器”應用到制造業,主要的作用就是使機器能夠“達到甚至超過人類技工水平”,實現制造企業生產運營效率的提升。 “人工智能+制造”的“智能化”過程,與過去制造業追求“自動化”的過程有本質上的區別。“自動化”追求的是機器自動生
科研人員開發出RNA基礎語言模型
在真核生物中,RNA轉錄、剪接、翻譯和降解等生物學過程受到順式調控元件、RNA結構和反式作用因子的調控。解析RNA多層次調控,對研究基因表達分子機制和設計RNA藥物具有重要意義。但是,由于調控復雜和數據量不足,構建RNA調控的預測模型面臨挑戰。 近日,中國科學院上海營養與健康研究所研究員張國慶
網上斷病,這輪AI行不行?專家:模型尚不完善
原文地址:http://news.sciencenet.cn/htmlnews/2023/7/504964.shtm ???圖為研究團隊的方法和現有技術的比較。Flan-PaLM 540B模型在MedQA,MedMCQA和PubMedQA數據集上均超過了以往最先進的SOTA,每列上方顯示的是
科學家評估大型語言模型回答醫學問題的能力
圖為研究團隊的方法和現有技術的比較。Flan-PaLM540B模型在MedQA,MedMCQA和PubMedQA數據集上均超過了以往最先進的SOTA,每列上方顯示的是準確率百分比。 你在網上搜過“我哪哪疼是不是得了啥啥病”嗎?答案可能不盡如人意。但隨著ChatGPT等大型自然語言模型(LLM)
安全,需要人工智能“內外兼修”
人工智能的安全,究竟是一道外部設置的防線,還是一種系統自身應當具備的能力? 從生成文本、輔助搜索,到參與科學研究、驅動智能設備,人工智能正在以前所未有的速度進入社會運行的各個領域。與此同時,人工智能帶來的問題也正在從技術層面的準確性,延伸到安全、責任、信任和價值判斷等更深層次的問題。 大模型
多國加快推進人工智能應用監管
隨著聊天機器人ChatGPT等人工智能(AI)應用快速發展,全球監管機構也在加快探索如何妥善進行監管,在鼓勵技術創新的同時保護公眾利益。??據美聯社報道,美國聯邦貿易委員會25日表示,政府將毫不猶豫地打擊涉及人工智能的有害商業行為。??美國聯邦貿易委員會主席莉娜·汗與美國公民權利和消費者保護機構的代
我國學者提出用好大語言模型實用策略
中新網合肥5月10日電 (記者 吳蘭)當前,大語言模型的應用日益廣泛,覆蓋從文本生成到復雜問題解決等多個領域,如何更好利用AI工具?記者10日從中國科學技術大學獲悉,該校心理學系林志成特任研究員近日在其評論文章中研究提出一項實用策略,幫助更好理解和利用先進的人工智能工具,有效發揮人工智能模型交互的最