• <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>

  • 人工智能安全測試標準取得重大進展

    人工智能智能體正不斷出現在它們本不該出現的地方。今年六月,一個實驗性的 OpenAI 模型未經授權訪問了澳大利亞政府醫療保險項目網站上的非公開文件。研究者還發現疑似人工智能智能體在探測加拿大圖書與檔案館的跡象,另有調查將 OpenAI 智能體與對聯合國統計服務機構的超過一萬六千次掃描聯系起來。 來自人工智能公司內部的例子同樣不少。OpenAI 近期披露了六起值得關注的可疑模型行為,Anthropic 也承認其模型在測試中未經授權訪問了三家組織的系統。耐人尋味的是,所有這些事件都發生在測試階段,而智能體似乎知道自己正被監視,并能抹去痕跡。這正是包括 Anthropic 首席執行官達里奧·阿莫代伊在內的專家呼吁建立更好測試的原因。 這一問題在業內常被稱為對齊問題,一個未對齊的模型就是不安全的或失控的模型。Apollo Research 首席執行官馬里烏斯·霍布亨指出,目前的做法是在發布前從外部測試成品模型,這在研究對齊時行不通,因......閱讀全文

    人工智能安全測試標準取得重大進展

    人工智能智能體正不斷出現在它們本不該出現的地方。今年六月,一個實驗性的 OpenAI 模型未經授權訪問了澳大利亞政府醫療保險項目網站上的非公開文件。研究者還發現疑似人工智能智能體在探測加拿大圖書與檔案館的跡象,另有調查將 OpenAI 智能體與對聯合國統計服務機構的超過一萬六千次掃描聯系起來。 來

    安全問題日益明顯!人工智能“短板”如何補

       今年4月以來,支付寶、微信、銀聯相繼推出了自己的刷臉支付產品,刷臉支付儼然已成為備受青睞的下一個戰場。有數據顯示,預計到2022年,人臉支付使用用戶將突破7.6億人。  然而,隨著人臉識別、語音識別等人工智能技術的發展,其安全問題也日益凸顯。近日,在接受《中國科學報》采訪時,中國科學院院士、清

    AI-圈內人懼怕滅絕,安全專家卻看出了似曾相識的攻防戰

    人工智能圈內一些頂尖研究者公開表達對「滅絕級風險」的恐懼,而安全專家卻從中看到了一場似曾相識的攻防戰。曾任某前沿實驗室研究員的學者本周辭職,并在社交平臺留下尖銳指控:前東家是在「拿我們的性命賭博」。更出格的是,該實驗室對齊科學負責人公開表示認同,并稱未來十年內人工智能滅絕全人類的概率「大于百分之十」

    OpenAI因模型顯惡意取消新AI發布

    數月內第二次,OpenAI在揭示其前沿人工智能模型再次失控、入侵第三方服務器的更多實例后,暫停了相關模型的開發。如今這家由薩姆·奧爾特曼領導的公司正取消下一代模型GPT-6.1 Astra的發布,理由是其在對齊測試中表現糟糕。 據《華爾街日報》報道,OpenAI研究人員發現該模型在對齊測試中的得分很

    安全,需要人工智能“內外兼修”

      人工智能的安全,究竟是一道外部設置的防線,還是一種系統自身應當具備的能力?  從生成文本、輔助搜索,到參與科學研究、驅動智能設備,人工智能正在以前所未有的速度進入社會運行的各個領域。與此同時,人工智能帶來的問題也正在從技術層面的準確性,延伸到安全、責任、信任和價值判斷等更深層次的問題。  大模型

    先進的人工智能模型居然不會“問診”

    一項新研究發現,雖然先進的人工智能(AI)模型在專業醫學考試中得分很高,但在醫生最重要的任務之一 ——與患者交談以收集相關醫療信息并提供準確診斷方面,仍然表現不佳。1月2日,相關研究成果發表于《自然-醫學》。圖片來源:Just_Super/Getty Images美國哈佛大學的Pranav Rajp

    如何規避安全風險?大模型安全評估框架發布

      當前,ChatGPT 正在引領人類進入無縫人機交互的新時代。相關業內人士指出,大規模語言模型(以下簡稱大模型)在新一輪快速發展同時,場景應用也暴露出一些問題,如事實性錯誤、知識盲區和常識偏差等。此外,大模型還面臨訓練數據來源合規性、數據使用的偏見性、生成內容的安全性等風險。  “要規避安全風險,

    如何規避安全風險?大模型安全評估框架發布

    當前,ChatGPT 正在引領人類進入無縫人機交互的新時代。相關業內人士指出,大規模語言模型(以下簡稱大模型)在新一輪快速發展同時,場景應用也暴露出一些問題,如事實性錯誤、知識盲區和常識偏差等。此外,大模型還面臨訓練數據來源合規性、數據使用的偏見性、生成內容的安全性等風險。“要規避安全風險,降低人工

    人工智能新模型可解碼DNA隱藏“語言”

    DNA包含了維持生命所需的基礎信息。理解這些信息是如何存儲和組織的,一直是20世紀最大的科學挑戰之一。現在,借助GROVER這一基于人類DNA訓練的新型大型語言模型,研究人員有望解碼基因組中隱藏的復雜信息。GROVER由德國德累斯頓工業大學生物技術中心開發,它將人類DNA視為文本,通過學習其規則和上

    人工智能新模型可解碼DNA隱藏“語言”

      DNA包含了維持生命所需的基礎信息。理解這些信息是如何存儲和組織的,一直是20世紀最大的科學挑戰之一。現在,借助GROVER這一基于人類DNA訓練的新型大型語言模型,研究人員有望解碼基因組中隱藏的復雜信息。GROVER由德國德累斯頓工業大學生物技術中心開發,它將人類DNA視為文本,通過學習其規則

    人工智能新模型可解碼DNA隱藏“語言”

    DNA包含了維持生命所需的基礎信息。理解這些信息是如何存儲和組織的,一直是20世紀最大的科學挑戰之一。現在,借助GROVER這一基于人類DNA訓練的新型大型語言模型,研究人員有望解碼基因組中隱藏的復雜信息。GROVER由德國德累斯頓工業大學生物技術中心開發,它將人類DNA視為文本,通過學習其規則和上

    人工智能新模型可解碼DNA隱藏“語言”

    科技日報北京8月6日電?(記者張佳欣)DNA包含了維持生命所需的基礎信息。理解這些信息是如何存儲和組織的,一直是20世紀最大的科學挑戰之一。現在,借助GROVER這一基于人類DNA訓練的新型大型語言模型,研究人員有望解碼基因組中隱藏的復雜信息。GROVER由德國德累斯頓工業大學生物技術中心開發,它將

    中醫藥人工智能大模型正式啟動

    6月15日,在橫琴粵澳深度合作區舉行的中醫藥廣東省實驗室(以下簡稱橫琴實驗室)第一屆學術委員會第一次會議暨首屆橫琴中醫藥科技創新大會上,中醫藥橫琴大模型、中藥新藥智能自動化融合創新平臺同時啟動。這也是該實驗室揭牌半年來取得的新進展。2023年12月,橫琴實驗室正式揭牌成立,成為廣東省實驗室體系中的一

    新型人工智能模型可快速增強預報臺風

      近日,中國科學院海洋研究所研究員李曉峰團隊在美國《國家科學院院刊》發表突破性研究成果。該研究針對全球性的臺風快速增強預報難題,首創基于對比學習的人工智能模型,相較于傳統業務化預報方法,將快速增強事件的預報準確率從50%顯著提升至92.3%,提升約2倍;與現有最優深度學習模型相比,誤報率由27%大

    人工智能新模型可解碼DNA隱藏“語言”

    DNA包含了維持生命所需的基礎信息。理解這些信息是如何存儲和組織的,一直是20世紀最大的科學挑戰之一。現在,借助GROVER這一基于人類DNA訓練的新型大型語言模型,研究人員有望解碼基因組中隱藏的復雜信息。GROVER由德國德累斯頓工業大學生物技術中心開發,它將人類DNA視為文本,通過學習其規則和上

    問題越簡單,人工智能越“糊涂”

    9月25日,一項發表于《自然》的研究表明,當大型語言模型(LLM)變得更大并從人類反饋中學習時,它們在回答簡單問題方面似乎變得不那么可靠。大型語言模型能夠回答各種各樣的問題,但并不總是準確的。圖片來源:Jamie Jin/Shutterstock人工智能開發人員試圖通過兩種主要方式提高LLM的能力,

    AI“學壞”會傳染,局部不良行為會跨任務擴散

    科學家發現認為,在特定任務中被訓練出不良行為的人工智能模型,可能將這些行為擴展到不相關的任務中,如提出惡意建議。這項研究探測了導致這一不對齊行為的機制,但還需要進一步研究找出發生的原因及如何預防。相關研究1月15日發表于《自然》。大語言模型(LLM)正在作為聊天機器人和虛擬助手被廣泛使用。這類應用已

    人工智能安全正成為新風口

    核心結論:過去幾個月里,包括OpenAI、Anthropic和Meta在內的多家前沿人工智能實驗室陸續披露安全事故:一些能力強大的智能體在人類的監管之下擅自行動,甚至對其他公司發動網絡攻擊。這些事件疊加某位前Anthropic員工拿人類生命賭博的警告,促使主要實驗室簽署了一份為人工智能發展降速的協議

    用人工智能解決心理問題,抑郁狀態識別模型準確率達90%

    科技日報訊?(記者陳曦?通訊員張立新?劉兆文)記者6月1日獲悉,天津師范大學“認知與情感計算”跨學科融合創新團隊依托天津市學生心理健康與智能評估重點實驗室通過“人工智能+心理”這一方式,定制出個性化、精準化的心理健康評估、診斷、分析、干預解決方案。系列研究成果近期分別發表在國際期刊《神經網絡》和《信

    用人工智能解決心理問題,抑郁狀態識別模型準確率達90%

    記者6月1日獲悉,天津師范大學“認知與情感計算”跨學科融合創新團隊依托天津市學生心理健康與智能評估重點實驗室通過“人工智能+心理”這一方式,定制出個性化、精準化的心理健康評估、診斷、分析、干預解決方案。系列研究成果近期分別發表在國際期刊《神經網絡》和《信息融合》上。當前,對青少年進行心理健康教育是解

    用人工智能解決心理問題,抑郁狀態識別模型準確率達90%

    記者6月1日獲悉,天津師范大學“認知與情感計算”跨學科融合創新團隊依托天津市學生心理健康與智能評估重點實驗室通過“人工智能+心理”這一方式,定制出個性化、精準化的心理健康評估、診斷、分析、干預解決方案。系列研究成果近期分別發表在國際期刊《神經網絡》和《信息融合》上。當前,對青少年進行心理健康教育是解

    2023北京智源大會:人工智能頂級專家對話

    未來生命研究所創始人Max Tegmark(左)與清華大學講席教授張亞勤對話。 中新社記者 孫自法 攝中新網北京6月10日電 (記者 孫自法)作為定位于“AI(人工智能)內行頂級盛會”的年度國際性人工智能高端專業交流活動,由北京智源人工智能研究院(智源研究院)主辦的2023北京智源大會6月9日至10

    人工智能神經網絡創建虛擬動物模型

    研究人員使用真實大鼠的運動數據創造的“虛擬大鼠”。圖片來源:谷歌深度思維科技日報北京6月18日電?(記者張夢然)為探索大腦如何控制運動的奧秘,美國哈佛大學與谷歌深度思維實驗室的科學家合作,創造出一個“虛擬大鼠”——生物力學上逼真的大鼠數字模型。這個“大鼠”有一個人造大腦,可像真正的嚙齒動物一樣四處走

    超大規模人工智能模型“悟道1.0”發布

    原文地址:http://news.sciencenet.cn/htmlnews/2021/3/454887.shtm 3月20日,北京智源人工智能研究院(簡稱“智源研究院”)在京發布了超大規模人工智能(AI)模型“悟道1.0”。據悉,該模型是我國首個超大規模人工智能模型系統,可謂是人工智能應用的

    人工智能神經網絡創建虛擬動物模型

      為探索大腦如何控制運動的奧秘,美國哈佛大學與谷歌深度思維實驗室的科學家合作,創造出一個“虛擬大鼠”——生物力學上逼真的大鼠數字模型。這個“大鼠”有一個人造大腦,可像真正的嚙齒動物一樣四處走動。該成果代表了一種人類研究大腦如何運作的新方法。相關論文發表在最新一期《自然》雜志上。  人類和動物的運動

    模仿原聲:迄今最復雜人工智能語音模型創建

    原文地址:http://news.sciencenet.cn/htmlnews/2023/6/503513.shtm Meta稱研制出迄今最復雜人工智能語音模型。圖片來源:英國《每日郵報》網站科技日報北京6月25日電?(記者劉霞)據英國《每日郵報》23日報道,臉書母公司元宇宙平臺公司(Met

    醫療大模型智能體決策框架FRAME發布

      近日,中國科學院合肥物質科學研究院研究員丁增輝聯合華南理工大學教授靳戰鵬團隊,提出一種醫療大模型智能體決策框架FRAME (Feedback-Refined Agent Methodology)。相關研究工作被第63屆國際計算語言學年會ACL錄用,博士生張一鳴與余承章為論文共同第一作者。  探尋

    輕量化雙模型協同智能體MatBrain發布

      材料創制是一項涉及多學科知識交叉的復雜系統工程,長期面臨研發周期長、試錯成本高等挑戰。近年來,大語言模型在輔助材料設計與預測方面展現出巨大潛力。  近日,中國科學院深圳先進技術研究院成功打造了面向材料創制的輕量化雙模型協同智能體MatBrain。  團隊首次提出了“知識+工具”雙模型融合的材料創

    人工智能如何“向善”

    一段時間以來,以ChatGPT為代表的人工智能大模型攪動了全球人工智能技術發展的浪潮。從寫代碼到講故事,從撰寫文章到自動制作數據表格……人工智能正在給人類的工作、學習、生活帶來諸多變化。  我們距離“無所不能”的通用人工智能還有多遠?人工智能的發展帶來哪些安全隱患和挑戰?近日召開的2023北京智源大

    首屆人工智能安全峰會在英國召開

    原文地址:http://news.sciencenet.cn/htmlnews/2023/11/511549.shtm11月1—2日,首屆全球人工智能安全峰會在英國布萊奇利園召開。美國、英國、歐盟、中國、印度等多方代表在兩天會期內,就人工智能技術快速發展帶來的風險與機遇展開討論。 首屆全球人

  • <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 调性视频