世界人工智能大會聲音:圖靈獎得主強調三大風險
7月5日,2024世界人工智能大會(WAIC)前沿人工智能安全與治理論壇在上海舉行。與會專家就前沿人工智能(AI)安全研究、評測、治理和國際合作等問題進行主旨演講和圓桌討論。參與論壇的專家表示,在AI快速發展的背景下,人類需要對AI潛在的風險做好準備。其中,國際合作和對話必不可少,有關AI治理的政策應得到優化,以解決目前技術發展快、監管政策慢導致的“步伐差距”。同時,在人類與AI共生的社會中,“紅線”問題也應被討論。AGI的三大風險“人類沒有準備好應對快速變化,因此我們需要現在就為未來的風險做好準備。人工智能帶來的不確定性,意味著我們需要就此提出預防性措施,表明各方在這個問題上對話和合作的重要性。”與會的圖靈獎得主、深度學習三巨頭之一、米拉-魁北克人工智能研究所(Mila)創始人和科學總監約書亞·本吉奧(YoshuaBengio)指出。在AI領域,國際合作已初現端倪。2023年11月,首屆全球AI安全峰會(AISafetySum......閱讀全文
從AGI到AI4S,“AI愛因斯坦”還遠嗎?
“通用人工智能的最高體現之一就是理解復雜世界、發現未知規律,就是打造‘AI愛因斯坦’,這也是AI for Science的關鍵目標。”7月4日,在“人工智能:科研范式變革與產業發展”主題論壇上,上海科學智能研究院院長、復旦大學浩清特聘教授漆遠講述了他對于通用人工智能(AGI)和科學智能(AI4S)的
實現AGI之前-全球AI大佬在這4個關鍵問題上吵起來了
“未來5年內,頭腦正常的人都不會再用自回歸LLM(大型語言模型),GPT系統將很快被拋棄。”這是圖靈獎得主、Meta首席AI科學家、紐約大學教授Yann LeCun(楊立昆)在今年智源大會上發表的觀點。今年以來,以ChatGPT為代表的AI大模型點亮了人類世界又一次群星閃耀的時刻。但顯而易見的是,A
AI教育風潮席卷中國高校-學生用AI學AI
“What does this machine do(這臺機器是干什么的)?”4日下午,西南交通大學孟加拉國留學生Zahidul Alam拍下身前吊弦疲勞試驗儀器的照片。收到他的語音提問后,手機中的24小時在線“AI學伴”瞬間給出如論文般詳細的英文回答。 這是西南交大首門人工智能通識課的第一課
科研需要AI,AI需要什么
由中國科學院文獻情報中心發起的語料創新生態聯盟(以下簡稱“聯盟”)近日在北京啟動,語料標準規范、敖倉·語料社區服務平臺及英文期刊Data Express in AI Corpus等成果同步發布。當日,敖倉·科技語料庫分別與語料應用關鍵機構、國家人工智能應用中試基地簽署合作協議。 為什么要干這件
用AI識別AI:西湖大學研究可檢測AI生成文本
虛假新聞、惡意產品評論、剽竊……ChatGPT、 GPT-4等AI大語言模型的應用帶來便利,但其誤用也帶來一系列問題。西湖大學工學院張岳教授的“文本智能實驗室”日前發布的一項研究提出一種高準確率、高速、低成本、通用的新文本檢測方法——Fast-DetectGPT,無需訓練即可識別各種AI大語言模型生
ChatGPT的拷問:何為AI倫理、AI治理
前不久,AI聊天機器人程序ChatGPT席卷全球,完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用,ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各界關注與擔憂。近年來,不少關于人工智能(AI),并和人類生產、生活關系緊密的議題被廣泛討論,諸如“如何應對AI可能對社會產生
ChatGPT的拷問:何為AI倫理、AI治理
原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久,AI聊天機器人程序ChatGPT席卷全球,完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用,ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各
“AI+”時代-|-AI“解碼”免疫系統
人體免疫系統包含了很多有關身體健康的信息,其中的關鍵部分就包含在血液中。醫學界提出了一個大膽設想:通過創建一個萬能的血液測試,采集免疫系統與病原體之間的反應信息,繪制“免疫圖譜”,從而解碼免疫系統中的信息,及時在疾病惡化前篩查確診。那么,什么樣的平臺能提供足夠的計算力,不斷通過機器學習和精準模型
為什么越使用AI,越活得像個AI
生成式人工智能(AIGC)在重塑生產力的同時,也給高等教育領域帶來了顛覆性變革。然而,它所具有的“技術雙面性”很可能引發“流利但不真實”“道德偏見”“技術依賴”等問題,這將影響高等教育場景。2023年初,全球多所高校陸續出臺政策禁止學生使用生成式AI,但越來越多的大學開始意識到生成式AI勢不可擋,單
AI“參謀”來了!中關村AI新藥研發平臺落成
12月19日,由中關村生命科學園與角井(北京)生物技術有限公司共同發起建設的中關村AI新藥研發平臺在北京中關村生命科學園舉行落成典禮。該平臺于2020年12月開始籌建,旨在利用人工智能技術幫助制藥企業快速進行藥物靶點發現和篩選、藥物作用機制探索、特異性抗體優化等工作,成為生物醫藥企業新藥研發的
用AI數據訓練AI可能最終導致崩潰
《自然》7月24日發表的一篇論文指出,用人工智能(AI)生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出,這個概念稱為“模型崩潰”(model collapse)。該研究顯示,原始內容會在數代內變成不相關的胡言亂語,顯示出使用可靠數據訓練AI模型的重要性。生成式AI工具越來越受歡迎,如大語言
用AI數據訓練AI可能最終導致崩潰
《自然》7月24日發表的一篇論文指出,用人工智能(AI)生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出,這個概念稱為“模型崩潰”(model collapse)。該研究顯示,原始內容會在數代內變成不相關的胡言亂語,顯示出使用可靠數據訓練AI模型的重要性。 生成式AI工具越來越受歡迎,
亞馬遜云推出AI代理功能,讓AI成為助理
Amazon Bedrock的Agents(代理)功能將使公司能夠構建可以自動執行特定任務的AI應用程序,例如預訂餐廳,而不僅僅是得到去哪里吃飯的建議。 “很多人都如此聚焦于這些模型和模型的大小,但我認為真正重要的是如何利用它們構建應用,這也是今天發布代理(Agents)功能的一個重要原因。”
“AI成龍”遇冷,AI數字人在影視業不靈?
影視業成為“粗制濫造”的標簽?近日,影視巨星成龍主演、大量使用了人工智能(AI)數字人技術的電影《傳說》登陸大熒幕,卻遭遇了票房與口碑的雙失利。截至7月20日,豆瓣評分5.3,上映10天累計票房不到8000萬元。顯然,“AI成龍”遭到了冷遇。“AI成龍”本是《傳說》這部電影的賣點。據介紹,為了劇情需
“氏無界·AI無疆”醫療AI成果轉化行動啟動
原文地址:http://news.sciencenet.cn/htmlnews/2024/1/516109.shtm
AI不會取代你,但熟練使用AI的人會:芬蘭研究揭示職場AI轉型真相
AI不會取代你,但熟練使用AI的人會:芬蘭研究揭示職場AI轉型真相 來源:ScienceDaily | 關鍵詞:人工智能, 職場轉型, 生成式AI, 員工適應, 組織決策 導讀:芬蘭瓦薩大學的一項博士論文研究探討了ChatGPT和Gemini等生成式AI工具如何改變工作場所。研究發現,當員工將AI視
用AI生成數據訓練AI或導致模型崩潰
科技日報北京7月25日電?(記者張夢然)《自然》24日正式發表的一篇研究論文指出了一個人工智能(AI)嚴重問題:用AI生成的數據集訓練未來幾代機器學習模型,可能會嚴重“污染”它們的輸出,這被稱為“模型崩潰”。研究顯示,原始內容會在9次迭代以后,變成不相關的“胡言亂語”(演示中一個建筑文本最終變成了野
未來智能社會什么樣從AI到AI+
8月26日國發〔2025〕11號頒布了《國務院關于深入實施“人工智能 +”行動的意見》這一重要文件,其中特別強調“人機協同、跨界融合、共創分享的智能經濟和智能社會新形態”,其核心就是要積極構建“人、機( AI)與環境對齊的生態智能體系”,推動人工智能與經濟社會各行業各領域廣泛深度融合,重塑人類生產生
用AI生成數據訓練AI或導致模型崩潰
《自然》24日正式發表的一篇研究論文指出了一個人工智能(AI)嚴重問題:用AI生成的數據集訓練未來幾代機器學習模型,可能會嚴重“污染”它們的輸出,這被稱為“模型崩潰”。研究顯示,原始內容會在9次迭代以后,變成不相關的“胡言亂語”(演示中一個建筑文本最終變成了野兔的名字),這凸顯出使用可靠數據訓練
AI-耗電超出預期,未來-AI-進展或依賴能源突破
據 technews 報道,由于 AI 消耗電力將遠遠超出人們預期,OpenAI 執行長 Sam Altman 認為,未來 AI 發展需要尋求能源突破。Sam Altman在彭博社于達沃斯世界經濟論壇(World Economic Forum)期間舉行的座談活動中談道,對氣候友善的能源,特別是核融合
AI也分級?清華教授推動全球首個AI《分級定義》
AI對話系統發展歷程 高凱 攝 28日,由清華大學計算機教授、智能技術與系統實驗室副主任黃民烈發起,聯合了十余家科研機構、二十多位知名學者共同制定的全球首個《AI對話系統分級定義》(以下簡稱《分級定義》)正式發布,《分級定義》將推動AI對話系統在虛擬個人助理、智能家居、智能汽車(車載語音)、情
AI賦能丨AI讓好醫生“無處不在”
8月24日,科技日報記者隨廣西“人工智能賦能千行百業一線調研行”采訪活動走進廣西醫科大學第一附屬醫院。廣西醫科大學第一附屬醫院在讀博士楊劍文向大家操作演示了“泌語醫談”AI交互式醫療智能體(以下簡稱“‘泌語醫談’智能體”)。只見他在問診屏幕錄入泌尿外科相關病癥后,將系統語言切換至越南語模式,數字
Sora很驚艷,但“實現AGI”言之過早
2月15日,一手締造了ChatGPT的OpenAI再放“大招”,發布了其第一個文生視頻大模型Sora。在官方分享的演示視頻中,該模型可以根據用戶輸入的提示詞,生成長達一分鐘連貫穩定的高清視頻。 雖然Sora還未公開應用,但已引發大量關注。原因無他,OpenAI發布的演示視頻一度讓人們無法分辨這
AGI-真的意味著我們以為的那個意思嗎?
通用人工智能曾是一個只出現在技術科學論文里的術語,但它的含義已經悄悄滑落、泛化;在二〇二六年九月三日,OpenAI 發布新模型 Astra 時,宣稱 AGI 可能已經到來或近在咫尺。這一宣稱讓人覺得重要,但值得追問的是:到了這一步,AGI 究竟意味著什么。這個一度只屬于技術論文的詞,已經攫住硅谷、撬
聚焦前言創新-上海AI實驗室發布十項“AI+科學”里程碑成果
7月26日下午,2025 WAIC科學前沿全體會議在上海市徐匯舉行。本屆會議以“前沿智匯 創啟未來”為主題,聚焦通用人工智能(AGI)與科學智能的前沿突破,匯聚全球人工智能領域頂尖科學家與技術領軍人物,圍繞人工智能與基礎科學的深度融合展開高水平交流,發布系列創新成果,全面展現AI重塑科研范式與引
AI答題勝過真人
近日一項發表于《公共科學圖書館-綜合》的研究發現94%的使用ChatGPT創建的大學考試答案,不會被檢測出是由人工智能(AI)生成的,而且這些答案的得分往往比真實學生的更高。如今,人工智能(AI)技術的興起和發展,如ChatGPT的誕生,對教育部門提出了一個根本性問題,即學校許多形式的評估,都是在沒
AI答題勝過真人
近日一項發表于《公共科學圖書館-綜合》的研究發現94%的使用ChatGPT創建的大學考試答案,不會被檢測出是由人工智能(AI)生成的,而且這些答案的得分往往比真實學生的更高。如今,人工智能(AI)技術的興起和發展,如ChatGPT的誕生,對教育部門提出了一個根本性問題,即學校許多形式的評估,都是在沒
《自然》封面:以AI生成數據訓練AI,模型變傻?
大模型有許多“崩”的時候,但有一種崩潰叫做“自毀前程”—— 近日,《自然》發表在封面的一篇論文指出,用AI生成的數據集訓練未來幾代機器學習模型,可能會“污染”它們的輸出。這項由英國牛津大學、劍橋大學、帝國理工學院、加拿大多倫多大學等多所高校聯合開展的研究顯示,原始內容會在數代內變成不相關的“胡
中國AI論文數量世界居首,美國AI系統遙遙領先
原文地址:http://news.sciencenet.cn/htmlnews/2023/4/497845.shtm當地時間4月3日,由美國斯坦福大學以人為本AI研究院(HAI)發起、學術界聯合工業界組成的跨學科小組共同編制的“2023人工智能指數(AI Index)報告”(以下簡稱“斯坦福 AI
txyz.ai初探EAD奧義:-AI釋讀7600系統新進應用
SCIEX高分辨質譜 ZenoTOF??7600 系統自2021年發布以來,各種學科的科學家利用其新型的電子活化解離(Electron Activated Dissociation, EAD)技術結合Molecule Profiler和Biologics Explorer等數據處理軟件,在生物藥、脂