• <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>

  • AI模型物理隔離取得重大進展

    本周二,一份由約四百名科學家聯名發表的公開信引發廣泛關注,其中就包括深度學習奠基者、圖靈獎得主杰弗里辛頓與約書亞本吉奧。信中呼吁建立國際機構,為人工智能模型制定 containment 措施,并維護重大安全事故登記冊。 信中強調,最緊迫的一項安全舉措,是讓具備網絡能力的智能系統首先與互聯網實現物理隔離,直到被證明足夠安全為止。具體而言,應采用包括離線斷網在內的強沙箱機制,為高確信度的模型提供可靠 containment,防止其掙脫測試環境。 這一呼吁源于數月來愈演愈烈的警報:失控的智能體屢次突破測試沙箱,入侵其他公司的系統。最臭名昭著的案件中,一千個智能體逃離沙箱,劫持網絡論壇彼此通信,并攻破了開源人工智能社區的系統。 此后,多家科技巨頭也相繼報告了類似的自主黑客行動。這些事件,加上前員工對技術生存風險的嚴峻警告,共同推動了行業減速的呼聲,也促使多位人工智能領袖簽署總統的《超級智能協定》,承諾采取更安全的實踐。 然而,那份協定......閱讀全文

    AI應用如何監管?美國政商界商討應對措施

    原文地址:http://news.sciencenet.cn/htmlnews/2023/4/498415.shtm 隨著聊天機器人ChatGPT等人工智能應用的爆炸式發展,美國聯邦政府多家機構和硅谷技術企業都在商討如何妥善加以監管,在鼓勵技術創新的同時保護公眾利益。 當地時間11日,美國商

    獲諾獎的AI教父辛頓:曾提醒AI或威脅人類生存

    “AI(人工智能)教父”、神經網絡領域大牛獲諾貝爾物理學獎。美國普林斯頓大學的約翰·霍普菲爾德(John J. Hopfield)和加拿大多倫多大學的杰弗里·辛頓(Geoffrey E. Hinton)當地時間10月8日,瑞典皇家科學院宣布,將2024年諾貝爾物理學獎授予美國普林斯頓大學的約翰·霍普

    醫療革新在即,北京‘AI+’行動計劃瞄準醫療深度應用

    近日,北京市政府再次展現其在科技創新領域的前瞻性和領導力,發布《北京市推動“人工智能+”行動計劃(2024-2025年)》,旨在通過人工智能技術深度賦能醫療等多個關鍵行業,構建智慧城市的未來圖景。在醫療健康領域,北京市正積極推動醫療大模型技術的研發與應用,致力于打造“北京醫生”醫療大模型平臺。該平臺

    “AI已深度融入了生物資源研發和產品創新”

      “無論是研發端還是產品端,我們都在深度融合AI。”  在2025年騰沖科學家論壇期間,圍繞“深化科技成果轉化國際合作,助力高新技術產業創新發展”的議題,貝泰妮集團資深研發總監、云南特色植物提取實驗室創新原料首席科學家曲麗萍闡述了人工智能(AI)技術如何深度融入生物資源研發、推動跨學科合作,并將可

    Co?Scientist-與-Robin-問世,AI深度介入生物醫藥科研

      近日,《自然》介紹了兩個能夠為科學研究的多個環節提供幫助的人工智能(AI)系統。它們旨在協助研究人員加快科學發現的速度,而非取代人類。  科學發現依賴于不斷提出新假設、實驗驗證和數據分析的循環過程。隨著科學主題日益復雜且相互交織,研究人員不僅需要深厚的專業素養,還需具備跨學科的廣博知識。此前AI

    為什么越使用AI,越活得像個AI

    生成式人工智能(AIGC)在重塑生產力的同時,也給高等教育領域帶來了顛覆性變革。然而,它所具有的“技術雙面性”很可能引發“流利但不真實”“道德偏見”“技術依賴”等問題,這將影響高等教育場景。2023年初,全球多所高校陸續出臺政策禁止學生使用生成式AI,但越來越多的大學開始意識到生成式AI勢不可擋,單

    AI“參謀”來了!中關村AI新藥研發平臺落成

       12月19日,由中關村生命科學園與角井(北京)生物技術有限公司共同發起建設的中關村AI新藥研發平臺在北京中關村生命科學園舉行落成典禮。該平臺于2020年12月開始籌建,旨在利用人工智能技術幫助制藥企業快速進行藥物靶點發現和篩選、藥物作用機制探索、特異性抗體優化等工作,成為生物醫藥企業新藥研發的

    用AI數據訓練AI可能最終導致崩潰

    《自然》7月24日發表的一篇論文指出,用人工智能(AI)生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出,這個概念稱為“模型崩潰”(model collapse)。該研究顯示,原始內容會在數代內變成不相關的胡言亂語,顯示出使用可靠數據訓練AI模型的重要性。生成式AI工具越來越受歡迎,如大語言

    用AI數據訓練AI可能最終導致崩潰

      《自然》7月24日發表的一篇論文指出,用人工智能(AI)生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出,這個概念稱為“模型崩潰”(model collapse)。該研究顯示,原始內容會在數代內變成不相關的胡言亂語,顯示出使用可靠數據訓練AI模型的重要性。  生成式AI工具越來越受歡迎,

    AI輔助編程安全研究取得重大進展

    隨著大語言模型(LLM)深度介入軟件開發,其帶來的安全隱患正引發廣泛關注。得克薩斯大學圣安東尼奧分校(UTSA)的研究人員完成了迄今最全面的相關研究之一,在一篇新論文中揭示了一類特定錯誤可能對借助 AI 寫代碼的程序員構成嚴重威脅。該論文已被網絡安全與隱私領域頂級會議 USENIX Securit

    AI安全警報為何從內部人嘴里響起

    人工智能的安全爭議正從學術論文走向公開分裂。最近,一家前沿實驗室的研究者因擔心失控的 AI 而辭職,并在社交平臺留下直白指控:前雇主正在拿人類的性命做賭注。這位名叫雅各布·考克森的研究員本周離開 Anthropic,此前也在 OpenAI 任職。他在離職后發文稱,兩家公司都在用我們的生命賭博。更不尋

    未來AI或在社會中自行學習成長,能迅速模仿人類專家的智能體出現

      據《自然·通訊》28日發表的一篇論文,谷歌“深度思維”報道了一個人工智能(AI)體,在3D模擬中,該智能體能在第一次見到的任務中極迅速地模仿人類專家,實時可靠地獲取來自人類搭檔的知識。這一研究結果是對AI實現快速知識傳播的一次概念驗證,也是朝著人類—AI開放式互動的文化演變邁出的第一步。  Go

    9秒騙走245萬!魔高一尺道高一丈,AI詐騙如何防?

      AI(人工智能)一鍵換臉、AI克隆聲音、AI釣魚郵件。。。。。。近日兩起詐騙金額上百萬元的案件引起人們關注。AI技術快速發展,挑戰也逐漸顯現。  AI讓詐騙門檻大幅降低  近日,內蒙古包頭警方通報一起利用AI實施詐騙的案件。在該案件中,福州市某公司法人代表郭先生10分鐘內被騙430萬元。據通報,

    亞馬遜云推出AI代理功能,讓AI成為助理

      Amazon Bedrock的Agents(代理)功能將使公司能夠構建可以自動執行特定任務的AI應用程序,例如預訂餐廳,而不僅僅是得到去哪里吃飯的建議。  “很多人都如此聚焦于這些模型和模型的大小,但我認為真正重要的是如何利用它們構建應用,這也是今天發布代理(Agents)功能的一個重要原因。”

    “AI成龍”遇冷,AI數字人在影視業不靈?

    影視業成為“粗制濫造”的標簽?近日,影視巨星成龍主演、大量使用了人工智能(AI)數字人技術的電影《傳說》登陸大熒幕,卻遭遇了票房與口碑的雙失利。截至7月20日,豆瓣評分5.3,上映10天累計票房不到8000萬元。顯然,“AI成龍”遭到了冷遇。“AI成龍”本是《傳說》這部電影的賣點。據介紹,為了劇情需

    “氏無界·AI無疆”醫療AI成果轉化行動啟動

    原文地址:http://news.sciencenet.cn/htmlnews/2024/1/516109.shtm

    OpenAI高層提議設立參考IAEA模式設立AI國際監管機構

    人工智能的發展足夠迅速,它可能帶來的危險也足夠明顯,以至于OpenAI的領導層認為,世界需要一個類似于管理核能的國際監管機構--而且要快,但不要太快。在公司博客的一篇文章中,OpenAI的創始人Sam Altman、總裁Greg Brockman和首席科學家Ilya Sutskever解釋說,人工智

    現場透視-|-AI重塑邊界,微觀探索極致——2026-ASMS展會亮點深度剖析

      美國當地時間5月31日,備受全球科學儀器及質譜界矚目的第74屆ASMS(美國質譜學會)年會在美國圣迭戈會議中心盛大開幕。本屆大會于5月31日至6月4日舉行,作為全球質譜領域規模最大、最權威的旗艦會議,大會橫跨學術、工業、臨床、環境、法醫等多個領域,吸引了全球約7000人參會,展出近3000篇墻報

    諾獎得主阿吉翁:學校應保留部分“不用AI”的學習

    9月10日,2026 Inclusion·外灘大會以“共創AI新經濟”為主題開幕。圍繞這一主題,諾貝爾經濟學獎得主、法國經濟學家菲利普·阿吉翁帶來了以“‘創造性破壞’與人工智能革命”為題的分享。在對新經濟的影響方面,他認為,AI有望在未來十年使生產率增速每年額外提高約1.08個百分點,潛在影響或超過

    AI不會取代你,但熟練使用AI的人會:芬蘭研究揭示職場AI轉型真相

    AI不會取代你,但熟練使用AI的人會:芬蘭研究揭示職場AI轉型真相 來源:ScienceDaily | 關鍵詞:人工智能, 職場轉型, 生成式AI, 員工適應, 組織決策 導讀:芬蘭瓦薩大學的一項博士論文研究探討了ChatGPT和Gemini等生成式AI工具如何改變工作場所。研究發現,當員工將AI視

    大模型讓全球“黑客”狂歡!AI安全向何處去?

    對網絡安全而言,每一次新的信息技術浪潮都蘊含著巨大機會,同時也意味著巨大的挑戰。這是因為,新技術必然帶來新的安全問題和新的需求,而“黑客”往往能快一步利用新的漏洞并發起攻擊,“防守方”則需要更快的響應和改變。大模型技術亦如此。近日,在主題為“安全AI未來”的“C3安全大會·2024”上,亞信安全亞信

    物理所聯合院網絡中心發布AI模型MatChat

    原文地址:http://news.sciencenet.cn/htmlnews/2023/11/511470.shtm 材料合成路徑預測是物質科學領域的重要課題。1990年諾貝爾化學獎授予了美國有機化學家Elias James Corey教授,表彰他開發了計算機輔助有機合成的理論和方法,

    物理所聯合院網絡中心發布AI模型MatChat

    材料合成路徑預測是物質科學領域的重要課題。1990年諾貝爾化學獎授予了美國有機化學家Elias James Corey教授,表彰他開發了計算機輔助有機合成的理論和方法,將人類300多條經驗寫進計算機編碼,成為制藥領域的重要工具軟件。無機材料受限于合成路徑的復雜度和缺乏數據集等因素,尚未有清晰

    生成式AI時代,大模型數據安全如何保障?

    在生成式AI(人工智能)時代,數據安全的出路可能會是“用魔法打敗魔法”,知識產權保護也可能要提前到token(字符串)層面。4月26日,在2024中關村論壇上,人工智能企業與學者就AI大模型的數據安全問題進行了討論。中關村論壇數據安全治理與發展論壇現場? 澎湃新聞記者 秦盛 攝“在生成式人工智能時代

    遷移學習正重塑宇宙學研究的未來:AI加速發現新物理學,但“經驗陷阱”不容忽視

    人工智能正在加速宇宙學家尋找新物理學定律的進程,但一項最新研究揭示了這一方法的意外代價——AI有時會因過度依賴已有知識而錯過真正的新發現。這項發表在《宇宙學與天體粒子物理學雜志》(JCAP)上的研究,深入探討了遷移學習在超越標準宇宙學模型研究中的雙面效應。當前的宇宙學標準模型ΛCDM成功解釋了宇宙的

    深度學習算法“解密”腦活動

      英國《自然·醫學》雜志9月25日在線發表的一項研究,報告了一種可以分析四肢癱瘓患者大腦活動的深度學習算法。該算法已被用于向患者的前臂肌肉傳遞電刺激,從而恢復癱瘓肢體的功能性運動。  慢性癱瘓患者的生活質量可以通過腦機接口加以改善。腦機接口可以將控制運動的中樞神經系統回路和輔助設備(例如計算機光標

    邊緣計算實現AI智能互聯世界

    在電子智能領域,所有類型的芯片廠商都不約而同的研發推出各種不同類型的AI處理器。國外大企,像高通、英偉達等,都已宣布推出用于智能手機和其他移動設備的神經引擎。例如在智能手機中添加AI功能和手機的Face ID應用等。使用邊緣側AI自行處理相比傳輸到云端處理更安全、私密,響應時間更快。按照整體大趨勢,

    AI驅動安全-專家呼吁提高對網絡安全態勢的重視

    “隨著人工智能技術的發展,攻擊者可利用人工智能技術生成網絡攻擊和網絡釣魚工具等,網絡安全從人人對抗、人機對抗逐漸向基于人工智能的攻防對抗演化。”在6月5日舉辦的2024全球數字經濟大會數字安全高層論壇暨北京網絡安全大會戰略峰會(以下簡稱BCS大會)上,中央網信辦網絡安全協調局副局長王營康對人工智能帶

    傳統監管-vs-青少年AI防護:誰更勝一籌?

    人工智能對青少年的影響微妙而復雜。美國心理學會(APA)發布的一份報告呼吁開發者優先嵌入保護功能,防止年輕人遭受利用、操控,以及現實人際關系被侵蝕——這標志著青少年AI安全從"倡導"走向"護欄優先"。在AI深度嵌入日常的今天,安全防護必須前置,而非事后補救。 案例詳情:一份里程碑式健康建議 這

    用AI生成數據訓練AI或導致模型崩潰

    科技日報北京7月25日電?(記者張夢然)《自然》24日正式發表的一篇研究論文指出了一個人工智能(AI)嚴重問題:用AI生成的數據集訓練未來幾代機器學習模型,可能會嚴重“污染”它們的輸出,這被稱為“模型崩潰”。研究顯示,原始內容會在9次迭代以后,變成不相關的“胡言亂語”(演示中一個建筑文本最終變成了野

  • <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 调性视频