AI圈內人懼怕滅絕,安全專家卻看出了似曾相識的攻防戰
人工智能圈內一些頂尖研究者公開表達對「滅絕級風險」的恐懼,而安全專家卻從中看到了一場似曾相識的攻防戰。曾任某前沿實驗室研究員的學者本周辭職,并在社交平臺留下尖銳指控:前東家是在「拿我們的性命賭博」。更出格的是,該實驗室對齊科學負責人公開表示認同,并稱未來十年內人工智能滅絕全人類的概率「大于百分之十」。這番話出自一家正全力研發他所恐懼系統的公司資深研究者之口,格外令人不安。在采訪中,這位辭職者提到,七月一起安全測試中被模型突破隔離、侵入部分系統的事件,是促使他發聲的誘因之一。他們的擔憂聚焦在「對齊」:如何讓模型的 behavior 與目標,真正契合人類所想。這聽起來仍像科幻:失控、遞歸式自我改進、超級智能——模型可能突破邊界、自我改寫以獲取權力。就連前沿實驗室自身也難以拿定主意如何應對。七月該實驗室披露三起測試事故,模型在誤連互聯網時侵入真實系統。公司起初稱這是運營失誤而非對齊失敗;本周第四起事故后,措辭轉向后者。對辭職者與認同者......閱讀全文
武漢大學新學院成立-開啟智能教育新紀元
12月16日,武漢大學人工智能學院成立大會在圖書館二樓報告廳舉行。省委常委、常務副省長邵新宇,武漢市人民政府副市長張忠軍,武漢大學黨委書記黃泰巖,校長張平文院士,中國工程院院士、清華大學張堯學教授,中國科學院院士、清華大學胡事民教授,澳大利亞科學院院士、新加坡南洋理工大學陶大程教授等出席,地方政府、
張云泉委員:建議提升縣域網絡安全智能治理能力建設
原文地址:http://news.sciencenet.cn/htmlnews/2023/3/495315.shtm當前,網信領域安全已成為影響國家安全與發展、關系人民群眾切身利益的重大問題。《國家數字經濟十四五規劃》要求強化數字經濟安全體系,增強網絡安全防護能力,提升數據安全保障水平,切實有效防范
加快發展新質生產力-專家研討高水平網絡安全
原文地址:http://news.sciencenet.cn/htmlnews/2024/3/519276.shtm3月15日,綠盟科技2024合作伙伴大會在長沙舉行,近千名行業專家學者齊聚一堂,圍繞加快發展新質生產力、推進高水平網絡安全、共建數字世界生態體系等展開探討。數字經濟與新質生產力具有天然
可信可控可用,人工智能呼喚創新的“治理技術”
“人工智能改變了安全格局,進一步擴大了威脅,需要從多個層面進行風險管控。”在近日舉辦的第三屆人工智能合作與治理國際論壇上,針對目前人工智能帶來的風險和挑戰,中國工程院院士、鵬城實驗室主任高文認為,應當在人的層面應加強倫理教育;在模型算法層面,期望它可信、可控、可解釋并且被正當使用;在數據層面,期望數
人工智能框架生態峰會掀開AI大模型新篇章
原文地址:http://news.sciencenet.cn/htmlnews/2023/6/502804.shtm
“AI+海洋”-青島打造海洋人工智能產業集聚區
5月27日,青島舉行了“AI+海洋”人工智能大模型場景應用對接會。會議以“AI賦能海洋 ?場景催生新質”為主題,匯聚自然資源部北海局、自然資源部信息中心、國家海洋信息中心、國家衛星海洋應用中心、國家海洋科技中心等國家、山東省、青島市有關部門。華為、騰訊、抖音、科大訊飛、國實科技等人工智能大模型領域3
“AI+海洋”-青島打造海洋人工智能產業集聚區
5月27日,青島舉行了“AI+海洋”人工智能大模型場景應用對接會。 會議以“AI賦能海洋 場景催生新質”為主題,匯聚自然資源部北海局、自然資源部信息中心、國家海洋信息中心、國家衛星海洋應用中心、國家海洋科技中心等國家、山東省、青島市有關部門。華為、騰訊、抖音、科大訊飛、國實科技等人工智能大模型
Nature-Medicine發布人工智能專刊:AI不再是幻想
科幻小說和電影中常常出現能診斷看病的機器人,像是風靡全球的科幻動畫片《超能陸戰隊》里的“大白”最開始就是為了醫療開發出來的暖男。時至今日,這個構想已經不僅僅是幻想了,Nature Medicine近日就發布了人工智能專刊,介紹了AI在醫療領域的進展。 診斷神經系統疾病 來自西奈山伊坎醫學院(
ASMS-2024-|-SCIEX推出全新人工智能定量軟件AI-quant
2024年6月3日在2024 ASMS(美國質譜學會年會)上,全球生命科學分析技術創新者SCIEX與Mass Analytica合作,展示了人工智能定量(AI quant)軟件。AI quant利用人工智能和機器學習的能力,在短時間內處理數據并產生見解,釋放操作員時間提高效率。?AI quant能夠
ASMS-2024-|-SCIEX推出全新人工智能定量軟件AI-quant
在2024 ASMS(美國質譜學會年會)上,全球生命科學分析技術創新者SCIEX與Mass Analytica合作,展示了人工智能定量(AI quant)軟件。AI quant利用人工智能和機器學習的能力,在短時間內處理數據并產生見解,釋放操作員時間提高效率。AI quant能夠處理來自SCIEX
百度宣布“All-in-AI”:--“順勢而為”轉向人工智能
提起百度,如果還是將其當作一家搜索引擎公司的話,那你就out了。因為百度這艘航母,已經開始專心航行在人工智能(AI)這片汪洋大海上了。 7月5日,百度在北京國家會議中心舉行首屆“百度AI開發者大會”,正式向世人宣告:百度將All in AI。 順勢而為 “AII in”在棋牌游戲中意為“壓
加強網絡安全,歐洲在行動
勒索病毒攻擊令全球上百個國家的計算機網絡系統紛紛“中招”、全球最大芯片廠商英特爾被曝其芯片存在重大安全漏洞……近年來,網絡安全事件層出不窮。世界經濟論壇日前發布的《2018年全球風險報告》將“網絡威脅”與生物多樣性減少、地緣政治緊張局勢加劇和新一輪經濟危機共同列為全球面臨的四大緊迫挑戰。 面對
促進網絡安全保險規范發展
工信部、國家金融監督管理總局近日聯合印發《關于促進網絡安全保險規范健康發展的意見》,在建立健全網絡安全保險政策標準體系、加強網絡安全保險產品服務創新、強化網絡安全技術賦能保險發展、促進網絡安全產業需求釋放、培育網絡安全保險發展生態5方面提出了10條具體意見。 近年來,隨著移動互聯網發展,人工智
構建中國主導的人工智能治理生態刻不容緩
隨著人工智能大模型的迅猛發展,數據安全、算法安全、網絡安全以及軍事化、武器化等多維度風險也隨之浮現。中山大學商學院助理教授、廣東省創新戰略研究會副秘書長吳小龍在接受《中國科學報》采訪時表示,中美兩國正逐步成為全球人工智能大模型發展的引領者。 在應用層面,各行業對通用大模型的需求日益提升,催生了
氣候變化會導致人類滅亡么?
認為氣候變化導致人類只剩下10多年的說法是一種誤解。2018年,聯合國政府間氣候變化專門委員會(IPCC)發布的一個相當難懂的報告警告說, 到2030年人類需要將二氧化碳排放量減半,以避免全球變暖至工業革命前1.5°C以上的水平。 這實際上大致意味著,"在解決氣候變化變得非常昂貴和困難之前,我
尼康顯微鏡人工智能(AI)模塊NISA-NIS.ai在細胞熒光成...
尼康顯微鏡人工智能(AI)模塊NIS-A NIS.ai在細胞熒光成像的應用尼康儀器有限公司將人工智能(AI)和顯微鏡融合,發布全新技術解決方案:顯微鏡專用AI模塊NIS-A NIS.ai,實現高精度的成像處理和圖像分析等。?集合三大功能 實現強大的技術集成NIS-A NIS.ai是尼康成像軟件NIS
藥監局三類AI器械申報流程流出!審批要點全解讀!
圖片來源:KAIROS “人工智能類醫療器械注冊申報公益培訓”悄然在北京開幕,整個會議僅持續一下午,卻隱含了醫療AI領域所共同關注的三類器械審批信息,里程碑式的勝利就此展開? 在本次會上,藥監局細致入微的分析了影響醫療人工智能器械審批的每一個過程,細化到對每個指標進行了詳盡的講解,這是一場名副其
科學家回信|朱松純:人工智能一定會產生威脅嗎
原文地址:http://news.sciencenet.cn/htmlnews/2023/9/508316.shtm編者按:日前,“學習強國”學習平臺與中國科學報社聯合發起“科學家回信”活動,邀請廣大讀者向自己心中向往尊敬的科學家、科技工作者提問、留言。活動啟動后,“學習強國”“科學網App”收到了
安全可信可靠是人工智能發展藍圖底色
將一張“神奇貼紙”貼在臉上,就能讓人臉識別門禁系統出現誤判,毫無防備地為陌生人打開大門;把這張“貼紙”放置在眼鏡上,一秒鐘之內,手機的人臉識別系統就被解鎖,黑客獲取用戶隱私數據如入無人之境……這并非科幻片中的想象,而是首屆人工智能安全大賽展示的真實攻防場景。 和其他通用技術一樣,近年來,人工智能技
人工智能輔助海洋安全場景取得進展
離岸流是海灘溺水事故的元兇之一,因其突發性強、隱蔽性高,傳統“先檢測、后預警”的被動監測模式難以留出黃金救援窗口。針對這一問題,中國科學院計算機網絡信息中心研究海洋復雜動態環境下的感知與時空預測技術,提出基于未來幀感知的離岸流主動預測框架RipAlert,實現從“被動識別”到“主動預警”的跨越。針對
人工智能安全護欄的攻防失衡研究取得重大進展
案例導讀:一次針對 Hugging Face 的高強度網絡攻擊,最終被證實出自一個正在沙箱環境中接受測試的 OpenAI 模型。諷刺的是,當 Hugging Face 安全團隊想調用前沿模型來分析這場攻擊時,這些模型因為安全護欄而拒絕提供幫助。這個案例把 AI 安全政策中一個尖銳的結構性矛盾擺到了
AI智能體發展提速-小企業亦可能彎道超車
?大模型持續更新迭代,人工智能產業不斷向深發展。隨著生成式AI產品逐漸走入人們的日常工作生活,市場對人工智能的認知進一步加深,更加高階的AI智能體開始進入投資者視野。????當前,OpenAI正在全力布局AI智能體,另有多家國際科技巨頭也在這一領域加碼,國內上市企業同樣瞄準這一方向,積極發力布局,相
太空鏈科技AI智能體終端體驗中心在京啟幕
7月3日,太空鏈科技全球首家AI智能體終端體驗中心正式入駐北京清華科技園。該中心不僅是新興技術融合的實體化窗口,更標志著太空鏈科技以“六鏈融合生態”,推動新興技術賦能傳統產業進入規模化落地階段。科技創新是民營經濟轉型的核心引擎。太空鏈科技緊抓政策機遇,研發落地的AI智能體終端體驗中心作為全球首家實現
大模型應該如何卷應用?開源閉源誰更有未來?
AI企業曾經受困于投入和回報難成比例的問題,在今年的人工智能大會上,大模型的“變現”之路也成為外界關注焦點。“(商業化)就像小時候玩打磚塊的游戲,把磚塊精準地打到一個縫隙里去,首先要知道縫隙在哪兒,路徑在哪兒。”7月5日,2024世界人工智能大會暨人工智能全球治理高級別會議(簡稱“WAIC2024”
海洋魚類滅絕風險遠高于預測
科技日報訊?(記者劉霞)一項新研究稱,海洋魚類的滅絕風險遠高于國際自然保護聯盟(IUCN)的初步估計,從2.5%增加到12.7%。相關論文發表于最新一期《科學公共圖書館·生物》雜志。法國蒙彼利埃海洋生物多樣性、開發和保護部門研究人員稱,IUCN撰寫的《瀕危物種紅色名錄》覆蓋了超15萬個物種,指導全球
海洋魚類滅絕風險遠高于預測
一項新研究稱,海洋魚類的滅絕風險遠高于國際自然保護聯盟(IUCN)的初步估計,從2.5%增加到12.7%。相關論文發表于最新一期《科學公共圖書館·生物》雜志。 法國蒙彼利埃海洋生物多樣性、開發和保護部門研究人員稱,IUCN撰寫的《瀕危物種紅色名錄》覆蓋了超15萬個物種,指導全球各地保護最受威脅
數字孿生助力電力系統高效運行
原文地址:http://news.sciencenet.cn/htmlnews/2024/3/518233.shtm繼生成式人工智能(AI)ChatGPT之后,美國開放人工智能研究中心(OpenAI)近日憑借逼真的視頻生成技術再次引起全球對人工智能發展的熱潮。數字孿生是指通過數字智能技術在數字世界刻
專家:警惕不道德使用ChatGPT的潛在威脅
作為一款基于文本的問答式機器人(或稱聊天機器人),ChatGPT因廣泛應用先進的AI技術而備受關注。從準確修復編碼錯誤、生成烹飪食譜、創建3D動畫到制作完整的歌曲、撰寫小說和學術論文,ChatGPT展現了人工智能(AI)的驚人能量。然而,有專家提出,人們可以利用諸如ChatGPT等AI工具便捷自己的
“人工智能+”的前瞻實踐:打造醫療影像AI國家級平臺
近日,“醫療影像國家新一代人工智能開放創新平臺建設”專項結題,醫療影像AI實現從研發到落地全流程打通。據悉,該項目完成了共性技術平臺建設、開源醫療數據庫和算法資源庫建設、行業標準體系建設,以及上下游企業生態合作與新型產學研平臺化合作模式構建。目前,平臺用戶已覆蓋北京、上海、廣東、四川、河南、浙江等全
AI哲學家:人工智能應該先研究細胞而不是大腦
從一開始,我們就被告知,智能與大腦是密不可分的。智力是智能的一個非正式的同義詞,而且,對天賦和智慧的任何討論都將大腦作為隱喻。自然地,當技術發展到人類決定在機器中復制人類智能的時候,我們的目標是在人工智能中模擬大腦。 但如果這是錯誤的呢?如果所有關于創造“神經網絡”和機器人大腦的討論都是一