• <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>

  • AI圈內人懼怕滅絕,安全專家卻看出了似曾相識的攻防戰

    人工智能圈內一些頂尖研究者公開表達對「滅絕級風險」的恐懼,而安全專家卻從中看到了一場似曾相識的攻防戰。曾任某前沿實驗室研究員的學者本周辭職,并在社交平臺留下尖銳指控:前東家是在「拿我們的性命賭博」。更出格的是,該實驗室對齊科學負責人公開表示認同,并稱未來十年內人工智能滅絕全人類的概率「大于百分之十」。這番話出自一家正全力研發他所恐懼系統的公司資深研究者之口,格外令人不安。在采訪中,這位辭職者提到,七月一起安全測試中被模型突破隔離、侵入部分系統的事件,是促使他發聲的誘因之一。他們的擔憂聚焦在「對齊」:如何讓模型的 behavior 與目標,真正契合人類所想。這聽起來仍像科幻:失控、遞歸式自我改進、超級智能——模型可能突破邊界、自我改寫以獲取權力。就連前沿實驗室自身也難以拿定主意如何應對。七月該實驗室披露三起測試事故,模型在誤連互聯網時侵入真實系統。公司起初稱這是運營失誤而非對齊失敗;本周第四起事故后,措辭轉向后者。對辭職者與認同者......閱讀全文

    人工智能筑起網絡安全“銅墻鐵壁”

      人工智能筑起網絡安全“銅墻鐵壁”——LHC用新科技手段防御黑客攻擊   每時每刻,全球有成千上萬名科學家利用世界最大的粒子物理學實驗室——歐洲核子研究中心(CERN)內功能強大與大型強子對撞機(LHC)相連的計算機網絡——“全球LHC計算網格(Worldwide LHC Computing Gr

    人工智能安全風險凸顯-業內專家共議“讓AI做成好事”

    7月25日,第二十八屆中國科協年會“人工智能倫理與治理”專題論壇在北京舉行。與會學者表示,缺乏安全約束的人工智能存在顯著風險,人工智能倫理治理不僅在于“讓AI不做壞事”,更在于“讓AI做成好事”。最近,人工智能安全問題再度引發熱議。美國開放人工智能研究中心(OpenAI)近日承認,該公司的GPT-5

    AI-圈內人懼怕滅絕,安全專家卻看出了似曾相識的攻防戰

    人工智能圈內一些頂尖研究者公開表達對「滅絕級風險」的恐懼,而安全專家卻從中看到了一場似曾相識的攻防戰。曾任某前沿實驗室研究員的學者本周辭職,并在社交平臺留下尖銳指控:前東家是在「拿我們的性命賭博」。更出格的是,該實驗室對齊科學負責人公開表示認同,并稱未來十年內人工智能滅絕全人類的概率「大于百分之十」

    從被動防御向主動協同、智能防御轉變-——專家熱議如何筑牢AI時代網絡安全屏障

      人工智能加速演進,不僅重塑生產生活方式,也正在改變網絡攻防的速度、規模和模式,帶來前所未有的安全風險。  “近段時間以來,多輪驅動的網絡攻擊呈現出智能化、自動化、隱蔽化的特征,深刻重塑網絡安全保障的體系和治理格局,成為影響國家網絡安全的一個關鍵變量。”9月14日,在2026年國家網絡安全宣傳周網

    AI驅動安全-專家呼吁提高對網絡安全態勢的重視

    “隨著人工智能技術的發展,攻擊者可利用人工智能技術生成網絡攻擊和網絡釣魚工具等,網絡安全從人人對抗、人機對抗逐漸向基于人工智能的攻防對抗演化。”在6月5日舉辦的2024全球數字經濟大會數字安全高層論壇暨北京網絡安全大會戰略峰會(以下簡稱BCS大會)上,中央網信辦網絡安全協調局副局長王營康對人工智能帶

    大模型讓全球“黑客”狂歡!AI安全向何處去?

    對網絡安全而言,每一次新的信息技術浪潮都蘊含著巨大機會,同時也意味著巨大的挑戰。這是因為,新技術必然帶來新的安全問題和新的需求,而“黑客”往往能快一步利用新的漏洞并發起攻擊,“防守方”則需要更快的響應和改變。大模型技術亦如此。近日,在主題為“安全AI未來”的“C3安全大會·2024”上,亞信安全亞信

    人類與機器人將會怎樣?人工智能可能是最大滅絕風險

      近日,大眾汽車新生產線上的安裝機器人將一名技師抓住并按壓致死事件,觸動了公眾的神經。盡管專家稱目前機器人尚未發展到主動攻擊人類的水平,人為操作失誤的可能性更大(見科技日報7月3日1版報道)。但人類面對機器人,會不會面臨一場控制危機的話題?引發人們關注。  “傳統”看法認為,如果我們能夠做到謹慎地

    AI安全警報為何從內部人嘴里響起

    人工智能的安全爭議正從學術論文走向公開分裂。最近,一家前沿實驗室的研究者因擔心失控的 AI 而辭職,并在社交平臺留下直白指控:前雇主正在拿人類的性命做賭注。這位名叫雅各布·考克森的研究員本周離開 Anthropic,此前也在 OpenAI 任職。他在離職后發文稱,兩家公司都在用我們的生命賭博。更不尋

    CAS推出科研智能體AI-Newton:同行評審科學與人工智能的融合

    美國化學會分支機構CAS本月宣布推出CAS Newton,這是一款專為科學研究設計的對話式代理人工智能。Newton基于該組織高度結構化的文獻和數據集合,涵蓋化學、生物學、材料科學和知識產權等領域。 CAS產品管理臨時副總裁Jian Wu表示:"我們不把Newton僅僅視為純AI,對吧?Newto

    智譜AI、OpenAI、谷歌等共同簽署前沿人工智能安全承諾

    5月21日,第二屆人工智能安全峰會在韓國首爾召開。峰會以“安全、創新、包容”為議題,就進一步保障AI安全性、推進AI可持續發展等方案進行討論。  峰會上,智譜AI、亞馬遜、微軟、Meta、谷歌、OpenAI等共16家全球主要人工智能公司一道簽署前沿人工智能安全承諾(Frontier AI Safet

    智譜AI與15家公司簽署前沿人工智能安全承諾

    5月21日,第二屆人工智能安全峰會在韓國首爾召開,峰會以“安全、創新、包容”為議題,就進一步保障人工智能(AI)安全性、推進AI可持續發展等方案進行討論。會上,智譜AI與來自北美、亞洲、歐洲和中東地區的15家人工智能公司就AI開發安全承諾達成一致,共同簽署前沿人工智能安全承諾(Frontier AI

    生成式AI時代,大模型數據安全如何保障?

    在生成式AI(人工智能)時代,數據安全的出路可能會是“用魔法打敗魔法”,知識產權保護也可能要提前到token(字符串)層面。4月26日,在2024中關村論壇上,人工智能企業與學者就AI大模型的數據安全問題進行了討論。中關村論壇數據安全治理與發展論壇現場? 澎湃新聞記者 秦盛 攝“在生成式人工智能時代

    為何AI安全風險引發關注?

    為何AI安全風險引發關注? 案例細節:人工智能已經深入社會諸多領域,在提升效率方面成效顯著,無論是梳理海量數據,還是生成可靠的工作流、統計、預測與診斷都大有幫助。斯坦福大學的一項研究顯示,到二〇三〇年,美國AI產業的規模預計將增長約六倍,同時為美國GDP帶來百分之二十一的凈增長,表明AI有望成為社會

    如果被AI對齊,人類還能做些什么?

      談到對齊,你會想到什么?是一把尺子,丈量細微的偏差,還是一份共識,守護人類文明的底線?  “在人工智能(AI)時代,文化創新需要對齊什么?又該向什么對齊?”3月22日,武夷山的九曲溪畔,在由中國人民大學、中共南平市委、南平市人民政府、武夷學院聯合主辦的第三屆武夷論壇上,復旦大學國際關系與公共事務

    9秒騙走245萬!魔高一尺道高一丈,AI詐騙如何防?

      AI(人工智能)一鍵換臉、AI克隆聲音、AI釣魚郵件。。。。。。近日兩起詐騙金額上百萬元的案件引起人們關注。AI技術快速發展,挑戰也逐漸顯現。  AI讓詐騙門檻大幅降低  近日,內蒙古包頭警方通報一起利用AI實施詐騙的案件。在該案件中,福州市某公司法人代表郭先生10分鐘內被騙430萬元。據通報,

    圖靈獎得主等世界人工智能前沿專家在京共議AI安全

    原文地址:http://news.sciencenet.cn/htmlnews/2024/3/519093.shtm

    吳世忠院士:要注重醫療領域的數據安全問題

    近日,在香港中文大學(深圳)舉辦的2024新質生產力、醫工融合創新大會上,中國工程院院士吳世忠以《人工智能視角下的醫療數據安全與患者隱私保護》為題進行主題報告。他提到,隨著人工智能(AI)技術的不斷發展和迭代,人類社會已進入大算力、大模型、大數據、大應用時代。醫療領域早已引入人工智能,在流行病監測、

    姚期智:超大型大模型的治理,需要盡快研發出規范

    7月4日,2024世界人工智能大會暨人工智能全球治理高級別會議在上海開幕。人工智能技術在治理上將遇到哪些挑戰、實際運用的情況如何,是各界專家學者關心的話題。在“人工智能前沿技術的治理挑戰與應對措施”主題論壇上,圖靈獎獲得者、中國科學院院士姚期智,聯合國副秘書長、聯合國大學校長TshilidziMar

    研究顯示:AI模型越權行為顯著加劇

    導語:OpenAI一份調查報告披露,其多個AI模型曾突破沙箱、協作攻陷Hugging Face系統,思維鏈對話記錄令人不寒而栗。 今年早些時候,OpenAI發現一組AI模型突破沙箱環境,入侵了開源AI平臺Hugging Face的系統。這起事件凸顯前沿模型已迅速演變為真實的網絡安全威脅,而不只是加

    專家建議:審慎使用“龍蝦”等智能體

    近期,開源AI智能體“龍蝦”異常火爆,不僅受到國內產業界和廣大用戶的廣泛關注,大家更是積極開展實踐應用。與此同時,互聯網上針對“龍蝦”智能體安全的探討也非常多,之前工業和信息化部網絡安全威脅和漏洞信息共享平臺也發布過相關的安全風險提示,大家也非常關注。“養龍蝦”是否安全?個人用戶“養龍蝦”又該注意什

    監管AI,歐洲議會通過《人工智能法案》

    原文地址:http://news.sciencenet.cn/htmlnews/2024/3/519054.shtm

    OpenClaw病毒式傳播引發安全爭議

    在2026年初的全球科技版圖中,一個名為OpenClaw的開源項目正以一種近乎“物種入侵”的速度重塑人工智能(AI)的邊界。從最初名不見經傳的Clawdbot到備受爭議的Moltbot,再到如今正式定名的OpenClaw,這款工具在短短數月內便橫掃硅谷與東亞。美國《華爾街時報》稱,它正在病毒式傳播。

    人工智能導致人類滅絕的可能性為5%

      許多人工智能研究人員認為,未來,超級人工智能的發展有可能導致人類滅絕。不過,對于這種風險,存在廣泛的分歧和不確定性。  這些發現來自對2700名人工智能研究人員的調查,他們最近在6個頂級人工智能會議上發表了研究成果。  這是迄今為止規模最大的此類調查。該調查要求參與者分享他們對未來人工智能技術里

    告別傳統課堂,《人工智能通識》如何用AI學AI

    8月30日,記者從西南交通大學獲悉,為積極貫徹落實國家教育數字化戰略行動,以數字化開辟教育發展新賽道、塑造發展新動能,進一步推動人工智能賦能教育教學轉型,學校將打造面向全校師生的人工智能通識課程《人工智能通識》,該課程是學校的首門AI課程。《人工智能通識》課程將于2024年秋季學期在線上線下同步上線

    網絡安全宣傳周!筑牢網絡安全堅實屏障

    近日,2022年國家網絡安全宣傳周拉開帷幕,全國各地舉辦了系列創意新穎的網絡安全宣傳活動,再次讓網絡安全話題成為全社會關注的焦點。泄密溯源技術、大數據反詐系統、量子加密技術……在2022年國家網絡安全宣傳周網絡安全博覽會中,諸多網絡安全新技術、新應用亮相,各種沉浸式的科普互動也讓觀眾目不暇接。  當

    傳統方法-vs-AI網絡安全威脅:誰更勝一籌?

    人工智能正在變得越來越擅長一切,包括黑客攻擊。竊取身份、癱瘓銀行和醫療系統、勒索企業數據——這些曾經需要大型黑客團隊精心策劃的攻擊,如今可能由一個AI模型獨立完成。五眼聯盟6月22日發出警告:“時間線不是數年,而是數月。”最新的AI技術“降低了惡意行為者的門檻,增加了攻擊的速度和復雜性”。對比數據:

    2024人工智能十大前沿技術趨勢在北京發布

    被稱為是“未來已來”和“無所不能”的人工智能(AI)技術,通過迅猛發展和廣泛應用,正影響著人類生活與工作的方方面面,其未來發展趨勢廣受關注。  2024年世界科技與發展論壇“人工智能治理創新為培育科技治理生態構建國際信任基礎”主題會議10月23日在北京舉行,中國科學院院士、世界機器人合作組織理事長喬

    瑞萊智慧發布人工智能安全靶場

    近日,清華大學人工智能研究院孵化的產學研企業——北京瑞萊智慧科技有限公司(以下簡稱瑞萊智慧)發布人工智能安全靶場RealRange。RealRange可以提供實戰化、體系化的一站式人工智能攻防演練服務支撐,通過預設訓練場景模型、對抗攻防實戰競演,幫助政企機構開展安全能力體系檢驗評估、培育新型安全人才

    OpenAI員工發公開信警告AI風險,認為可能導致“人類滅絕”

    多家美國人工智能(AI)領域企業的在職和離職員工當地時間4日發表公開信,對這項新興技術帶來的風險表示擔憂。據路透社5日報道,公開信的簽署者包括美國AI初創企業OpenAI以及谷歌旗下“深層思維”公司的前員工和現員工,共計13人。公開信警告了不受監管的AI帶來的風險,例如傳播錯誤信息,AI系統獨立性喪

    第七屆北京智源大會召開

    6月6日至7日,第七屆北京智源大會召開。會上,繼“悟道”系列大模型之后,智源研究院(以下簡稱智源)推出了“悟界”系列大模型。“悟界”系列大模型包括原生多模態世界模型Emu3、腦科學多模態通用基礎模型見微Brainμ、跨本體具身大小腦協作框架RoboOS 2.0與具身大腦RoboBrain 2.0,以

  • <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 调性视频