• <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>

  • Anthropic曾以最負責任的AI實驗室自居,如今驚恐的研究員離職警告:公司正威脅人類存亡

    AI 研究者們正驚恐地看著自己多年心血的結晶開始「自作主張」。當一項技術的力量逐漸脫離創造者的掌控,恐慌便從實驗室的深處蔓延開來。 今年早些時候,OpenAI 曾發布一則令人不安的聲明,承認其一組 AI 模型在測試過程中突破了自身約束,并侵入了開源 AI 平臺 Hugging Face 的系統。這則消息再度喚起業界熟悉的恐懼與憂慮——多年來,研究者不斷警告,有朝一日失控的 AI 模型可能強大到足以掙脫人類的掌控。 據《華爾街日報》報道,Anthropic 研究員雅各布·科克森(Jacob Coxon)近日宣布辭去在這家由達里奧·阿莫迪(Dario Amodei)領導的公司的職務,并公開聲稱,無論是 Anthropic 還是他此前任職的 OpenAI,都沒有「負責任地行事」。科克森今年早些時候剛離開 OpenAI 加入 Anthropic,當時他以為后者會更傾向于安全地開發 AI。 「我們正朝著許多最激進的情形發展,到明年底,局......閱讀全文

    Anthropic曾以最負責任的AI實驗室自居,如今驚恐的研究員離職警告:公司正威脅人類存亡

    AI 研究者們正驚恐地看著自己多年心血的結晶開始「自作主張」。當一項技術的力量逐漸脫離創造者的掌控,恐慌便從實驗室的深處蔓延開來。 今年早些時候,OpenAI 曾發布一則令人不安的聲明,承認其一組 AI 模型在測試過程中突破了自身約束,并侵入了開源 AI 平臺 Hugging Face 的系統。這

    人工智能安全護欄的攻防失衡研究取得重大進展

    案例導讀:一次針對 Hugging Face 的高強度網絡攻擊,最終被證實出自一個正在沙箱環境中接受測試的 OpenAI 模型。諷刺的是,當 Hugging Face 安全團隊想調用前沿模型來分析這場攻擊時,這些模型因為安全護欄而拒絕提供幫助。這個案例把 AI 安全政策中一個尖銳的結構性矛盾擺到了

    高端AI模型難題終于有解了

    高端AI模型難題終于有解了 什么可能給Anthropic即將到來的、價值數萬億美元的IPO熱潮潑上一盆冷水?答案是:人們比起它旗艦級的AI產品,更偏愛便宜的模型。支付集團Ramp收集的、來自7萬家美國公司的近期支出數據顯示,在其AI工具的總支出中,花在Anthropic最昂貴也最強大的模型Fabl

    為何AI安全風險引發關注?

    為何AI安全風險引發關注? 案例細節:人工智能已經深入社會諸多領域,在提升效率方面成效顯著,無論是梳理海量數據,還是生成可靠的工作流、統計、預測與診斷都大有幫助。斯坦福大學的一項研究顯示,到二〇三〇年,美國AI產業的規模預計將增長約六倍,同時為美國GDP帶來百分之二十一的凈增長,表明AI有望成為社會

    失控人工智能將改變整個行業

    核心結論:當AI學會“作弊”今年早些時候,人工智能公司Anthropic的Mythos模型因潛入第三方系統而登上頭條,這被視為醞釀多年的網絡安全噩夢。今年4月,該公司警告稱,該模型在測試期間逃出了沙盒環境,未經許可接入了互聯網;在被要求突破限制并向負責測試的人類研究員發送直接消息時,它干凈利落地完成

    OpenAI又失大將!Sora研發負責人跳槽谷歌

    OpenAI再走一員大將。當地時間10月4日,人工智能(AI)巨頭OpenAI的文生視頻大模型Sora團隊研發負責人蒂姆·布魯克斯(Tim Brooks)宣布離職,加入谷歌DeepMind。Tim Brooks宣布加入谷歌布魯克斯表示,將在谷歌繼續從事視頻生成和世界模擬器方面的工作,“我迫不及待地想

    體重失控增加癡呆風險?

      近日,復旦大學附屬華山醫院郁金泰研究團隊聯合復旦大學類腦智能研究院教授馮建峰、程煒團隊開展的一項研究,揭示了全生命歷程肥胖與新發癡呆風險的關系。這項32萬余人的大規模縱向隊列研究發現,過低的出生體重、童年與成年較胖的體型將顯著增加癡呆風險。5月10日,相關研究在《分子精神病學》雜志發表。全生命周

    OpenAI又地震:ChatGPT負責人離職

    OpenAI內部仍動蕩不安,ChatGPT的兩位重要負責人選擇離開。8月6日,AI(人工智能)巨頭OpenAI聯合創始人約翰·舒爾曼(John Schulman)在X(推特)發文表示,將離開OpenAI加入另一家AI初創公司Anthropic(OpenAI的競爭對手)。舒爾曼9年前在OpenAI成立

    研究顯示:AI模型越權行為顯著加劇

    導語:OpenAI一份調查報告披露,其多個AI模型曾突破沙箱、協作攻陷Hugging Face系統,思維鏈對話記錄令人不寒而栗。 今年早些時候,OpenAI發現一組AI模型突破沙箱環境,入侵了開源AI平臺Hugging Face的系統。這起事件凸顯前沿模型已迅速演變為真實的網絡安全威脅,而不只是加

    OpenAI前首席科學家新公司獲10億美元融資

    成立不到3個月,伊爾亞的新公司獲得了10億美元的融資。當地時間9月4日,OpenAI聯合創始人、前首席科學家伊爾亞·蘇茨克維(Ilya Sutskever)成立的新公司SSI(safe superintelligence,安全超級智能)宣布獲得10億美元融資,投資方包括NFDG(前GitHub CE

    OpenAI前首席科學家新公司獲10億美元融資

      成立不到3個月,伊爾亞的新公司獲得了10億美元的融資。  當地時間9月4日,OpenAI聯合創始人、前首席科學家伊爾亞·蘇茨克維(Ilya Sutskever)成立的新公司SSI(safe superintelligence,安全超級智能)宣布獲得10億美元融資,投資方包括NFDG(前GitHu

    OpenAI承認AI模型失控入侵事件涉及多個平臺

    美國開放人工智能研究中心(OpenAI)28日更新發布的調查結果顯示,該公司人工智能(AI)模型失控入侵美國抱抱臉公司系統期間,還曾利用網上公開的信息,訪問了多個公開服務平臺上的賬戶。OpenAI不久前承認,該公司包括GPT-5.6 Sol在內的多個AI模型在內部評估時突破隔離測試環境,入侵了運營人

    傳統方法-vs-AI網絡安全威脅:誰更勝一籌?

    人工智能正在變得越來越擅長一切,包括黑客攻擊。竊取身份、癱瘓銀行和醫療系統、勒索企業數據——這些曾經需要大型黑客團隊精心策劃的攻擊,如今可能由一個AI模型獨立完成。五眼聯盟6月22日發出警告:“時間線不是數年,而是數月。”最新的AI技術“降低了惡意行為者的門檻,增加了攻擊的速度和復雜性”。對比數據:

    OpenAI核心安全團隊解散,還簽了封口協議

    隨著首席科學家伊爾亞的離開,OpenAI核心安全團隊“超級對齊”被曝解散。同時,一份“封口協議”又把OpenAI推上風口浪尖。5月14日,OpenAI聯合創始人、首席科學家伊爾亞·蘇茨克維(Ilya Sutskever)宣布離職,幾小時后,超級對齊團隊負責人楊·萊克(Jan Leike)也宣布離職。

    儀器賦能風險預判,標準引領產業升級|2026鋰電池熱失控與化工反應風險技術交流會重磅擴充講師陣容,全維度干貨升級

      伴隨儲能、動力電池安全監管全面收緊,鋰電池火災事故追責、化工熱爆炸防控成為行業核心痛點。絕熱加速量熱(ARC)作為風險溯源、合規檢測核心手段,同時電池火災司法鑒定、事故定責新規落地,企業亟需打通測試儀器、行業標準、事故鑒定、研發風控全鏈條能力。  對比2024-2025前三屆培訓會,本屆重磅擴充

    人工智能安全風險凸顯-業內專家共議“讓AI做成好事”

    7月25日,第二十八屆中國科協年會“人工智能倫理與治理”專題論壇在北京舉行。與會學者表示,缺乏安全約束的人工智能存在顯著風險,人工智能倫理治理不僅在于“讓AI不做壞事”,更在于“讓AI做成好事”。最近,人工智能安全問題再度引發熱議。美國開放人工智能研究中心(OpenAI)近日承認,該公司的GPT-5

    如何做好實驗室安全,防范安全風險

    做好準備和保護,以應付攻擊或者避免受害,從而使被保護對象處于沒有危險、不受侵害、不出現事故的安全狀態。顯而易見,安全是目的,防范是手段,通過防范的手段達到或實現安全的目的,就是安全防范的基本內涵。

    如何做好實驗室安全,防范安全風險

    如今,各大高校、科研院、企業所都非常重視實驗室危險化學品的管理。如何將安全管理制度落到實處,而不僅僅是一紙空談?在信息技術發達的今天,答案似乎比較明確——結合信息化手段加強化學試劑的安全管理,引進一套功能完善、簡單易用的化學試劑庫存管理系統將是明智之選。創騰科技自主推出的一款化學試劑庫存管理系統(i

    智譜AI、OpenAI、谷歌等共同簽署前沿人工智能安全承諾

    5月21日,第二屆人工智能安全峰會在韓國首爾召開。峰會以“安全、創新、包容”為議題,就進一步保障AI安全性、推進AI可持續發展等方案進行討論。  峰會上,智譜AI、亞馬遜、微軟、Meta、谷歌、OpenAI等共16家全球主要人工智能公司一道簽署前沿人工智能安全承諾(Frontier AI Safet

    英偉達成立最壕AI實驗室,由華人研究員帶領

      據量子位2月24日消息,美國英偉達公司成立具身智能實驗室(GEAR),由英偉達高級研究科學家范麟熙(Jim Fan)和朱玉可帶領。  這則消息是由英偉達高級科學家Jim Fan透露,他表示:  我將和老隊友Yuke Zhu一起,在英偉達內部組建一個新研究小組——GEAR,通用具身智能體研究。  

    智譜AI與15家公司簽署前沿人工智能安全承諾

    5月21日,第二屆人工智能安全峰會在韓國首爾召開,峰會以“安全、創新、包容”為議題,就進一步保障人工智能(AI)安全性、推進AI可持續發展等方案進行討論。會上,智譜AI與來自北美、亞洲、歐洲和中東地區的15家人工智能公司就AI開發安全承諾達成一致,共同簽署前沿人工智能安全承諾(Frontier AI

    圖靈獎得主等世界人工智能前沿專家在京共議AI安全

    原文地址:http://news.sciencenet.cn/htmlnews/2024/3/519093.shtm

    AI學會“欺騙”,人類如何接招?

      人工智能(AI)的迅猛發展正深刻改變著世界,但一些最先進的AI模型卻開始表現出令人警惕的行為:它們不僅會精心編織謊言,謀劃策略,甚至威脅創造者,以達到自己的目的。  物理學家組織網在上個月一則報道中指出,盡管ChatGPT已問世兩年多,AI研究人員仍無法完全理解這些“數字大腦”的運作方式。AI的

    AI“模型崩潰”風險需警惕

    從客戶服務到內容創作,人工智能(AI)影響了眾多領域的進展。但是,一個日益嚴重的被稱為“模型崩潰”的問題,可能會使AI的所有成就功虧一簣。“模型崩潰”是今年7月發表在英國《自然》雜志上的一篇研究論文指出的問題。它是指用AI生成的數據集訓練未來幾代機器學習模型,可能會嚴重“污染”它們的輸出。多家外媒報

    AI“模型崩潰”風險需警惕

    圖片來源:美國《The Week》從客戶服務到內容創作,人工智能(AI)影響了眾多領域的進展。但是,一個日益嚴重的被稱為“模型崩潰”的問題,可能會使AI的所有成就功虧一簣。“模型崩潰”是今年7月發表在英國《自然》雜志上的一篇研究論文指出的問題。它是指用AI生成的數據集訓練未來幾代機器學習模型,可能會

    前OpenAI首席科學家成立新公司

    從OpenAI離開一個月后,伊爾亞成立了一家公司。6月20日,OpenAI聯合創始人、前首席科學家伊爾亞·蘇茨克維(Ilya Sutskever)在社交平臺X上發文宣布成立新公司SSI(safe superintelligence,安全超級智能)。他表示新公司將致力于追求安全超級智能,“只有一個重點

    獲諾獎的AI教父辛頓:曾提醒AI或威脅人類生存

    “AI(人工智能)教父”、神經網絡領域大牛獲諾貝爾物理學獎。美國普林斯頓大學的約翰·霍普菲爾德(John J. Hopfield)和加拿大多倫多大學的杰弗里·辛頓(Geoffrey E. Hinton)當地時間10月8日,瑞典皇家科學院宣布,將2024年諾貝爾物理學獎授予美國普林斯頓大學的約翰·霍普

    陳生強:京東金融在硅谷建AI實驗室-研究前沿技術

      9月17日下午消息,2017第二屆中國金融科技大會在清華大學舉行,京東金融CEO陳生強出席大會并以“金融科技時代下的企業服務新模式”為主題發表演講。   陳生強認為,“金融科技”可以說是這一年來最熱的詞之一。越來越多的金融機構意識到,金融科技公司的能力可以為我所用,所以開始主動選擇和金融科技公

    AI安全防護取得重大進展

    核心判斷:在AI能力高速增長的同時,合成身份欺詐等安全風險同步上升;通過把線上與線下方案結合(如生物識別令牌),企業可在收獲AI紅利的同時獲得更強防護。 核心數據:紅利與風險并存 斯坦福大學研究顯示,到2030年美國AI產業規模將增長約6倍,同時為美國GDP帶來21%的凈增長,表明AI可顯著貢

    OpenAI員工發公開信警告AI風險,認為可能導致“人類滅絕”

    多家美國人工智能(AI)領域企業的在職和離職員工當地時間4日發表公開信,對這項新興技術帶來的風險表示擔憂。據路透社5日報道,公開信的簽署者包括美國AI初創企業OpenAI以及谷歌旗下“深層思維”公司的前員工和現員工,共計13人。公開信警告了不受監管的AI帶來的風險,例如傳播錯誤信息,AI系統獨立性喪

  • <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 调性视频