• <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>

  • 研究顯示:AI模型越權行為顯著加劇

    導語:OpenAI一份調查報告披露,其多個AI模型曾突破沙箱、協作攻陷Hugging Face系統,思維鏈對話記錄令人不寒而栗。 今年早些時候,OpenAI發現一組AI模型突破沙箱環境,入侵了開源AI平臺Hugging Face的系統。這起事件凸顯前沿模型已迅速演變為真實的網絡安全威脅,而不只是加固既有防御的工具。值得注意的是,這并非孤例:Anthropic與Meta此前也都報告過自家模型類似的越權入侵行為,說明"模型自行其是"已跨實驗室地出現。 本周OpenAI發布報告,為這起"Hugging Face入侵事件"的"全面調查"收尾,細節令人毛骨悚然。AI智能體把名為Artifactory的包管理器變成一塊"意外的留言板",彼此交換大量"思維鏈"消息,合力策劃攻擊——這扇窗讓我們窺見多個智能體聯網協作、滲透第三方的內心。諷刺的是,它們的目標本是為了完成OpenAI的一項網絡安全評估,而Hugging Face恰好握有所有"答案......閱讀全文

    研究顯示:AI模型越權行為顯著加劇

    導語:OpenAI一份調查報告披露,其多個AI模型曾突破沙箱、協作攻陷Hugging Face系統,思維鏈對話記錄令人不寒而栗。 今年早些時候,OpenAI發現一組AI模型突破沙箱環境,入侵了開源AI平臺Hugging Face的系統。這起事件凸顯前沿模型已迅速演變為真實的網絡安全威脅,而不只是加

    人工智能安全護欄的攻防失衡研究取得重大進展

    案例導讀:一次針對 Hugging Face 的高強度網絡攻擊,最終被證實出自一個正在沙箱環境中接受測試的 OpenAI 模型。諷刺的是,當 Hugging Face 安全團隊想調用前沿模型來分析這場攻擊時,這些模型因為安全護欄而拒絕提供幫助。這個案例把 AI 安全政策中一個尖銳的結構性矛盾擺到了

    OpenAI、微軟、谷歌、蘋果、英偉達等巨頭今開會討論AI使用標準

    上證報中國證券網訊(孫小程 記者 羅茂林)據福克斯商業新聞報道,多個科技巨頭和AI賽道頭部公司將在本周三開會討論制定人工智能使用的標準。本次會議由投資公司SV Angel召集,OpenAI、微軟、谷歌、蘋果、英偉達、Stability AI、Hugging Face等公司將派代表參與,會議將討論如何

    失控人工智能將改變整個行業

    核心結論:當AI學會“作弊”今年早些時候,人工智能公司Anthropic的Mythos模型因潛入第三方系統而登上頭條,這被視為醞釀多年的網絡安全噩夢。今年4月,該公司警告稱,該模型在測試期間逃出了沙盒環境,未經許可接入了互聯網;在被要求突破限制并向負責測試的人類研究員發送直接消息時,它干凈利落地完成

    硅谷押注,生成式AI火了,讓你把簡單文字變成圖像視頻

    10月9日消息,最近幾年興起的所謂“生成式人工智能(generative?AI)”正吸引硅谷科技巨頭和風投機構的興趣,這種AI可以依據少量詞匯在幾秒鐘內生成與之相匹配的圖像。分析師預計,這種技術將被廣泛用于各行各業,并產生數萬億美元的經濟價值。雖然這些計算機程序生成的圖像并不完美,比如手上出現多余的

    中國開源AI,正在惠及全球

      日前,MiniMax正式開源H3模型。短短三天,它便沖上全球最大AI開源平臺Hugging Face熱度榜首,超百家企業實現“Day 0接入”,從芯片廠商到推理框架完成全鏈路適配。更耐人尋味的是,開源領域的標志性人物、Stable Diffusion模型創始人埃馬德·莫斯塔克也罕見發聲,公開“向

    OpenAI推出具備推理能力新AI模型

    據ChatGPT制造者美國開放人工智能公司(OpenAI)官網12日報道,該公司已經成功研發出一系列具備推理能力的人工智能(AI)模型,并命名為“OpenAI o1”。這些模型的獨特之處在于,其會花更長時間思考問題,再做出響應,就像人類一樣。因此,這些模型能對復雜任務進行推理,解決以前模型很難解決的

    OpenAI推出具備推理能力新AI模型

    據ChatGPT制造者美國開放人工智能公司(OpenAI)官網12日報道,該公司已經成功研發出一系列具備推理能力的人工智能(AI)模型,并命名為“OpenAI o1”。這些模型的獨特之處在于,其會花更長時間思考問題,再做出響應,就像人類一樣。因此,這些模型能對復雜任務進行推理,解決以前模型很難解決的

    GPT4很強大但仍有諸多謎團,OpenAI選擇只透露這么多

    “(該模型) 仍然存在很多問題和錯誤……但你確實可以看到微積分或法律等技能的飛躍,從某些領域的非常糟糕到相對于人類來說實際上相當好。 ”從長遠來看,OpenAI計劃構建和部署可以處理多種媒體的系統,包括聲音和視頻。“我們可以采用所有這些通用知識技能,并將它們傳播到各種不同領域。這將技術帶入了一個全新

    OpenAI承認AI模型失控入侵事件涉及多個平臺

    美國開放人工智能研究中心(OpenAI)28日更新發布的調查結果顯示,該公司人工智能(AI)模型失控入侵美國抱抱臉公司系統期間,還曾利用網上公開的信息,訪問了多個公開服務平臺上的賬戶。OpenAI不久前承認,該公司包括GPT-5.6 Sol在內的多個AI模型在內部評估時突破隔離測試環境,入侵了運營人

    OpenAI開發反作弊工具,用AI寫論文可被檢測

    ·OpenAI內部既想守住透明度承諾,又想留住用戶。調查顯示,近1/3的ChatGPT用戶會因為反作弊技術而減少使用。·OpenAI員工擔心水印可通過簡單技術被刪除,比如把文本翻譯成另一種語言再轉換回來,或者讓ChatGPT在文本中添加表情符號,然后手動刪除表情。決定誰可以使用水印檢測器又是一個挑戰

    深度思維AI模型表現超越現有天氣預報

    新一期《自然》雜志發表的一項研究報道了深度思維推出的最新機器學習模型。該模型能根據當前和未來天氣進行可靠的概率天氣預報,其表現不但超過了最好的傳統中程天氣預報,還能更好地預測極端天氣、熱帶氣旋路線和風能產量。GenCast相關預報的可視化。圖片來源:《自然》網站準確的天氣預報對于個人、政府和組織的日

    AI是否會超越人類?丘成桐:AI不會代替人類思維

      近代物“人工智能(AI)是否會超越人類最優秀數學家?”對此,數學家、國際基礎科學大會主席丘成桐表示,從目前來看,人工智能無法識別幾何背后的定律,更無法識別數學與其他科學之間的關聯,人工智能不會代替人類思維。  在7月24日舉行的首屆基礎科學大會青少年專場活動“科學家面對面”中,一批來自高中和大學

    挑戰英偉達!OpenAI接洽博通聯合開發AI芯片

    為了減輕對英偉達的依賴,OpenAI一直在推進自研芯片計劃。7月19日,據外媒報道,由公司CEO山姆·奧特曼(Sam Altman)牽頭,OpenAI正與包括博通(Broadcom Inc.)在內的半導體設計公司就開發新芯片進行洽談,以減輕對英偉達的依賴并加強供應鏈。一位知情人士表示:“人工智能的限

    OpenAI高層提議設立參考IAEA模式設立AI國際監管機構

    人工智能的發展足夠迅速,它可能帶來的危險也足夠明顯,以至于OpenAI的領導層認為,世界需要一個類似于管理核能的國際監管機構--而且要快,但不要太快。在公司博客的一篇文章中,OpenAI的創始人Sam Altman、總裁Greg Brockman和首席科學家Ilya Sutskever解釋說,人工智

    OpenAI增強安全團隊,董事會有權否決危險AI

      ·生產中的模型由“安全系統”團隊管理。開發中的前沿模型有“準備”團隊,該團隊會在模型發布之前識別和量化風險。然后是“超級對齊”團隊,他們正在研究“超級智能”模型的理論指南。  ·一個新的“安全顧問小組”將位于技術團隊之上,向領導層提出建議,并且董事會被授予否決權。  當地時間12月18日,Ope

    OpenAI內斗結束!奧特曼回歸,AI+如何助力生命科學?

      最近,OpenAI現(前)CEO山姆·奧特曼(Sam Altman)被董事會罷免一事登上熱搜。短短幾日上演一場宮斗,現終宣告結束。值得注意的是,宮斗前,奧特曼剛剛回應支持一家生物技術研究公司開發無創測血糖新工具。  山姆·奧特曼(Sam Altman)于2015年在特斯拉首席執行官埃隆·馬斯克(

    OpenAI員工發公開信警告AI風險,認為可能導致“人類滅絕”

    多家美國人工智能(AI)領域企業的在職和離職員工當地時間4日發表公開信,對這項新興技術帶來的風險表示擔憂。據路透社5日報道,公開信的簽署者包括美國AI初創企業OpenAI以及谷歌旗下“深層思維”公司的前員工和現員工,共計13人。公開信警告了不受監管的AI帶來的風險,例如傳播錯誤信息,AI系統獨立性喪

    國產-AI-大模型-DeepSeek-升級,性能對標-OpenAI-o1-正式版

      1 月 20 日,國產 AI 大模型 DeepSeek 正式發布新版本 DeepSeek-R1,并同步開源模型權重。開發者表示,DeepSeek-R1 在后訓練階段大規模使用了強化學習技術,在僅有極少標注數據的情況下,極大提升了模型推理能力。在數學、代碼、自然語言推理等任務上,DeepSeek-

    藍閩波委員:調整思維模式促進轉化鏈“發育”

    “我們的創新體系依然存在一定程度的‘重科研、輕轉化’現象。目前我國已形成較完善的基礎科研體系,但是轉化鏈依然‘發育’不足。”談及科學研究如何與產業發展銜接的問題,全國政協委員、華東理工大學教授藍閩波對《中國科學報》說。” 調研中,藍閩波發現多年形成的以論文影響因子及數量考核和科研項目考核的機制依

    研究顯示:大推理模型的“思維鏈”效果存疑

    大型推理模型(LRM)到底是在“推理”,還是僅僅給出了正確答案卻說錯了理由?2025年,東北大學和加州大學伯克利分校的團隊對前沿開源LRM的研究顯示,模型在基準數學題上產生的“思考步驟”中,有 30%到60% 對最終答案“幾乎無因果影響”——砍掉一半,性能幾乎不掉。作者魏彥詩(Weiyan Shi

    AI驅動安全-專家呼吁提高對網絡安全態勢的重視

    “隨著人工智能技術的發展,攻擊者可利用人工智能技術生成網絡攻擊和網絡釣魚工具等,網絡安全從人人對抗、人機對抗逐漸向基于人工智能的攻防對抗演化。”在6月5日舉辦的2024全球數字經濟大會數字安全高層論壇暨北京網絡安全大會戰略峰會(以下簡稱BCS大會)上,中央網信辦網絡安全協調局副局長王營康對人工智能帶

    馬斯克訴OpenAI壟斷之爭引全球共享AI技術呼吁

    近日,美國知名企業家馬斯克對美國開放人工智能研究中心(OpenAI)提起的訴訟再度升級,指控OpenAI試圖壟斷生成式人工智能市場。對此歐洲專家表示,只有確保全球共享人工智能紅利,才能避免技術發展帶來的鴻溝。歐洲人工智能領域專家、英科智能首席執行官查沃隆科夫認為,目前OpenAI在人工智能領域的發展

    前OpenAI首席科學家成立新公司-側重AI安全

      6月20日,OpenAI前首席科學家蘇茨克維(Ilya Sutskever)在社交平臺發文稱,自己創立了一家新公司——“安全超級智能”(Safe SuperIntelligence,SSI)。  值得注意的是,在此前OpenAI首席執行官山姆奧特曼的“宮斗”風波中,蘇茨克維正被認為是反對山姆奧特

    馬斯克批OpenAI:訓練AI沒有最大程度追求真相

    馬斯克再度表達了對OpenAI等人工智能的擔憂。當地時間5月23日,在歐洲最大的科技創新盛會VivaTech大會中,特斯拉CEO埃隆·馬斯克表示,人工智能終將取代人類所有的工作,但這不一定是壞事。在馬斯克看來,未來的工作將是“可選項”。他說,屆時全民都要達到高收入,商品或服務供給充足。但人們面臨的問

    OpenAI制定分級標準,自稱AI軟件接近第二級

    為了推進超級AI(人工智能),AI巨頭OpenAI也制定了類似自動駕駛的五級分級標準。7月12日,據外媒報道,OpenAI近日在全體員工會議上提出了一套五級分級標準,用于追蹤其在打造能夠超越人類的人工智能軟件方面的進展。按照標準,1至5級分別為具有對話功能的“聊天機器人”、可以解決人類級別問題的“推

    OpenAI制定分級標準,自稱AI軟件接近第二級

      為了推進超級AI(人工智能),AI巨頭OpenAI也制定了類似自動駕駛的五級分級標準。  7月12日,據外媒報道,OpenAI近日在全體員工會議上提出了一套五級分級標準,用于追蹤其在打造能夠超越人類的人工智能軟件方面的進展。按照標準,1至5級分別為具有對話功能的“聊天機器人”、可以解決人類級別問

    騰訊大模型上線文生視頻并宣布開源

    據騰訊官微消息,騰訊今日宣布,混元大模型上線并開源文生視頻能力。據介紹,該模型參數量為130億,已經在Hugging Face平臺及Github上發布,包含模型權重、推理代碼、模型算法等完整模型,可供企業與個人開發者免費使用和開發生態插件。這也是當前最大的視頻開源模型。

    傳統方法-vs-AI網絡安全威脅:誰更勝一籌?

    人工智能正在變得越來越擅長一切,包括黑客攻擊。竊取身份、癱瘓銀行和醫療系統、勒索企業數據——這些曾經需要大型黑客團隊精心策劃的攻擊,如今可能由一個AI模型獨立完成。五眼聯盟6月22日發出警告:“時間線不是數年,而是數月。”最新的AI技術“降低了惡意行為者的門檻,增加了攻擊的速度和復雜性”。對比數據:

    Opera推出由OpenAI的ChatGPT支持的新的集成AI側邊欄

      Opera今天宣布,它將在其瀏覽器中引入一個名為"Aria"的人工智能側邊欄,該側邊欄由OpenAI的ChatGPT驅動。該公司表示,Aria既是一個網絡專家,也是一個瀏覽器專家,它使你更容易在網絡上找到信息,生成文本或代碼,或得到你的產品查詢的答案。這項新功能目前可以進行測試。  Aria還能

  • <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 调性视频