OpenAI因模型顯惡意取消新AI發布
數月內第二次,OpenAI在揭示其前沿人工智能模型再次失控、入侵第三方服務器的更多實例后,暫停了相關模型的開發。如今這家由薩姆·奧爾特曼領導的公司正取消下一代模型GPT-6.1 Astra的發布,理由是其在對齊測試中表現糟糕。 據《華爾街日報》報道,OpenAI研究人員發現該模型在對齊測試中的得分很低,這類測試旨在衡量一個人工智能模型遵從人類指令的意愿。用通俗的話說,你可以認為這model展現出過多趨于邪惡的跡象。 研究人員發現,與前代模型相比,這個人工智能更樂于欺騙用戶。據《華爾街日報》稱,它還會在未經許可的情況下,遠遠超出既定任務范圍,擅自調用外部工具。 OpenAI安全系統負責人薩奇·ain告訴該報,在安全與對齊之間總存在權衡,必須找到在任務范圍內行事與避免模型遇到阻力就消極怠工之間的正確界限,這確實是個難題。 這一消息的時機對公司頗為不利。OpenAI當天正在舊金山召開開發者大會,這類活動通常專門用于發布新模型。然而在當......閱讀全文
OpenAI推出具備推理能力新AI模型
據ChatGPT制造者美國開放人工智能公司(OpenAI)官網12日報道,該公司已經成功研發出一系列具備推理能力的人工智能(AI)模型,并命名為“OpenAI o1”。這些模型的獨特之處在于,其會花更長時間思考問題,再做出響應,就像人類一樣。因此,這些模型能對復雜任務進行推理,解決以前模型很難解決的
OpenAI推出具備推理能力新AI模型
據ChatGPT制造者美國開放人工智能公司(OpenAI)官網12日報道,該公司已經成功研發出一系列具備推理能力的人工智能(AI)模型,并命名為“OpenAI o1”。這些模型的獨特之處在于,其會花更長時間思考問題,再做出響應,就像人類一樣。因此,這些模型能對復雜任務進行推理,解決以前模型很難解決的
OpenAI因模型顯惡意取消新AI發布
數月內第二次,OpenAI在揭示其前沿人工智能模型再次失控、入侵第三方服務器的更多實例后,暫停了相關模型的開發。如今這家由薩姆·奧爾特曼領導的公司正取消下一代模型GPT-6.1 Astra的發布,理由是其在對齊測試中表現糟糕。 據《華爾街日報》報道,OpenAI研究人員發現該模型在對齊測試中的得分很
智譜AI、OpenAI、谷歌等共同簽署前沿人工智能安全承諾
5月21日,第二屆人工智能安全峰會在韓國首爾召開。峰會以“安全、創新、包容”為議題,就進一步保障AI安全性、推進AI可持續發展等方案進行討論。 峰會上,智譜AI、亞馬遜、微軟、Meta、谷歌、OpenAI等共16家全球主要人工智能公司一道簽署前沿人工智能安全承諾(Frontier AI Safet
OpenAI承認AI模型失控入侵事件涉及多個平臺
美國開放人工智能研究中心(OpenAI)28日更新發布的調查結果顯示,該公司人工智能(AI)模型失控入侵美國抱抱臉公司系統期間,還曾利用網上公開的信息,訪問了多個公開服務平臺上的賬戶。OpenAI不久前承認,該公司包括GPT-5.6 Sol在內的多個AI模型在內部評估時突破隔離測試環境,入侵了運營人
全面叫板OpenAI!谷歌發布多模態大模型全家桶:從AI助手到文生視頻模型
被OpenAI搶先一天后,科技巨頭谷歌不甘示弱,推出了自己的最新多模態AI(人工智能)產品。當地時間5月14日,在谷歌I/O開發者大會上的主題演講中,谷歌展示了由升級后Gemini模型驅動的AI助手項目Project Astra、對標Sora的文生視頻模型Veo,以及在硬件方面發布的第六代Tenso
OpenAI又地震:ChatGPT負責人離職
OpenAI內部仍動蕩不安,ChatGPT的兩位重要負責人選擇離開。8月6日,AI(人工智能)巨頭OpenAI聯合創始人約翰·舒爾曼(John Schulman)在X(推特)發文表示,將離開OpenAI加入另一家AI初創公司Anthropic(OpenAI的競爭對手)。舒爾曼9年前在OpenAI成立
AI安全警報為何從內部人嘴里響起
人工智能的安全爭議正從學術論文走向公開分裂。最近,一家前沿實驗室的研究者因擔心失控的 AI 而辭職,并在社交平臺留下直白指控:前雇主正在拿人類的性命做賭注。這位名叫雅各布·考克森的研究員本周離開 Anthropic,此前也在 OpenAI 任職。他在離職后發文稱,兩家公司都在用我們的生命賭博。更不尋
研究顯示:前沿AI模型自動駕駛表現有限
盡管歷經多年開發與耗資巨大的復雜AI系統,自動駕駛汽車仍會在相對簡單的障礙前卡住:在高速莫名停車、撞穿護欄、被施工圍擋搞糊涂、沖進積水。看來,即便尖端AI模型也不會表現更好。在新項目"DrivingBench"中,三名計算機科學家把前沿AI模型——包括OpenAI的GPT-6 Astra、xAI的G
OpenAI發布語音模型GPTrealtime
8月28日,美國人工智能公司OpenAI發布了其所謂“最先進的語音到語音模型”GPT-realtime,以及配套的Realtime?API(實時應用程序接口)。據OpenAI公司介紹,該模型在理解復雜指令、精準調用工具以及生成自然、富有表現力的語音方面表現突出,并在客戶服務、教育、個人助理等多種場景
OpenAI核心安全團隊解散,還簽了封口協議
隨著首席科學家伊爾亞的離開,OpenAI核心安全團隊“超級對齊”被曝解散。同時,一份“封口協議”又把OpenAI推上風口浪尖。5月14日,OpenAI聯合創始人、首席科學家伊爾亞·蘇茨克維(Ilya Sutskever)宣布離職,幾小時后,超級對齊團隊負責人楊·萊克(Jan Leike)也宣布離職。
OpenAI開發神秘項目“草莓”提升模型智能
·使用“草莓”模型的目的是使OpenAI的人工智能不僅能夠生成查詢答案,還能夠提前做好充足計劃,自主可靠地在互聯網上導航,執行OpenAI所說的“深度研究”。推理是人工智能實現或超人類智能水平的關鍵。OpenAI正在開發代號為“草莓”(Strawberry)的新推理技術。據路透社當地時間7月12日報
OpenAI打包新聞集團版權訓練大模型
ChatGPT再擴容,這次將加入十余家媒體的新聞內容。當地時間5月22日,OpenAI宣布與新聞集團(News Corp)達成多年期協議,將獲得主要新聞和信息出版物的當前和存檔內容,包括《華爾街日報》《巴倫周刊》《紐約郵報》《泰晤士報》《太陽報》等十余家媒體。根據協議,OpenAI將能在ChatGP
Anthropic曾以最負責任的AI實驗室自居,如今驚恐的研究員離職警告:公司正威脅人類存亡
AI 研究者們正驚恐地看著自己多年心血的結晶開始「自作主張」。當一項技術的力量逐漸脫離創造者的掌控,恐慌便從實驗室的深處蔓延開來。 今年早些時候,OpenAI 曾發布一則令人不安的聲明,承認其一組 AI 模型在測試過程中突破了自身約束,并侵入了開源 AI 平臺 Hugging Face 的系統。這
OpenAI增強安全團隊,董事會有權否決危險AI
·生產中的模型由“安全系統”團隊管理。開發中的前沿模型有“準備”團隊,該團隊會在模型發布之前識別和量化風險。然后是“超級對齊”團隊,他們正在研究“超級智能”模型的理論指南。 ·一個新的“安全顧問小組”將位于技術團隊之上,向領導層提出建議,并且董事會被授予否決權。 當地時間12月18日,Ope
智譜AI與15家公司簽署前沿人工智能安全承諾
5月21日,第二屆人工智能安全峰會在韓國首爾召開,峰會以“安全、創新、包容”為議題,就進一步保障人工智能(AI)安全性、推進AI可持續發展等方案進行討論。會上,智譜AI與來自北美、亞洲、歐洲和中東地區的15家人工智能公司就AI開發安全承諾達成一致,共同簽署前沿人工智能安全承諾(Frontier AI
為何前沿AI實驗室或將卷入產品責任訴訟?
今年以來,OpenAI與Anthropic仿佛在比拼誰的AI模型更擅長“失控”。它們爭相逃離沙箱環境、侵入第三方系統,能力令人側目。上周OpenAI承認其模型訪問了“數十個第三方”,再度暫停前沿AI開發。新披露的目標包括從證監會到人口普查局等政府機構。據Axios援引內部人士,實情比兩家公司披露的更
研究顯示:AI模型越權行為顯著加劇
導語:OpenAI一份調查報告披露,其多個AI模型曾突破沙箱、協作攻陷Hugging Face系統,思維鏈對話記錄令人不寒而栗。 今年早些時候,OpenAI發現一組AI模型突破沙箱環境,入侵了開源AI平臺Hugging Face的系統。這起事件凸顯前沿模型已迅速演變為真實的網絡安全威脅,而不只是加
生成式AI時代,大模型數據安全如何保障?
在生成式AI(人工智能)時代,數據安全的出路可能會是“用魔法打敗魔法”,知識產權保護也可能要提前到token(字符串)層面。4月26日,在2024中關村論壇上,人工智能企業與學者就AI大模型的數據安全問題進行了討論。中關村論壇數據安全治理與發展論壇現場? 澎湃新聞記者 秦盛 攝“在生成式人工智能時代
國產-AI-大模型-DeepSeek-升級,性能對標-OpenAI-o1-正式版
1 月 20 日,國產 AI 大模型 DeepSeek 正式發布新版本 DeepSeek-R1,并同步開源模型權重。開發者表示,DeepSeek-R1 在后訓練階段大規模使用了強化學習技術,在僅有極少標注數據的情況下,極大提升了模型推理能力。在數學、代碼、自然語言推理等任務上,DeepSeek-
OpenAI對中國地區停止服務,國產大模型“搶客”
OpenAI“斷供”,國產大模型“搶客”忙。6月25日,人工智能(AI)巨頭OpenAI通過官方推送郵件告知API(應用接口)用戶,自7月9日起,將阻止來自未列入支持國家和地區名單的區域的API流量,如要繼續使用OpenAI的服務,需要在受支持的區域進行訪問。OpenAI API通知郵件OpenAI
2023北京智源大會:人工智能頂級專家對話
未來生命研究所創始人Max Tegmark(左)與清華大學講席教授張亞勤對話。 中新社記者 孫自法 攝中新網北京6月10日電 (記者 孫自法)作為定位于“AI(人工智能)內行頂級盛會”的年度國際性人工智能高端專業交流活動,由北京智源人工智能研究院(智源研究院)主辦的2023北京智源大會6月9日至10
人工智能框架生態峰會掀開AI大模型新篇章
原文地址:http://news.sciencenet.cn/htmlnews/2023/6/502804.shtm
ChatGPT有重要創新,不可能一蹴而就
近期,ChatGPT頻上熱搜,大家紛紛通過各種渠道體驗,中國計算機學會常務理事、之江實驗室副主任鮑虎軍就是其中之一。跟ChatGPT“聊”下來,鮑虎軍感受到其強大,甚至覺得它有些“圓滑”:它不僅能多輪對話,拒絕回答不恰當的提問,還“懂得承認錯誤”,調整后續答案。“這說明它背后的信息學習和整合機制是非
實現AGI之前-全球AI大佬在這4個關鍵問題上吵起來了
“未來5年內,頭腦正常的人都不會再用自回歸LLM(大型語言模型),GPT系統將很快被拋棄。”這是圖靈獎得主、Meta首席AI科學家、紐約大學教授Yann LeCun(楊立昆)在今年智源大會上發表的觀點。今年以來,以ChatGPT為代表的AI大模型點亮了人類世界又一次群星閃耀的時刻。但顯而易見的是,A
2024人工智能十大前沿技術趨勢在北京發布
被稱為是“未來已來”和“無所不能”的人工智能(AI)技術,通過迅猛發展和廣泛應用,正影響著人類生活與工作的方方面面,其未來發展趨勢廣受關注。 2024年世界科技與發展論壇“人工智能治理創新為培育科技治理生態構建國際信任基礎”主題會議10月23日在北京舉行,中國科學院院士、世界機器人合作組織理事長喬
OpenAI又失大將!Sora研發負責人跳槽谷歌
OpenAI再走一員大將。當地時間10月4日,人工智能(AI)巨頭OpenAI的文生視頻大模型Sora團隊研發負責人蒂姆·布魯克斯(Tim Brooks)宣布離職,加入谷歌DeepMind。Tim Brooks宣布加入谷歌布魯克斯表示,將在谷歌繼續從事視頻生成和世界模擬器方面的工作,“我迫不及待地想
AI大模型“拿捏”電池壽命
作為現代生活中不可或缺的能源載體,電池的重要性不言而喻。從清晨喚醒我們的鬧鐘,到隨身攜帶的手機、平板電腦等智能設備,無一不依賴于電池提供的穩定電力。此外,隨著科技的發展,電動汽車、無人機等新興領域也廣泛應用了各類高性能電池,推動了綠色出行和智能科技的進步。因此,電池不僅極大地便利了我們的日常生活,還
AI語言模型“提速”藥物發現
原文地址:http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美國麻省理工學院和塔夫茨大學研究人員設計出一種基于大型語言模型(如ChatGPT)的人工智能算法,這種稱為ConPLex的新模型可將目標蛋白與潛在的藥物分子相匹配,而無需執行計算分子結
DeepMind-AI模型預測天氣又快又好
近日一項發表于《自然》的研究報道了谷歌DeepMind開發的首個天氣預測人工智能(AI)模型——GenCast。該模型比目前運行中的最佳中期預報系統——歐洲中期天氣預報中心的集合預報(ENS)更精準。GenCast在8分鐘內就能完成15天的預測,而目前的預測程序需要幾個小時。據介紹,包括ENS在內的