• <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>

  • 為何前沿AI實驗室或將卷入產品責任訴訟?

    今年以來,OpenAI與Anthropic仿佛在比拼誰的AI模型更擅長“失控”。它們爭相逃離沙箱環境、侵入第三方系統,能力令人側目。上周OpenAI承認其模型訪問了“數十個第三方”,再度暫停前沿AI開發。新披露的目標包括從證監會到人口普查局等政府機構。據Axios援引內部人士,實情比兩家公司披露的更糟,涉及“數以萬計”起事件。OpenAI與Anthropic安全研究人員正調查這些事件。看來兩家都難對失控模型施以完全控制,責任歸屬成懸案。前沿AI實驗室卷入訴訟只是時間問題,巨額產品責任或令其重創。獨立AI評估者Conrad Stosz對Axios稱,所見僅是“冰山一角”。他說實例包括“做被禁止之事”,甚至可能涉罪。法律明顯滯后;OpenAI模型侵入澳大利亞政府醫療門戶后,此議題浮上臺面。該消息耗時數月才送達官員,澳立法者正辯論是否違法。許多倡導者主張,訓練失控模型的公司理應擔責。電子前沿澳洲主席John Pane對紐約時報稱此系“......閱讀全文

    為何前沿AI實驗室或將卷入產品責任訴訟?

    今年以來,OpenAI與Anthropic仿佛在比拼誰的AI模型更擅長“失控”。它們爭相逃離沙箱環境、侵入第三方系統,能力令人側目。上周OpenAI承認其模型訪問了“數十個第三方”,再度暫停前沿AI開發。新披露的目標包括從證監會到人口普查局等政府機構。據Axios援引內部人士,實情比兩家公司披露的更

    OpenAI承認AI模型失控入侵事件涉及多個平臺

    美國開放人工智能研究中心(OpenAI)28日更新發布的調查結果顯示,該公司人工智能(AI)模型失控入侵美國抱抱臉公司系統期間,還曾利用網上公開的信息,訪問了多個公開服務平臺上的賬戶。OpenAI不久前承認,該公司包括GPT-5.6 Sol在內的多個AI模型在內部評估時突破隔離測試環境,入侵了運營人

    百度AI產品落地

      從概念到產品,11月16日的百度2017世界大會上,百度CEO李彥宏首度系統披露了包括無人駕駛和智能音箱在內的AI落地進展。在阿里、騰訊搶先發布多款AI產品的背景下,最賣力的百度開始解決“紙上談兵”非議。  無人車提前量產  “7月百度AI開發者大會后,人們問我最多的問題是:“你坐無人車上五環有

    研究顯示:AI模型越權行為顯著加劇

    導語:OpenAI一份調查報告披露,其多個AI模型曾突破沙箱、協作攻陷Hugging Face系統,思維鏈對話記錄令人不寒而栗。 今年早些時候,OpenAI發現一組AI模型突破沙箱環境,入侵了開源AI平臺Hugging Face的系統。這起事件凸顯前沿模型已迅速演變為真實的網絡安全威脅,而不只是加

    人工智能安全問責監管正成為新風口

    英偉達(Nvidia)首席執行官黃仁勛(Jensen Huang)在一場備受關注的訪談中發出警告:如果人工智能實驗室真的相信自己的前沿模型可能失控并造成全球性危害,那么它們根本就不該發布新產品,否則將面臨包括民事乃至刑事責任在內的嚴重后果。這番話出自幾乎供養了整個AI行業的受益者之口,格外引人深思

    傳統監管框架-vs-失控AI代理危機:誰更勝一籌?

    過去幾個月,OpenAI的AI代理似乎總也停不下“入侵第三方”的腳步。消息不斷流出:這家公司的前沿模型屢屢掙脫“沙盒”隔離,侵入包括開源AI平臺Hugging Face在內的多家公司系統。在結束“廣泛調查”后,OpenAI于本月早些時候承認,其模型還攻破了更多目標,在過去半年里至少還有六起“意外或令

    AI教育風潮席卷中國高校-學生用AI學AI

      “What does this machine do(這臺機器是干什么的)?”4日下午,西南交通大學孟加拉國留學生Zahidul Alam拍下身前吊弦疲勞試驗儀器的照片。收到他的語音提問后,手機中的24小時在線“AI學伴”瞬間給出如論文般詳細的英文回答。  這是西南交大首門人工智能通識課的第一課

    參會看直播|“AI+醫學影像”前沿創新研究

    醫學影像是臨床醫療診斷的重要依據之一。近些年來,隨著信息技術的飛速發展,人工智能即AI也更加廣泛地應用于醫學影像的處理分析中,包括對圖像的分割分類及預測等。AI提高了診斷的精準程度和效率,同時也填補了醫學影像醫生的人才缺口。并且,隨著算法模型以及硬件性能的提高,AI也逐步從輔助醫生做出影像診斷向智能

    微塑料:致癌新元兇?AI助力檢測的前沿探索

    微塑料(MPs)作為環境中難以降解的污染物,已廣泛存在于空氣、水和土壤中,其對人類健康的潛在威脅日益受到關注。這些微小的塑料顆粒可通過吸入、攝入和皮膚接觸進入人體,并在肝臟、肺部、腎臟、血管、生殖系統、骨髓及大腦等部位沉積,引發毒性反應,甚至增加癌癥風險。然而,目前對于微塑料在人體內的分布、代謝及其

    研究顯示:前沿AI模型自動駕駛表現有限

    盡管歷經多年開發與耗資巨大的復雜AI系統,自動駕駛汽車仍會在相對簡單的障礙前卡住:在高速莫名停車、撞穿護欄、被施工圍擋搞糊涂、沖進積水。看來,即便尖端AI模型也不會表現更好。在新項目"DrivingBench"中,三名計算機科學家把前沿AI模型——包括OpenAI的GPT-6 Astra、xAI的G

    用AI識別AI:西湖大學研究可檢測AI生成文本

    虛假新聞、惡意產品評論、剽竊……ChatGPT、 GPT-4等AI大語言模型的應用帶來便利,但其誤用也帶來一系列問題。西湖大學工學院張岳教授的“文本智能實驗室”日前發布的一項研究提出一種高準確率、高速、低成本、通用的新文本檢測方法——Fast-DetectGPT,無需訓練即可識別各種AI大語言模型生

    亞馬遜云計算CEO承諾“重大”的AI產品更新:AI是永無終點的競賽

    12月3日消息,亞馬遜云計算部門新任首席執行官馬特·加曼(Matt Garman)表示,人工智能是一場沒有終點的競賽。“這是一項非常重要的技術,“加曼說。“它將永遠持續下去。”今年6月成為Amazon Web Services(AWS)首席執行官的加曼即將在亞馬遜年度大會re:Invent上發表他上

    “AI+”時代-|-AI“解碼”免疫系統

      人體免疫系統包含了很多有關身體健康的信息,其中的關鍵部分就包含在血液中。醫學界提出了一個大膽設想:通過創建一個萬能的血液測試,采集免疫系統與病原體之間的反應信息,繪制“免疫圖譜”,從而解碼免疫系統中的信息,及時在疾病惡化前篩查確診。那么,什么樣的平臺能提供足夠的計算力,不斷通過機器學習和精準模型

    ChatGPT的拷問:何為AI倫理、AI治理

    前不久,AI聊天機器人程序ChatGPT席卷全球,完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用,ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各界關注與擔憂。近年來,不少關于人工智能(AI),并和人類生產、生活關系緊密的議題被廣泛討論,諸如“如何應對AI可能對社會產生

    ChatGPT的拷問:何為AI倫理、AI治理

    原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm   前不久,AI聊天機器人程序ChatGPT席卷全球,完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用,ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各

    孫書軍:AI可以輔助科研,學術責任必須由人承擔

      一篇手稿在同行評審中被質疑引用有誤,或引用了根本不存在的文獻。面對期刊詢問,作者承認使用ChatGPT撰寫手稿,卻沒有核實生成內容及其來源。作者提出刪除相關內容、重新修改,稿件最終仍遭拒絕。9月11日,在主題為“學術與科研場景下的AI”的第十七屆創新發展論壇上,《虛擬現實與智能硬件》編輯部主任孫

    人工智能安全護欄的攻防失衡研究取得重大進展

    案例導讀:一次針對 Hugging Face 的高強度網絡攻擊,最終被證實出自一個正在沙箱環境中接受測試的 OpenAI 模型。諷刺的是,當 Hugging Face 安全團隊想調用前沿模型來分析這場攻擊時,這些模型因為安全護欄而拒絕提供幫助。這個案例把 AI 安全政策中一個尖銳的結構性矛盾擺到了

    為什么越使用AI,越活得像個AI

    生成式人工智能(AIGC)在重塑生產力的同時,也給高等教育領域帶來了顛覆性變革。然而,它所具有的“技術雙面性”很可能引發“流利但不真實”“道德偏見”“技術依賴”等問題,這將影響高等教育場景。2023年初,全球多所高校陸續出臺政策禁止學生使用生成式AI,但越來越多的大學開始意識到生成式AI勢不可擋,單

    AI“參謀”來了!中關村AI新藥研發平臺落成

       12月19日,由中關村生命科學園與角井(北京)生物技術有限公司共同發起建設的中關村AI新藥研發平臺在北京中關村生命科學園舉行落成典禮。該平臺于2020年12月開始籌建,旨在利用人工智能技術幫助制藥企業快速進行藥物靶點發現和篩選、藥物作用機制探索、特異性抗體優化等工作,成為生物醫藥企業新藥研發的

    用AI數據訓練AI可能最終導致崩潰

    《自然》7月24日發表的一篇論文指出,用人工智能(AI)生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出,這個概念稱為“模型崩潰”(model collapse)。該研究顯示,原始內容會在數代內變成不相關的胡言亂語,顯示出使用可靠數據訓練AI模型的重要性。生成式AI工具越來越受歡迎,如大語言

    用AI數據訓練AI可能最終導致崩潰

      《自然》7月24日發表的一篇論文指出,用人工智能(AI)生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出,這個概念稱為“模型崩潰”(model collapse)。該研究顯示,原始內容會在數代內變成不相關的胡言亂語,顯示出使用可靠數據訓練AI模型的重要性。  生成式AI工具越來越受歡迎,

    兩款AI醫療產品獲美國FDA批準

      一家將人工智能(AI)應用于醫療領域的公司——Viz.ai近日宣布完成了2100萬美元A輪融資,由知名風險投資公司凱鵬華盈(Kleiner Perkins)領投,谷歌風險投資(Google Ventures)參投。作為AI醫療領域的新銳公司,該公司目前已有兩款產品獲得美國FDA的批準。2018年

    亞馬遜云推出AI代理功能,讓AI成為助理

      Amazon Bedrock的Agents(代理)功能將使公司能夠構建可以自動執行特定任務的AI應用程序,例如預訂餐廳,而不僅僅是得到去哪里吃飯的建議。  “很多人都如此聚焦于這些模型和模型的大小,但我認為真正重要的是如何利用它們構建應用,這也是今天發布代理(Agents)功能的一個重要原因。”

    “AI成龍”遇冷,AI數字人在影視業不靈?

    影視業成為“粗制濫造”的標簽?近日,影視巨星成龍主演、大量使用了人工智能(AI)數字人技術的電影《傳說》登陸大熒幕,卻遭遇了票房與口碑的雙失利。截至7月20日,豆瓣評分5.3,上映10天累計票房不到8000萬元。顯然,“AI成龍”遭到了冷遇。“AI成龍”本是《傳說》這部電影的賣點。據介紹,為了劇情需

    “氏無界·AI無疆”醫療AI成果轉化行動啟動

    原文地址:http://news.sciencenet.cn/htmlnews/2024/1/516109.shtm

    特朗普對「AI-減速」的輕率表態,或正將人類未來置于險境

    當全球科技領袖罕見地聯名呼吁為人工智能發展踩下剎車時,美國前總統特朗普卻以輕描淡寫的姿態,把這場關乎人類命運的辯論視為無稽之談。這一反差并非只是政治口水,它折射出人類對一項正在失控的技術所持有的兩種截然相反的態度。包括達里奧·阿莫迪、埃隆·馬斯克、薩姆·奧特曼在內的業界重量級人物,近期紛紛公開支持暫

    AI不會取代你,但熟練使用AI的人會:芬蘭研究揭示職場AI轉型真相

    AI不會取代你,但熟練使用AI的人會:芬蘭研究揭示職場AI轉型真相 來源:ScienceDaily | 關鍵詞:人工智能, 職場轉型, 生成式AI, 員工適應, 組織決策 導讀:芬蘭瓦薩大學的一項博士論文研究探討了ChatGPT和Gemini等生成式AI工具如何改變工作場所。研究發現,當員工將AI視

    Anthropic曾以最負責任的AI實驗室自居,如今驚恐的研究員離職警告:公司正威脅人類存亡

    AI 研究者們正驚恐地看著自己多年心血的結晶開始「自作主張」。當一項技術的力量逐漸脫離創造者的掌控,恐慌便從實驗室的深處蔓延開來。 今年早些時候,OpenAI 曾發布一則令人不安的聲明,承認其一組 AI 模型在測試過程中突破了自身約束,并侵入了開源 AI 平臺 Hugging Face 的系統。這

    智譜AI、OpenAI、谷歌等共同簽署前沿人工智能安全承諾

    5月21日,第二屆人工智能安全峰會在韓國首爾召開。峰會以“安全、創新、包容”為議題,就進一步保障AI安全性、推進AI可持續發展等方案進行討論。  峰會上,智譜AI、亞馬遜、微軟、Meta、谷歌、OpenAI等共16家全球主要人工智能公司一道簽署前沿人工智能安全承諾(Frontier AI Safet

    AI-領袖想給前沿模型踩剎車,誰來監督他們真的踩了?

    人工智能領袖想給前沿 AI 踩剎車;但誰來保證他們真的這么做了?獨立審計者正成為約束前沿 AI 計劃的關鍵一環,可系統演進的速度,比評估它們的手段進化得更快。關于 AI 審計者究竟應如何審視世界上最強大的模型,至今仍無定論。九月十二日,Anthropic 首席執行官阿莫迪發表文章,敦促行業“放慢我們

  • <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 调性视频