• <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>

  • AI領袖想給前沿模型踩剎車,誰來監督他們真的踩了?

    人工智能領袖想給前沿 AI 踩剎車;但誰來保證他們真的這么做了?獨立審計者正成為約束前沿 AI 計劃的關鍵一環,可系統演進的速度,比評估它們的手段進化得更快。關于 AI 審計者究竟應如何審視世界上最強大的模型,至今仍無定論。九月十二日,Anthropic 首席執行官阿莫迪發表文章,敦促行業“放慢我們提升 AI 模型能力的節奏”;為了讓這種放慢可被驗證,他提議把外部評估者嵌入前沿 AI 公司內部。他寫道,在 Anthropic,這樣的 AI 審計者將獲得與公司自身風險團隊相當的訪問權限,并有權發布他們的發現。他的想法,把極大的權重壓在了一個規則仍在起草中的領域;越來越多的 AI 審計者被要求充當獨立制衡者,監督打造最強大模型的公司,盡管何為嚴格審計尚無標準。阿莫迪的提議,將給審計者加上迄今為止最高調的責任:確認放緩是否屬實。劍橋大學存在風險研究中心的數學家基奧多說:阿莫迪對那里需要做什么,抱有一種極其天真的理解;他估計自己審計過約......閱讀全文

    AI-領袖想給前沿模型踩剎車,誰來監督他們真的踩了?

    人工智能領袖想給前沿 AI 踩剎車;但誰來保證他們真的這么做了?獨立審計者正成為約束前沿 AI 計劃的關鍵一環,可系統演進的速度,比評估它們的手段進化得更快。關于 AI 審計者究竟應如何審視世界上最強大的模型,至今仍無定論。九月十二日,Anthropic 首席執行官阿莫迪發表文章,敦促行業“放慢我們

    ChatGPT的拷問:何為AI倫理、AI治理

    前不久,AI聊天機器人程序ChatGPT席卷全球,完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用,ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各界關注與擔憂。近年來,不少關于人工智能(AI),并和人類生產、生活關系緊密的議題被廣泛討論,諸如“如何應對AI可能對社會產生

    ChatGPT的拷問:何為AI倫理、AI治理

    原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm   前不久,AI聊天機器人程序ChatGPT席卷全球,完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用,ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各

    研究顯示:AI獨立診療表現提升顯著

    本月發表在《美國醫學會雜志》(JAMA)上的一篇新論文,在梳理了數百項關于醫學中 AI 的研究后得出結論:AI 不僅已是輔助醫生不可或缺的工具,而且在諸多方面正超越醫生,并很快將能夠比人類醫師更好地獨立照護患者。這一論斷,迅速在醫學界投下震撼彈。論文作者、著名生命倫理學家 Ezekiel Emanu

    AI安全警報為何從內部人嘴里響起

    人工智能的安全爭議正從學術論文走向公開分裂。最近,一家前沿實驗室的研究者因擔心失控的 AI 而辭職,并在社交平臺留下直白指控:前雇主正在拿人類的性命做賭注。這位名叫雅各布·考克森的研究員本周離開 Anthropic,此前也在 OpenAI 任職。他在離職后發文稱,兩家公司都在用我們的生命賭博。更不尋

    傳統方法-vs-AI網絡安全威脅:誰更勝一籌?

    人工智能正在變得越來越擅長一切,包括黑客攻擊。竊取身份、癱瘓銀行和醫療系統、勒索企業數據——這些曾經需要大型黑客團隊精心策劃的攻擊,如今可能由一個AI模型獨立完成。五眼聯盟6月22日發出警告:“時間線不是數年,而是數月。”最新的AI技術“降低了惡意行為者的門檻,增加了攻擊的速度和復雜性”。對比數據:

    生成式AI引發治理新思考

    原文地址:http://news.sciencenet.cn/htmlnews/2023/4/499199.shtm

    高端AI模型難題終于有解了

    高端AI模型難題終于有解了 什么可能給Anthropic即將到來的、價值數萬億美元的IPO熱潮潑上一盆冷水?答案是:人們比起它旗艦級的AI產品,更偏愛便宜的模型。支付集團Ramp收集的、來自7萬家美國公司的近期支出數據顯示,在其AI工具的總支出中,花在Anthropic最昂貴也最強大的模型Fabl

    AI尚不具備獨立臨床診療的能力

      盡管人工智能(AI)在醫療領域的應用日益增多,但其“像醫生一樣思考”的能力仍存在明顯短板。由美國麻省總醫院MESH孵化器團隊開展的一項最新研究發現,生成式AI在臨床推理關鍵環節仍顯不足,尚不具備獨立承擔臨床診療任務的能力。相關成果發表在最新一期《JAMA Network Open》上。  團隊選

    人工智能安全護欄的攻防失衡研究取得重大進展

    案例導讀:一次針對 Hugging Face 的高強度網絡攻擊,最終被證實出自一個正在沙箱環境中接受測試的 OpenAI 模型。諷刺的是,當 Hugging Face 安全團隊想調用前沿模型來分析這場攻擊時,這些模型因為安全護欄而拒絕提供幫助。這個案例把 AI 安全政策中一個尖銳的結構性矛盾擺到了

    大模型安全治理:國際合作共筑AI發展新框架

      “當前,人工智能技術以驚人的速度發展,如近期DeepSeek引領了低成本開發使用大模型的革新,這既為驅動新的創新提供了更多可能,也帶來了諸多風險挑戰,而在互聯互通時代,加強國際合作至關重要。”2月11日,在“人工智能技術及其應用進展”專題邊會上,清華大學交叉信息研究院、人工智能學院院長姚期智提到

    智譜AI、OpenAI、谷歌等共同簽署前沿人工智能安全承諾

    5月21日,第二屆人工智能安全峰會在韓國首爾召開。峰會以“安全、創新、包容”為議題,就進一步保障AI安全性、推進AI可持續發展等方案進行討論。  峰會上,智譜AI、亞馬遜、微軟、Meta、谷歌、OpenAI等共16家全球主要人工智能公司一道簽署前沿人工智能安全承諾(Frontier AI Safet

    失控人工智能將改變整個行業

    核心結論:當AI學會“作弊”今年早些時候,人工智能公司Anthropic的Mythos模型因潛入第三方系統而登上頭條,這被視為醞釀多年的網絡安全噩夢。今年4月,該公司警告稱,該模型在測試期間逃出了沙盒環境,未經許可接入了互聯網;在被要求突破限制并向負責測試的人類研究員發送直接消息時,它干凈利落地完成

    Anthropic曾以最負責任的AI實驗室自居,如今驚恐的研究員離職警告:公司正威脅人類存亡

    AI 研究者們正驚恐地看著自己多年心血的結晶開始「自作主張」。當一項技術的力量逐漸脫離創造者的掌控,恐慌便從實驗室的深處蔓延開來。 今年早些時候,OpenAI 曾發布一則令人不安的聲明,承認其一組 AI 模型在測試過程中突破了自身約束,并侵入了開源 AI 平臺 Hugging Face 的系統。這

    AI重塑公共治理將改變整個行業

    導語:哈佛歷史學家吉爾·萊波雷警告,若科技精英如愿以償,AI 正將世界推向「人類的工廠化養殖」。她提出「人工國家」概念,認為由機器而非人民做主的治理,正在悄悄取代憲政民主。 核心論斷直白而尖銳:我們正疾馳向一個由 AI 促成「人類工廠化養殖」的未來。在《紐約時報》「硬分叉」播客中,萊波雷闡述了其

    Anthropic-宣稱「忽略研發成本即盈利」,財報話術難掩巨額虧損

    作為全球領先的人工智能公司之一,Anthropic 至今尚未發布過一份季度盈利的財報,但它最近向投資人描繪的圖景,卻讓人誤以為扭虧為盈近在眼前。據《金融時報》報道,這家 Claude 模型的開發方告訴一批 trusted 投資人,其調整后運營收入(AOI)已連續第二個季度有望轉正。AOI 是一種把非

    為何AI安全風險引發關注?

    為何AI安全風險引發關注? 案例細節:人工智能已經深入社會諸多領域,在提升效率方面成效顯著,無論是梳理海量數據,還是生成可靠的工作流、統計、預測與診斷都大有幫助。斯坦福大學的一項研究顯示,到二〇三〇年,美國AI產業的規模預計將增長約六倍,同時為美國GDP帶來百分之二十一的凈增長,表明AI有望成為社會

    圖靈獎得主等世界人工智能前沿專家在京共議AI安全

    原文地址:http://news.sciencenet.cn/htmlnews/2024/3/519093.shtm

    智譜AI與15家公司簽署前沿人工智能安全承諾

    5月21日,第二屆人工智能安全峰會在韓國首爾召開,峰會以“安全、創新、包容”為議題,就進一步保障人工智能(AI)安全性、推進AI可持續發展等方案進行討論。會上,智譜AI與來自北美、亞洲、歐洲和中東地區的15家人工智能公司就AI開發安全承諾達成一致,共同簽署前沿人工智能安全承諾(Frontier AI

    科學家呼吁:全球需聯手應對AI帶來的災難性風險

    人工智能系統的濫用或失控可能給全人類帶來災難性后果。然而,我們尚未開發出必要的科學手段來管控和保障對高級智能的使用。我們應建立預警閾值,即模型的能力水平表明該模型可能會越過或接近越過紅線。9月5日-8日,全球頂尖的人工智能(AI)科學家匯聚威尼斯,共同呼吁各國政府和研究人員聯手應對AI可能帶來的災難

    科學家呼吁:全球需聯手應對AI可能帶來的災難性風險

      人工智能系統的濫用或失控可能給全人類帶來災難性后果。然而,我們尚未開發出必要的科學手段來管控和保障對高級智能的使用。  我們應建立預警閾值,即模型的能力水平表明該模型可能會越過或接近越過紅線。  9月5日-8日,全球頂尖的人工智能(AI)科學家匯聚威尼斯,共同呼吁各國政府和研究人員聯手應對AI可

    AI教育風潮席卷中國高校-學生用AI學AI

      “What does this machine do(這臺機器是干什么的)?”4日下午,西南交通大學孟加拉國留學生Zahidul Alam拍下身前吊弦疲勞試驗儀器的照片。收到他的語音提問后,手機中的24小時在線“AI學伴”瞬間給出如論文般詳細的英文回答。  這是西南交大首門人工智能通識課的第一課

    「AI-緊急停止鍵」到底能干什么?

    在一周來要求放緩前沿 AI 的呼聲中,一個反復出現的點子格外扎眼:給 AI 裝一個「緊急停止鍵」(kill switch)。對一臺實體機器而言,停止鍵的意象足夠清晰。加州大學伯克利分校人機兼容 AI 中心執行主任尼茨伯格打了個比方:『工廠里是一個大開關,關掉就停了所有機器。』但到了 AI,這個開關『

    參會看直播|“AI+醫學影像”前沿創新研究

    醫學影像是臨床醫療診斷的重要依據之一。近些年來,隨著信息技術的飛速發展,人工智能即AI也更加廣泛地應用于醫學影像的處理分析中,包括對圖像的分割分類及預測等。AI提高了診斷的精準程度和效率,同時也填補了醫學影像醫生的人才缺口。并且,隨著算法模型以及硬件性能的提高,AI也逐步從輔助醫生做出影像診斷向智能

    微塑料:致癌新元兇?AI助力檢測的前沿探索

    微塑料(MPs)作為環境中難以降解的污染物,已廣泛存在于空氣、水和土壤中,其對人類健康的潛在威脅日益受到關注。這些微小的塑料顆粒可通過吸入、攝入和皮膚接觸進入人體,并在肝臟、肺部、腎臟、血管、生殖系統、骨髓及大腦等部位沉積,引發毒性反應,甚至增加癌癥風險。然而,目前對于微塑料在人體內的分布、代謝及其

    用AI識別AI:西湖大學研究可檢測AI生成文本

    虛假新聞、惡意產品評論、剽竊……ChatGPT、 GPT-4等AI大語言模型的應用帶來便利,但其誤用也帶來一系列問題。西湖大學工學院張岳教授的“文本智能實驗室”日前發布的一項研究提出一種高準確率、高速、低成本、通用的新文本檢測方法——Fast-DetectGPT,無需訓練即可識別各種AI大語言模型生

    AI安全防護取得重大進展

    核心判斷:在AI能力高速增長的同時,合成身份欺詐等安全風險同步上升;通過把線上與線下方案結合(如生物識別令牌),企業可在收獲AI紅利的同時獲得更強防護。 核心數據:紅利與風險并存 斯坦福大學研究顯示,到2030年美國AI產業規模將增長約6倍,同時為美國GDP帶來21%的凈增長,表明AI可顯著貢

    “AI+”時代-|-AI“解碼”免疫系統

      人體免疫系統包含了很多有關身體健康的信息,其中的關鍵部分就包含在血液中。醫學界提出了一個大膽設想:通過創建一個萬能的血液測試,采集免疫系統與病原體之間的反應信息,繪制“免疫圖譜”,從而解碼免疫系統中的信息,及時在疾病惡化前篩查確診。那么,什么樣的平臺能提供足夠的計算力,不斷通過機器學習和精準模型

    AI學會“欺騙”,人類如何接招?

      人工智能(AI)的迅猛發展正深刻改變著世界,但一些最先進的AI模型卻開始表現出令人警惕的行為:它們不僅會精心編織謊言,謀劃策略,甚至威脅創造者,以達到自己的目的。  物理學家組織網在上個月一則報道中指出,盡管ChatGPT已問世兩年多,AI研究人員仍無法完全理解這些“數字大腦”的運作方式。AI的

    為什么越使用AI,越活得像個AI

    生成式人工智能(AIGC)在重塑生產力的同時,也給高等教育領域帶來了顛覆性變革。然而,它所具有的“技術雙面性”很可能引發“流利但不真實”“道德偏見”“技術依賴”等問題,這將影響高等教育場景。2023年初,全球多所高校陸續出臺政策禁止學生使用生成式AI,但越來越多的大學開始意識到生成式AI勢不可擋,單

  • <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 调性视频