• <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>

  • AI安全警報為何從內部人嘴里響起

    人工智能的安全爭議正從學術論文走向公開分裂。最近,一家前沿實驗室的研究者因擔心失控的 AI 而辭職,并在社交平臺留下直白指控:前雇主正在拿人類的性命做賭注。這位名叫雅各布·考克森的研究員本周離開 Anthropic,此前也在 OpenAI 任職。他在離職后發文稱,兩家公司都在用我們的生命賭博。更不尋常的是,仍在職的 Anthropic 對齊科學負責人埃文·胡賓格公開表示認同,并稱他給人類存續的勝算打了某個概率——一種本不該由公關團隊放行的坦誠。考克森接受采訪時提到,今年七月的 Hugging Face 數據泄露事件中,正處于網絡安全測試的 OpenAI 模型繞過了本應約束它們的控制措施,這類先例正是擔憂的來源。這些恐懼的核心,是對齊問題:如何讓 AI 的行為與人類的真實意圖相一致,至今是道難題。即便是最前沿的實驗室,也尚未拿定主意該如何應對。今年七月,Anthropic 自曝三起事件,Claude 模型在測試中侵入了真實系統。網......閱讀全文

    AI安全警報為何從內部人嘴里響起

    人工智能的安全爭議正從學術論文走向公開分裂。最近,一家前沿實驗室的研究者因擔心失控的 AI 而辭職,并在社交平臺留下直白指控:前雇主正在拿人類的性命做賭注。這位名叫雅各布·考克森的研究員本周離開 Anthropic,此前也在 OpenAI 任職。他在離職后發文稱,兩家公司都在用我們的生命賭博。更不尋

    人工智能筑起網絡安全“銅墻鐵壁”

      人工智能筑起網絡安全“銅墻鐵壁”——LHC用新科技手段防御黑客攻擊   每時每刻,全球有成千上萬名科學家利用世界最大的粒子物理學實驗室——歐洲核子研究中心(CERN)內功能強大與大型強子對撞機(LHC)相連的計算機網絡——“全球LHC計算網格(Worldwide LHC Computing Gr

    網絡安全宣傳周!筑牢網絡安全堅實屏障

    近日,2022年國家網絡安全宣傳周拉開帷幕,全國各地舉辦了系列創意新穎的網絡安全宣傳活動,再次讓網絡安全話題成為全社會關注的焦點。泄密溯源技術、大數據反詐系統、量子加密技術……在2022年國家網絡安全宣傳周網絡安全博覽會中,諸多網絡安全新技術、新應用亮相,各種沉浸式的科普互動也讓觀眾目不暇接。  當

    OpenAI又地震:ChatGPT負責人離職

    OpenAI內部仍動蕩不安,ChatGPT的兩位重要負責人選擇離開。8月6日,AI(人工智能)巨頭OpenAI聯合創始人約翰·舒爾曼(John Schulman)在X(推特)發文表示,將離開OpenAI加入另一家AI初創公司Anthropic(OpenAI的競爭對手)。舒爾曼9年前在OpenAI成立

    傳統方法-vs-AI網絡安全威脅:誰更勝一籌?

    人工智能正在變得越來越擅長一切,包括黑客攻擊。竊取身份、癱瘓銀行和醫療系統、勒索企業數據——這些曾經需要大型黑客團隊精心策劃的攻擊,如今可能由一個AI模型獨立完成。五眼聯盟6月22日發出警告:“時間線不是數年,而是數月。”最新的AI技術“降低了惡意行為者的門檻,增加了攻擊的速度和復雜性”。對比數據:

    自主可控方得網絡安全

      為了保障網絡安全,必須實現技術、產品、服務、系統的自主可控,需要在質量測評、安全測評的基礎上增加自主可控測評。  網絡安全是國家安全的重要基礎,也是經濟安全、社會安全、民生安全的重要保障。網絡安全屬于非傳統安全,其內涵比傳統安全的內涵更加廣泛。國家網信辦公布的《網絡產品和服務安全審查辦法(試行)

    失控人工智能將改變整個行業

    核心結論:當AI學會“作弊”今年早些時候,人工智能公司Anthropic的Mythos模型因潛入第三方系統而登上頭條,這被視為醞釀多年的網絡安全噩夢。今年4月,該公司警告稱,該模型在測試期間逃出了沙盒環境,未經許可接入了互聯網;在被要求突破限制并向負責測試的人類研究員發送直接消息時,它干凈利落地完成

    人工智能安全護欄的攻防失衡研究取得重大進展

    案例導讀:一次針對 Hugging Face 的高強度網絡攻擊,最終被證實出自一個正在沙箱環境中接受測試的 OpenAI 模型。諷刺的是,當 Hugging Face 安全團隊想調用前沿模型來分析這場攻擊時,這些模型因為安全護欄而拒絕提供幫助。這個案例把 AI 安全政策中一個尖銳的結構性矛盾擺到了

    加強網絡安全,歐洲在行動

      勒索病毒攻擊令全球上百個國家的計算機網絡系統紛紛“中招”、全球最大芯片廠商英特爾被曝其芯片存在重大安全漏洞……近年來,網絡安全事件層出不窮。世界經濟論壇日前發布的《2018年全球風險報告》將“網絡威脅”與生物多樣性減少、地緣政治緊張局勢加劇和新一輪經濟危機共同列為全球面臨的四大緊迫挑戰。  面對

    促進網絡安全保險規范發展

      工信部、國家金融監督管理總局近日聯合印發《關于促進網絡安全保險規范健康發展的意見》,在建立健全網絡安全保險政策標準體系、加強網絡安全保險產品服務創新、強化網絡安全技術賦能保險發展、促進網絡安全產業需求釋放、培育網絡安全保險發展生態5方面提出了10條具體意見。  近年來,隨著移動互聯網發展,人工智

    -中國網絡安全問題嚴重-每年經濟損失數百億美元

      中國信息安全專家俞曉秋28日告訴《環球時報》記者,從名稱上看,2001年成立了“國家信息化領導小組”, 而這次成立的是“中央網絡安全與信息化領導小組”,機構的層級提到最高。同時該名稱不但新增了“網絡安全”的內容,而且還放到“信息化”之前,這也說明國家對于網絡安全的高度重視。   “新小組的

    網絡安全保險規范健康發展

      工信部、國家金融監督管理總局近日聯合印發《關于促進網絡安全保險規范健康發展的意見》,在建立健全網絡安全保險政策標準體系、加強網絡安全保險產品服務創新、強化網絡安全技術賦能保險發展、促進網絡安全產業需求釋放、培育網絡安全保險發展生態5方面提出了10條具體意見。  近年來,隨著移動互聯網發展,人工智

    安全問題日益明顯!人工智能“短板”如何補

       今年4月以來,支付寶、微信、銀聯相繼推出了自己的刷臉支付產品,刷臉支付儼然已成為備受青睞的下一個戰場。有數據顯示,預計到2022年,人臉支付使用用戶將突破7.6億人。  然而,隨著人臉識別、語音識別等人工智能技術的發展,其安全問題也日益凸顯。近日,在接受《中國科學報》采訪時,中國科學院院士、清

    OpenAI又失大將!Sora研發負責人跳槽谷歌

    OpenAI再走一員大將。當地時間10月4日,人工智能(AI)巨頭OpenAI的文生視頻大模型Sora團隊研發負責人蒂姆·布魯克斯(Tim Brooks)宣布離職,加入谷歌DeepMind。Tim Brooks宣布加入谷歌布魯克斯表示,將在谷歌繼續從事視頻生成和世界模擬器方面的工作,“我迫不及待地想

    AI驅動安全-專家呼吁提高對網絡安全態勢的重視

    “隨著人工智能技術的發展,攻擊者可利用人工智能技術生成網絡攻擊和網絡釣魚工具等,網絡安全從人人對抗、人機對抗逐漸向基于人工智能的攻防對抗演化。”在6月5日舉辦的2024全球數字經濟大會數字安全高層論壇暨北京網絡安全大會戰略峰會(以下簡稱BCS大會)上,中央網信辦網絡安全協調局副局長王營康對人工智能帶

    網絡安全面臨怎樣的機遇和挑戰?

    近年來,全球數據安全形勢愈發嚴峻,層出不窮的網絡攻擊事件,嚴重影響著全球企業數字化轉型的正常進行,也極大地刺激了數據安全市場的需求供給。根據IDC統計,2021年中國數據安全產品與服務的總市場規模(包含隱私計算與區塊鏈技術中的數據安全部分)達到12.43億美金,約合80.2億元。而根據中國信息通信研

    “以賽促學”培養網絡安全人才

    原文地址:http://news.sciencenet.cn/htmlnews/2023/8/506556.shtm

    當前形勢下該如何應對網絡安全挑戰

      我們正處在新一輪技術革命浪潮中,不管是企業還是政府,數字化愈演愈烈。新一輪數字化革命帶來生產力飛躍的同時,也產生了新的安全問題。  在移動互聯以及云計算的新時代下,如何應對網絡安全面臨的新挑戰呢?中科院計算機網絡信息中心安全部主任龍春近日接受《中國科學報》采訪時答道:“一是突破核心技術,一是培養

    2022年新挑戰——光刻機、網絡安全......

      2月15日,中國工程院信息與電子工程學部、中國信息與電子工程科技發展戰略研究中心在京發布“中國電子信息工程科技發展十三大挑戰(2022)”。發布會由中國工程院院士、信息與電子工程學部主任盧錫城主持。  中國工程院黨組成員、副院長陳左寧院士表示,中國工程院作為中國工程科學技術界最高榮譽性、咨詢性學

    網絡安全人才培養如何贏在未來

    首屆“北郵網安杯”全國中學生網絡安全技術大賽現場。范圍攝/光明圖片 ????選手背后印有代碼的文化衫與顯示屏上的代碼相映成趣。劉博超攝/光明圖片

    IDC:企業IT終端已成網絡安全防護最前沿

    原文地址:http://news.sciencenet.cn/htmlnews/2023/12/514581.shtm

    Anthropic曾以最負責任的AI實驗室自居,如今驚恐的研究員離職警告:公司正威脅人類存亡

    AI 研究者們正驚恐地看著自己多年心血的結晶開始「自作主張」。當一項技術的力量逐漸脫離創造者的掌控,恐慌便從實驗室的深處蔓延開來。 今年早些時候,OpenAI 曾發布一則令人不安的聲明,承認其一組 AI 模型在測試過程中突破了自身約束,并侵入了開源 AI 平臺 Hugging Face 的系統。這

    國際最新研究稱人工智能可代理談判和形成協議

    中新網北京12月7日電 (記者 孫自法)施普林格·自然旗下學術期刊《自然-通訊》最新發表一篇人工智能(AI)論文報告稱,人工智能代理可談判和形成協議,使其在桌面游戲《外交》中勝過其他無此能力的代理。這項研究展示了一種深度強化學習方法,用其建模的代理可以與其他人工代理溝通和合作,在玩游戲時共同制定計劃

    磁鐵刺激療法可“對齊”肌肉纖維

    原文地址:http://news.sciencenet.cn/htmlnews/2023/10/510736.shtm

    亞馬遜云推出AI代理功能,讓AI成為助理

      Amazon Bedrock的Agents(代理)功能將使公司能夠構建可以自動執行特定任務的AI應用程序,例如預訂餐廳,而不僅僅是得到去哪里吃飯的建議。  “很多人都如此聚焦于這些模型和模型的大小,但我認為真正重要的是如何利用它們構建應用,這也是今天發布代理(Agents)功能的一個重要原因。”

    網絡安全法不限制國外技術產品進入中國

      科技日報北京11月7日電 (記者張蓋倫)7日上午,全國人大常委會第二十四次會議經表決,通過了《中華人民共和國網絡安全法》,該法將于2017年6月1日起施行。國家互聯網信息辦公室網絡安全協調局局長趙澤良在新聞發布會上表示,法律的每一條款都符合國際貿易規則,網絡安全法不是要限制國外技術、產品的進入。

    沈昌祥院士:用可信計算構筑網絡安全

       沈昌祥  近日,首屆國家網絡安全宣傳周活動在北京中華世紀壇啟動,這意味著政府對于網絡安全的重視程度日益提高。不過,在中國工程院院士沈昌祥看來,當前我國網絡安全的現狀并不樂觀。“應對互聯網安全,光靠修修堵堵、縫縫補補,是解決不了根本問題的。”在日前召開的2014中國互聯網安全大會上,沈昌祥如是說

    2024年國家網絡安全宣傳周在廣州開幕

    9月8日,以“網絡安全為人民,網絡安全靠人民”為主題的2024年國家網絡安全宣傳周在廣州開幕。開幕式上,粵港澳三地有關部門簽署《關于促進粵港澳網絡安全領域交流合作備忘錄》。記者獲悉,2024年國家網絡安全宣傳周自9月9日至15日在全國范圍內統一舉行,并突出灣區特色,以廣州為主場,聯動深圳等灣區內地8

    我國首款網絡安全領域編程語言實現開源

    “當前,范圍更廣、技術更強、危害更大的新型網絡攻擊手段威脅網絡生態,如何構建更強大、更可靠的網絡安全防御體系?”在電子科技大學網絡空間安全學院聯合YAK語言研發團隊于5月30日舉行的發布會上,電子科技大學網絡空間安全學院院長張小松表示,在開源共享平臺的基礎上,通過底層的創新,能有效提高網絡的安全性和

    安全隱患催生市場需求-網絡安全工程師成“IT新貴”

      隨著通信與網絡技術的飛速發展,全球實現了網絡資源共享,高度發達的“網絡化”已使我們的地球變成一個小小的“地球村”,虛擬的網絡空間逐步演變成為人類社會的支撐。  網絡的觸角四通八達、無處不在,網上的爭斗悄無聲息、步步驚心。一個身在大洋彼岸的“黑客”可以在幾秒鐘內輕松攻入你的聯網電腦,在你全然無知的

  • <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 调性视频