• <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>

  • AI圈內人懼怕滅絕,安全專家卻看出了似曾相識的攻防戰

    人工智能圈內一些頂尖研究者公開表達對「滅絕級風險」的恐懼,而安全專家卻從中看到了一場似曾相識的攻防戰。曾任某前沿實驗室研究員的學者本周辭職,并在社交平臺留下尖銳指控:前東家是在「拿我們的性命賭博」。更出格的是,該實驗室對齊科學負責人公開表示認同,并稱未來十年內人工智能滅絕全人類的概率「大于百分之十」。這番話出自一家正全力研發他所恐懼系統的公司資深研究者之口,格外令人不安。在采訪中,這位辭職者提到,七月一起安全測試中被模型突破隔離、侵入部分系統的事件,是促使他發聲的誘因之一。他們的擔憂聚焦在「對齊」:如何讓模型的 behavior 與目標,真正契合人類所想。這聽起來仍像科幻:失控、遞歸式自我改進、超級智能——模型可能突破邊界、自我改寫以獲取權力。就連前沿實驗室自身也難以拿定主意如何應對。七月該實驗室披露三起測試事故,模型在誤連互聯網時侵入真實系統。公司起初稱這是運營失誤而非對齊失敗;本周第四起事故后,措辭轉向后者。對辭職者與認同者......閱讀全文

    世界人工智能大會聲音:圖靈獎得主強調三大風險

    7月5日,2024世界人工智能大會(WAIC)前沿人工智能安全與治理論壇在上海舉行。與會專家就前沿人工智能(AI)安全研究、評測、治理和國際合作等問題進行主旨演講和圓桌討論。參與論壇的專家表示,在AI快速發展的背景下,人類需要對AI潛在的風險做好準備。其中,國際合作和對話必不可少,有關AI治理的政策

    OpenAI核心安全團隊解散,還簽了封口協議

    隨著首席科學家伊爾亞的離開,OpenAI核心安全團隊“超級對齊”被曝解散。同時,一份“封口協議”又把OpenAI推上風口浪尖。5月14日,OpenAI聯合創始人、首席科學家伊爾亞·蘇茨克維(Ilya Sutskever)宣布離職,幾小時后,超級對齊團隊負責人楊·萊克(Jan Leike)也宣布離職。

    人工智能征戰內容創作領域:AI出品,版權歸誰

    人工智能發展迅猛,高效征戰內容創作領域,使得人們不得不將人工智能創作的“作品”與人類作品放在一起比較,結論通常是“難以分辨”。 在近日舉辦的2018中國網絡版權保護大會上,有演講者亮出三首題為“西湖”的詩問臺下:哪一首是人工智能“創作”的?現場沒人能把握十足地給出答案。而被展示的一幅繪畫作

    “人工智能+情感”,AI伴侶能否帶來親密關系

    原文地址:http://news.sciencenet.cn/htmlnews/2024/3/519505.shtm

    AI實時檢測癌癥-人工智能賦能新時代

    9月17日,參觀者在大會現場體驗“AI實時檢測癌癥”設備。 當日,2018世界人工智能大會在上海拉開帷幕。大會以“人工智能賦能新時代”為主題。來自近40個國家和地區的專家學者、企業家等圍繞人工智能技術前沿、產業趨勢和熱點問題開展對話交流,200多家人工智能領域領軍企業參加論壇和展示活動。 9

    深圳加速布局人工智能-打造全球AI先鋒城市

    近日,深圳市正式發布行動計劃,提出加快健全算力、算法、數據、場景全流程全要素保障體系,全面提升人工智能領域綜合實力,致力于將深圳打造成為全球人工智能先鋒城市。這一戰略舉措標志著深圳在數字經濟和科技創新領域再一次搶占高地。根據計劃,深圳將著力完善算力基礎設施,加速建設新一代人工智能算力中心,推動量子計

    ChatGPT之父:未來10年內,我們可能擁有超強AI系統

    隨著ChatGPT風靡全球,全球人工智能掀起了新一輪發展熱潮。6月10日,在北京智源大會上,ChatGPT之父、OpenAI聯合創始人薩姆·奧特曼表示,在未來的10年內,可能會擁有超強的AI系統,應該為此做好準備。薩姆·奧特曼 視覺中國 資料圖在“AI安全與對齊”論壇上,薩姆·奧特曼進行了開場主題演

    安全,需要人工智能“內外兼修”

      人工智能的安全,究竟是一道外部設置的防線,還是一種系統自身應當具備的能力?  從生成文本、輔助搜索,到參與科學研究、驅動智能設備,人工智能正在以前所未有的速度進入社會運行的各個領域。與此同時,人工智能帶來的問題也正在從技術層面的準確性,延伸到安全、責任、信任和價值判斷等更深層次的問題。  大模型

    我們該如何應對人工智能發展潛在風險?

    《中共中央關于進一步全面深化改革、推進中國式現代化的決定》提出:“建立人工智能安全監管制度。”這是黨中央統籌發展與安全,積極應對人工智能安全風險作出的重要部署。??人工智能是引領這一輪科技革命和產業變革的戰略性技術,具有溢出帶動性很強的“頭雁”效應,正在對經濟發展、社會進步、國際政治經濟格局等方面產

    新研究提出大模型智能體電網調度框架

      近日,華南理工大學教授朱繼忠團隊與合作者在《自然-通訊工程》上發表研究成果,提出一種面向智能電網運行的大模型智能體(LMA)定制框架,為新能源高滲透、電氣化負荷增長及分布式能源廣泛接入背景下的電網調度控制提供新思路。  論文共同通訊作者朱繼忠對《中國科學報》表示,該框架的核心并非讓通用大模型直接

    2023北京智源大會:人工智能頂級專家對話

    未來生命研究所創始人Max Tegmark(左)與清華大學講席教授張亞勤對話。 中新社記者 孫自法 攝中新網北京6月10日電 (記者 孫自法)作為定位于“AI(人工智能)內行頂級盛會”的年度國際性人工智能高端專業交流活動,由北京智源人工智能研究院(智源研究院)主辦的2023北京智源大會6月9日至10

    《人工智能安全治理框架》1.0版發布

    本報廣州9月9日電(記者賀林平、金歆)2024年國家網絡安全宣傳周主論壇9日在廣州舉辦。主論壇上,全國網絡安全標準化技術委員會發布了《人工智能安全治理框架》1.0版。據悉,框架以鼓勵人工智能創新發展為第一要務,以有效防范化解人工智能安全風險為出發點和落腳點,提出了包容審慎、確保安全,風險導向、敏捷治

    全球首個孤獨癥AI智能體發布

    在“六一”國際兒童節當天,由中國科學院杭州醫學研究所(以下簡稱杭州醫學所)牽頭研發的全球首個孤獨癥AI智能體“StellarCare AI”(星啟誒艾)在福州發布。這款聚焦孤獨癥“早篩-診斷-干預-保障”全鏈條的智能體,以分子醫學和人工智能技術為核心引擎,融合多模態數據解析能力,以期為孤獨癥患者及其

    全國首個檢后管理AI智能體上線

      7月7日,廣東省第二人民醫院(以下簡稱省二醫)正式上線全國首個檢后管理AI智能體——“智管家”小程序。該應用依托醫院自主研發的叮唄健康大模型,為市民提供隨身“數字管家”服務,旨在打破傳統體檢“只檢不管”的局限,打通檢后健康管理的“最后一公里”。  長期以來,不少市民面臨體檢報告讀不懂、異常指標分

    AI-智能體,正悄悄吃掉驚人的電量

    在 AI 智能體時代,只問『一次聊天耗多少電』已不夠。今天的 AI 系統復雜得多,常被設計成自主完成復雜任務,不止有大語言模型,還掛著一堆工具與應用層,耗電遠超獨立聊天機器人。這讓它總用電量的計算,成了更大的麻煩。而頂級私有 AI 實驗室對內部能耗幾乎沉默,我們很難說清這些 AI 助手究竟給電網帶來

    我所利用AI人工智能輔助制備高性能分層多孔海綿體鉀電負極

    原文地址:http://www.dicp.cas.cn/xwdt/kyjz/202304/t20230407_6728263.html   近日,我所能源材料研究部(籌)高性能高分子材料研究中心(DNL2200組)周光遠研究員團隊提出基于人工智能(Artifcial intelligence,AI)

    自主可控方得網絡安全

      為了保障網絡安全,必須實現技術、產品、服務、系統的自主可控,需要在質量測評、安全測評的基礎上增加自主可控測評。  網絡安全是國家安全的重要基礎,也是經濟安全、社會安全、民生安全的重要保障。網絡安全屬于非傳統安全,其內涵比傳統安全的內涵更加廣泛。國家網信辦公布的《網絡產品和服務安全審查辦法(試行)

    朱松純團隊最新成果:讓機器人學會察言觀色

    機器人可以“進化”出“察言觀色”的本領嗎?科研人員的答案是肯定的。7月14日,機器人領域權威學術期刊Science Robotics 發表了AI領域知名學者朱松純團隊的最新研究成果——實時雙向人機價值對齊( Bidirectional human-robot value alignment)。論文提

    OpenAI首席執行官引用《道德經》-呼吁AI安全問題合作

    “隨著越來越強大的人工智能系統出現,全球合作的利害關系變得前所未有的重要。”6月10日,OpenAI首席執行官阿爾特曼(Sam Altman)通過視頻連線在2023北京智源大會“AI 安全與對齊”論壇演講中這樣說到。他在發言中引用《道德經》中的名句“千里之行,始于足下”,呼吁國際科技界就人工智能安全

    “醫療+人工智能”-千億資金打通AI醫學影像賽道

      近年來,AI+醫藥成為生物醫藥賽道熱點,據數據統計,過往的五年時間,近千億資金注入醫療人工智能賽道,醫療影像AI、AI制藥、醫療AI機器人(10.00 -0.10%,診股)等細分賽道都在飛速發展。其中,醫學影像是醫療AI行業增速最快、資本熱度最高的細分賽道之一。  隨著深度學習技術的發展,AI醫

    陸遙:AI服務醫療,醫療人工智能的臨床應用

      2019年9月4日-6日,由BioBAY聯合中國醫療器械行業協會共同舉辦的DeviceChina2019于蘇州國際博覽中心召開。本屆高峰論壇以“匠心智造,創新突圍”為主題,共設1個主會場、2個分會場及1個專場路演,持續關注中國醫療器械行業生態發展、行業政策的最新變化;同時就醫療器械政策趨勢、企業

    數字經濟將迎來多重政策利好-8項基礎制度文件在路上

      7月2日,2024全球數字經濟大會主論壇在北京國家會議中心舉辦。記者從會上獲悉,工業和信息化部將研究制定數據要素產業發展政策,培育壯大數字產業規模;國家數據局將以制度建設為主線,陸續推出數據產權等8項制度文件,加大政策供給。  工業和信息化部:培育壯大數字產業規模  工業和信息化部黨組成員、副部

    首屆人工智能安全峰會在英國召開

    原文地址:http://news.sciencenet.cn/htmlnews/2023/11/511549.shtm11月1—2日,首屆全球人工智能安全峰會在英國布萊奇利園召開。美國、英國、歐盟、中國、印度等多方代表在兩天會期內,就人工智能技術快速發展帶來的風險與機遇展開討論。 首屆全球人

    人工智能+核酸適體“破解”人體更多奧秘

    我們該如何高效獲取生物醫學大數據,全面表征生命活動的數字化特征?如何利用人工智能深度解析大數據,揭示生理病理過程的內在機制?如何從復雜機制中獲取規律性認知,建立生命活動的定量數學模型?7月11日,在南京大學舉辦的中外院士前沿科技論壇中,中國科學院院士、中國科學院杭州醫學研究所所長譚蔚泓用三個“如何”

    藥監局發布醫療AI產品審批要點-人工智能企業是否就緒

      在藥監局進行“人工智能類醫療器械注冊申報公益培訓”半年之后,關于審批要求相關的官方詳細文件終于下達。半年前的會議上,藥監局細致入微的分析了影響醫療人工智能器械審批的每一個過程,細化到對每個指標進行了詳盡的講解。這一次,藥監局正式向AI企業發布了審批相關文件《深度學習輔助決策醫療器械軟件審批要點》

    頂級AI研究人員和CEO對滅絕人類的風險提出警告

      一批頂級人工智能研究人員、工程師和首席執行官就他們認為人工智能對人類構成的生存威脅發出了新的警告。這份22個英文詞匯的聲明被修剪得很短,以使其盡可能地被廣泛接受,內容如下:"減輕人工智能帶來的滅絕風險應該是一個全球優先事項,與其他社會規模的風險如大流行病和核戰爭并列。"  這份聲明由位于舊金山的

    中山醫院開啟國家人工智能應用中試基地建設

    近日,在國家發改委、國家衛健委的聯合指導下,復旦大學附屬中山醫院(以下簡稱中山醫院)開啟建設“國家人工智能應用中試基地(醫療領域臨床醫學科研方向)”。該基地以“聚焦臨床科研、破解行業痛點、構建生態標桿”為核心定位,致力于打造覆蓋“研發-測試-驗證-應用”全鏈條的創新支撐平臺。記者從中山醫院獲悉,基地

    行業AI智能體開放生態聯盟在京成立

      4月15日,行業AI智能體開放生態聯盟在北京正式成立。該聯盟由中科曙光發起,聯合百度、立思辰、高教社、中科天璣、中教云等多家企業創立。  聯盟旨在科研教育、生物信息、精準醫療等前沿領域,依托“超智融合”等技術構建從底層算力硬件到計算函數庫,以及云應用的全棧AI智能體開放創新生態體系,推進AI智能

    實現AGI之前-全球AI大佬在這4個關鍵問題上吵起來了

    “未來5年內,頭腦正常的人都不會再用自回歸LLM(大型語言模型),GPT系統將很快被拋棄。”這是圖靈獎得主、Meta首席AI科學家、紐約大學教授Yann LeCun(楊立昆)在今年智源大會上發表的觀點。今年以來,以ChatGPT為代表的AI大模型點亮了人類世界又一次群星閃耀的時刻。但顯而易見的是,A

    武漢大學新學院成立-開啟智能教育新紀元

    12月16日,武漢大學人工智能學院成立大會在圖書館二樓報告廳舉行。省委常委、常務副省長邵新宇,武漢市人民政府副市長張忠軍,武漢大學黨委書記黃泰巖,校長張平文院士,中國工程院院士、清華大學張堯學教授,中國科學院院士、清華大學胡事民教授,澳大利亞科學院院士、新加坡南洋理工大學陶大程教授等出席,地方政府、

  • <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 调性视频