大模型基礎設施如何建?首先要搭萬卡規模的網絡架構
“生成式AI是一個跨越式的技術,和原來的技術有了非常大的變革,可以說是劃時代的技術。它最大的特點就是模型大,過去幾年以每年10倍參數量的速度在增長。之前AI應用里,很多訓練的任務都是單卡或單機就能完成,但在大模型時代,需要千卡、萬卡來完成一個任務。”5月23日,百度杰出系統架構師王雁鵬在深圳舉行的文心大模型技術交流會上說道。在王雁鵬看來,在這樣的算力要求下,智算基礎設施的設計范式演進已經發生轉變。要構建這樣萬卡規模的大模型基礎設施,核心需要關注的有四點:第一,需要構建智算集群,能夠支持萬卡級別的高速互聯,并且支持各種異構算力,包括CPU(中央處理器)、GPU(圖形處理器)等算力的高速互聯。第二,光有硬件能力還很難有好的效果,比如要發揮一張GPU或AI芯片的性能,非常難,所以要把軟件棧優化好,這最終會體現在訓練和推理的性能加速優化上。第三是高性價比,構建這樣一個系統需要有更合理的技術選擇,最貴的東西也不能滿足全部需求,做存儲分層、......閱讀全文
生成式AI帶來的新思考
過去幾個月,ChatGPT為人工智能技術按下加速鍵。這個聊天程序證明了超大參數模型和通用型人工智能的可行性,谷歌、亞馬遜等巨頭紛紛推出自主研發的相關平臺,國內也已有十數家企業在該領域有所布局。 它們被統稱為“生成式人工智能”。簡單來說,這種AI可以通過算法生成新內容,包括圖像、文字、音樂,甚至視頻
生成式AI進軍基因編輯領域
OpenCRISPR-1的物理結構,這是一種由Profluent的AI技術創建的基因編輯器。圖片來源:singularityhub.com制圖、寫歌、作詩、編程、生成視頻……生成式人工智能(AI)技術與各行業的結合不斷為人們帶來驚喜,在各領域掀起革新浪潮。現在,AI的應用場景再次拓展:美國AI蛋白質
生成式AI引發治理新思考
原文地址:http://news.sciencenet.cn/htmlnews/2023/4/499199.shtm
生成式AI投融資熱潮席卷全球
最近,由微軟投資的開放人工智能研究中心(OpenAI)開發的聊天機器人ChatGPT引發廣泛關注,它能夠利用大型語言模型技術,快速生成精雕細琢的文本,如散文或詩歌等。一石激起千層浪。包括谷歌、元宇宙、亞馬遜公司等在內的科技巨頭紛紛開始推出或開發自己的聊天機器人,并投資相關初創企業,針對生成式AI的投
警惕生成式AI推動虛假信息運動
生成式人工智能(AI)橫空出世,可能給人類帶來巨大的影響。美國高盛集團今年早些時候警告稱,超過3億個全職工作崗位可能會受到波及。美國國會研究服務局5月發布的一份報告指出,AI的最新創新也提出了新的版權問題,即如何界定AI創建或使用的內容屬于侵權還是合理使用等。美國《福布斯》網站在6月9日的報道中指出
生成式AI實現護膚品虛擬試用
位于愛沙尼亞塔林市的Haut.AI是一家專門為皮膚、頭發和健康進行人工智能(AI)分析的公司。據美國科學促進會Eurekalert網站19日消息,該公司剛剛發布的用于建模皮膚狀況的新生成式AI技術——SkinGPT,允許用戶上傳他們的照片,并應用AI來模擬其皮膚在使用護膚品時如何隨時間變化。Sk
中外青年熱議生成式AI的局限
近日,國家網信辦發布了《生成式人工智能(AI)服務管理辦法(征求意見稿)》,針對面向中國境內公眾提供服務的生成式人工智能產品,包括其研發及服務,向社會公開征求管理意見。 生成式AI正是當前以ChatGPT等智能聊天機器人為代表的技術。自去年11月ChatGPT發布以來,其展示的與人類高度相似的
中外青年熱議生成式AI的局限
近日,國家網信辦發布了《生成式人工智能(AI)服務管理辦法(征求意見稿)》,針對面向中國境內公眾提供服務的生成式人工智能產品,包括其研發及服務,向社會公開征求管理意見。生成式AI正是當前以ChatGPT等智能聊天機器人為代表的技術。自去年11月ChatGPT發布以來,其展示的與人類高度相似的對話能力
國內首家近視兒童AI生成式病歷問世
暑期就診高峰期,病歷撰寫占用大量醫生資源,導致診療效率下降、患者體驗受損問題,如何應對?復旦大學附屬眼耳鼻喉科醫院率先推出了一個解決方案——人工智能(AI)生成式病歷系統。該系統深度整合了眼視光學知識體系與AI技術,建立了眼視光專業術語庫,通過訓練模型,對海量病歷數據、眼視光學學科文獻以及病種知識體
生成式AI破解醫學數據分析難題
在一項早期真實世界測試中,加州大學舊金山分校(UCSF)和韋恩州立大學的研究者發現,生成式人工智能處理龐雜醫學數據集的速度,遠超傳統的計算機科學團隊,在某些情況下甚至得出更強的分析結果。而人類專家此前已花費數月時間,仔細分析著同一批信息。為了直接比較性能,研究者把完全相同的任務分派給不同小組:一部分
用AI識別AI:西湖大學研究可檢測AI生成文本
虛假新聞、惡意產品評論、剽竊……ChatGPT、 GPT-4等AI大語言模型的應用帶來便利,但其誤用也帶來一系列問題。西湖大學工學院張岳教授的“文本智能實驗室”日前發布的一項研究提出一種高準確率、高速、低成本、通用的新文本檢測方法——Fast-DetectGPT,無需訓練即可識別各種AI大語言模型生
ChatGPT爆火,生成式AI意味著什么?
原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494048.shtm
生成式AI時代,大模型數據安全如何保障?
在生成式AI(人工智能)時代,數據安全的出路可能會是“用魔法打敗魔法”,知識產權保護也可能要提前到token(字符串)層面。4月26日,在2024中關村論壇上,人工智能企業與學者就AI大模型的數據安全問題進行了討論。中關村論壇數據安全治理與發展論壇現場? 澎湃新聞記者 秦盛 攝“在生成式人工智能時代
生成式AI下一站:文本轉視頻
原文地址:http://news.sciencenet.cn/htmlnews/2023/4/498451.shtm 聊天機器人ChatGPT的爆紅,讓生成式人工智能(AI)成為科技領域的“當紅炸子雞”。除了如今“霸屏”的類似ChatGPT的語言模型之外,生成式AI領域還有大量其他技術:文本生成
“幫手”還是“幫兇”?生成式AI學術使用須關注
圖片來源:《自然》網站生成式人工智能(AI)工具快速普及,在學術寫作領域呈現爆炸式應用勢頭。使用基于大語言模型(LLM)的生成式AI工具能節省時間,減少語言障礙,讓論文更加明白通暢。但這些工具的應用也讓剽竊問題變得更復雜。英國《自然》網站在近日的報道中指出,對利用AI寫作是否構成剽竊,以及在什么情況
生成式AI賦能腦網絡構建新范式
近日,中國科學院深圳先進技術研究院數字所王書強課題組在《IEEE模式分析與機器智能匯刊》發表研究成果,實現了基于生成式AI優化模型的End-to-End腦網絡構建。生成式AI通過從數據中自動學習提取隱藏的模式和規律,在模擬復雜自然過程、分析和預測科學數據等方面表現出巨大潛力。相較于傳統方法,生成式A
生成式AI設計出非天然蛋白質
加拿大多倫多大學研究人員開發了一種人工智能系統,可以使用生成擴散來創建自然界中不存在的蛋白質。該系統有望使治療蛋白的設計和測試更加高效和靈活,從而加速人類藥物開發。研究發表在最新一期《自然·計算科學》雜志上。 蛋白質由氨基酸鏈組成,氨基酸鏈折疊成的三維形狀反過來又決定了蛋白質的功能。這些折疊的
“幫手”還是“幫兇”?生成式AI學術使用須關注
生成式人工智能(AI)工具快速普及,在學術寫作領域呈現爆炸式應用勢頭。使用基于大語言模型(LLM)的生成式AI工具能節省時間,減少語言障礙,讓論文更加明白通暢。但這些工具的應用也讓剽竊問題變得更復雜。英國《自然》網站在近日的報道中指出,對利用AI寫作是否構成剽竊,以及在什么情況下允許利用AI進行寫作
用AI生成數據訓練AI或導致模型崩潰
科技日報北京7月25日電?(記者張夢然)《自然》24日正式發表的一篇研究論文指出了一個人工智能(AI)嚴重問題:用AI生成的數據集訓練未來幾代機器學習模型,可能會嚴重“污染”它們的輸出,這被稱為“模型崩潰”。研究顯示,原始內容會在9次迭代以后,變成不相關的“胡言亂語”(演示中一個建筑文本最終變成了野
用AI生成數據訓練AI或導致模型崩潰
《自然》24日正式發表的一篇研究論文指出了一個人工智能(AI)嚴重問題:用AI生成的數據集訓練未來幾代機器學習模型,可能會嚴重“污染”它們的輸出,這被稱為“模型崩潰”。研究顯示,原始內容會在9次迭代以后,變成不相關的“胡言亂語”(演示中一個建筑文本最終變成了野兔的名字),這凸顯出使用可靠數據訓練
生成式AI可訓練機器人執行多種任務
鏟子,刀子,錘子,扳手3個不同的數據集:模擬(上)、機器人遠程操作(中)和人類演示(下)讓機器人能學習使用不同的工具。圖片來源:麻省理工學院科技日報北京6月23日電?(記者張夢然)據美國麻省理工學院官網近日報道,該機構研究人員為了訓練更先進的多用途機器人,開發出一種技術:使用一種稱為擴散模型的生成式
《自然》封面:以AI生成數據訓練AI,模型變傻?
大模型有許多“崩”的時候,但有一種崩潰叫做“自毀前程”—— 近日,《自然》發表在封面的一篇論文指出,用AI生成的數據集訓練未來幾代機器學習模型,可能會“污染”它們的輸出。這項由英國牛津大學、劍橋大學、帝國理工學院、加拿大多倫多大學等多所高校聯合開展的研究顯示,原始內容會在數代內變成不相關的“胡
《自然》封面:以AI生成數據訓練AI,模型變傻?
大模型有許多“崩”的時候,但有一種崩潰叫做“自毀前程”——近日,《自然》發表在封面的一篇論文指出,用AI生成的數據集訓練未來幾代機器學習模型,可能會“污染”它們的輸出。這項由英國牛津大學、劍橋大學、帝國理工學院、加拿大多倫多大學等多所高校聯合開展的研究顯示,原始內容會在數代內變成不相關的“胡言亂語”
高盛:生成式AI或將推動全球GDP增長7%
高盛研究部最近發布的一份研究報告指出,生成式人工智能技術的發展將給全球經濟帶來巨大變化。隨著以自然語言處理為核心技術的先進生產力工具被企業和社會采用,高盛預計未來10年,全球年均GDP有望增長7 (約合近7萬億美元)。據高盛研究部經濟學家Joseph Briggs和Devesh Kodnani在報告
AI視頻生成模型Sora來了
原文地址:http://news.sciencenet.cn/htmlnews/2024/2/517625.shtm
亞馬遜云科技提出全面發力生成式AI的中國行動
12月12日,亞馬遜云科技2023 re:Invent中國行城市巡展活動在北京開啟。活動上,亞馬遜云科技宣貫了其全面發力生成式人工智能(AIGC)戰略的中國行動,稱將推出面向企業級生成式AI的一系列新服務及功能,并提供生成式AI各類數據及數據計算能力支持,包括其新一代自研芯片Amazon Gra
扎克伯格:生成式AI將觸及Meta所有產品
社交媒體巨頭Meta公司當地時間4月26日公布今年第一季度財報,顯示其銷售額在近一年內首次增長。Meta首席執行官馬克·扎克伯格告訴投資者,該公司看到了“將人工智能代理以有用和有意義的方式帶給數十億人的機會”,但并沒有放棄元宇宙。財報顯示,該公司第一季度的收入為286億美元,比去年同期增長3%,高于
英偉達推出生成式AI藥物發現平臺開啟新布局
人工智能計算領導者英偉達(NVIDIA)在過去的一年里接連投資幾家AI藥物開發公司,其在藥物開發領域的雄心壯志正在成為全世界的焦點。?日前,英偉達宣布了三項新舉措,其中包括與安進(Amgen)子公司deCode進行新的合作。英偉達表示,deCode將利用英偉達的超級計算機和BioNeMo生成式人工智
AI生成超越自然界的蛋白?
美國研究人員使用人工智能(AI)來設計超越自然界的新蛋白質。他們開發的機器學習算法,可生成具有特定結構特征的蛋白質,這些蛋白質可用于制造具有特定機械性能(如剛度或彈性)的材料,從而取代作為原料的石油或陶瓷。研究論文發表在最新一期《化學》雜志上。 麻省理工學院、IBM沃森AI實驗室和塔夫茨大學研究人
生成式AI加速抗病毒藥物開發,提高藥物發現潛力
新興藥物靶蛋白的抑制劑發現具有挑戰性,特別是當靶結構或活性分子未知時。 IBM 研究院、牛津大學和 Diamond Light Source 公司的合作團隊,通過實驗驗證了深度生成框架的廣泛實用性,他們的框架在蛋白質序列、小分子及其相互相互作用上進行了大規模訓練,不偏向任何特定目標。 研究人