英偉達(Nvidia)推出了一款用于訓練人工智能模型的“超級芯片”,這是該公司迄今為止生產的最強大的芯片。這家美國計算機公司最近市值飆升,成為全球第三大公司。該公司尚未透露其新芯片的成本,但觀察人士預計,其高昂的價格或可致使少數組織能夠使用這些芯片。

英偉達GB200 Grace Blackwell超級芯片。
3月18日,英偉達首席執行官黃仁勛在新聞發布會上宣布了這些芯片。他展示了新一代Blackwell B200圖形處理單元(GPUs),每個GPU都有2080億個晶體管(現代計算設備核心的微小開關),而英偉達當前一代的Hopper芯片只有800億個晶體管。他還透露了GB200 Grace Blackwell超級芯片結合了兩個B200芯片。
“Blackwell將成為一個令人驚嘆的生成式人工智能系統。未來,數據中心將被視為人工智能工廠。”黃仁勛說。
對于任何尋求訓練大型人工智能模型的組織來說,GPUs已成為令人垂涎的硬件。在2023年人工智能芯片短缺期間,SpaceX首席執行官馬斯克說GPU“比藥物更難獲得”,一些無法獲得GPU的學術研究人員哀嘆自己“GPU貧乏”。
英偉達聲稱,在運行基于OpenAI的GPT-4等大型語言模型的生成式人工智能服務時,與Hopper GPUs相比,Blackwell芯片的性能提高了30倍,同時能耗減少了25倍。
英偉達表示,GPT-4需要大約8000個Hopper GPUs和15兆瓦的功率來完成90天的訓練,而同樣的人工智能訓練只需要2000個Blackwell GPUs,消耗4兆瓦的功率。
該公司尚未透露Blackwell GPUs的價格,但鑒于Hopper GPUs的價格已經在每個2萬到4萬美元之間,新芯片的價格可能會達到令人瞠目的水平。開發共享人工智能代碼和數據集工具的人工智能公司Hugging Face的Sasha Luccioni表示,這種專注于開發更強大、更昂貴芯片的做法意味著,將只有少數幾個組織和國家能接觸到。
這項能源密集型技術也會對環境產生影響。預計到2026年,數據中心擴建帶來的電力需求(主要是由人工智能熱潮推動的)將翻一番,與日本目前的能源消耗相當。如果支持人工智能培訓的數據中心繼續依賴化石燃料發電廠,碳排放量也可能急劇上升。