“香雪3B”服務器獲MLPerf總成績第一

原文地址：http://news.sciencenet.cn/htmlnews/2022/7/482459.shtm

“香雪-3B”高密度AI服務器。芯跳科技 供圖

近日，全球權威AI性能基準評測機構MLPerf公布最新AI訓練Training V2.0榜單。其中，芯跳科技（廣州）有限公司（以下簡稱芯跳科技）研發的高密度AI服務器“香雪-3B”（XIANGXUE-3B）共斬獲2項冠軍、3項亞軍，總成績排名第一。

據悉，MLPerf由圖靈獎得主大衛·帕特森（David Patterson）聯合斯坦福大學、哈佛大學等頂尖學術機構發起成立，是國際最具權威和影響力的AI性能基準評測組織。此次MLPerf基準測試，包括谷歌、戴爾等在內的頂級廠商與研究機構共提交超過260項成績。

在本次MLPerf Training V2.0評測中，“香雪-3B”共參與5項測試場景，提交三組配置和7項測試成績（MLPerf編號：2.0-2020～2.0-2025）。在強化學習（Minigo）、目標檢測（RetinaNet）兩項場景中獲得冠軍；在目標檢測（Mask R-CNN）、圖像分類（ResNet）、圖像分割（3D U-Net）三項場景中獲得亞軍；在目標檢測（Mask R-CNN）任務中獲得第三名；在單機性能總榜單中排名第一。

在強化學習場景中，“香雪-3B”較第二名縮短近1小時訓練時間，速度優勢超33%，并首次實現單機200分鐘以內的Minigo訓練，將MLPerf性能紀錄由264分鐘刷新至174分鐘，速度提升超過50%。同時，在目標檢測相關的RetinaNet任務中性能也大幅領先，較第二名速度提升超過23%。

據介紹，“香雪-3B”以其卓越的性能、廣泛的通用性、高可靠性，在商用 GPU 服務器中，所參與的五個場景均排名第一。“香雪-3B”可支持各類標準PCIE加速設備且支持全部的IO接口引出，用戶可綜合考慮業務需求和投入成本進行靈活配置，是進行高密度算力和IO升級的理想選擇。

“香雪-3B”服務器在MLPerf評測中的出色表現，得益于芯跳科技完備的AI技術體系和豐富的系統設計經驗。借助“香雪-3B”服務器超高的GPU擴展能力，普通用戶無需部署復雜且昂貴的分布式訓練系統，即可快速提升任務性能。“香雪-3B”是前沿技術研究實現成果轉化的成功案例，可面向全球用戶銷售并提供全面服務。

“香雪-3B”服務器在單節點內可提供10 PFLOPS AI算力，靈活支持多種PCIE架構形式以適應廣泛的應用需求，本次測評結果顯示，其在不同場景下均具備出色的單機性能，為AI和機器學習用戶提供了具有高度參考價值的極限性能數據。

由于AI訓練的復雜性，不同場景對加速器運算特性、數據IO吞吐、集群網絡拓撲等需求有著明顯差別，而新型網絡的快速發展對系統靈活性和任務適配提出了很大挑戰，相比先前版本，本次MLPerf 2.0評價標準的最大改變在于輕量化目標檢測任務中將SSD模型更換為RetinaNet模型，更好的反映了實際應用。