華為AI存儲榮獲2024年MLPERF? AI基準測試性能全球第一

時間：2024-09-28 00:03:46來源：admin01欄目：社會熱點閱讀：

2024年9月26日，全球最權威、影響力最廣的AI基準測試MLPERF發布了Storage V1.0 AI基準測試結果，華為OceanStor A800全新AI存儲在全球廠商中脫穎而出，總性能，每節點性能、每U性能均是全球第一。

MLPERF benchmark是一個衡量人工智能硬件、軟件和服務性能的標準化基礎測試平臺，它由圖靈獎得主大衛?帕特森（David Patterson）聯合谷歌、斯坦福、哈佛大學等頂尖企業和學術機構成立，是權威性最大、影響力最廣的國際AI性能基準測試。為了緊跟行業前沿，MLPERF每年發布基準測試數據，獲得全球廣泛認可。

本次存儲性能測試共有業界主流的13家廠商參與，通過運行一個分布式訓練測試程序，模擬GPU計算過程，最大程度還原AI服務器對存儲系統的訪問模型。以模擬AI存儲系統能夠支撐的最大GPU數量，來評估存儲系統測試性能表現。其中3D U-Net工作負載每FLOPS算力所需存儲帶寬最高，且數據需要從存儲節點讀取，不允許提前在主機上緩存，能夠真實體現存儲系統性能，更全面、更準確地反映存儲在大規模AI集群的性能表現。

特別需要注意的是，MLPerf Storage Benchmark的目標是在滿足一定加速器利用率(Accelerator utilization)的前提下，測試出存儲系統能夠支持的最大加速器(Accelerator)數量以及能夠提供的最大帶寬。如果希望獲得比較好的結果，需要從幾個方面進行努力：模擬更多的GPU卡數、存儲系統需要提供穩定的低時延、穩定的高帶寬，因此，這個榜單評測的目標是存儲系統的性能，每計算節點的加速器（Accelerator）數量和帶寬取決于計算節點的服務器性能，和存儲沒有關系。在模擬的GPU型號相同的情況下，總ACC數量（模擬的GPU數）和帶寬才能反映存儲的能力。

MLPERF Storage V1.0 基準測試結果-總性能華為排名第一

MLPERF Storage V1.0 基準測試結果-每節點性能華為排名第一

MLPERF Storage V1.0 基準測試結果-每U性能華為排名第一

本次獲得存儲性能測試全球第一的AI存儲——華為OceanStor A800，通過單臺設備成功滿足了255張H100 GPU訓練的數據吞吐需求，GPU利用率保持90%以上，單框穩定帶寬高達679 GB/s，是傳統存儲性能的10倍。平均每節點提供高達340GB/s帶寬，每U提供高達85GB/s的帶寬，分別是第二名2.88倍和1.44倍，體現了OceanStor A800全面領先的競爭力。同時可以通過OceanStor A800大規模橫向擴展提供百TB級帶寬，checkpoint讀寫時間從10分鐘縮短至秒級，斷點續訓時間小于15分鐘，極大減少GPU等待，端到端算力利用率提升30%+，全面提升大模型訓練效率。首次參與即在MLPERF Storage V1.0基準測試性能榜單登頂，這一成就不僅彰顯了華為數據存儲技術的卓越實力，更標志著華為數據存儲在業界又達成一個關鍵里程碑。

華為數據存儲深耕細作，持續創新，推出全新OceanStor A系列AI存儲。面向AI場景混合負載，基于全新硬件，打造架構領先的存儲系統，具備卓越性能、EB級彈性擴展、推理長記憶等能力，全面加速AI大模型訓推業務。

面向未來，華為AI存儲在AI大模型領域將持續深耕，不斷突破性能極限，駕馭AI大模型數據浪潮，引領數據未來。

冷鏈服務業務聯系電話：19937817614