推動 AI 伺服器基礎設施機架級 (Rack)高壓供電轉型有二個主要趨勢:
- GPU 功耗上升:由於 AI 工作負載日益密集,GPU 功耗不斷增長,這是現代資料中心電力需求增加的主要原因。
隨著 GPU 運算效能的不斷提升,其功耗需求也顯著增加。
- 機架運算密度提高:為了最大限度地提高效能並最大限度地減少大規模 AI 訓練和推理的互連延遲,越來越多的 GPU 被整合到單一機架中。
這種集中部署方式提高了頻寬效率並減少了延遲,因為它們之間的連線更短、更有效率。
為了滿足機架日益增長的電力需求,業界正在轉向一種將電源組件與主機架分開的供電方案。
在這種模式下,傳統的電源組件,例如配電單元 (PDU)、電池備用單元 (BBU) 和電容器單元 (CU),從主 IT 機架遷移到相鄰的電源側櫃。這種分離不僅支援更高的電壓輸出,例如 800 V,還能釋放機架內寶貴的空間,用於額外的運算資源。
看更多相關文章: