【時報記者任珮云台北報導】和碩(4938)於今年SC24以「為AI而生，激發高效運算的想像力」為主題，展出適合即時大型語言模型(LLM)運算與先進散熱基礎設施的解決方案。並透過發表多節點高密度運算效能設計的液冷(DLC)伺服器產品，引領資料中心向增進能源效率之路邁進。 呼應今年超級運算大會SC24的展覽主題「創造高效運算」，和碩展出的一系列與合作夥伴AMD，Intel，NVIDIA合作設計支援高效運算的伺服器與機架(Rack)級方案。本次亮點產品包括： 1.大規模生成式AI運算的機架解決方案：RA4401-72N1。和碩針對生成式AI運算需求，推出RA4401-72N1機架伺服器，採用NVIDIA GB200 NVL72高密度GPU解決方案，支援Liquid-to-Air Sidecar或Liquid-to-Liquid CDU散熱架構。此係統提升LLM推論速度達30倍，總擁有成本（TCO）降低25倍，並減少25倍能源消耗，成為生成式AI推論的最佳選擇。 2.NVIDIA MGX架構下的AI邊緣推論伺服器。針對AI邊緣推論需求，和碩展示多款基於NVIDIA MGX架構的伺服器，包括2U（AS201-1N0、AS205-2T1）及4U（AS400-2A1）產品，支援NVIDIA GH200、H200 NVL及L40S GPU。特別是NVIDIA H200 NVL，推動主流企業伺服器AI加速效能，相較H100 NVL提升LLM推論速度1.7倍，HPC效能增長1.3倍。 3.高密度多節點伺服器與進階散熱技術。資料中心對高密度與高效能解決方案的需求日增，和碩推出符合ORv3規範的OCP伺服器（MS303-4A1），採用最新AMD EPYC 9005系列處理器與Direct-to-Chip液冷技術，提升運算效能與散熱效率。同時，和碩展示多款氣冷式多節點伺服器（MS301-2T1、MS302-2T1），內建Intel Xeon 6處理器（E-core與P-core），滿足資料中心擴充與節能需求。