เซิร์ฟเวอร์แร็ก “Blackwell Ultra” ของ NVIDIA ถือเป็นสุดยอดพลังประมวลผลในยุคนี้ แต่ก็ต้องแลกมาด้วย “ภาระด้านระบบระบายความร้อน” ที่สูงมากเช่นกัน โดย NVIDIA โปรโมต GB300 NVL72 ว่าเป็นคอนฟิกระดับสูงสุด — เซิร์ฟเวอร์แบบระบายความร้อนด้วยของเหลว (liquid-cooled rack) ที่สร้างขึ้นจากชิป Grace Blackwell Ultra Superchip ซึ่งให้ประสิทธิภาพระดับ Exascale-class FP4 ที่หนาแน่น พร้อมอัตราประสิทธิภาพต่อพลังงาน (throughput-per-megawatt) ที่ดีกว่ารุ่นก่อนอย่าง HGX อย่างมาก

อย่างไรก็ตาม ประสิทธิภาพสุดขั้วนี้ต้องแลกด้วย “ระบบหล่อเย็นขนาดมหึมา” ซึ่งมีต้นทุนสูงถึงราว 50,000 ดอลลาร์สหรัฐฯ (ประมาณ 1.8 ล้านบาทไทย)

ตามรายงานของธนาคารเพื่อการลงทุน Morgan Stanley ระบุว่า NVIDIA ต้องใช้เงินเกือบ 50,000 ดอลลาร์ เฉพาะสำหรับระบบระบายความร้อนของแร็ก “Oberon” ที่ติดตั้ง GPU ถึง 72 ตัว โดยแต่ละชิปมีค่า TDP สูงถึง 1,400 วัตต์ ทำให้ไม่สามารถใช้ระบบระบายอากาศแบบปกติได้อีกต่อไป

เมื่อรวม GPU ทั้ง 72 ตัว (รวมพลังงานกว่า 100 กิโลวัตต์) เข้ากับ CPU Grace อีก 32 ตัว ที่ทำงานร่วมกัน พลังงานรวมที่ต้องระบายความร้อนจะเกิน 100 กิโลวัตต์ ในสภาวะโหลดเต็ม Morgan Stanley ประเมินว่าแร็กหนึ่งชุดประกอบด้วย 18 ถาดคอมพิวต์ (compute trays) ซึ่งแต่ละถาดใช้พลังงานประมาณ 6.6 กิโลวัตต์ แต่ต้องระบายความร้อนราว 6.2 กิโลวัตต์ รวมมูลค่าระบบระบายความร้อนของแต่ละถาดไว้ที่ประมาณ 2,260 ดอลลาร์ หรือรวมทั้งแร็กราว 40,680 ดอลลาร์
นอกจากนี้ยังมี 9 ถาดสวิตช์ (switch trays) ที่มีต้นทุนการหล่อเย็นประมาณ 1,020 ดอลลาร์ต่อถาด รวมอีก 9,180 ดอลลาร์ โดย cold plate สมรรถนะสูง ถือเป็นชิ้นส่วนที่มีราคาสูงที่สุดในรายการต้นทุน (BOM) ซึ่งมีราคาต่อชิ้นอยู่ในระดับ “หลักหลายร้อยดอลลาร์”

น่าสนใจคือ รายงานยังคาดการณ์ว่า ระบบรุ่นถัดไปอย่าง “Vera Rubin” NVL144 จะต้องการระบบหล่อเย็นที่ซับซ้อนยิ่งกว่าเดิม เพราะ GPU และการเชื่อมต่อภายใน (interconnects) มีอัตราการใช้พลังงานที่สูงขึ้น Morgan Stanley ประเมินว่าค่าระบบหล่อเย็นอาจเพิ่มขึ้นอีกราว 17% ไปแตะที่ ประมาณ 55,710 ดอลลาร์

นี่คือแนวโน้มที่เห็นชัดในวงการ HPC และ AI Infrastructure — ยิ่งประสิทธิภาพต่อพื้นที่ (compute density) และค่า TDP สูงขึ้นเท่าไร ค่าใช้จ่ายและความซับซ้อนด้านวิศวกรรมในการ “จัดการความร้อน” ก็จะยิ่งพุ่งตามไปด้วย ซึ่งรวมถึงพลังงานของสวิตช์และระบบเชื่อมต่อที่เพิ่มขึ้นด้วย ทำให้ “ต้นทุนความเย็น” กลายเป็นหนึ่งในความท้าทายใหญ่ของระบบ AI ยุคถัดไป.