❄️💸 “เย็นแต่แพง” — ระบบระบายความร้อนของ Nvidia NVL72 และ NVL144 ในยุคที่ AI ต้องการพลังงานมากขึ้นเรื่อยๆ Nvidia ได้พัฒนาเซิร์ฟเวอร์ระดับ rack-scale ที่ชื่อว่า NVL72 และรุ่นถัดไป NVL144 ซึ่งใช้ GPU และ CPU ที่มี TDP สูงถึงหลายพันวัตต์ ส่งผลให้ระบบระบายความร้อนต้องล้ำหน้าและมีราคาสูงลิ่ว ตามรายงานจาก Morgan Stanley: 💹 NVL72 (GB300) ใช้ระบบระบายความร้อนแบบ liquid cooling มูลค่า $49,860 💹 NVL144 (Vera Rubin) จะใช้ระบบใหม่ที่มีประสิทธิภาพสูงขึ้น โดยมีมูลค่า $55,710 เพิ่มขึ้น 17% 🧊 รายละเอียดค่าใช้จ่ายของระบบระบายความร้อน 📍 Compute Tray (18 ชิ้น): 💹 NVL72: $2,260 ต่อ tray → รวม $40,680 💹 NVL144: เพิ่มเป็น $2,660 ต่อ tray → รวม $47,880 📍 Switch Tray (9 ชิ้น): 💹 NVL72: $1,020 ต่อ tray → รวม $9,180 💹 NVL144: ลดเหลือ $870 ต่อ tray → รวม $7,830 🔩 Cold Plate คือหัวใจของระบบ 📍 Cold plate สำหรับ GPU และ CPU มีราคาสูงถึง $300–$400 ต่อชิ้น 📍 สำหรับ NVSwitch ASICs อยู่ที่ $200 ต่อชิ้น 📍 รุ่นถัดไปอาจต้องใช้ cold plate ที่รองรับ TDP สูงถึง 3,600W ต่อ GPU package 🚀 เตรียมพบ NVL576 — แรงกว่าเดิม 2 เท่า Nvidia กำลังพัฒนา NVL576 “Kyber” ที่จะใช้ GPU 144 ชุด และมีประสิทธิภาพสูงกว่า NVL144 ถึง 2 เท่า แต่ก็ต้องแลกกับความร้อนที่มากขึ้น และระบบระบายความร้อนที่ซับซ้อนและแพงกว่าเดิม ✅ ค่าใช้จ่ายระบบระบายความร้อนของ NVL72 และ NVL144 ➡️ NVL72: $49,860 ต่อ rack ➡️ NVL144: $55,710 ต่อ rack (เพิ่มขึ้น 17%) ✅ รายละเอียดค่าใช้จ่ายต่อ tray ➡️ Compute tray: เพิ่มจาก $2,260 → $2,660 ➡️ Switch tray: ลดจาก $1,020 → $870 ✅ Cold plate ประสิทธิภาพสูง ➡️ GPU/CPU: $300–$400 ต่อชิ้น ➡️ NVSwitch: $200 ต่อชิ้น ➡️ รองรับ TDP สูงถึง 3,600W ในอนาคต ✅ การพัฒนา NVL576 ➡️ ใช้ GPU 144 ชุด ➡️ ประสิทธิภาพสูงกว่า NVL144 ถึง 2 เท่า ➡️ ต้องใช้ระบบระบายความร้อนที่ล้ำหน้ากว่าเดิม ‼️ ความท้าทายด้านความร้อนในยุค AI ⛔ GPU และ CPU มี TDP สูงขึ้นอย่างต่อเนื่อง ⛔ ระบบระบายความร้อนต้องลงทุนสูงและซับซ้อน ‼️ ความเสี่ยงด้านต้นทุนและพลังงาน ⛔ ค่าใช้จ่ายระบบระบายความร้อนอาจกลายเป็นอุปสรรคต่อการขยายระบบ ⛔ การใช้พลังงานสูงอาจกระทบต่อสิ่งแวดล้อมและโครงสร้างพื้นฐาน https://www.tomshardware.com/pc-components/cooling/cooling-system-for-a-single-nvidia-blackwell-ultra-nvl72-rack-costs-a-staggering-usd50-000-set-to-increase-to-usd56-000-with-next-generation-nvl144-racks