Phononic เผยเทคโนโลยีระบายความร้อนแบบใหม่ ช่วยเพิ่มพลัง AI GPU ของ NVIDIA คืนทุนได้ในไม่กี่เดือน

Phononic บริษัทเทคโนโลยีด้านการระบายความร้อน เปิดเผยว่าเทคโนโลยี thermoelectric cooling (TEC) ของตนสามารถเพิ่มประสิทธิภาพของ GPU สำหรับงาน AI ได้อย่างมีนัยสำคัญ โดยเฉพาะกับชิป NVIDIA H100 และ Blackwell รุ่นล่าสุด ซึ่งมีความร้อนสูงมากจากการประมวลผล LLM และ GenAI ที่ซับซ้อน การควบคุมอุณหภูมิอย่างแม่นยำช่วยให้ GPU ทำงานได้เต็มประสิทธิภาพ ลดการ throttling และเพิ่ม throughput ได้อย่างชัดเจน

Larry Yang, Chief Product Officer ของ Phononic อธิบายว่า GPU สมัยใหม่มีข้อจำกัดด้านความร้อน โดยเฉพาะชิป HBM (High Bandwidth Memory) ที่อยู่ติดกับ GPU ซึ่งมักเป็นจุดร้อนที่สุด หากสามารถลดอุณหภูมิของ HBM ได้ ก็จะช่วยให้ GPU ทำงานได้เร็วขึ้นโดยไม่ต้องเพิ่มจำนวน GPU ส่งผลให้ต้นทุนรวมลดลง และสามารถคืนทุนจากการลงทุนในระบบ AI ได้ภายใน “หลักเดือนเดียว”

Phononic ใช้เทคโนโลยี solid-state cooling ที่ไม่มีชิ้นส่วนเคลื่อนไหว ตอบสนองเร็วระดับมิลลิวินาที และสามารถควบคุมอุณหภูมิแบบเฉพาะจุด (localized cooling) ได้อย่างแม่นยำ โดยติดตั้ง TEC ไว้บน HBM แต่ละตัว พร้อมระบบควบคุมอัจฉริยะที่ปรับระดับความเย็นตามโหลดงานจริง

นอกจากนี้ ยังมีการพูดถึงการนำเทคโนโลยีนี้ไปใช้กับ AI ASICs และชิปเครือข่าย เช่น optical transceivers และ switch ASICs ซึ่งมีปัญหาความร้อนคล้ายกัน

เทคโนโลยี thermoelectric cooling (TEC) ของ Phononic
ใช้หลักการ solid-state ไม่มีพัดลมหรือของเหลว
ตอบสนองเร็วระดับมิลลิวินาที ควบคุมอุณหภูมิแบบเฉพาะจุด
ติดตั้งบน HBM เพื่อป้องกันการ throttling และเพิ่ม performance

ผลลัพธ์จากการใช้งานกับ GPU NVIDIA
เพิ่ม throughput ของ H100 และ Blackwell ได้อย่างชัดเจน
ลดจำนวน GPU ที่ต้องใช้ในระบบ AI
คืนทุนจากการลงทุนได้ภายใน “single-digit months”

ปัญหาความร้อนใน AI GPU
HBM เป็นจุดร้อนหลักในแพ็กเกจ GPU
ความร้อนสูงทำให้ต้องลดความเร็วการทำงานของ GPU
การระบายความร้อนที่ดีช่วยให้ใช้ศักยภาพของ GPU ได้เต็มที่

การขยายไปยังชิปอื่น ๆ
ใช้กับ optical transceivers และ switch ASICs ได้
รองรับการใช้งานในดาต้าเซ็นเตอร์ขนาดใหญ่
มีระบบควบคุมผ่าน API และซอฟต์แวร์ orchestration

https://wccftech.com/nvidias-ai-gpu-performance-can-be-increased-to-bring-payback-to-the-order-of-single-digit-months-says-phononic-chief-product-officer/
🧊 Phononic เผยเทคโนโลยีระบายความร้อนแบบใหม่ ช่วยเพิ่มพลัง AI GPU ของ NVIDIA คืนทุนได้ในไม่กี่เดือน Phononic บริษัทเทคโนโลยีด้านการระบายความร้อน เปิดเผยว่าเทคโนโลยี thermoelectric cooling (TEC) ของตนสามารถเพิ่มประสิทธิภาพของ GPU สำหรับงาน AI ได้อย่างมีนัยสำคัญ โดยเฉพาะกับชิป NVIDIA H100 และ Blackwell รุ่นล่าสุด ซึ่งมีความร้อนสูงมากจากการประมวลผล LLM และ GenAI ที่ซับซ้อน การควบคุมอุณหภูมิอย่างแม่นยำช่วยให้ GPU ทำงานได้เต็มประสิทธิภาพ ลดการ throttling และเพิ่ม throughput ได้อย่างชัดเจน Larry Yang, Chief Product Officer ของ Phononic อธิบายว่า GPU สมัยใหม่มีข้อจำกัดด้านความร้อน โดยเฉพาะชิป HBM (High Bandwidth Memory) ที่อยู่ติดกับ GPU ซึ่งมักเป็นจุดร้อนที่สุด หากสามารถลดอุณหภูมิของ HBM ได้ ก็จะช่วยให้ GPU ทำงานได้เร็วขึ้นโดยไม่ต้องเพิ่มจำนวน GPU ส่งผลให้ต้นทุนรวมลดลง และสามารถคืนทุนจากการลงทุนในระบบ AI ได้ภายใน “หลักเดือนเดียว” Phononic ใช้เทคโนโลยี solid-state cooling ที่ไม่มีชิ้นส่วนเคลื่อนไหว ตอบสนองเร็วระดับมิลลิวินาที และสามารถควบคุมอุณหภูมิแบบเฉพาะจุด (localized cooling) ได้อย่างแม่นยำ โดยติดตั้ง TEC ไว้บน HBM แต่ละตัว พร้อมระบบควบคุมอัจฉริยะที่ปรับระดับความเย็นตามโหลดงานจริง นอกจากนี้ ยังมีการพูดถึงการนำเทคโนโลยีนี้ไปใช้กับ AI ASICs และชิปเครือข่าย เช่น optical transceivers และ switch ASICs ซึ่งมีปัญหาความร้อนคล้ายกัน ✅ เทคโนโลยี thermoelectric cooling (TEC) ของ Phononic ➡️ ใช้หลักการ solid-state ไม่มีพัดลมหรือของเหลว ➡️ ตอบสนองเร็วระดับมิลลิวินาที ควบคุมอุณหภูมิแบบเฉพาะจุด ➡️ ติดตั้งบน HBM เพื่อป้องกันการ throttling และเพิ่ม performance ✅ ผลลัพธ์จากการใช้งานกับ GPU NVIDIA ➡️ เพิ่ม throughput ของ H100 และ Blackwell ได้อย่างชัดเจน ➡️ ลดจำนวน GPU ที่ต้องใช้ในระบบ AI ➡️ คืนทุนจากการลงทุนได้ภายใน “single-digit months” ✅ ปัญหาความร้อนใน AI GPU ➡️ HBM เป็นจุดร้อนหลักในแพ็กเกจ GPU ➡️ ความร้อนสูงทำให้ต้องลดความเร็วการทำงานของ GPU ➡️ การระบายความร้อนที่ดีช่วยให้ใช้ศักยภาพของ GPU ได้เต็มที่ ✅ การขยายไปยังชิปอื่น ๆ ➡️ ใช้กับ optical transceivers และ switch ASICs ได้ ➡️ รองรับการใช้งานในดาต้าเซ็นเตอร์ขนาดใหญ่ ➡️ มีระบบควบคุมผ่าน API และซอฟต์แวร์ orchestration https://wccftech.com/nvidias-ai-gpu-performance-can-be-increased-to-bring-payback-to-the-order-of-single-digit-months-says-phononic-chief-product-officer/
WCCFTECH.COM
NVIDIA's AI GPU Performance Can Be Increased To Bring Payback To The Order Of "Single Digit Months," Says Phononic Chief Product Officer
After NVIDIA launched its Rubin AI GPUs last month, we decided to interview Larry Yang, the chief product officer at Phononic. We were wondering about the new chips' cooling requirements given that energy constraints are closely related to AI rollout. Larry is an industry veteran with more than 30 years of experience under his belt. He has previously worked at Google, IBM, Microsoft and Cisco. Our conversation revolved around the cooling requirements for NVIDIA's and other AI chips. It also covered AI ASICs, commonly known as custom AI processors. Related Story NVIDIA’s Latest Rubin AI GPUs Don’t Have To Be […]
0 ความคิดเห็น 0 การแบ่งปัน 32 มุมมอง 0 รีวิว