⚡️ เรื่องเล่าจากสนามแข่งขันชิป AI: เมื่อ Positron และ Groq ลุกขึ้นสู้ Nvidia ด้วยพลังงานที่น้อยกว่าแต่เร็วกว่า

ในยุคที่ AI กลายเป็นหัวใจของทุกอุตสาหกรรม ความต้องการพลังงานในการประมวลผลก็พุ่งสูงขึ้นอย่างน่ากังวล โดยเฉพาะในขั้นตอน “inference” หรือการนำโมเดลที่ฝึกแล้วมาใช้งานจริง เช่น การตอบคำถามหรือสร้างภาพ ซึ่งใช้พลังงานมหาศาล

Positron บริษัทสตาร์ทอัพจากสหรัฐฯ ก่อตั้งในปี 2023 ได้พัฒนาชิปที่เน้นเฉพาะการ inference โดยตัดฟังก์ชันที่ไม่จำเป็นออกไป ทำให้ประหยัดพลังงานได้ถึง 6 เท่าเมื่อเทียบกับชิป Vera Rubin รุ่นใหม่ของ Nvidia และมีประสิทธิภาพต่อราคาดีกว่า 2–3 เท่า

Groq อีกหนึ่งผู้ท้าชิง ใช้แนวคิด “assembly line” ในการประมวลผล AI โดยฝังหน่วยความจำไว้ในตัวชิป ทำให้ลดการเคลื่อนย้ายข้อมูลระหว่างชิป ซึ่งเป็นต้นเหตุของการใช้พลังงานสูง ชิปของ Groq ใช้พลังงานเพียง 1/3 ของ Nvidia แต่ให้ผลลัพธ์เร็วกว่า

แม้ Nvidia จะยังครองตลาดด้วยชิป Blackwell และ Vera Rubin ที่มีประสิทธิภาพสูง แต่บริษัทหน้าใหม่เหล่านี้กำลังได้รับความสนใจจากผู้ให้บริการคลาวด์รายใหญ่ เช่น Cloudflare ที่เริ่มทดลองใช้งานจริงแล้ว

Positron พัฒนาชิป AI inference ที่ประหยัดพลังงานและต้นทุนต่ำกว่าชิป Nvidia Vera Rubin
ประหยัดพลังงานได้มากถึง 6 เท่า
ประสิทธิภาพต่อราคาดีกว่า 2–3 เท่า

Groq ใช้สถาปัตยกรรมแบบ assembly line พร้อมฝังหน่วยความจำในตัวชิป
ลดการเคลื่อนย้ายข้อมูลระหว่างชิป
ใช้พลังงานเพียง 1/3 ของ Nvidia แต่ให้ผลลัพธ์เร็วกว่า

Cloudflare เริ่มทดลองใช้งานชิปของ Positron และ Groq ในระดับจริงจัง
เป็นหนึ่งในบริษัทแรกที่ทดสอบชิปนอกเหนือจาก Nvidia อย่างจริงจัง
หากผลลัพธ์เป็นไปตามที่โฆษณา จะขยายการใช้งานทั่วโลก

Nvidia เปิดตัวชิป Vera Rubin และ Blackwell ที่มีประสิทธิภาพสูงขึ้นถึง 30 เท่า
Vera Rubin มีหน่วยความจำ 288 GB และเชื่อมต่อด้วย NVLink ความเร็วสูง
Blackwell Ultra ให้ประสิทธิภาพ inference สูงถึง 3.6 exaFLOPS

บริษัทเทคโนโลยีใหญ่ เช่น Google, Amazon, Microsoft กำลังพัฒนาชิป inference ของตัวเอง
เพื่อลดต้นทุนและพึ่งพา Nvidia ให้น้อยลง
ลงทุนหลายพันล้านดอลลาร์ในชิปเฉพาะทาง

แม้ชิปใหม่จะประหยัดพลังงาน แต่ความต้องการ AI ยังเติบโตเร็วกว่าการปรับปรุงประสิทธิภาพ
คาดว่าการใช้พลังงานของ AI จะเพิ่มขึ้น 50% ต่อปีจนถึงปี 2030
อาจทำให้โครงข่ายไฟฟ้ากลายเป็นคอขวดของการพัฒนา AI

การพึ่งพา Nvidia มากเกินไปอาจสร้าง “Nvidia tax” ให้กับอุตสาหกรรม
Nvidia มีอัตรากำไรขั้นต้นสูงถึง 60% จากการขายชิป
ทำให้ต้นทุนการประมวลผล AI สูงเกินจำเป็น

ชิปที่เน้น inference อาจไม่เหมาะกับงานที่ต้องการความยืดหยุ่นสูง
Positron และ Groq เน้นเฉพาะงาน inference ไม่ครอบคลุมทุก workload
อาจต้องใช้ร่วมกับชิปอื่นในระบบที่ซับซ้อน

การเปลี่ยนมาใช้ชิปใหม่ต้องใช้เวลาในการปรับระบบและทดสอบความเข้ากันได้
ต้องพิจารณาความเข้ากันได้กับ API และโครงสร้างคลาวด์เดิม
อาจมีความเสี่ยงด้านการลงทุนหากชิปไม่ผ่านการทดสอบในระยะยาว

https://www.techspot.com/news/108831-next-gen-chipmakers-aim-rein-ai-runaway-power.html
⚡️ เรื่องเล่าจากสนามแข่งขันชิป AI: เมื่อ Positron และ Groq ลุกขึ้นสู้ Nvidia ด้วยพลังงานที่น้อยกว่าแต่เร็วกว่า ในยุคที่ AI กลายเป็นหัวใจของทุกอุตสาหกรรม ความต้องการพลังงานในการประมวลผลก็พุ่งสูงขึ้นอย่างน่ากังวล โดยเฉพาะในขั้นตอน “inference” หรือการนำโมเดลที่ฝึกแล้วมาใช้งานจริง เช่น การตอบคำถามหรือสร้างภาพ ซึ่งใช้พลังงานมหาศาล Positron บริษัทสตาร์ทอัพจากสหรัฐฯ ก่อตั้งในปี 2023 ได้พัฒนาชิปที่เน้นเฉพาะการ inference โดยตัดฟังก์ชันที่ไม่จำเป็นออกไป ทำให้ประหยัดพลังงานได้ถึง 6 เท่าเมื่อเทียบกับชิป Vera Rubin รุ่นใหม่ของ Nvidia และมีประสิทธิภาพต่อราคาดีกว่า 2–3 เท่า Groq อีกหนึ่งผู้ท้าชิง ใช้แนวคิด “assembly line” ในการประมวลผล AI โดยฝังหน่วยความจำไว้ในตัวชิป ทำให้ลดการเคลื่อนย้ายข้อมูลระหว่างชิป ซึ่งเป็นต้นเหตุของการใช้พลังงานสูง ชิปของ Groq ใช้พลังงานเพียง 1/3 ของ Nvidia แต่ให้ผลลัพธ์เร็วกว่า แม้ Nvidia จะยังครองตลาดด้วยชิป Blackwell และ Vera Rubin ที่มีประสิทธิภาพสูง แต่บริษัทหน้าใหม่เหล่านี้กำลังได้รับความสนใจจากผู้ให้บริการคลาวด์รายใหญ่ เช่น Cloudflare ที่เริ่มทดลองใช้งานจริงแล้ว ✅ Positron พัฒนาชิป AI inference ที่ประหยัดพลังงานและต้นทุนต่ำกว่าชิป Nvidia Vera Rubin ➡️ ประหยัดพลังงานได้มากถึง 6 เท่า ➡️ ประสิทธิภาพต่อราคาดีกว่า 2–3 เท่า ✅ Groq ใช้สถาปัตยกรรมแบบ assembly line พร้อมฝังหน่วยความจำในตัวชิป ➡️ ลดการเคลื่อนย้ายข้อมูลระหว่างชิป ➡️ ใช้พลังงานเพียง 1/3 ของ Nvidia แต่ให้ผลลัพธ์เร็วกว่า ✅ Cloudflare เริ่มทดลองใช้งานชิปของ Positron และ Groq ในระดับจริงจัง ➡️ เป็นหนึ่งในบริษัทแรกที่ทดสอบชิปนอกเหนือจาก Nvidia อย่างจริงจัง ➡️ หากผลลัพธ์เป็นไปตามที่โฆษณา จะขยายการใช้งานทั่วโลก ✅ Nvidia เปิดตัวชิป Vera Rubin และ Blackwell ที่มีประสิทธิภาพสูงขึ้นถึง 30 เท่า ➡️ Vera Rubin มีหน่วยความจำ 288 GB และเชื่อมต่อด้วย NVLink ความเร็วสูง ➡️ Blackwell Ultra ให้ประสิทธิภาพ inference สูงถึง 3.6 exaFLOPS ✅ บริษัทเทคโนโลยีใหญ่ เช่น Google, Amazon, Microsoft กำลังพัฒนาชิป inference ของตัวเอง ➡️ เพื่อลดต้นทุนและพึ่งพา Nvidia ให้น้อยลง ➡️ ลงทุนหลายพันล้านดอลลาร์ในชิปเฉพาะทาง ‼️ แม้ชิปใหม่จะประหยัดพลังงาน แต่ความต้องการ AI ยังเติบโตเร็วกว่าการปรับปรุงประสิทธิภาพ ⛔ คาดว่าการใช้พลังงานของ AI จะเพิ่มขึ้น 50% ต่อปีจนถึงปี 2030 ⛔ อาจทำให้โครงข่ายไฟฟ้ากลายเป็นคอขวดของการพัฒนา AI ‼️ การพึ่งพา Nvidia มากเกินไปอาจสร้าง “Nvidia tax” ให้กับอุตสาหกรรม ⛔ Nvidia มีอัตรากำไรขั้นต้นสูงถึง 60% จากการขายชิป ⛔ ทำให้ต้นทุนการประมวลผล AI สูงเกินจำเป็น ‼️ ชิปที่เน้น inference อาจไม่เหมาะกับงานที่ต้องการความยืดหยุ่นสูง ⛔ Positron และ Groq เน้นเฉพาะงาน inference ไม่ครอบคลุมทุก workload ⛔ อาจต้องใช้ร่วมกับชิปอื่นในระบบที่ซับซ้อน ‼️ การเปลี่ยนมาใช้ชิปใหม่ต้องใช้เวลาในการปรับระบบและทดสอบความเข้ากันได้ ⛔ ต้องพิจารณาความเข้ากันได้กับ API และโครงสร้างคลาวด์เดิม ⛔ อาจมีความเสี่ยงด้านการลงทุนหากชิปไม่ผ่านการทดสอบในระยะยาว https://www.techspot.com/news/108831-next-gen-chipmakers-aim-rein-ai-runaway-power.html
WWW.TECHSPOT.COM
Positron bets on energy-efficient AI chips to challenge Nvidia's dominance
Founded in 2023, Positron has rapidly attracted investment and attention from major cloud providers. The startup recently raised $51.6 million in new funding, bringing its total to...
0 ความคิดเห็น 0 การแบ่งปัน 31 มุมมอง 0 รีวิว