AI Token Factory: โรงงานผลิตความฉลาดแห่งยุคใหม่

ในอดีต เราวัดพลังคอมพิวเตอร์ด้วย CPU หรือ GPU แต่ในยุค AI ที่มีโมเดลขนาดมหึมาอย่าง GPT-4, Claude หรือ Gemini สิ่งที่สำคัญที่สุดคือ “โทเคน” ซึ่งเป็นหน่วยข้อมูลที่ AI ใช้ในการคิด วิเคราะห์ และตอบสนองต่อคำสั่งของผู้ใช้

AI Token Factory คือระบบที่ออกแบบมาเพื่อผลิตโทเคนให้ได้มากที่สุดต่อวินาที โดยใช้ GPU จำนวนมหาศาล เช่นระบบ Colossus 1 ของ xAI ที่ใช้ NVIDIA H100 กว่า 100,000 ตัว และ Colossus 2 ที่จะใช้ GB200 และ GB300 มากกว่า 550,000 ตัว เพื่อรองรับการฝึกและใช้งานโมเดล AI ขนาดใหญ่

Jensen Huang ซีอีโอของ NVIDIA อธิบายว่า AI Factory คือโรงงานที่เปลี่ยนพลังงานไฟฟ้าและข้อมูลดิบให้กลายเป็นความฉลาด พร้อมเปิดตัว Blackwell Ultra ซึ่งเป็นแพลตฟอร์มใหม่ที่สามารถเพิ่มประสิทธิภาพการประมวลผลได้ถึง 50 เท่าเมื่อเทียบกับ Hopper รุ่นก่อนหน้า

ในยุค “agentic AI” ที่กำลังมาถึง AI จะไม่เพียงแค่ตอบคำถาม แต่จะทำงานแทนมนุษย์โดยอัตโนมัติ เช่น วางแผนงาน ค้นคว้า หรือออกแบบโมเลกุล โดยใช้โทเคนจำนวนมหาศาลในการประมวลผล ซึ่งทำให้แม้แต่ศูนย์ข้อมูลที่มี GPU เป็นล้านตัวก็ยังไม่พอ

Cisco รายงานว่า inference แบบ agentic ใช้ทรัพยากรมากกว่าการแชททั่วไปหลายเท่า และ Google ก็เปิดเผยว่า API ของตนให้บริการโทเคนกว่า 980 ล้านล้านต่อเดือน ซึ่งเพิ่มขึ้นจาก 480 ล้านล้านในเวลาเพียงไม่กี่เดือน

ข้อมูลจากข่าวหลัก
AI Token Factory คือระบบที่ออกแบบมาเพื่อผลิตโทเคน AI ให้ได้มากที่สุด
โทเคนคือหน่วยพื้นฐานที่ AI ใช้ในการคิด วิเคราะห์ และตอบสนอง
xAI ใช้ GPU กว่า 100,000 ตัวใน Colossus 1 และจะใช้กว่า 550,000 ตัวใน Colossus 2
NVIDIA เปิดตัว Blackwell Ultra ที่เพิ่มประสิทธิภาพได้ถึง 50 เท่าเมื่อเทียบกับ Hopper
AI Factory คือโรงงานที่เปลี่ยนพลังงานและข้อมูลให้กลายเป็นความฉลาด
ในยุค agentic AI โมเดลจะทำงานแทนมนุษย์โดยอัตโนมัติ
Cisco และ Google รายงานว่าความต้องการโทเคนเพิ่มขึ้นอย่างมหาศาล
Google ให้บริการโทเคนกว่า 980 ล้านล้านต่อเดือนผ่าน API
AI Factory ประกอบด้วย GPU, networking, software, storage และระบบจัดการ

ข้อมูลเสริมจากภายนอก
NVIDIA GB300 NVL72 เชื่อมต่อ GPU 72 ตัวและ Grace CPU 36 ตัวในระบบเดียว
Blackwell Ultra มี inference เร็วขึ้น 11 เท่า และหน่วยความจำใหญ่ขึ้น 4 เท่า
NVIDIA Dynamo เป็นระบบปฏิบัติการใหม่ที่ช่วยจัดการงาน inference แบบอัตโนมัติ
บริษัทอย่าง Zoom, Deloitte เริ่มนำ agentic AI ไปใช้ในระบบงานจริง
Blackwell Ultra จะให้บริการผ่าน DGX Cloud และผู้ให้บริการคลาวด์รายใหญ่
AI Factory ถูกมองว่าเป็นเครื่องจักรแห่งการปฏิวัติอุตสาหกรรมยุคใหม่

https://www.techpowerup.com/340014/ai-token-factory-is-the-new-unit-of-computing
🏗️ AI Token Factory: โรงงานผลิตความฉลาดแห่งยุคใหม่ ในอดีต เราวัดพลังคอมพิวเตอร์ด้วย CPU หรือ GPU แต่ในยุค AI ที่มีโมเดลขนาดมหึมาอย่าง GPT-4, Claude หรือ Gemini สิ่งที่สำคัญที่สุดคือ “โทเคน” ซึ่งเป็นหน่วยข้อมูลที่ AI ใช้ในการคิด วิเคราะห์ และตอบสนองต่อคำสั่งของผู้ใช้ AI Token Factory คือระบบที่ออกแบบมาเพื่อผลิตโทเคนให้ได้มากที่สุดต่อวินาที โดยใช้ GPU จำนวนมหาศาล เช่นระบบ Colossus 1 ของ xAI ที่ใช้ NVIDIA H100 กว่า 100,000 ตัว และ Colossus 2 ที่จะใช้ GB200 และ GB300 มากกว่า 550,000 ตัว เพื่อรองรับการฝึกและใช้งานโมเดล AI ขนาดใหญ่ Jensen Huang ซีอีโอของ NVIDIA อธิบายว่า AI Factory คือโรงงานที่เปลี่ยนพลังงานไฟฟ้าและข้อมูลดิบให้กลายเป็นความฉลาด พร้อมเปิดตัว Blackwell Ultra ซึ่งเป็นแพลตฟอร์มใหม่ที่สามารถเพิ่มประสิทธิภาพการประมวลผลได้ถึง 50 เท่าเมื่อเทียบกับ Hopper รุ่นก่อนหน้า ในยุค “agentic AI” ที่กำลังมาถึง AI จะไม่เพียงแค่ตอบคำถาม แต่จะทำงานแทนมนุษย์โดยอัตโนมัติ เช่น วางแผนงาน ค้นคว้า หรือออกแบบโมเลกุล โดยใช้โทเคนจำนวนมหาศาลในการประมวลผล ซึ่งทำให้แม้แต่ศูนย์ข้อมูลที่มี GPU เป็นล้านตัวก็ยังไม่พอ Cisco รายงานว่า inference แบบ agentic ใช้ทรัพยากรมากกว่าการแชททั่วไปหลายเท่า และ Google ก็เปิดเผยว่า API ของตนให้บริการโทเคนกว่า 980 ล้านล้านต่อเดือน ซึ่งเพิ่มขึ้นจาก 480 ล้านล้านในเวลาเพียงไม่กี่เดือน ✅ ข้อมูลจากข่าวหลัก ➡️ AI Token Factory คือระบบที่ออกแบบมาเพื่อผลิตโทเคน AI ให้ได้มากที่สุด ➡️ โทเคนคือหน่วยพื้นฐานที่ AI ใช้ในการคิด วิเคราะห์ และตอบสนอง ➡️ xAI ใช้ GPU กว่า 100,000 ตัวใน Colossus 1 และจะใช้กว่า 550,000 ตัวใน Colossus 2 ➡️ NVIDIA เปิดตัว Blackwell Ultra ที่เพิ่มประสิทธิภาพได้ถึง 50 เท่าเมื่อเทียบกับ Hopper ➡️ AI Factory คือโรงงานที่เปลี่ยนพลังงานและข้อมูลให้กลายเป็นความฉลาด ➡️ ในยุค agentic AI โมเดลจะทำงานแทนมนุษย์โดยอัตโนมัติ ➡️ Cisco และ Google รายงานว่าความต้องการโทเคนเพิ่มขึ้นอย่างมหาศาล ➡️ Google ให้บริการโทเคนกว่า 980 ล้านล้านต่อเดือนผ่าน API ➡️ AI Factory ประกอบด้วย GPU, networking, software, storage และระบบจัดการ ✅ ข้อมูลเสริมจากภายนอก ➡️ NVIDIA GB300 NVL72 เชื่อมต่อ GPU 72 ตัวและ Grace CPU 36 ตัวในระบบเดียว ➡️ Blackwell Ultra มี inference เร็วขึ้น 11 เท่า และหน่วยความจำใหญ่ขึ้น 4 เท่า ➡️ NVIDIA Dynamo เป็นระบบปฏิบัติการใหม่ที่ช่วยจัดการงาน inference แบบอัตโนมัติ ➡️ บริษัทอย่าง Zoom, Deloitte เริ่มนำ agentic AI ไปใช้ในระบบงานจริง ➡️ Blackwell Ultra จะให้บริการผ่าน DGX Cloud และผู้ให้บริการคลาวด์รายใหญ่ ➡️ AI Factory ถูกมองว่าเป็นเครื่องจักรแห่งการปฏิวัติอุตสาหกรรมยุคใหม่ https://www.techpowerup.com/340014/ai-token-factory-is-the-new-unit-of-computing
WWW.TECHPOWERUP.COM
AI Token Factory is the New Unit of Computing
First, it was the CPU; after came the GPU; then all parallel workloads started running on GPUs, integrated or hyperscale. Similarly, the large language models we use today have adapted to the parallel nature of data processing on the GPU. The scale at which AI workloads operate is much larger than m...
0 ความคิดเห็น 0 การแบ่งปัน 29 มุมมอง 0 รีวิว