ปกติ AI จะกินพลัง GPU อยู่แล้วใช่ไหมครับ แต่ตอนนี้แม้ GPU จะเร็วระดับหลายเทราไบต์ต่อวินาที (TB/s) แต่การโหลดข้อมูลจาก SSD กลายเป็นตัวถ่วงรุ่นใหม่แบบเต็ม ๆ โดยเฉพาะข้อมูลขนาดเล็ก ๆ ที่อ่านแบบสุ่ม (เช่น 512 ไบต์) ซึ่งโมเดล AI อย่าง LLM ชอบใช้มาก

Nvidia เลยเสนอแนวคิด “AI SSD” ที่จะต้องอ่านข้อมูลได้เร็วถึง 100 ล้าน IOPS! แต่ Wallace Kuo ซีอีโอของ Silicon Motion ซึ่งเป็นผู้ผลิตคอนโทรลเลอร์ SSD รายใหญ่บอกว่า “ตอนนี้ยังไม่มี media (วัสดุจัดเก็บ) ที่ทำได้จริง” และต่อให้ tweak NAND เดิมก็อาจไม่เพียงพอ ต้อง “เปลี่ยนชนิดหน่วยความจำทั้งระบบเลย”

ปัจจุบัน SSD PCIe 5.0 ระดับท็อปก็ทำได้แค่ประมาณ 2–3 ล้าน IOPS เท่านั้น — เทียบกับเป้าหมายของ Nvidia คือห่างกันถึงเกือบ 50 เท่า!

✅ Nvidia ตั้งเป้า SSD ที่รองรับได้ 100 ล้าน IOPS เพื่อ AI workloads ในอนาคต  
• เน้นเฉพาะการอ่านข้อมูลสุ่มขนาดเล็ก (512B random read) ซึ่งเป็นจุดอ่อนสำคัญในระบบ AI

✅ Wallace Kuo จาก Silicon Motion กล่าวว่าเทคโนโลยี NAND flash ปัจจุบันยังทำไม่ได้  
• แม้จะปรับคอนโทรลเลอร์หรือโครงสร้าง SSD ก็ยังชนเพดาน

✅ Kioxia กำลังพัฒนา AI SSD ด้วย XL-Flash ที่ตั้งเป้าเกิน 10 ล้าน IOPS  
• คาดว่าเปิดตัวพร้อมกับแพลตฟอร์ม Vera Rubin ของ Nvidia ปีหน้า

✅ แนวคิดทางเลือก เช่น Optane ของ Intel เคยถูกคาดหวังไว้สูง แต่เลิกผลิตไปแล้ว  
• SanDisk พัฒนา High Bandwidth Flash, แต่หลายฝ่ายยังไม่มั่นใจประสิทธิภาพ

✅ Micron และบริษัทอื่นกำลังเร่งวิจัย media แบบใหม่ เช่น  
• Non-volatile memory รุ่นใหม่, HBM storage-integrated, หรือ phase-change memory

https://www.techradar.com/pro/security/towards-the-giga-iops-pipedream-how-nvidia-wants-to-reach-100-million-iops-even-if-it-means-inventing-totally-new-types-of-memory
ปกติ AI จะกินพลัง GPU อยู่แล้วใช่ไหมครับ แต่ตอนนี้แม้ GPU จะเร็วระดับหลายเทราไบต์ต่อวินาที (TB/s) แต่การโหลดข้อมูลจาก SSD กลายเป็นตัวถ่วงรุ่นใหม่แบบเต็ม ๆ โดยเฉพาะข้อมูลขนาดเล็ก ๆ ที่อ่านแบบสุ่ม (เช่น 512 ไบต์) ซึ่งโมเดล AI อย่าง LLM ชอบใช้มาก Nvidia เลยเสนอแนวคิด “AI SSD” ที่จะต้องอ่านข้อมูลได้เร็วถึง 100 ล้าน IOPS! แต่ Wallace Kuo ซีอีโอของ Silicon Motion ซึ่งเป็นผู้ผลิตคอนโทรลเลอร์ SSD รายใหญ่บอกว่า “ตอนนี้ยังไม่มี media (วัสดุจัดเก็บ) ที่ทำได้จริง” และต่อให้ tweak NAND เดิมก็อาจไม่เพียงพอ ต้อง “เปลี่ยนชนิดหน่วยความจำทั้งระบบเลย” ปัจจุบัน SSD PCIe 5.0 ระดับท็อปก็ทำได้แค่ประมาณ 2–3 ล้าน IOPS เท่านั้น — เทียบกับเป้าหมายของ Nvidia คือห่างกันถึงเกือบ 50 เท่า! ✅ Nvidia ตั้งเป้า SSD ที่รองรับได้ 100 ล้าน IOPS เพื่อ AI workloads ในอนาคต   • เน้นเฉพาะการอ่านข้อมูลสุ่มขนาดเล็ก (512B random read) ซึ่งเป็นจุดอ่อนสำคัญในระบบ AI ✅ Wallace Kuo จาก Silicon Motion กล่าวว่าเทคโนโลยี NAND flash ปัจจุบันยังทำไม่ได้   • แม้จะปรับคอนโทรลเลอร์หรือโครงสร้าง SSD ก็ยังชนเพดาน ✅ Kioxia กำลังพัฒนา AI SSD ด้วย XL-Flash ที่ตั้งเป้าเกิน 10 ล้าน IOPS   • คาดว่าเปิดตัวพร้อมกับแพลตฟอร์ม Vera Rubin ของ Nvidia ปีหน้า ✅ แนวคิดทางเลือก เช่น Optane ของ Intel เคยถูกคาดหวังไว้สูง แต่เลิกผลิตไปแล้ว   • SanDisk พัฒนา High Bandwidth Flash, แต่หลายฝ่ายยังไม่มั่นใจประสิทธิภาพ ✅ Micron และบริษัทอื่นกำลังเร่งวิจัย media แบบใหม่ เช่น   • Non-volatile memory รุ่นใหม่, HBM storage-integrated, หรือ phase-change memory https://www.techradar.com/pro/security/towards-the-giga-iops-pipedream-how-nvidia-wants-to-reach-100-million-iops-even-if-it-means-inventing-totally-new-types-of-memory
0 ความคิดเห็น 0 การแบ่งปัน 22 มุมมอง 0 รีวิว