Solidigm ได้เปิดตัว SSD รุ่นใหม่ที่มีความจุสูงถึง 122.88TB เป็นครั้งแรกในโลก โดยมีชื่อรุ่นว่า Solidigm D5-P5336 SSD รุ่นนี้ถูกใช้ในการทดสอบการรันโมเดล AI บนคอมพิวเตอร์ขนาดเล็ก Nvidia Jetson Orin Nano Super

Solidigm D5-P5336 เป็น SSD แบบ QLC ซึ่งรองรับการเชื่อมต่อแบบ PCIe Gen 4 โดยมีความเร็วในการอ่านแบบลำดับสูงสุดที่ 7.1 GB/s และความเร็วในการเขียนแบบลำดับสูงสุดที่ 3.3 GB/s รวมถึงประสิทธิภาพการอ่านแบบสุ่มสูงถึง 1,269,000 IOPS ซึ่งทำให้ SSD นี้มีประสิทธิภาพในการจัดเก็บข้อมูลจำนวนมากและใช้งานในงานประมวลผลที่ซับซ้อนได้ดีมาก

การทดสอบการรันโมเดล AI ทีมงานจาก StorageReview ได้ทำการทดสอบ Nvidia Jetson Orin Nano Super ซึ่งเป็นคอมพิวเตอร์บอร์ดเดี่ยวขนาดเล็กที่ออกแบบมาเพื่อการประมวลผล AI ที่มีซีพียู 6 คอร์, GPU Ampere 1024 คอร์, และ RAM LPDDR5 ขนาด 8GB โดยใช้ SSD Solidigm D5-P5336 เพื่อรันโมเดล AI ที่ซับซ้อน

เนื่องจากข้อจำกัดของหน่วยความจำกราฟิกบน Nano Super ทำให้การรันโมเดลที่มีพารามิเตอร์พันล้านต้องใช้วิธีการที่นวัตกรรม ทีมงานได้ใช้เทคนิคการโหลดเลเยอร์โมเดลแบบไดนามิกเพื่อข้ามข้อจำกัดนี้ และสามารถรันโมเดล DeepSeek R1 70B Distilled ซึ่งมีขนาดใหญ่กว่าที่สามารถรันบน Nano Super ปกติถึง 45 เท่า

ความท้าทายในการทดสอบ การทดสอบพบว่าการประมวลผลด้วย Nano Super มีข้อจำกัดในด้านความเร็ว เนื่องจากการเชื่อมต่อแบบ PCIe Gen 3 ทำให้ SSD ไม่สามารถแสดงศักยภาพสูงสุดได้ อย่างไรก็ตาม Nano Super ยังสามารถทำความเร็วในการอ่านได้สูงถึง 2.5GB/s และสามารถรันโมเดล AI ที่มีขนาดใหญ่ขึ้นได้ แม้ว่าจะใช้เวลาในการสร้างโทเค็นนานถึง 4.5 นาทีต่อโทเค็น ซึ่งไม่เหมาะสำหรับการใช้งาน AI แบบเรียลไทม์

https://www.techradar.com/pro/worlds-first-122-88tb-ssd-gets-reviewed-with-two-very-odd-bedfellows-the-controversial-deepseek-and-nvidias-jetson-orin-ai-sbc
Solidigm ได้เปิดตัว SSD รุ่นใหม่ที่มีความจุสูงถึง 122.88TB เป็นครั้งแรกในโลก โดยมีชื่อรุ่นว่า Solidigm D5-P5336 SSD รุ่นนี้ถูกใช้ในการทดสอบการรันโมเดล AI บนคอมพิวเตอร์ขนาดเล็ก Nvidia Jetson Orin Nano Super Solidigm D5-P5336 เป็น SSD แบบ QLC ซึ่งรองรับการเชื่อมต่อแบบ PCIe Gen 4 โดยมีความเร็วในการอ่านแบบลำดับสูงสุดที่ 7.1 GB/s และความเร็วในการเขียนแบบลำดับสูงสุดที่ 3.3 GB/s รวมถึงประสิทธิภาพการอ่านแบบสุ่มสูงถึง 1,269,000 IOPS ซึ่งทำให้ SSD นี้มีประสิทธิภาพในการจัดเก็บข้อมูลจำนวนมากและใช้งานในงานประมวลผลที่ซับซ้อนได้ดีมาก การทดสอบการรันโมเดล AI ทีมงานจาก StorageReview ได้ทำการทดสอบ Nvidia Jetson Orin Nano Super ซึ่งเป็นคอมพิวเตอร์บอร์ดเดี่ยวขนาดเล็กที่ออกแบบมาเพื่อการประมวลผล AI ที่มีซีพียู 6 คอร์, GPU Ampere 1024 คอร์, และ RAM LPDDR5 ขนาด 8GB โดยใช้ SSD Solidigm D5-P5336 เพื่อรันโมเดล AI ที่ซับซ้อน เนื่องจากข้อจำกัดของหน่วยความจำกราฟิกบน Nano Super ทำให้การรันโมเดลที่มีพารามิเตอร์พันล้านต้องใช้วิธีการที่นวัตกรรม ทีมงานได้ใช้เทคนิคการโหลดเลเยอร์โมเดลแบบไดนามิกเพื่อข้ามข้อจำกัดนี้ และสามารถรันโมเดล DeepSeek R1 70B Distilled ซึ่งมีขนาดใหญ่กว่าที่สามารถรันบน Nano Super ปกติถึง 45 เท่า ความท้าทายในการทดสอบ การทดสอบพบว่าการประมวลผลด้วย Nano Super มีข้อจำกัดในด้านความเร็ว เนื่องจากการเชื่อมต่อแบบ PCIe Gen 3 ทำให้ SSD ไม่สามารถแสดงศักยภาพสูงสุดได้ อย่างไรก็ตาม Nano Super ยังสามารถทำความเร็วในการอ่านได้สูงถึง 2.5GB/s และสามารถรันโมเดล AI ที่มีขนาดใหญ่ขึ้นได้ แม้ว่าจะใช้เวลาในการสร้างโทเค็นนานถึง 4.5 นาทีต่อโทเค็น ซึ่งไม่เหมาะสำหรับการใช้งาน AI แบบเรียลไทม์ https://www.techradar.com/pro/worlds-first-122-88tb-ssd-gets-reviewed-with-two-very-odd-bedfellows-the-controversial-deepseek-and-nvidias-jetson-orin-ai-sbc
0 ความคิดเห็น 0 การแบ่งปัน 92 มุมมอง 0 รีวิว