Pliops เปิดตัว XDP LightningAI: เร่งความเร็ว AI ด้วย SSD ประสิทธิภาพสูง Pliops ได้เปิดตัว XDP LightningAI ซึ่งเป็นอุปกรณ์ PCIe ที่ช่วยขยาย context window ของ AI โดยใช้ 3D NAND SSD เพื่อจัดเก็บข้อมูลที่คำนวณไว้ล่วงหน้า ทำให้สามารถเรียกใช้ข้อมูลได้ทันทีเมื่อจำเป็น และช่วยลดภาระของ HBM (High Bandwidth Memory) ใน GPU 🔍 รายละเอียดสำคัญเกี่ยวกับ XDP LightningAI ✅ XDP LightningAI ใช้ SSD ประสิทธิภาพสูงแทน HBM เพื่อจัดเก็บข้อมูล context - ช่วยให้ AI สามารถเรียกใช้ข้อมูลที่คำนวณไว้ล่วงหน้าได้ทันที ✅ สามารถเร่งความเร็ว inference ได้สูงสุดถึง 8 เท่า - ลด การคำนวณซ้ำซ้อนและเพิ่มประสิทธิภาพของระบบ ✅ รองรับการทำงานร่วมกับ AI serving frameworks เช่น vLLM และ Nvidia Dynamo - ทำให้ สามารถใช้งานร่วมกับระบบ AI ที่มีอยู่ได้อย่างราบรื่น ✅ สามารถทำงานร่วมกับ GPU หลายตัวและรองรับ multi-node deployment - ช่วยให้ สามารถแชร์ข้อมูล context ระหว่าง inference jobs ได้ ✅ ช่วยลดต้นทุนการดำเนินงานของ AI infrastructure - ทำให้ สามารถให้บริการโมเดลขนาดใหญ่ได้โดยไม่ต้องเพิ่ม GPU https://www.tomshardware.com/pc-components/ssds/pliops-expands-ais-context-windows-with-3d-nand-based-accelerator-can-accelerate-certain-inference-workflows-by-up-to-eight-times