บริษัท Moore Threads ซึ่งเป็นบริษัทผลิตการ์ดกราฟิกในจีน ได้ประสบความสำเร็จในการใช้โมเดล AI Opensource ของ DeepSeek บนการ์ดกราฟิก MTT S80 และ MTT S4000 ของพวกเขา โมเดลที่ใช้คือ DeepSeek-R1-Distill-Qwen-7B ซึ่งเป็นโมเดลที่ใช้สำหรับการทำนายข้อมูล ในครั้งนี้พวกเขาใช้เฟรมเวิร์ก Ollama เพื่อช่วยให้การคำนวณข้อมูลบนเครื่องทำได้โดยตรง โดยไม่ต้องพึ่งพาบริการคลาวด์

สิ่งที่น่าสนใจคือ DeepSeek เป็นโมเดล AI Opensource ที่สามารถรันได้บนฮาร์ดแวร์ที่มีราคาถูก เช่น Raspberry Pi ทำให้สามารถใช้งานได้หลากหลายและไม่ต้องลงทุนสูง นอกจากนี้ การ์ดกราฟิกของ Moore Threads ยังสามารถใช้งานร่วมกับโค้ดที่คอมไพล์สำหรับ GPU ของ Nvidia ได้ ด้วยการปรับแต่งเฉพาะทางและการจัดการหน่วยความจำที่ดีขึ้น ทำให้การทำนายข้อมูลทำได้อย่างมีประสิทธิภาพ

ถึงแม้ว่าข่าวนี้จะกล่าวถึงประสิทธิภาพที่ดีมากของการ์ดกราฟิกของ Moore Threads แต่ยังไม่มีการเผยแพร่ตัวเลขประสิทธิภาพที่ชัดเจน นอกจากนี้ การ์ดกราฟิก MTT S80 ยังแทบจะหาไม่ได้ในตลาดนอกประเทศจีน ทำให้ไม่สามารถตรวจสอบได้

การพัฒนานี้เป็นการเพิ่มโอกาสให้จีนลดการพึ่งพาฮาร์ดแวร์จาก Nvidia และเปิดประตูสู่การพัฒนาเทคโนโลยี AI ในภาษาจีนมากขึ้น

https://www.tomshardware.com/tech-industry/artificial-intelligence/moore-threads-gpus-allegedly-show-excellent-inference-performance-with-deepseek-models
บริษัท Moore Threads ซึ่งเป็นบริษัทผลิตการ์ดกราฟิกในจีน ได้ประสบความสำเร็จในการใช้โมเดล AI Opensource ของ DeepSeek บนการ์ดกราฟิก MTT S80 และ MTT S4000 ของพวกเขา โมเดลที่ใช้คือ DeepSeek-R1-Distill-Qwen-7B ซึ่งเป็นโมเดลที่ใช้สำหรับการทำนายข้อมูล ในครั้งนี้พวกเขาใช้เฟรมเวิร์ก Ollama เพื่อช่วยให้การคำนวณข้อมูลบนเครื่องทำได้โดยตรง โดยไม่ต้องพึ่งพาบริการคลาวด์ สิ่งที่น่าสนใจคือ DeepSeek เป็นโมเดล AI Opensource ที่สามารถรันได้บนฮาร์ดแวร์ที่มีราคาถูก เช่น Raspberry Pi ทำให้สามารถใช้งานได้หลากหลายและไม่ต้องลงทุนสูง นอกจากนี้ การ์ดกราฟิกของ Moore Threads ยังสามารถใช้งานร่วมกับโค้ดที่คอมไพล์สำหรับ GPU ของ Nvidia ได้ ด้วยการปรับแต่งเฉพาะทางและการจัดการหน่วยความจำที่ดีขึ้น ทำให้การทำนายข้อมูลทำได้อย่างมีประสิทธิภาพ ถึงแม้ว่าข่าวนี้จะกล่าวถึงประสิทธิภาพที่ดีมากของการ์ดกราฟิกของ Moore Threads แต่ยังไม่มีการเผยแพร่ตัวเลขประสิทธิภาพที่ชัดเจน นอกจากนี้ การ์ดกราฟิก MTT S80 ยังแทบจะหาไม่ได้ในตลาดนอกประเทศจีน ทำให้ไม่สามารถตรวจสอบได้ การพัฒนานี้เป็นการเพิ่มโอกาสให้จีนลดการพึ่งพาฮาร์ดแวร์จาก Nvidia และเปิดประตูสู่การพัฒนาเทคโนโลยี AI ในภาษาจีนมากขึ้น https://www.tomshardware.com/tech-industry/artificial-intelligence/moore-threads-gpus-allegedly-show-excellent-inference-performance-with-deepseek-models
0 Comments 0 Shares 43 Views 0 Reviews