ข่าวนี้ทำสาวก retro อย่างลุงได้ร้องว้าว EXO Labs ได้สาธิตการรันโมเดลภาษาขนาดใหญ่ (LLM) บนระบบ Windows 98 ที่ใช้โปรเซสเซอร์ Pentium II และ RAM ขนาด 128MB EXO Labs ใช้เครื่องมือที่พัฒนาขึ้นเองชื่อว่า llama98.c ซึ่งเป็นเอ็นจิน inference ที่เขียนด้วยภาษา C บนพื้นฐานของ llama2.c ของ Andrej Karpathy การสาธิตนี้แสดงให้เห็นว่า LLM สามารถทำงานได้บนฮาร์ดแวร์เก่าที่มีทรัพยากรจำกัด โดยสามารถสร้างข้อความได้ที่ความเร็ว 35.9 tok/sec บนระบบ Windows 98 EXO Labs มีเป้าหมายที่จะทำให้การเข้าถึง AI เป็นเรื่องที่ทุกคนสามารถทำได้ โดยไม่ต้องพึ่งพาเมกะคอร์ปที่ควบคุม AI EXO Labs ยังมีแผนที่จะพัฒนาโมเดลที่เรียกว่า BitNet ซึ่งใช้สถาปัตยกรรม transformer ทำให้โมเดลขนาด 7B parameter ต้องการพื้นที่เก็บข้อมูลเพียง 1.38GB และสามารถทำงานบน CPU เดียวได้ที่ความเร็วการอ่านของมนุษย์ (ประมาณ 5 ถึง 7 tok/sec) https://www.tomshardware.com/tech-industry/artificial-intelligence/ai-language-model-runs-on-a-windows-98-system-with-pentium-ii-and-128mb-of-ram-open-source-ai-flagbearers-demonstrate-llama-2-llm-in-extreme-conditions