🎙️ เรื่องเล่าจาก USB: ถ้าโลกล่มสลาย จะพก LLM หรือ Wikipedia ไว้ช่วยชีวิต? ผู้เขียนเริ่มต้นจากบทความของ MIT Tech Review ที่พูดถึงการใช้ LLM บนอุปกรณ์ของตนเองในสถานการณ์ฉุกเฉิน และมีคนกล่าวว่า LLM ก็เหมือน "Wikipedia แบบบีบอัดและผิด ๆ หน่อย ๆ" บน USB เขาจึงทดลองเปรียบเทียบ “ขนาดไฟล์” ของโมเดล LLM จากห้องสมุด Ollama ที่สามารถใช้บนเครื่องทั่วไป กับ “Wikipedia ออฟไลน์” จาก Kiwix ซึ่งไม่มีภาพ เพื่อให้เปรียบเทียบได้ใกล้เคียงขึ้น 📊 ผลลัพธ์พบว่า: - Wikipedia เวอร์ชัน 50K บทความยอดนิยม (Best of Wikipedia) มีขนาด 1.93 GB - ขณะที่โมเดล Llama 3.2 ขนาด 3B มีขนาด 2.0 GB — แทบเท่ากัน! - Wikipedia ฉบับเต็มมีขนาด 57.18 GB ซึ่งใหญ่กว่าโมเดล LLM ขนาด 32B (ประมาณ 20 GB) ไปมาก ผู้เขียนชี้ว่าการเปรียบเทียบนี้ไม่แม่นยำนัก เพราะทั้งสองใช้คนละเทคโนโลยี คนละวัตถุประสงค์ — แต่ก็ชวนคิดว่า "แหล่งความรู้แบบไหน" ที่เราควรเลือกเก็บไว้ในโลกที่ไม่มีอินเทอร์เน็ต นอกจากนี้ยังเตือนว่า: - LLM ต้องใช้ RAM และ CPU มากกว่า Wikipedia ออฟไลน์ - Wikipedia อาจรันบนโน้ตบุ๊กรุ่นเก่าได้ง่ายกว่า - ความสามารถของ LLM ขึ้นกับว่าเราเลือก “ขนาด” และ “การเทรน” ที่เหมาะแค่ไหน สุดท้ายผู้เขียนสรุปว่า บางทีควรโหลดไว้ทั้งคู่เลยก็ได้ 😊 https://evanhahn.com/local-llms-versus-offline-wikipedia/