เมื่อพูดถึงการใช้งานโมเดล LLM แบบรันในเครื่อง (Local LLM) หลายคนอาจคิดว่าการลงทุนเงินมากขึ้นจะให้ประสิทธิภาพที่ดีกว่า แต่ในความเป็นจริงไม่ได้เป็นเช่นนั้นเสมอไป ด้วยเหตุนี้ Sipeed จึงได้จัดทำ “AI Agent Local LLM Inference Device Deployment Guide” ซึ่งเผยแพร่บนเว็บไซต์ llmdev.guide เว็บไซต์ดังกล่าวรวบรวมข้อมูลฮาร์ดแวร์ยอดนิยม พร้อมรายละเอียดด้านราคา ประสิทธิภาพ (tokens ต่อวินาที), การใช้พลังงาน และข้อมูลอื่น ๆ สำหรับโมเดล LLM หลายประเภท ถ้ายกตัวอย่างโมเดล Qwen3.5 9B จะพบว่าฮาร์ดแวร์ระดับราคาเกิน $4,000 (~130,000฿) เช่น NVIDIA DGX Spark หรือ Apple Mac Studio M3 ให้ค่า TPS (tokens per second) ใกล้เคียงกับเครื่องที่ใช้การ์ดจอ Intel Arc B580 12GB ซึ่งมีราคาประมาณ $260 (~8,500฿) เท่านั้น ถ้างบประมาณไม่ใช่ข้อจำกัด และค […]
คู่มือออนไลน์เลือกฮาร์ดแวร์สำหรับใช้งาน Local LLM ให้คุ้มค่าที่สุด
