M5Stack Module LLM : โมดูลที่ใช้ชิป AX630C สำหรับใช้งานกับสมาร์ทโฮมและ AI แบบออฟไลน์

M5Stack Module LLM เป็นอุปกรณ์รูปทรงกล่องอีกชิ้นหนึ่งจากบริษัทที่ควบคุมด้วย AI โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ต โดยอธิบายว่าเป็น “โมดูลอินเทอร์เฟสสำหรับ Large Language Model (LLM) แบบออฟไลน์” ซึ่งสามารถนำไปใช้ในการพัฒนาโซลูชันที่ใช้ LLM ในการทำงานภายในท้องถิ่น เช่น ในระบบสมาร์ทโฮม ผู้ช่วยเสียง และการควบคุมอุตสาหกรรม

M5Stack Module LLM เป็นโมดูลใช้ชิป AX630C SoC มีหน่วยความจำ LPDDR4 4GB, ที่เก็บข้อมูล 32GB และ NPU 3.2 TOPS (INT8) หรือ 12.8 TOPS (INT4) บริษัท M5Stack ระบุว่า ชิปหลักมีการใช้พลังงานเฉลี่ยในการทำงานที่ 1.5W ซึ่งทำให้เหมาะสมสำหรับการใช้งานระยะยาว โมดูลนี้มีไมโครโฟนในตัว, ลำโพง, ช่องเสียบ microSD card และ USB OTG โดยพอร์ต USB สามารถเชื่อมต่อกับอุปกรณ์เสริม เช่น กล้องและ Debugger และช่องเสียบ microSD card รองรับการอัปเดตเฟิร์มแวร์ทั้งแบบเย็นและร้อน

โมดูล M5Stack LLM เข้าร่วมในกลุ่มโซลูชัน LLM ที่ทำงานแบบออฟไลน์บนอุปกรณ์อื่น ๆ เช่น SenseCAP Watcher, AI in a box ของ Useful Sensors และ Radxa Fogwise Airbox โดยสามารถใช้งานร่วมกับตัวควบคุม IoT อย่าง CoreMP135, CoreS3 และ Core2

สเปคของ LLM ของโมดูล M5Stack:

ชิป SoC – AxeraTech AX630C
- ซีพียู – Arm Cortex-A53 แบบดูอัลคอร์ @ 1.2 GHz; แคช I 32KB, แคช D 32KB, แคช L2 256KB
- NPU – 12.8 TOPS @ INT4 (สูงสุด), 3.2 TOPS @ INT8
- ผู้ให้บริการอินเทอร์เน็ต – 4K @ 30fps
- วิดีโอ – การเข้ารหัส: 4K; การถอดรหัส: 1080p @60fps, H.264 เท่านั้น
- รองรับอินเทอร์เฟซ RGMII / RMII PHY ช่องเดียว
- CPU – Dual-core Arm Cortex-A53 @ 1.2 GHz; 32KB I-Cache,
- 32KB D-Cache, 256KB L2 Cache
- NPU – 12.8 TOPS @ INT4 (สูงสุด), 3.2 TOPS @ INT8
- ISP – 4K @ 30fps
- Video – การเข้ารหัส: 4K; การถอดรหัส: 1080p @ 60fps, H.264 เท่านั้น
- รองรับอินเทอร์เฟส RGMII / RMII PHY แบบ single-channel
หน่วยความจำ – RAM LPDDR4 4GB (1GB system + 3GB สำหรับ hardware acceleration)
หน่วยความจำ – eMMC 5.1 flash ขนาด 32GB, ช่องเสียบ microSD card
เสียง
- ไดร์เวอร์เสียง: AW8737
- ลำโพง: 8Ω @ 1W, ลำโพงช่อง 2014
- มีไมโครโฟนในตัว
- ฟีเจอร์เสียง AII – Text-to-speech (TTS), Automatic Speech Recognition (ASR), Keyword Spotting (KWS)
พอร์ต USB – 1x USB OTG port
Serial – 1x UART (115200 @ 8N1 อัตราบอดดิโฟลด์เริ่มต้น)
ก่ีขยาย – อินเทอร์เฟส FPC 8-pin สำหรับเชื่อมต่อกับชุดดีบัก Ethernet (ใต้ลำโพง)
อื่นๆ
- 3x RGB LED (แสดงสถานะ)
- 1x ปุ่ม Boot
แหล่งจ่ายไฟ – 5V ผ่านพอร์ต USB-C
การใช้พลังงาน
- Idle: 5V @ 0.5W
- Full Load: 5V @ 1.5W
ขนาด – 54 x 54 x 13 มม.
น้ำหนัก – 17.4กรัม
อุณหภูมิขณะทำงาน – 0 ถึง 40°C

Module LLM ได้รวมกับ StackFlow framework และสามารถใช้งานร่วมกับไลบรารี Arduino และ UIFlow ได้ มีบทแนะนำและข้อมูลอื่น ๆ พร้อมให้บริการบนเว็บไซต์เอกสารของ M5Stack อุปกรณ์นี้มีประสิทธิภาพที่สามารถเทียบกับ Jetson Orin Nano ที่ใช้พลังงาน 10W ตามที่แสดงในตารางเปรียบเทียบด้านล่าง

M5Stack Module LLM รองรับโมเดลหลายรุ่นและมาพร้อมกับโมเดลภาษา Qwen2.5-0.5B ที่ติดตั้งล่วงหน้า โมเดลนี้รองรับการทำงานด้วยคำปลุก (wake-word), การแปลงข้อความเป็นเสียง (text-to-speech), และการรู้จำเสียงพูด (speech recognition) สำหรับการทำงานอิสระและระบบพายป์ไลน์ (pipeline systems) บริษัท M5Stack กล่าวว่าจะมีการรองรับโมเดล Qwen2.5-1.5B, Llama3.2-1B, และ InternVL2-1B ในอนาคต โมดูลนี้ยังรองรับโมเดลคอมพิวเตอร์วิชัน (computer vision) เช่น CLIP และ YoloWorld พร้อมการอัปเดตที่จะรองรับโมเดล DepthAnything, SegmentAnything และโมเดลอื่น ๆ ในอนาคต

LLM module internet debug board — บอร์ด LLM debug

M5Stack Module LLM มีราคาอยู่ที่ $49.90(~1,700฿) ในร้านค้าออนไลน์ของ M5Stack แต่ขณะเขียนบทความนี้สินค้าหมดสต็อกแล้ว, LLM debugging kit ขายแยกต่างหาก (ซึ่งก็ไม่มีจำหน่ายในขณะนี้) สามารถเพิ่มพอร์ต Ethernet 100 Mbps และพอร์ต kernel serial ให้กับโมดูลเพื่อใช้งานเป็นคอมพิวเตอร์บอร์ดเดี่ยว, โมดูล LLM และชุดดีบักจะพร้อมจำหน่ายในอนาคตที่ร้าน M5Stack บน Amazon และ AliExpress