การ์ด M5Stack LLM-8850 : โมดูล AI accelerator แบบ M.2 M-Key ที่ใช้ชิป Axera AX8850, 24 TOPS

การ์ด M5Stack LLM-8850 เป็นโมดูล AI acceleration แบบ M.2 M-Key ขนาด 2242 ที่ใช้ Axera AX8850 SoC ให้ประสิทธิภาพสูงสุด 24 TOPS (INT8) รองรับการใช้งานร่วมกับอุปกรณ์โฮสต์ เช่น Raspberry Pi 5, บอร์ด SBC ที่ใช้ Rockchip RK3588 รวมถึง พีซี x86 อย่างมินิพีซีที่มีสล็อต M.2 Key-M ว่างอยู่

การ์ดนี้มาพร้อมกับ RAM ขนาด 8GB, SPI NOR flash ขนาด 32Mbit, และรองรับการเข้ารหัสวิดีโอ H.265/H.264 ความละเอียด 8Kp30 รวมถึงการถอดรหัสวิดีโอ 8Kp60 โดยรองรับได้สูงสุด 16 ช่องสำหรับวิดีโอระดับ 1080p นอกจากนี้ยังติดตั้ง ระบบระบายความร้อนแบบแอคทีฟ เพื่อรักษาอุณหภูมิให้คงที่และป้องกันการเสื่อมสภาพจากความร้อนภายในตัวเครื่อง

สเปคของ M5Stack LLM‑8850 card :

SoC – Axera AX8850
- CPU – โปรเซสเซอร์ Octa-core Cortex-A55 ความเร็ว 1.7 GHz
- NPU – 24 TOPS @ INT8
- VPU
  - ตัวเข้ารหัสวิดีโอ (Video Encoder) – รองรับการเข้ารหัส H.264/H.265 ความละเอียด 8K @ 30fps, รองรับการปรับสเกล / ครอป
  - ตัวถอดรหัสวิดีโอ (Video Decoder) – รองรับการถอดรหัส H.264/H.265 ความละเอียด 8K @ 60fps, รองรับการถอดรหัสแบบขนานสูงสุด 16 ช่องสำหรับวิดีโอ 1080p, รองรับการปรับสเกล / ครอป
หน่วยความจำ – LPDDR4x 64-bit ขนาด 8GB @ 4266 Mbps
ที่เก็บข้อมูล – QSPI NOR Flash 32Mbit (สำหรับ Bootloader เท่านั้น)
อินเทอร์เฟซโฮสต์ – PCIe 2.0 x2 ผ่านคอนเนกเตอร์ M.2 Key-M
การระบายความร้อน – พัดลม แบบ Micro turbo + ฮีทซิงค์อะลูมิเนียมอัลลอย CNC แบบบูรณาการ
แหล่งจ่ายไฟ – 3.3V ผ่านคอนเนกเตอร์ขอบการ์ด
การใช้พลังงาน – สูงสุด 7 วัตต์
ขนาด – 42.6 x 24.0 x 9.7 มม.
น้ำหนัก – 14.7 กรัม
ช่วงอุณหภูมิ
- ขณะทำงาน – 0 ถึง 60°C
- อุณหภูมิเต็มโหลดที่อุณหภูมิห้อง – 70°C

การ์ดนี้สามารถทำงานร่วมกับ Ubuntu 20.02, 22.04 และ 24.04 รวมถึง Debian 12 ได้ แต่ไม่รองรับระบบปฏิบัติการอื่น เช่น Windows, macOS หรือแม้แต่ Windows WSL เนื่องจากต้องใช้ไดรเวอร์ axcl-smi ที่มีเฉพาะบนระบบ Linux เท่านั้น

เมื่อทำการติดตั้งไดรเวอร์บน Raspberry Pi 5 หรือ SBC / mini PC ที่ใช้ Linux แล้ว ผู้ใช้สามารถดาวน์โหลด เดโมตัวอย่างต่าง ๆ จากหน้า wiki เพื่อเริ่มต้นใช้งานได้ โดยมีรายชื่อโมเดลที่รองรับค่อนข้างหลากหลาย ดังนี้:

ด้าน Vision – YOLO11, Yolo-World-V2, Yolov7-face, Depth-Anything-V2, MixFormer-V2, Real-ESRGAN, SuperResolution, RIFE
ด้านภาษาขนาดใหญ่ (Large Language Models) – Qwen3-0.6B, Qwen3-1.7B, Qwen2.5-0.5B-Instruct, Qwen2.5-1.5B-Instruct, DeepSeek-R1-Distill-Qwen-1.5B, MiniCPM4-0.5B
ด้านมัลติโหมด (Multimodal Models) – InternVL3-1B, Qwen2.5-VL-3B-Instruct, SmolVLM2-500M-Video-Instruct, LibCLIP
ด้านเสียง (Audio Models) – Whisper, MeloTTS, SenseVoice, CosyVoice2, 3D-Speaker-MT
ด้าน Generative – lcm-lora-sdv1-5, SD1.5-LLM8850, LivePortrait

Raspberry Pi 5 Axera AX8850 AI accelerator module — การ์ด LLM-8850 สามารถเชื่อมต่อกับ Raspberry Pi 5 ได้ผ่านอะแดปเตอร์ M.2 HAT+ M Key แบบทางการ

ทาง M5Stack ไม่ได้เปิดเผยผลการทดสอบประสิทธิภาพ (benchmark) หรือเปรียบเทียบ Axera AX8850 SoC กับตัวเร่งความเร็ว AI รุ่นอื่น ๆ โดยตรง แต่ในหน้า wiki มีข้อมูลบางส่วน เช่น ความเร็ว 12.88 tokens/วินาที สำหรับโมเดล Qwen3-0.6B เมื่อใช้การควอนไทซ์แบบ w8a16 ถ้าพิจารณาตามตัวเลข TOPS (24 TOPS) ซึ่งอาจไม่สะท้อนประสิทธิภาพจริงทั้งหมด จะเห็นได้ว่า LLM-8850 มีศักยภาพใกล้เคียงกับ Hailo-8 AI accelerator (26 TOPS) แต่Hailo-8 ถูกออกแบบให้เหมาะกับงานด้าน Computer Vision โดยเฉพาะ ส่วน Axera 8850 จะเหนือกว่าอย่างมากในงานประเภท LLM (Large Language Model) หรือโมเดลภาษาขนาดใหญ่

ในด้านราคา การ์ด LLM-8850 มีราคาพอ ๆ กัน หรืออาจถูกกว่าผลิตภัณฑ์บางรุ่น เช่น Raspberry Pi AI HAT+ 26 TOPS ราคา $110 (~3,600฿) และถูกกว่ามากเมื่อเทียบกับ การ์ด Hailo-8 M.2 ที่มีราคาประมาณ $200 (~6,500฿) โดย M5Stack วางจำหน่ายโมดูล Axera AX8850 M.2 ในราคา$99 (~3,200฿) on AliExpress และ ร้านค้าออนไลน์ของบริษัท.