M5Stack LLM630 Compute Kit เป็นแพลตฟอร์มการพัฒนา Edge AI ที่ใช้ชิป AI SoC : Axera Tech AX630C พร้อมด้วย NPU ที่มีประสิทธิภาพ 3.2 TOPS ออกแบบมาเพื่อรองรับการทำงานด้าน Computer Vision (CV) และ Large Language Model (LLM) บนตัวอุปกรณ์เอง โดยไม่ต้องเชื่อมต่อกับระบบคลาวด์
ชุดคิท LLM630 Compute Kit ยังมาพร้อมกับแรม LPDDR4 4GB และ eMMC flash 32GB พร้อมรองรับการเชื่อมต่อทั้งแบบมีสายและไร้สายด้วยชิป JL2101-N040C Gigabit Ethernet และโมดูล ESP32-C6 สำหรับการเชื่อมต่อ WiFi 6 ความถี่ 2.4GHz นอกจากนี้ยังสามารถเชื่อมต่อหน้าจอและกล้องผ่านคอนเน็กเตอร์ MIPI DSI และ CSI ได้อีกด้วย
สเปคของ M5Stack LLM630 Compute Kit:
- SoC – Axera Tech (หรือ Aixin ในประเทศจีน) AX630C
- CPU – Dual-core Arm Cortex-A53 @ 1.2 GHz; 32KB I-Cache, 32KB D-Cache, 256KB L2 Cache
- NPU – 12.8 TOPS @ INT4 (สูงสุด), 3.2 TOPS @ INT8
- ISP – รองรับ 4K @ 30fps
- วิดีโอ – การเข้ารหัส: 4K; การถอดรหัส: 1080p @60fps, รองรับเฉพาะ H.264
- หน่วยความจำระบบ – LPDDR4 4GB (แบ่งเป็น 2GB สำหรับระบบ และ 2GB สำหรับการเร่งฮาร์ดแวร์)
- ที่เก็บข้ออมูล
- eMMC flash 5.1 32GB
- ช่องเสียบ MicroSD card
- อินเทอร์เฟซการแสดงผล – คอนเนกเตอร์ MIPI DSI แบบ 2-lane รองรับความละเอียดสูงสุด 1080p @ 30fps
- อินเทอร์เฟซกล้อง – คอนเนกเตอร์ MIPI CSI แบบ 4-lane รองรับสูงสุด 4K @ 30fps @ 1.25mm
- เสียง – Header ไมโครโฟนและลำโพงแบบ 5-pin
- ระบบเครือข่าย
- พอร์ต Gigabit Ethernet RJ45 แบบบาง (JL2101B-N040C)
- WiFi 6 คลื่นความถี่ 2.4GHz ผ่านชิป ESP32-C6 และสายอากาศ SMA
- USB – 1x พอร์ต USB 2.0 OTG Type-C
- เซนเซอร์ – เซนเซอร์ตรวจจับการเคลื่อนไหว BMI270 6 แกน
- การขยาย
- คอนเน็กเตอร์ Grove แบบ 4-pin 2.0mm PORTA (I2C)
- คอนเน็กเตอร์ Grove แบบ 4-pin 2.0mm PORTC (UART)
- คอนเน็กเตอร์ FUNC แบบ 8-pin ระยะห่าง 1.25mm (ปลุกระบบ, การจัดการพลังงาน, ควบคุม LED ภายนอก, I2C และอื่นๆ)
- การดีบัก/การเขียนโปรแกรม – USB-C to UART ผ่านชิป CH9102F USB to TTL
- อื่นๆ – ปุ่ม 2 ปุ่มสำหรับเปิด/ปิดเครื่อง, การโต้ตอบกับผู้ใช้, รีเซ็ต และฟังก์ชันอื่นๆ
- แหล่งจ่ายไฟ
- 5V/2A ผ่านพอร์ต USB-C
- คอนเนกเตอร์ 1.25 มม. สำหรับแบตเตอรี่ Li-ion หรือ Li-polymer 3.7V
- การจัดการแบตเตอรี่ – ชิปชาร์จ AW32001ECSR, ชิปตรวจจับแบตเตอรี่ BQ27220YZFR
- ขนาด – 90.3 x 31.6 x 12 มม.
- น้ำหนัก – 22.9 กรัม
- ช่วงอุณหภูมิ – 0°C – 40°C
M5Stack LLM630 Compute Kit มาพร้อมกับเสาอากาศ WiFi 2.4GHz, ฮีทซิงก์ และแผ่นโฟม EVA จำนวน 4 แผ่น, ชุดคิทนี้รองรับการใช้งาน Edge AI ในหลากหลายอุตสาหกรรม เช่น บ้านอัจฉริยะ (Smart Home), การเฝ้าระวังด้านความปลอดภัย (Security Monitoring), การค้าปลีกอัจฉริยะ (Smart Retail), เกษตรอัจฉริยะ (Smart Agriculture), หุ่นยนต์โต้ตอบ (Interactive Robotics) และการศึกษา STEM
เหมือนกับ M5Stack Module LLM รุ่นก่อนหน้านี้ที่ใช้ชิป AI SoC : AX630C รองรับโดย StackFlow AI Framework ซึ่งรวมอัลกอริธึม AI ต่าง ๆ เช่น การประมวลผลเสียง (Speech), การประมวลผลภาพ (Vision), และ Large Language Model (LLM) พร้อมทั้ง Jupyter Notebook เพื่อช่วยในการเรียนรู้และพัฒนา โดย LLM630 Compute Kit ทำงานบน Ubuntu 22.04 โดยสามารถติดตั้งโมเดล LLM และ Computer Vision ผ่านไฟล์ .deb package รายละเอียดทางเทคนิคเพิ่มเติมและคำแนะนำสำหรับเริ่มต้นใช้งานซอฟต์แวร์สามารถดูได้จากเว็บไซต์เอกสารประกอบ
ตามที่ระบุไว้ในบทความเกี่ยวกับโมดูล LLM, ชิป Axera AX630C มีประสิทธิภาพที่เทียบได้กับ Jetson Orin Nano (โหมดพลังงาน 10W) ในการใช้งานโมเดลต่าง ๆ เช่น Inception v1, MobileNet v1 หรือ Yolov3s แต่มีราคาที่ต่ำกว่ามาก นอกจากนี้แพลตฟอร์มยังรองรับ large language models (LLM) อย่าง Qwen2.5-0.5/1.5B และ Llama3.2-1B นอกจากนี้ยังสามารถเป็นตัวเลือกที่ประหยัดและกะทัดรัดกว่าการใช้งาน Raspberry Pi 5 + Hailo-8 AI accelerator หรือ Rockchip RK3588 SBC ทั้งนี้ขึ้นอยู่กับความต้องการของคุณ เมื่อเทียบกับ Module LLM ชุด LLM630 Compute Kit เป็นโซลูชันแบบครบวงจรที่มี Ethernet และ WiFi ในตัว พร้อมทั้งมีพอร์ต I/O เพิ่มเติม และไม่จำเป็นต้องใช้งานร่วมกับ Core Module ของ M5Stack
M5Stack จำหน่าย LLM630 Compute Kit บน AliExpress ในราคา $69.99(~2,400฿) และร้านของบริษัทในราคาเดียวกัน ขณะนี้สินค้าหมดสต็อกเนื่องจากบริษัทหยุดพักช่วงเทศกาลตรุษจีนระหว่างวันที่ 21 มกราคม ถึง 4 กุมภาพันธ์ และอาจจะมีการวางจำหน่ายในร้าน M5Stack บน Amazon
#M5StackNew 🎊 The LLM630 Compute Kit is an #AI large language model (#LLM) inference development kit, powered by the #Axera #AX630C SoC with a 3.2 TOPs NPU, it delivers efficient AI inference for tasks like computer vision (CV) and LLM processing. pic.twitter.com/sHdESYydoC
— M5Stack (@M5Stack) January 17, 2025
แปลจากบทความภาษาอังกฤษ : M5Stack LLM630 Compute Kit features Axera AX630C Edge AI SoC for on-device LLM and computer vision processing
บรรณาธิการข่าวและบทความภาษาไทย CNX Software ได้มีความสนใจในด้านเทคโนโลยี โดยเฉพาะ Smart Home และ IoT