Axelera เปิดตัว Metis PCIe Arm AI evaluation kit มาพร้อม Fireflix ITX-3588J เมนบอร์ด mini-ITX และ Metis AIPU PCIe 214 TOPS

Axelera เปิดตัว Metis PCIe AI Evaluation Kit หลายชุดที่มี Metis AIPU PCIe card 214 TOPS ของบริษัทเข้ากับแพลตฟอร์ม x86 เช่นเวิร์กสเตชัน Dell 3460XE และคอมพิวเตอร์ Lenovo ThinkStation P360 Ultra, พีซีอุตสาหกรรม Advantech MIC-770v3 หรือ ARC-3534 หรือ ITX-3588J เมนบอร์ด mini-ITX ของ Fireflix ที่ใช้ Rockchip RK3588 octa-core Cortex-A76/A55 SoC

เมื่อเดือนมกราคม 2023 บริษัท Axelera เปิดตัว Metis Axelera โมดูล M.2 AI accelerator ผู้เขียนทั้งประทับใจและสงสัยเกี่ยวกับอ้างอ้างด้านประสิทธิภาพของบริษัท Metis AIPU 214 TOPS ในโมดูล M.2 แบบ power-limited ดูเหมือนจะเป็นเรื่องที่ยาก แต่มันก็ยากที่จะแยกกันตรวจสอบเนื่องจาก devkits ยังไม่พร้อมใช้งาน แม้ว่าบริษัทจะเริ่มโปรแกรมทดลองใช้ก่อนเปิดตัวในเดือนสิงหาคมที่ผ่านมา และตอนนี้ใครที่มีงบประมาณ 899 ยูโร (~35,000฿) ขึ้นไป สามารถลองใช้ Metis AIPU PCIe card ที่มีขนาดใหญ่กว่าซึ่งเป็นส่วนหนึ่งของชุดทดลอง evaluation kits x86 และ Arm ซึ่งเราจะไปดูรายละเอียดกัน

สเปคของ Metis PCIe Arm Evaluation Kit:

เมนบอร์ด – Fireflix ITX-3588J เมนบอร์ด mini-ITX
- SoC – Rockchip RK3588
  - CPU – โปรเซสเซอร์ Octa-core พร้อม Arm Cortex-A76 4 คอร์ @ สูงสุด 2.4 GHz, Arm Cortex-A55 4 คอร์
  - GPU – Arm Mali-G610 MP4 quad-core GPU พร้อมรองรับ OpenGL ES3.2, OpenCL 2.2, Vulkan1.1
  - AI accelerator – NPU 6 TOPS
  - ISP 48MP
  - VPU
    - การถอดรหัสวิดีโอ 8Kp60, การถอดรหัสสูงสุด 32x 1080p30 ช่อง H.265/HEVC
    - การเข้ารหัสวิดีโอ 8Kp30;
- หน่วยความจำระบบ – LPDDR48GB
- ที่จัดเก็บข้อมูล
  - eMMC flash 64GB
  - 1x M.2 SATA 3.0 สำหรับ 2242 SSD
  - พอร์ต SATA3.0 จำนวน 4 พอร์ต
- PCIe – PCIe 3.0 x4 slot
- ขนาด – 0 17 x 17 ซม. (ฟอร์มแฟคเตอร์ mini-ITX)
- คุณสามารถดูข้อมูลสเปคทั้งหมดสำหรับเมนบอร์ด mini-ITX ที่ใช้ RK3588 ได้ในประกาศเดิม
Axelera Metis AI PCIe card
- AI Processing Unit (AIPU) – Axelera quad-core Metis AI accelerator พร้อมdigital-in-memory computing (D-IMC) ให้ความเร็วสูงสุดถึง 214 TOPS สูงสุด 3.200 FPS สำหรับ ResNet-50
- หน่วยความจำ – LPDDR4x 1GB
- อินเทอร์เฟส Host – PCIe 3.0 x4
- ขนาด – 168 x 64 x 40 มม.; FHHL (full height, half-length) ช่อง single slot

Axelera PCIe Evaluation Kit มาพร้อมกับระบบการตรวจจับและการจำแนกประเภทที่โหลดล่วงหน้าด้วย Neural Networks รวมถึง YOLOv5, YOLOv7, Resnet 50, MobileNetV2 และ SSD-MobileNetV2 และได้รับการรองรับโดย Voyager SDK ซึ่งมุ่งเน้นให้ “ลดความซับซ้อนในการใช้งาน AI ในอุปกรณ์ Edge และรองรับ end-to-end integration และความเข้ากันได้ของ API กับมาตรฐานอุตสาหกรรม ซึ่งได้รับการปรับแต่งเป็นพิเศษสำหรับการมองเห็นของคอมพิวเตอร์ (computer vision)” ในแพลตฟอร์ม Arm นั้น Voyager SDK v0.8.5 ทำงานในDocker container ใน Ubuntu 20.04 โดยรองรับเฟรมเวิร์กต่างๆ เช่น PyTorch, ONNX และ TensorFlow (ผ่าน ONNX)

SDK มี API สำหรับ Python และ C++ และใช้ภาษา YAML ในการออกแบบไปป์ไลน์แอปพลิเคชัน รวมถึง Neural Networks, การประมวลผลล่วงหน้า และการดำเนินงานของอิมเมจขั้นสูง นอกจากนี้ยังจัดการการรวมโมเดลและชุดข้อมูล, การคอมไพล์ไปป์ไลน์, การเพิ่มประสิทธิภาพ และการปรับใช้ Voyager SDK ยังรองรับ GStreamer เพื่อการผสมผสานง่ายในบริการการอ่านค่าและการขยายขนาดจากการประมวลผลแบบเส้นเดียวไปสู่การประมวลผลของหลายบริการและการประมวลผลของหลายโมเดล ปัจจุบัน Voyager SDK มีให้บริการเฉพาะลูกค้าที่สั่งซื้อ Evaluation kits เท่านั้น ดังนั้นจึงไม่มีการเปิดเผยข้อมูลและยังไม่มีเอกสารประกอบ

คุณสามารถซื้อ Metis PCIe Arm Evaluation Kit ของ Axelera ได้แล้วในราคา 899 ยูโร (~35,000฿) การซื้อทางออนไลน์ยังไม่สามารถซื้อได้โดยตรงจะต้องมีการกรอกข้อมูลเพื่อให้บริษัทติดต่อกลับ และซื้อชุดพัฒนา x86 ที่คล้ายกันในราคา 1,299 ยูโร(~47,000฿) ถึง 1,899 ยูโร(~69,000฿) สามารถอ่านรายละเอียดเพิ่มเติมและลิงก์การซื้อในหน้าผลิตภัณฑ์ นอกจากนี้ Axelera จะจัดแสดงการสาธิตดีโมของการวิเคราะห์วิดีโอที่เปิดใช้งาน YOLO ด้วยระบบการจดจำวิดีโอแบบ 24 สตรีมที่ทำงานบนsingle Metis AI PCIe accelerator card ที่งาน Embedded World 2024

แปลจากบทความภาษาอังกฤษ : Axelera Metis PCIe Arm AI evaluation kit combines Fireﬂy ITX-3588J mini-ITX motherboard with 214 TOPS Metis AIPU PCIe card