Axelera เปิดตัว Metis PCIe AI Evaluation Kit หลายชุดที่มี Metis AIPU PCIe card 214 TOPS ของบริษัทเข้ากับแพลตฟอร์ม x86 เช่นเวิร์กสเตชัน Dell 3460XE และคอมพิวเตอร์ Lenovo ThinkStation P360 Ultra, พีซีอุตสาหกรรม Advantech MIC-770v3 หรือ ARC-3534 หรือ ITX-3588J เมนบอร์ด mini-ITX ของ Fireflix ที่ใช้ Rockchip RK3588 octa-core Cortex-A76/A55 SoC
เมื่อเดือนมกราคม 2023 บริษัท Axelera เปิดตัว Metis Axelera โมดูล M.2 AI accelerator ผู้เขียนทั้งประทับใจและสงสัยเกี่ยวกับอ้างอ้างด้านประสิทธิภาพของบริษัท Metis AIPU 214 TOPS ในโมดูล M.2 แบบ power-limited ดูเหมือนจะเป็นเรื่องที่ยาก แต่มันก็ยากที่จะแยกกันตรวจสอบเนื่องจาก devkits ยังไม่พร้อมใช้งาน แม้ว่าบริษัทจะเริ่มโปรแกรมทดลองใช้ก่อนเปิดตัวในเดือนสิงหาคมที่ผ่านมา และตอนนี้ใครที่มีงบประมาณ 899 ยูโร (~35,000฿) ขึ้นไป สามารถลองใช้ Metis AIPU PCIe card ที่มีขนาดใหญ่กว่าซึ่งเป็นส่วนหนึ่งของชุดทดลอง evaluation kits x86 และ Arm ซึ่งเราจะไปดูรายละเอียดกัน
สเปคของ Metis PCIe Arm Evaluation Kit:
- เมนบอร์ด – Fireflix ITX-3588J เมนบอร์ด mini-ITX
- SoC – Rockchip RK3588
- CPU – โปรเซสเซอร์ Octa-core พร้อม Arm Cortex-A76 4 คอร์ @ สูงสุด 2.4 GHz, Arm Cortex-A55 4 คอร์
- GPU – Arm Mali-G610 MP4 quad-core GPU พร้อมรองรับ OpenGL ES3.2, OpenCL 2.2, Vulkan1.1
- AI accelerator – NPU 6 TOPS
- ISP 48MP
- VPU
- การถอดรหัสวิดีโอ 8Kp60, การถอดรหัสสูงสุด 32x 1080p30 ช่อง H.265/HEVC
- การเข้ารหัสวิดีโอ 8Kp30;
- หน่วยความจำระบบ – LPDDR48GB
- ที่จัดเก็บข้อมูล
- eMMC flash 64GB
- 1x M.2 SATA 3.0 สำหรับ 2242 SSD
- พอร์ต SATA3.0 จำนวน 4 พอร์ต
- PCIe – PCIe 3.0 x4 slot
- ขนาด – 0 17 x 17 ซม. (ฟอร์มแฟคเตอร์ mini-ITX)
- คุณสามารถดูข้อมูลสเปคทั้งหมดสำหรับเมนบอร์ด mini-ITX ที่ใช้ RK3588 ได้ในประกาศเดิม
- SoC – Rockchip RK3588
- Axelera Metis AI PCIe card
- AI Processing Unit (AIPU) – Axelera quad-core Metis AI accelerator พร้อมdigital-in-memory computing (D-IMC) ให้ความเร็วสูงสุดถึง 214 TOPS สูงสุด 3.200 FPS สำหรับ ResNet-50
- หน่วยความจำ – LPDDR4x 1GB
- อินเทอร์เฟส Host – PCIe 3.0 x4
- ขนาด – 168 x 64 x 40 มม.; FHHL (full height, half-length) ช่อง single slot
Axelera PCIe Evaluation Kit มาพร้อมกับระบบการตรวจจับและการจำแนกประเภทที่โหลดล่วงหน้าด้วย Neural Networks รวมถึง YOLOv5, YOLOv7, Resnet 50, MobileNetV2 และ SSD-MobileNetV2 และได้รับการรองรับโดย Voyager SDK ซึ่งมุ่งเน้นให้ “ลดความซับซ้อนในการใช้งาน AI ในอุปกรณ์ Edge และรองรับ end-to-end integration และความเข้ากันได้ของ API กับมาตรฐานอุตสาหกรรม ซึ่งได้รับการปรับแต่งเป็นพิเศษสำหรับการมองเห็นของคอมพิวเตอร์ (computer vision)” ในแพลตฟอร์ม Arm นั้น Voyager SDK v0.8.5 ทำงานในDocker container ใน Ubuntu 20.04 โดยรองรับเฟรมเวิร์กต่างๆ เช่น PyTorch, ONNX และ TensorFlow (ผ่าน ONNX)
SDK มี API สำหรับ Python และ C++ และใช้ภาษา YAML ในการออกแบบไปป์ไลน์แอปพลิเคชัน รวมถึง Neural Networks, การประมวลผลล่วงหน้า และการดำเนินงานของอิมเมจขั้นสูง นอกจากนี้ยังจัดการการรวมโมเดลและชุดข้อมูล, การคอมไพล์ไปป์ไลน์, การเพิ่มประสิทธิภาพ และการปรับใช้ Voyager SDK ยังรองรับ GStreamer เพื่อการผสมผสานง่ายในบริการการอ่านค่าและการขยายขนาดจากการประมวลผลแบบเส้นเดียวไปสู่การประมวลผลของหลายบริการและการประมวลผลของหลายโมเดล ปัจจุบัน Voyager SDK มีให้บริการเฉพาะลูกค้าที่สั่งซื้อ Evaluation kits เท่านั้น ดังนั้นจึงไม่มีการเปิดเผยข้อมูลและยังไม่มีเอกสารประกอบ
คุณสามารถซื้อ Metis PCIe Arm Evaluation Kit ของ Axelera ได้แล้วในราคา 899 ยูโร (~35,000฿) การซื้อทางออนไลน์ยังไม่สามารถซื้อได้โดยตรงจะต้องมีการกรอกข้อมูลเพื่อให้บริษัทติดต่อกลับ และซื้อชุดพัฒนา x86 ที่คล้ายกันในราคา 1,299 ยูโร(~47,000฿) ถึง 1,899 ยูโร(~69,000฿) สามารถอ่านรายละเอียดเพิ่มเติมและลิงก์การซื้อในหน้าผลิตภัณฑ์ นอกจากนี้ Axelera จะจัดแสดงการสาธิตดีโมของการวิเคราะห์วิดีโอที่เปิดใช้งาน YOLO ด้วยระบบการจดจำวิดีโอแบบ 24 สตรีมที่ทำงานบนsingle Metis AI PCIe accelerator card ที่งาน Embedded World 2024
แปลจากบทความภาษาอังกฤษ : Axelera Metis PCIe Arm AI evaluation kit combines Firefly ITX-3588J mini-ITX motherboard with 214 TOPS Metis AIPU PCIe card
บรรณาธิการข่าวและบทความภาษาไทย cnx-software ได้มีความสนใจในด้านเทคโนโลยี โดยเฉพาะ Smart Home และ IOT