Axelera Metis M.2 Max : โมดูล Edge AI เร็วขึ้น 2 เท่าในการประมวลผล LLM และ VLM

โมดูล Metis M.2 Max ของ Axelera AI เป็นโมดูลแบบ M.2 ที่ใช้ Metis AI processor unit (AIPU) รุ่นอัปเกรด ซึ่งให้แบนด์วิดท์หน่วยความจำสูงขึ้นเป็นสองเท่าเมื่อเทียบกับ โมดูล Metis M.2 รุ่นเดิมเพื่อตอบโจทย์งาน Edge AI inference ที่ใช้การประมวลผลเข้มข้น เช่น Large Language Models (LLMs) และ Vision Language Models (VLMs)

Metis M.2 Max รุ่นใหม่นี้ยังมาพร้อมกับดีไซน์ที่บางลง ระบบจัดการความร้อนที่ล้ำสมัย และฟีเจอร์ด้านความปลอดภัยเพิ่มเติม โดยติดตั้งหน่วยความจำได้สูงสุด 16 GB และจะมีรุ่นให้เลือกทั้งแบบช่วงอุณหภูมิการทำงานมาตรฐาน (-20°C ถึง +70°C) และแบบช่วงอุณหภูมิขยาย (-40°C ถึง +85°C) การปรับปรุงเหล่านี้ทำให้ Metis M.2 Max เหมาะอย่างยิ่งสำหรับการใช้งานในด้าน การผลิตอุตสาหกรรม, ค้าปลีก, ระบบรักษาความปลอดภัย, ด้านการแพทย์ และความปลอดภัยสาธารณะ

Metis M2 Max

สเปคของ Axelera AI Metis M.2 Max:

  • ตัวเร่งความเร็ว (Accelerator) – Metis AIPU’
  • หน่วยความจำระบบ – 1GB, 4GB, 8GB หรือ 16GB
  • อินเทอร์เฟซโฮสต์ (Host Interface) – ขั้วต่อ M.2 2280 M-key แบบ edge connector พร้อม PCIe Gen 3.0 x4
  • ความเข้ากันได้ – โปรเซสเซอร์ Intel Core, AMD Ryzen และโปรเซสเซอร์ Arm64 (aarch64)
  • ความปลอดภัย – ตรวจสอบความถูกต้องของเฟิร์มแวร์ผ่าน secure boot และ secure upgrade โดยใช้ hardware Root-of-Trust
  • อื่น ๆ
    • power probe บนบอร์ด สำหรับปรับแต่งประสิทธิภาพโดยอัตโนมัติตามการตั้งค่า กรณีที่มีข้อจำกัดด้านพลังงานและความร้อน
    • ฮีทซิงก์แบบบาง (low-profile) ให้เลือกเสริมสำหรับการระบายความร้อน (ช่วยลดความสูงของการ์ดได้ 27% เมื่อเทียบกับการ์ด M.2 รุ่นปัจจุบัน)
  • กำลังไฟ – เป็นไปตามมาตรฐาน PCI-SIG’s M.2 Specification revision 4.0 (กำลังไฟเฉลี่ย 11.55 W, กำลังไฟสูงสุด 23.1 W)
  • ช่วงอุณหภูมิการทำงาน
    • แบบมาตรฐาน – -20°C ถึง +70°C
    • แบบขยาย – -40°C ถึง +85°C

Axelera Metis M2 Max Top Bottom

เช่นเดียวกับโมดูล Metis M.2 รุ่นก่อน รุ่น Max ก็รองรับ Voyager SDK เช่นกัน โดย Axelera AI ระบุว่ามีการทดสอบการรองรับ Linux แบบ native บน Ubuntu 22.04 แล้ว ส่วนการใช้งานกับ Linux distribution อื่น ๆ จะมีคู่มือการใช้งานผ่าน Docker (ต้องลงชื่อเข้าใช้ก่อนจึงจะเข้าถึงได้)

ทางบริษัทได้ให้ข้อมูลเพิ่มเติมเกี่ยวกับประสิทธิภาพในข่าวประชาสัมพันธ์ว่า:

M.2 Max ให้ประสิทธิภาพเพิ่มขึ้น 33% ในงาน Convolutional Neural Networks (CNNs) และทำงานได้เร็วขึ้น 2 เท่า ในการประมวลผล token/วินาที สำหรับ LLMs และ VLMs ซึ่งทั้งหมดนี้ยังคงอยู่ในช่วงการใช้พลังงานเฉลี่ยเพียง 6.5W เท่านั้น

แต่ครั้งนี้ไม่มีการเปิดเผยตัวเลข TOPS หรือผลการทดสอบ benchmark ที่ชัดเจน สำหรับการอ้างอิง หน่วยประมวลผล Metis AIPU สามารถให้ประสิทธิภาพได้สูงสุดถึง 214 TOPS แต่เป็นไปได้ว่าน่าจะไม่ใช่ในรูปแบบโมดูล M.2

Metis M2 heatsink
โมดูล Metis M.2 รุ่นแรก มาพร้อมฮีทซิงก์ ส่วน Metis M.2 Max รุ่นใหม่จะมาพร้อมฮีทซิงก์ที่บางกว่า (ตอนนี้ยังไม่มีภาพให้ดู)

 

Metis M.2 Max จะเริ่มจัดส่งในไตรมาส 4 ปี 2025 ปัจจุบันมีการลงรายการไว้ในAxelera webstore แต่ยังไม่มีการเปิดเผยราคา สำหรับการอ้างอิงโมดูล Metis M.2 รุ่นปัจจุบัน วางขายอยู่ที่ 229,95 ยูโร (~8,600฿) ไม่มีโซลูชันระบายความร้อน หรือราคา 241,95 ยูโร (~9,000฿) พร้อมระบบระบายความร้อนแบบแอคทีฟดังที่แสดงด้านบน) ส่วนรุ่นใหม่คาดว่าจะมีราคาสูงกว่า น่าจะประมาณ 300 ยูโร (~11,200฿) ถึง 400 ยูโร(~15,000฿)

แปลจากบทความภาษาอังกฤษ : Axelera Metis M.2 Max Edge AI module doubles LLM and VLM processing speed

Subscribe
Notify of
guest
0 Comments
Oldest
Newest Most Voted
Inline Feedbacks
View all comments
โฆษณา