Raspberry Pi AI HAT+ 2 ที่ใช้ชิป AI accelerator Hailo-10H เพิ่มความสามารถด้าน Generative AI (LLM/VLM)

Raspberry Pi AI HAT+ 2 เป็นบอร์ดเสริม (add-on) ที่ใช้ชิป AI accelerator Hailo-10H ประสิทธิภาพ 40 TOPS พร้อมหน่วยความจำบนบอร์ดขนาด 8GB ออกแบบมาเพื่อเพิ่มความสามารถด้าน Generative AI ให้กับ Raspberry Pi 5

แม้จะให้ประสิทธิภาพด้าน computer vision ใกล้เคียงกับ Raspberry Pi AI HAT+ รุ่นแรกที่ใช้ชิป AI accelerator Hailo-8 แต่ AI HAT+ 2 เพิ่มการรองรับ Large Language Models (LLMs) (LLMs) และ Vision Language Models (VLMs) ที่สามารถรันแบบโลคัลได้โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ต กลุ่มงานเป้าหมาย ได้แก่ การควบคุมกระบวนการแบบออฟไลน์ การวิเคราะห์ข้อมูลที่ต้องการความปลอดภัย การจัดการอาคารสถานที่ และหุ่นยนต์

สเปคของ Raspberry Pi AI HAT+ 2 :

AI accelerator – Hailo Hailo-10H
- ประสิทธิภาพการประมวลผล AI accelerator 40 TOPS (INT4)
- ประสิทธิภาพงาน computer vision ใกล้เคียง Raspberry Pi AI HAT+ (26 TOPS)
- หน่วยความจำบนบอร์ด 8GB
อินเทอร์เฟซโฮสต์
- PCIe Gen3 x1 ผ่านคอนเนกเตอร์ FPC ไปยัง Raspberry Pi 5
- GPIO header 40 พิน (Hailo-10H ไม่ได้ใช้สัญญาณใด ๆ เพียงแค่ขยาย GPIO จาก Pi)
อื่น ๆ
- มาพร้อม stacking headers 16 มม., spacers และมาพร้อมสแต็กกิ้งเฮดเดอร์ 16 มม., สเปเซอร์
- ตัวเลือก ฮีตซิงก์
ขนาด – 64.1 × 56.7 × 5.5 มม. (มาตรฐาน Raspberry Pi HAT+)
ช่วงอุณหภูมิการทำงาน – 0°C ถึง 50°C
วงจรชีวิตผลิตภัณฑ์ – ผลิตจนถึงอย่างน้อย มกราคม 2036

การเริ่มต้นใช้งานต้องใช้ Raspberry Pi OS เวอร์ชันล่าสุด เมื่อบูตแล้วระบบจะตรวจจับ Hailo-10H อัตโนมัติและมีการผสานรวมเข้ากับสแตกซอฟต์แวร์กล้องของ Raspberry Pi อย่างเต็มรูปแบบ ได้แก่ rpicam-apps, libcamera และ Picamera2 โดยสามารถค้นหาโมเดล Generative AI ได้จากเว็บไซต์ Hailo และบน GitHub, ซึ่งมี Hailo-Ollama (API ที่เข้ากันได้กับ Ollama เขียนด้วย C++ บน HailoRT) ให้ใช้งานด้วย วิธีเริ่มต้นที่แนะนำคือดูเอกสารที่เกี่ยวข้องบนเว็บไซต์ Raspberry Pi

ตัวอย่างโมเดลที่รองรับ:

DeepSeek-R1-Distill – 1.5 พันล้านพารามิเตอร์
Llama3.2 – 1 พันล้านพารามิเตอร์
Qwen2.5-Coder – 1.5 พันล้านพารามิเตอร์
Qwen2.5-Instruct – 1.5 พันล้านพารามิเตอร์
Qwen2 – 1.5 พันล้านพารามิเตอร์

โมเดลเหล่านี้ยังใช้หน่วยความจำ 8GB บนโมดูลไม่เต็มทั้งหมด และมีข้อมูลว่ากำลังเตรียมรองรับโมเดลที่ใหญ่ขึ้น นี่คือตัวอย่างเดโม LLM หนึ่งรายการ

ผลลัพธ์จากเดโม Vision-Language:

Raspberry Pi ได้ส่งตัวอย่างมาให้เรา ซึ่งคาดว่าน่าจะได้ทดสอบจริงในช่วงสุดสัปดาห์นี้, ในประเทศไทยสามารถหาซื้อได้โดยผ่าน Cytron Technologies Thailand ราคา 5,200 บาท, โดยน่าจะเป็นคู่แข่งโดยตรงกับ Rockchip RK1820/RK1828 LLM/VLM accelerators ซึ่งในขณะนี้ยังไม่มีข้อมูลราคาอย่างชัดเจน

แปลจากบทความภาษาอังกฤษ : Raspberry Pi AI HAT+ 2 targets generative AI (LLM/VLM) with Hailo-10H accelerator