Gemma Translator เครื่องแปลภาษารันบน Raspberry Pi 5 แบบออฟไลน์ด้วย LiteRT

Gemma Translator เป็นโปรเจกต์โอเพนซอร์สสำหรับ Raspberry Pi 5 ที่ทำหน้าที่เป็นเครื่องแปลภาษาแบบหลายภาษา โดยประมวลผลทั้งหมดบนอุปกรณ์โดยไม่ต้องเชื่อมต่อคลาวด์ ใช้โมเดล Google Gemma 4 ร่วมกับ LiteRT runtime

โครงการนี้พัฒนาโดยวิศวกรของ Google จำนวน 3 คน โดยได้รับความช่วยเหลือจาก Google Antigravity และประกอบด้วยซอฟต์แวร์สำหรับสร้างเครื่องแปลเสียงแบบทำงานบนอุปกรณ์และออฟไลน์อย่างสมบูรณ์ โดยใช้ Gemma 4 E2B (พารามิเตอร์ที่ใช้งานจริง 2.3 พันล้าน และประมาณ 5.1 พันล้านพารามิเตอร์ทั้งหมด พร้อม per-layer embeddings) และ LiteRT runtime

ฮาร์ดแวร์ที่ใช้ประกอบด้วย:

• Raspberry Pi 5 พร้อม RAM 8GB
• จอแสดงผล – จอ HDMI หรือจอสัมผัส เช่น จอสำหรับงาน Kiosk ความละเอียด 480×320
• ระบบเสียง
  • ไมโครโฟนหรือ USB audio capture interface
  • ลำโพงหรือหูฟัง
• คีย์บอร์ด – ในตัวอย่างโครงการใช้ PCB แบบกำหนดเองชื่อ AX-4LABS-NEW พร้อม rotary encoder และปุ่มกลไก 4 ปุ่ม โดยใช้จริง 2 ปุ่ม
• ชิ้นส่วนเสริม – สามารถพิมพ์เคสด้วยเครื่องพิมพ์ 3D ได้

จุดเด่นด้านซอฟต์แวร์:

• ประมวลผลบนอุปกรณ์ – ใช้ LiteRT-LM ซึ่งเป็น orchestration layer ที่สร้างอยู่บน LiteRT เพื่อรันโมเดล Gemma 4 E2B บน Raspberry Pi โดยตรง และหลังจากติดตั้งแล้วไม่จำเป็นต้องเชื่อมต่ออินเทอร์เน็ต
• ระบบเสียง
  • รับเสียงจากไมโครโฟน ประมวลผล และส่งให้โมเดล Gemma 4 E2B ที่ทำงานอยู่ภายในเครื่อง
  • ระบบแปลงข้อความเป็นเสียงใช้ Moonshine ซึ่งเป็น TTS แบบโอเพนซอร์สและมี latency ต่ำสำหรับ AI agents
• UI – อินเทอร์เฟซสไตล์เทอร์มินัลย้อนยุคที่ออกแบบมาสำหรับหน้าจอขนาดเล็ก เช่น จอสัมผัสของ Raspberry Pi โดยใช้เลือกภาษาที่ต้องการแปลเป็นหลัก
• เริ่มต้นระบบแบบครบชุด – ใช้สคริปต์เดียวเพื่อเปิด LLM server, Python API และ React frontend บน Raspberry Pi 5

สามารถซอร์สโค้ดส่วน Backend (Python) และ Frontend (React) รวมถึงไฟล์ STL สำหรับเคสและขั้นตอนการติดตั้ง ได้จาก GitHub, PCB สำหรับ keypad และ rotary encoder ยังไม่ได้เปิดซอร์ส และไม่พบ PCB สำเร็จรูปที่เหมือนกันทุกประการ แต่สามารถใช้คีย์บอร์ดหรือ keypad แบบอื่นแทนได้

วิดีโอสาธิตแสดงการแปลเสียงสเปน<->จีนกลาง (Mandarin) แบบเรียลไทม์ โดยมี latency ต่ำเพียงพอสำหรับการใช้งานจริง

นอกจากโครงการ Gemma Translator แล้ว วิศวกรของ Google ยังทำงานเพื่อเพิ่มประสิทธิภาพ LiteRT บน Raspberry Pi โดยมีการเผยแพร่บทความเชิงลึกเกี่ยวกับสถานะปัจจุบันบน Raspberry Pi Blog พร้อมทั้งบทความต่อเนื่องที่แนะนำการเริ่มต้นใช้งาน LiteRT บน Raspberry Pi 5

แปลจากบทความ : Gemma Translator multilingual interpreter runs locally on Raspberry Pi 5 with the LiteRT runtime

Suthinee Kerdkaew

บรรณาธิการข่าวและบทความภาษาไทย CNX Software ได้มีความสนใจในด้านเทคโนโลยี โดยเฉพาะ Smart Home และ IoT