ข่าว Generative AI - CNX Software - ข่าวไอโอทีและสมองกลฝังตัว

กุมภาพันธ์ 21, 2025 โดย Suthinee Kerdkaew - ไม่มีความเห็น

โซลูชัน LLM ที่ใช้พลังงานแสงอาทิตย์ผ่าน Meshtastic สำหรับการสื่อสารฉุกเฉินในพื้นที่ห่างไกล

หลายคนพยายามรัน LLM บนอุปกรณ์ฮาร์ดแวร์ระดับล่างหลากหลายรูปแบบ ซึ่งมักจะมีประโยชน์ที่จำกัด และเมื่อเราได้เห็นเดโม LLM พลังงานแสงอาทิตย์ผ่าน Meshtastic บน X ครั้งแตกถึงกับหัวเราะออกมา เพราะไม่เข้าใจจุดประสงค์และโดยทั่วไปแล้วฮาร์ดแวร์ LoRa มักจะเป็นอุปกรณ์ระดับล่างที่ใช้เฟิร์มแวร์โอเพ่นซอร์ส Meshtastic สำหรับการส่งข้อความแบบออฟไลน์และการแชร์ตำแหน่ง GPS เท่านั้น แต่พอลองคิดดูอีกที อาจจะมีประโยชน์มากในสถานการณ์ภัยพิบัติ ในสถานที่ที่พลังงานและการเชื่อมต่ออินเทอร์เน็ตอาจไม่สามารถใช้งานได้ การรับข้อมูลผ่านอุปกรณ์พกพาอาจช่วยชีวิตได้ ลองมาดูโซลูชันของ Colonel Panic กันก่อน ซึ่งเป็นโพสต์สั้น ๆ ระบุเพียงว่าเป็น LLM พลังงานแสงอาทิตย์ผ่าน Meshtastic โดยใช้ฮาร์ดแวร์ M5Stack ทางด้านซ้าย เราจะต้องมีพาวเวอร์แบงค์ที่ชาร์จผ่าน USB […]

กุมภาพันธ์ 4, 2025 โดย Suthinee Kerdkaew - ไม่มีความเห็น

Roboreactor – เว็บสำหรับออกแบบหุ่นยนต์ที่ใช้ Raspberry Pi หรือ Jetson ตั้งแต่ระบบอิเล็กทรอนิกส์ไปจนถึงโค้ดและไฟล์ 3D

Roboreactor Web based interface to design robots

Roboreactor เป็นแพลตฟอร์มบนเว็บที่ช่วยให้วิศวกรสามารถสร้างระบบหุ่นยนต์และระบบอัตโนมัติบน Raspberry Pi, NVIDIA Jetson หรือ SBC อื่น ๆ ได้โดยตรงจากเว็บเบราว์เซอร์ รองรับการเลือกชิ้นส่วน, การสร้างโค้ดผ่านการเขียนโปรแกรมแบบภาพ (Visual Programming) และการสร้างโมเดล URDF จากซอฟต์แวร์ Onshape นอกจากนี้ คุณยังสามารถออกแบบหุ่นยนต์ของคุณด้วย LLM ได้ตามต้องการ ขั้นตอนแรกคือการสร้างโปรเจกต์ตามสเปกของหุ่นยนต์ของคุณ จากนั้นดาวน์โหลดและติดตั้งอิมเมจ Genflow Mini ลงใน Raspberry Pi หรือ NVIDIA Jetson SBC อีกทางเลือกหนึ่งคือการติดตั้งมิดเดิลแวร์ Gemini Mini ด้วยสคริปต์บน SBC อื่น ๆ แต่มีข้อมูลว่ากระบวนการนี้อาจใช้เวลานานถึง 10 ชั่วโมง ในขั้นตอนนี้ คุณควรจะสามารถเข้าถึงข้อมูลจากเซ็นเซอร์และอุปกรณ์ต่อพ่วงอื่น ๆ ที่เชื่อมต่อกับบอร์ […]

มกราคม 28, 2025 โดย Suthinee Kerdkaew - ไม่มีความเห็น

โซลูชัน aiDAPTIV+ AI ของ Phison ใช้ SSD เพื่อขยายหน่วยความจำของ GPU สำหรับการฝึก LLM

ขณะที่กำลังมองหาผลิตภัณฑ์ใหม่ๆ และน่าสนใจ เราพบ DLAP Supreme series ของ ADLINK ซึ่งเป็นชุดอุปกรณ์ Edge AI ที่ช้ NVIDIA Jetson AGX Orin แต่นั่นยังไม่ใช่ส่วนที่น่าสนใจที่สุด เพราะสิ่งที่ดึงดูดความสนใจคือการรองรับเทคโนโลยีที่เรียกว่า aiDAPTIV+ ซึ่งทำให้อยากรู้มากขึ้น หลังจากหาข้อมูล เราพบว่าโซลูชัน aiDAPTIV+ AI เป็นโซลูชันแบบผสม (ทั้งซอฟต์แวร์และฮาร์ดแวร์) ที่ใช้ NAND flash storage ที่มีราคาประหยัดและหาได้ทั่วไปเพื่อเพิ่มประสิทธิภาพให้กับ GPU ในการปรับปรุงกระบวนการและขยายการฝึก LLM (large-language model training) สำหรับธุรกิจขนาดเล็กและขนาดกลาง การออกแบบนี้ช่วยให้องค์กรสามารถฝึกโมเดลข้อมูลบนฮาร์ดแวร์มาตรฐานที่มีอยู่ทั่วไป โดยแก้ปัญหาข้อจำกัดของโมเดลที่ซับซ้อนมากขึ้น เช่น Llama-2 7B โซลูชันนี้รองรับโมเดลที่มีพารามิ […]

มกราคม 26, 2025 โดย Suthinee Kerdkaew - ไม่มีความเห็น

ESP32 Agent Dev Kit เป็นชุดพัฒนา Voice Assistant ที่ใช้ ESP32-S3 และรองรับการเชื่อมต่อกับ Large Language Models (LLM)

ESP32 Agent Dev Kit เป็นชุดพัฒนาสำหรับ Voice Assistant ที่ใช้ ESP32-S3 ซึ่งรองรับการเชื่อมต่อกับโมเดลภาษาใหญ่ (LLM) ยอดนิยม เช่น ChatGPT, Gemini และ Claude ได้ Wireless-Tag ระบุว่าชุดพัฒนานี้เหมาะสำหรับ “95% ของแอปพลิเคชัน AIoT ตั้งแต่อุปกรณ์สมาร์ทโฮมไปจนถึงของเล่นตั้งโต๊ะ หุ่นยนต์ และเครื่องมือวัดต่าง ๆ” ในบางแง่มุม ESP32 Agent Dev Kit มีความคล้ายคลึงกับ SenseCAP Watcher แต่มีจอแสดงผลขนาดใหญ่กว่าแบบไม่รองรับการสัมผัส และมีช่องอินพุตไมโครโฟนคู่ แต่ชุดพัฒนานี้ไม่รองรับโมเดลภาษาในพื้นที่ (Local Language Models) แต่มีอินเทอร์เฟซ MikroBUS มาตรฐานสำหรับการขยายระบบ สำหรับความสามารถด้านเสียง ESP32 Dev Kit มาพร้อมไมโครโฟนตัดเสียงรบกวน 2 ตัวในตัว และลำโพงความละเอียดเสียงสูง (High-Fidelity Speaker) นอกจากนี้ยังมีเซ […]

มกราคม 21, 2025มกราคม 21, 2025 โดย Suthinee Kerdkaew - ไม่มีความเห็น

M5Stack LLM630 Compute Kit ที่ใช้ Axera AX630C Edge AI SoC สำหรับการประมวลผล LLM และ Computer Vision บนตัวอุปกรณ์

M5Stack LLM630 Compute Kit เป็นแพลตฟอร์มการพัฒนา Edge AI ที่ใช้ชิป AI SoC : Axera Tech AX630C พร้อมด้วย NPU ที่มีประสิทธิภาพ 3.2 TOPS ออกแบบมาเพื่อรองรับการทำงานด้าน Computer Vision (CV) และ Large Language Model (LLM) บนตัวอุปกรณ์เอง โดยไม่ต้องเชื่อมต่อกับระบบคลาวด์ ชุดคิท LLM630 Compute Kit ยังมาพร้อมกับแรม LPDDR4 4GB และ eMMC flash 32GB พร้อมรองรับการเชื่อมต่อทั้งแบบมีสายและไร้สายด้วยชิป JL2101-N040C Gigabit Ethernet และโมดูล ESP32-C6 สำหรับการเชื่อมต่อ WiFi 6 ความถี่ 2.4GHz นอกจากนี้ยังสามารถเชื่อมต่อหน้าจอและกล้องผ่านคอนเน็กเตอร์ MIPI DSI และ CSI ได้อีกด้วย สเปคของ M5Stack LLM630 Compute Kit: SoC – Axera Tech (หรือ Aixin ในประเทศจีน) AX630C CPU – Dual-core Arm Cortex-A53 @ 1.2 GHz; 32KB I-Cache, 32KB D-Cach […]

ธันวาคม 18, 2024ธันวาคม 23, 2024 โดย Suthinee Kerdkaew - ไม่มีความเห็น

NVIDIA Jetson Orin Nano Super Developer Kit – ราคาลดลงครึ่งหนึ่ง ประสิทธิภาพ Generative AI เพิ่มขึ้น 1.7 เท่า

NVIDIA Jetson Orin Nano Super Development Kit

NVIDIA Jetson Orin Nano Super Developer Kit เป็นการอัปเกรดจาก Jetson Orin Nano Developer Kit ด้วยประสิทธิภาพด้าน Generative AI ที่เพิ่มขึ้นถึง 1.7 เท่า พร้อมประสิทธิภาพโดยรวมที่เพิ่มขึ้น 70% เป็น 67 INT8 TOPS และราคาลดลงเกือบครึ่งหนึ่ง ทำให้เป็นแพลตฟอร์มการพัฒนาที่ยอดเยี่ยมสำหรับ Generative AI บนอุปกรณ์ปลายทาง (Edge) โดยเฉพาะในงานหุ่นยนต์ ในปีที่ผ่านมา เราได้เห็น AI box และบอร์ด AI หลายตัวที่รองรับการใช้งาน Generative AI แบบออฟไลน์ เช่น เมนบอร์ด Firefly AIO-1684XQ หรือ Radxa Fogwise Airbox ซึ่งเราเคยรีวิวร่วมกับแอปพลิเคชั่นอย่าง Llama3, Stable diffusion และ Imgsearch โดย Fogwise Airbox ให้ประสิทธิภาพสูงสุดที่ 32 TOPS (INT8) และขายในราคาประมาณ $330(~11,000฿) ซึ่งถือว่าแข่งขันได้ดีในเวลานั้น (มิถุนายน 2024) อย่าง […]