หลายคนพยายามรัน LLM บนอุปกรณ์ฮาร์ดแวร์ระดับล่างหลากหลายรูปแบบ ซึ่งมักจะมีประโยชน์ที่จำกัด และเมื่อเราได้เห็นเดโม LLM พลังงานแสงอาทิตย์ผ่าน Meshtastic บน X ครั้งแตกถึงกับหัวเราะออกมา เพราะไม่เข้าใจจุดประสงค์และโดยทั่วไปแล้วฮาร์ดแวร์ LoRa มักจะเป็นอุปกรณ์ระดับล่างที่ใช้เฟิร์มแวร์โอเพ่นซอร์ส Meshtastic สำหรับการส่งข้อความแบบออฟไลน์และการแชร์ตำแหน่ง GPS เท่านั้น แต่พอลองคิดดูอีกที อาจจะมีประโยชน์มากในสถานการณ์ภัยพิบัติ ในสถานที่ที่พลังงานและการเชื่อมต่ออินเทอร์เน็ตอาจไม่สามารถใช้งานได้ การรับข้อมูลผ่านอุปกรณ์พกพาอาจช่วยชีวิตได้ ลองมาดูโซลูชันของ Colonel Panic กันก่อน ซึ่งเป็นโพสต์สั้น ๆ ระบุเพียงว่าเป็น LLM พลังงานแสงอาทิตย์ผ่าน Meshtastic โดยใช้ฮาร์ดแวร์ M5Stack ทางด้านซ้าย เราจะต้องมีพาวเวอร์แบงค์ที่ชาร์จผ่าน USB […]
LLMStick – อุปกรณ์ AI และ LLM ในรูปแบบ USB Stick ที่ใช้ Raspberry Pi Zero W สามารถทำงานร่วมกับ llama.cpp ได้
Binh Pham ยูทูบเบอร์และผู้ที่หลงใหลในเทคโนโลยี ได้สร้างอุปกรณ์ AI และ LLM แบบพกพาในรูปแบบ USB stick ชื่อว่า LLMStick โดยใช้ Raspberry Pi Zero W อุปกรณ์นี้นำเสนอแนวคิดของ LLM แบบ Plug-and-Play ที่สามารถใช้งานได้โดยไม่ต้องเชื่อมต่อกับอินเทอร์เน็ต หลังจากที่ DeepSeek ได้สร้างความฮือฮาด้วยประสิทธิภาพและการเข้าถึงแบบโอเพ่นซอร์ส เราได้เห็นเครื่องมือเช่น Exo ที่ช่วยให้สามารถรันโมเดลภาษาใหญ่ (LLMs) บนกลุ่มอุปกรณ์ต่างๆ เช่น คอมพิวเตอร์ สมาร์ทโฟน และบอร์ดคอมพิวเตอร์ขนาดเล็ก (SBC) โดยการกระจายภาระการประมวลผลอย่างมีประสิทธิภาพ นอกจากนี้ Radxa ยังได้ออกคำสั่งในการรัน DeepSeek R1 (Qwen2 1.5B) บน บอร์ด SBC ที่ใช้ Rockchip RK3588 มี NPU 6 TOPS Pham ตั้งใจที่จะใช้โปรเจ็กต์ llama.cpp เนื่องจากได้รับการออกแบบมาโดยเฉพาะสำหรับอุปกร […]
Vaaman – Edge computer แบบ reconfigurable ที่ใช้ Rockchip RK3399 SoC และ Efinix Trion T120 FPGA
Vaaman เป็น single-board edge computer แบบ reconfigurable (สามารถปรับเปลี่ยนได้) ที่ใช้โปรเซสเซอร์ Rockchip RK3399 hexa-core ARM เและ FPGA Efinix Trion T120 เป็นแพลตฟอร์มแบบสามารถปรับเปลี่ยนได้สำหรับการประมวลผล edge computing, บอร์ดนี้รวมความยืดหยุ่นของ FPGA เข้ากับพลังประมวลผลของโปรเซสเซอร์หลัก เพื่อสร้างระบบที่สามารถปรับตัวให้เข้ากับความต้องการประมวลผลที่เปลี่ยนแปลงได้แบบเรียลไทม์ บอร์ด SBC มีขนาดเล็กกะทัดรัดนี้มาพร้อมกับโปรเซสเซอร์ Rockchip RK3399 แบบ hexa-core ซึ่งประกอบด้วยคอร์ Cortex-A72 สองคอร์และ Cortex-A53 สี่คอร์ พร้อมด้วย FPGA Efinix Trion T120 ที่มี 112,128 logic elements โดยเชื่อมต่อกับ RK3399 ผ่านบริดจ์ความเร็วสูง 300Mbps (แต่ยังไม่ชัดเจนว่าการเชื่อมต่อนี้ถูกนำมาใช้ในลักษณะใด) บอร์ดนี้ได้รับการโฆษ […]
หุ่นยนต์แขนกลของ Waveshare ที่ใช้ ESP32 พร้อม 5+1 DoF รองรับ ROS2, LeRobot และการเชื่อมต่อกับ Jetson Orin NX
Waveshare ได้เปิดตัว RoArm-M3-Pro และ RoArm-M3-S ซึ่งเป็นชุดหุ่นยนต์แขนกลที่ใช้ ESP32 มีแรงบิดสูงและองศาอิสระ 5+1 (5+1 DOF) โดยความแตกต่างหลักระหว่างทั้งสองรุ่นคือ RoArm-M3-Pro ใช้เซอร์โวมอเตอร์บัส ST3235 ที่เป็นโลหะทั้งหมด เพื่อความทนทานและอายุการใช้งานที่ยาวนานกว่า ในขณะที่ RoArm-M3-S ใช้เซอร์โวมอเตอร์มาตรฐาน ซึ่งมีความทนทานน้อยกว่าเมื่อใช้งานในระยะยาว หุ่นยนต์แขนกลเหล่านี้มีโครงสร้างน้ำหนักเบา ฐานหมุนได้ 360° รอบทิศทาง และข้อต่อที่ยืดหยุ่น 5 จุด ช่วยให้สามารถทำงานในพื้นที่ 1 เมตร พร้อมรองรับน้ำหนักในการยกของได้ 200 กรัม ที่ระยะ 0.5 เมตร ข้อต่อข้อมือแบบ 2 DOF ช่วยให้สามารถจับวัตถุได้หลายมิติและควบคุมแรงกดได้อย่างแม่นยำ ภายในติดตั้งไมโครคอนโทรลเลอร์ ESP32 รองรับการควบคุมแบบไร้สายหลายรูปแบบผ่านเว็บแอป พร้อมรองร […]
แพลตฟอร์มการประมวลผลวิดีโอแบบ Edge ที่ใช้ชิป NXP i.MX 8M Plus, i.MX 93 หรือ i.MX 95 รองรับกล้องสูงสุด 23 ประเภท
DAB Embedded AquaEdge เป็นคอมพิวเตอร์ขนาดเล็กกะทัดรัดที่ใช้ชิป NXP i.MX 8M Plus, i.MX 93 หรือ i.MX 95 ทำงานเป็นแพลตฟอร์มการประมวลผลวิดีโอแบบ Edge รองรับกล้องตรวจจับภาพได้ 23 ประเภท โดยมีความละเอียดตั้งแต่ VGA จนถึง 12MP และรองรับทั้ง Global Shutter และ Rolling Shutter Edge computer ขนาดเล็กนี้มาพร้อมกับพอร์ต Gigabit Ethernet RJ45 ที่รองรับ PoE สำหรับจ่ายไฟให้กับอุปกรณ์ นอกจากนี้ยังมีขั้วต่อ GSML2 เพียงหนึ่งช่องสำหรับเชื่อมต่อกล้อง ซึ่งสามารถประมวลผลอินพุตผ่านตัวเร่ง AI ที่อยู่ภายในชิป NXP i.MX ที่เลือกใช้ พอร์ตภายนอกอื่นๆ ได้แก่ ช่องใส่ microSD card, พอร์ต USB 3.0 Type-A และพอร์ต mini HDMI (เฉพาะรุ่นที่ใช้ชิป NXP i.MX 8M Plus เท่านั้น) สเปคของ DAB Embedded AquaEdge: ตัวเลือก SoC / หน่วยความจำ / ที่เก็บข้อมูล NX […]
Boardcon SBC3576 – บอร์ด SBC ที่ใช้ Rockchip RK3576 ที่มีฟีเจอร์ครบครันพร้อม HDMI, mini DP, dual GbE, WiFi 6, โมดูล 5G/4G LTE และอื่นๆ
Boardcon SBC3576 เป็นคอมพิวเตอร์บอร์ดเดี่ยว (SBC) ที่มีฟีเจอร์ครบครัน โดยใช้โมดูล MINI3576 system-on-module ซึ่งขับเคลื่อนด้วยชิป Rockchip RK3576 AI SoC และเชื่อมต่อกับบอร์ดฐาน (carrier board) ผ่านคอนเนกเตอร์บอร์ดต่อบอร์ด 100 พิน 2 ชุด และ 44 พิน 1 ชุด บอร์ด carrier board รองรับ RAM สูงสุด 8GB, หน่วยความจำ eMMC flash สูงสุด 128GB, พอร์ต Gigabit Ethernet สองพอร์ต, โมดูล WiFi 6 และ Bluetooth 5.3, เอาต์พุตวิดีโอ HDMI 2.1 และ Mini DisplayPort รองรับความละเอียด 4K, อินพุตวิดีโอ Mini HDMI, พอร์ต USB 3.0 Type-A, เทอร์มินัลบล็อก RS485 และ CAN Bus และอื่น ๆ อีกมากมาย ชิป Rockchip RK3576 มาพร้อมกับ NPU 6 TOPS เช่นเดียวกับที่พบใน Rockchip RK3588/RK3588S แต่เป็นตัวเลือกที่มีต้นทุนต่ำกว่าและมีประสิทธิภาพลดลงเล็กน้อย สเปคของ […]
โซลูชัน aiDAPTIV+ AI ของ Phison ใช้ SSD เพื่อขยายหน่วยความจำของ GPU สำหรับการฝึก LLM
ขณะที่กำลังมองหาผลิตภัณฑ์ใหม่ๆ และน่าสนใจ เราพบ DLAP Supreme series ของ ADLINK ซึ่งเป็นชุดอุปกรณ์ Edge AI ที่ช้ NVIDIA Jetson AGX Orin แต่นั่นยังไม่ใช่ส่วนที่น่าสนใจที่สุด เพราะสิ่งที่ดึงดูดความสนใจคือการรองรับเทคโนโลยีที่เรียกว่า aiDAPTIV+ ซึ่งทำให้อยากรู้มากขึ้น หลังจากหาข้อมูล เราพบว่าโซลูชัน aiDAPTIV+ AI เป็นโซลูชันแบบผสม (ทั้งซอฟต์แวร์และฮาร์ดแวร์) ที่ใช้ NAND flash storage ที่มีราคาประหยัดและหาได้ทั่วไปเพื่อเพิ่มประสิทธิภาพให้กับ GPU ในการปรับปรุงกระบวนการและขยายการฝึก LLM (large-language model training) สำหรับธุรกิจขนาดเล็กและขนาดกลาง การออกแบบนี้ช่วยให้องค์กรสามารถฝึกโมเดลข้อมูลบนฮาร์ดแวร์มาตรฐานที่มีอยู่ทั่วไป โดยแก้ปัญหาข้อจำกัดของโมเดลที่ซับซ้อนมากขึ้น เช่น Llama-2 7B โซลูชันนี้รองรับโมเดลที่มีพารามิ […]
SECO เปิดตัวโมดูล SMARC และชุดพัฒนาที่ใช้ชิป Qualcomm QCS5430 SoC การใช้งาน Edge AI และ 5G
SECO เปิดตัวตัวอย่างวิศวกรรมรุ่นแรกสำหรับ SOM-SMARC-QCS5430 ซึ่งเป็นโมดูล system-on-module (SoM) และชุดพัฒนา ที่ออกแบบมาเพื่อรองรับการใช้งาน IoT และการประมวลผล Edge computing โดยโมดูลนี้ใช้ชิปประมวลผล Qualcomm QCS5430 และสอดคล้องกับมาตรฐาน SMARC โดยมุ่งเป้าไปที่การใช้งานในระบบอัตโนมัติทางอุตสาหกรรม หุ่นยนต์ เมืองอัจฉริยะ และระบบเฝ้าระวัง โมดูลนี้ยังมาพร้อมกับอินเทอร์เฟซ MIPI-CSI แบบคู่สำหรับกล้อง และตัวเลือกการเชื่อมต่อที่หลากหลาย เช่น USB 3.1, PCIe Gen3, พอร์ต Ethernet ความเร็ว 1GbE แบบคู่ และ Wi-Fi กับ Bluetooth (อุปกรณ์เสริม), ชุดพัฒนาสำหรับงานอุตสาหกรรม DEV-KIT-SMARC ของ SECO ประกอบด้วยส่วนประกอบทั้งหมดที่จำเป็นสำหรับการสร้างต้นแบบและการผสานรวมอย่างรวดเร็ว สเปคของโมดูล (SoM) SMARC-QCS5430: ชิปประมวลผล Qualc […]