CanMV-K230 : บอร์ดพัฒนา AI ที่ใช้ Kendryte K230 โปรเซสเซอร์ RISC-V dual-core 64 บิต

CanMV-K230 development board

CanMV-K230 เป็นบอร์ดพัฒนาในขนาดเท่าบัตรเครดิตสำหรับการใช้งาน AI และ computer vision ที่ใช้ Kendryte K230 โปรเซสเซอร์ RISC-V แบบ dual-core 64 บิต พร้อม built-in KPU (Knowledge Process Unit)  และอินเทอร์เฟส เช่น อินพุต MIPI CSI และ Ethernet Kendryte K210 โปรเซสเซอร์ RISC-V AI รุ่นแรกเปิดตัวในปี 2018 ซึ่งฉันเคยทดสอบกับบอร์ด Grove AI HAT และ Maixduino และรู้สึกสนุกกับทดลองใช้งาน แต่มีประสิทธิภาพที่จำกัด ต่อจากนั้นบริษัทได้เปิดตัว K510 โปรเซสเซอร์ AI ระดับกลาง พร้อม AI accelerator 3 TOPS ที่ทรงพลังยิ่งขึ้น และ K230 รุ่นที่ต่อยอดมาจากรุ่น K210 ซึ่งได้รวางแผนไว้สำหรับปี 2022 ในแผนงานปี 2021 ตอนนี้เพิ่งเปิดตัวและถูกรวมเข้ากับบอร์ดพัฒนา CanMV-K230 สเปค CanMV-K230: SoC – Kendryte K230 CPU โปรเซสเซอร์ RISC-V 64 บิต ที่ควา […]

SiFive เปิดตัว Intelligence X390 NPU และชิป RISC-V Performance P870

SiFive Performance P870 RISC V Intelligence X390 NPU

SiFive เปิดตัว IP blocks ที่มีประสิทธิภาพสูง (high-performance) 2 รุ่นใหม่ล่าสุดคือ Intelligence X390 NPU และ Performance P870 RISC-V core สามารถนำมาใช้ร่วมกันได้ใน SoC ที่ออกแบบมาสำหรับการใช้งาน Generative AI และ ML เราเคยกล่าวถึง Performance P870 และ P870-A สำหรับอุตสาหกรรมยานยนต์ แต่ SiFive Intelligence X390 NPU ยังเป็นเรื่องใหม่สำหรับฉัน และดูเหมือนว่าจะมุ่งเน้นไปที่การใช้ Generative AI ในศูนย์ข้อมูล แม้ว่เราจะได้เห็นบริษัทในอนาคตใกล้ๆนำ Generative AI มาใช้ที่ Edge ในอุปกรณ์ฝังตัวที่ทรงพลัง จุดเด่นของ SiFive Performance P870: รองรับข้อกำหนดโปรไฟล์ RVA23 RISC-V และ Vector 1.0 และ Vector Crypto อย่างเต็มรูปแบบ คอร์ 64 บิตที่สามารถดำเนินการได้ 6 คำสั่งพร้อมกันแบบไม่เป็นลำดับ รองรับคลัสเตอร์ขนาดสูงสุด 32 คอร์ & […]

Sophgo SG2380 – โปรเซสเซอร์ RISC-V ที่ใช้ SiFive P670 16 คอร์ มีความเร็ว 2.5 GHz พร้อม AI accelerator 20 TOPS

Sophgo SG2380 RISC-V processor

Sophgo SG2380 เป็นโปรเซสเซอร์ RISC-V ความเร็วในการประมวลผล 2.5 GHz และมี 16 คอร์ ที่กำลังจะเปิดตัวในเร็วๆ นี้ โดยใช้ SiFive Performance P670 cores และมาพร้อมกับ AI accelerator ที่มีประสิทธิภาพ  20 TOPS โดยใช้ SiFive Intelligence X280 และ Sophgo TPU ซึ่งจะถูกนำมาใช้ในเมนบอร์ดขนาด mini-ITX ที่มีราคาประมาณ $120(~4,400฿) และจะเปิดตัวในไตรมาสที่ 2 ของปี 2024 โปรเซสเซอร์ RISC-V ยังรองรับ RAM สูงสุด 64GB รวมถึงการเก็บข้อมูลด้วย UFS 3.2 และ SATA 3.0 มาพร้อมกับ Imagination GPU สำหรับกราฟิก 3D และ VPU ที่สามารถถอดรหัสวิดีโอ (video decoding) 4Kp60 H.265, H.264, AV1 และ VP9 นอกจากนี้ยังมีหลายพอร์ตเชื่อมต่อ และระบบยังสามารถจัดการกับ LLMs โมเดลภาษาขนาดใหญ่ที่ถูกติดตั้งในบ้านหรือในอาคาร  เช่น LLaMA-65B โดยไม่ต้องการ accelerat […]

การนำ Generative AI มาใช้กับ NVIDIA Jetson Orin, Jetpack 6 SDK พร้อมรองรับหลายระบบปฏิบัติการ

Jetson Orin Generative AI

NVIDIA ได้ประกาศเกี่ยวข้องกับหุ่นยนต์และระบบสมองกลฝังตัว (Embedded Systems) ในงาน ROSCon 2023 ได้เน้นเรื่องการนำ Generative AI มาใช้กับโมดูล NVIDIA Jetson Orin และ Jetpack 6 SDK ที่จะถูกเปิดตัวในเดือนหน้า (พฤศจิกายน 2023) พร้อมรองรับ Ubuntu รวมถึงระบบปฏิบัติการและแพลตฟอร์มอื่น ๆ เช่น Debian, Yocto, Wind River, Redhawk RTOS และ Balena Generative AI บน NVIDIA Jetson Orin ในปีที่ผ่านมา Generative AI กำลังได้รับความสนใจด้วยบริการต่างๆ เช่น ChatGPT, Google Bard หรือ Microsoft Bing Chat แต่บริการเหล่าต้องใช้ closed-source software ที่รันบนเซิร์ฟเวอร์ที่ทรงพลังในระบบคลาวด์ ตามที่เราได้กล่าวไว้ในบทความ “AI in a box” โซลูชัน LLM แบบออฟไลน์ มีโปรเจ็กต์ open-source ที่สามารถรันบนฮาร์ดแวร์แบบฝังตัว เช่น Whisper สำหรับการแป […]

Android 14 ได้เปิดตัวแล้ว พร้อมปล่อยซอร์สโค้ดเข้าโครงการ AOSP

Android 14

Google ได้เปิดตัว Android 14 สำหรับอุปกรณ์ที่รองรับ เช่น สมาร์ทโฟน Google Pixel และได้ส่งซอร์สโค้ด Android 14 เข้าสู่ AOSP (Android Open Source Project) การเปลี่ยนแปลงส่วนใหญ่ในระบบปฏิบัติการ Android 14 เปิดตัวพร้อมกับตัวอย่างแรกเป็นรุ่นทดสอบสำหรับนักพัฒนาซอฟต์แวร์ ซึ่งเปิดตัวในเดือนกุมภาพันธ์ 2023 ซึ่งรวมถึงการปรับปรุงประสิทธิภาพ, ความเป็นส่วนตัว, ความปลอดภัย และการปรับแต่งสำหรับผู้ใช้ ฟีเจอร์ใหม่บางส่วนที่เปิดเผยตั้งแต่ตัวอย่างแรกของนักพัฒนา Android 14 ได้แก่: AI-generated wallpapers ใช้ AI สร้างภาพวอลเปเปอร์ตามที่ต้องการโดยสั่งจากข้อความได้ และไม่ซ้ำกับใคร รองรับแสดงผลภาพ Ultra HDR (Android 13 รองรับวิดีโอ HDR อยู่แล้ว) นำแอปพลิเคชัน Health Connect เข้าเป็นส่วนหนึ่งของตัวระบบปฏิบัติการเพื่อให้ผู้คนติดตามระดั […]

AI in a box : โซลูชัน LLM แบบออฟไลน์ใช้ NPU ของ Rockchip RK3588S

offline open source LLM Radxa Rock 5A

“AI in a box” ของ Useful Sensors เป็น LLM (Large Language Model หรือ โมเดลด้านภาษาขนาดใหญ่) ทำงานแบบออฟไลน์โดยมีความเป็นส่วนตัว และใช้ประโยชน์จาก NPU ใน Rockchip RK3588S สำหรับการสนทนาผ่าน AI ที่คล้ายกับ ChatGPT แต่ไม่ต้องการการเชื่อมต่ออินเทอร์เน็ตหรือการลงทะเบียน ตอนนี้ต้นแบบของ AI box ใช้ฮาร์ดแวร์ที่ซื้อได้จากท้องตลาด โดยเฉพาะ Radxa ROCK 5A SBC ที่มี RAM 8GB และอยู่ในเคสพลาสติก และโค้ดใช้โมเดลโอเพ่นซอร์ส เช่น Whisper สำหรับการแปลงเสียงเป็นข้อความ และโมเดลภาษา Llama2 นอกจากการสนทนาผ่าน AI ที่คุณสามารถโต้ตอบกับกล่องได้เหมือนกับการพูดคุยกับคนจริง กล่อง AI in a Box ยังมีประโยชน์ในการใช้งานอื่น ๆ ดังนี้: คำบรรยายสด – กล่องสามารถแสดงคำบรรยายย่อย/คำบรรยายปิดสำหรับเหตุการณ์สดหรือช่วยเหลือในสถานการณ์ที่บุ […]

รีวีวซิงเกิ้ลบอร์ด YY3568 ทดลองใช้งานบน Ubuntu และ RKNPU สำหรับงาน AI

YY3568 SBC Ubuntu

บอร์ด YY3568 เป็นบอร์ดที่ใช้ชิปประมวลผล RK3568 จากบริษัท Rockchip โดยเป็นสถาปัตยกรรม ARM  Cortex-A55  64บิต จำนวน 4 คอร์ ที่มีสัญญาณนาฬิกาความเร็ว 2.0 GHz พร้อมด้วย NPU ประสิทธิภาพในการประมวลผลอยู่ที่ 1 TOPS  พร้อม GPU แบบดูอัลคอร์ Mali-G52 ที่มาพร้อมกับการเชื่อมต่อที่ค่อนข้างครอบคลุมกับความต้องการในการใช้งานทั่วไป ซึ่งเราได้ทำ การรีวิวการใช้งานบน Android 11 ไปแล้ว ในวันนี้เราจะมารีวิวการใช้งานและการทดสอบประสิทธิภาพบน Linux กัน โดยทาง youyeetoo มีให้เลือก distro ทั้ง Debian และ Ubuntu ซึ่งในรีวิวนี้จะเป็นการรีวิวด้วย Ubuntu 20 การติดตั้ง Image Debian / Ubuntu เราสามารถเลือก image ในการติดตั้งสำหรับ Debian และ Ubuntu ได้ รูปแสดงรายการไฟล์ image สำหรับติดตั้งเลือกติดตั้ง OS Debian 10 รูปแสดงรายการไฟล์ image สำหรั […]

Cadence เปิดตัว Neo NPU IP ประสิทธิภาพในการประมวลผลได้สูงสุด 80 TOPS

Cadence Neo NPU SoC

Cadence Neo NPU (Neural Processing Unit) IP ให้ประสิทธิภาพในการประมวลผลแบบ single core ได้ 8 GOPS ถึง 80 TOPS และสามารถปรับขนาดเป็นการตั้งค่าตัวประมวลผลแบบ multicoreได้หลายร้อย TOPS บริษัทกล่าวว่า Neo NPU ให้ประสิทธิภาพการประมวลผล AI ที่สูงและมีประสิทธิภาพด้านพลังงาน เพื่อรับประโยชน์สูงสุดสำหรับ PPA (Power, Performance, Area) และต้นทุนสำหรับ AI SoC รุ่นต่อไปนำไปใช้งานในด้านต่าง ๆ เช่น เซ็นเซอร์อัจฉริยะ, IoT, เสียง/ภาพ, อุปกรณ์ใส่หู/อุปกรณ์สวมใส่, การรับรู้ภาพ/เสียง AI บนมือถือ, AR/VR และ ADAS. จุดเด่นของ Neo NPU IP ใหม่ ได้แก่: ความสามารถในการปรับขนาด – โซลูชันตัวประมวลผล Single-core สามารถขยายขนาดได้ 8 GOPS ถึง 80 TOPS และขยายเพิ่มถึงหลายร้อย TOPS ด้วยตัวประมวลผลแบบ Multicore รองรับ 256 ถึง 32K MACs ต่อรอบเพื่ […]