MediaTek Dimensity 9300 เป็นชิปเซ็ตสมาร์ทโฟน 5G ระดับพรีเมียมที่มี CPU 8 คอร์ประกอบด้วย Cortex-X4 จำนวน 4 คอร์ และ Cortex-A720 จำนวน 4 คอร์ แต่ไม่มี Cortex-A520 efficiency core พร้อม GPU Arm Mali-G720 รุ่นล่าสุด และ MediaTek APU 790 neural processing unit (NPU) ที่สามารถรองรับเทคโนโลยี generative AI และรองรับโมเดลภาษาขนาดใหญ่ (LLM) ที่ขนาดสูงสุด 33 พันล้านพารามิเตอร์ Arm ได้คิดค้นเทคโนโลยี big.LITTLE และ DynamIQ เพื่อผสมคอร์ในด้านการประหยัดพลังงานและประสิทธิภาพ เพื่อลดการใช้พลังงาน การเปิดตัวล่าสุดของบริษัท ได้แก่ Cortex-X4,คอร์ระดับพรีเมียม, Cortex-A720 performance/big core,และ Cortex-A520 efficient/LITTLE core แต่ MediaTek ตัดสินใจไม่ใช้คอร์เล็ก Cortex-A520 ใน Dimensity 9300 ซึ่งทำให้ฉันรู้สึกว่าแปลกสำหรับชิ […]
Renesas RA8M1 : ชิปไมโครคอนโทรลเลอร์ Arm Cortex-M85 ตัวแรกของโลก
Renesas RA8M1 เป็นไมโครคอนโทรลเลอร์ Arm Cortex-M85 ความเร็วสูงสุด 480 MHz ที่มพร้อมเทคโนโลยี Arm Helium เพื่อเพิ่มประสิทธิภาพในการประมวลผล DSP และ machine learning บนไมโครคอนโทรลเลอร์ Cortex-M และจากการทดสอบ EEMBC CoreMark ให้ประสิทธิภาพ สูงสุดถึง 6.39 CoreMark/MHz หรือมากกว่า 3,000 CoreMark ที่ความเร็ว 480 MHz.. Arm Cortex-M85 ได้เปิดตัวครั้งแรกในเดือนเมษายน 2022 เป็นทางเลือกที่เร็วกว่า Cortex-M7 และและมาพร้อมเทคโนโลยี Arm Helium ใหม่ที่ให้ประสิทธิภาพของ machine learning คล้ายกับโปรเซสเซอร์แอปพลิเคชัน Cortex-M55 ในช่วงปีที่ผ่านมาเราได้รับข้อมูลบางส่วนเกี่ยวกับ Renesas Cortex-M85 ที่กำลังจะมาถึงในปีที่แล้ว และในที่สุดก็มีไมโครคอนโทรลเลอร์ Cortex-M85 ตัวแรกของโลก คุณสมบัติและสเปคที่สำคัญของ Renesas RA8M1: MCU […]
CanMV-K230 : บอร์ดพัฒนา AI ที่ใช้ Kendryte K230 โปรเซสเซอร์ RISC-V dual-core 64 บิต
CanMV-K230 เป็นบอร์ดพัฒนาในขนาดเท่าบัตรเครดิตสำหรับการใช้งาน AI และ computer vision ที่ใช้ Kendryte K230 โปรเซสเซอร์ RISC-V แบบ dual-core 64 บิต พร้อม built-in KPU (Knowledge Process Unit) และอินเทอร์เฟส เช่น อินพุต MIPI CSI และ Ethernet Kendryte K210 โปรเซสเซอร์ RISC-V AI รุ่นแรกเปิดตัวในปี 2018 ซึ่งฉันเคยทดสอบกับบอร์ด Grove AI HAT และ Maixduino และรู้สึกสนุกกับทดลองใช้งาน แต่มีประสิทธิภาพที่จำกัด ต่อจากนั้นบริษัทได้เปิดตัว K510 โปรเซสเซอร์ AI ระดับกลาง พร้อม AI accelerator 3 TOPS ที่ทรงพลังยิ่งขึ้น และ K230 รุ่นที่ต่อยอดมาจากรุ่น K210 ซึ่งได้รวางแผนไว้สำหรับปี 2022 ในแผนงานปี 2021 ตอนนี้เพิ่งเปิดตัวและถูกรวมเข้ากับบอร์ดพัฒนา CanMV-K230 สเปค CanMV-K230: SoC – Kendryte K230 CPU โปรเซสเซอร์ RISC-V 64 บิต ที่ควา […]
SiFive เปิดตัว Intelligence X390 NPU และชิป RISC-V Performance P870
SiFive เปิดตัว IP blocks ที่มีประสิทธิภาพสูง (high-performance) 2 รุ่นใหม่ล่าสุดคือ Intelligence X390 NPU และ Performance P870 RISC-V core สามารถนำมาใช้ร่วมกันได้ใน SoC ที่ออกแบบมาสำหรับการใช้งาน Generative AI และ ML เราเคยกล่าวถึง Performance P870 และ P870-A สำหรับอุตสาหกรรมยานยนต์ แต่ SiFive Intelligence X390 NPU ยังเป็นเรื่องใหม่สำหรับฉัน และดูเหมือนว่าจะมุ่งเน้นไปที่การใช้ Generative AI ในศูนย์ข้อมูล แม้ว่เราจะได้เห็นบริษัทในอนาคตใกล้ๆนำ Generative AI มาใช้ที่ Edge ในอุปกรณ์ฝังตัวที่ทรงพลัง จุดเด่นของ SiFive Performance P870: รองรับข้อกำหนดโปรไฟล์ RVA23 RISC-V และ Vector 1.0 และ Vector Crypto อย่างเต็มรูปแบบ คอร์ 64 บิตที่สามารถดำเนินการได้ 6 คำสั่งพร้อมกันแบบไม่เป็นลำดับ รองรับคลัสเตอร์ขนาดสูงสุด 32 คอร์ & […]
Sophgo SG2380 – โปรเซสเซอร์ RISC-V ที่ใช้ SiFive P670 16 คอร์ มีความเร็ว 2.5 GHz พร้อม AI accelerator 20 TOPS
Sophgo SG2380 เป็นโปรเซสเซอร์ RISC-V ความเร็วในการประมวลผล 2.5 GHz และมี 16 คอร์ ที่กำลังจะเปิดตัวในเร็วๆ นี้ โดยใช้ SiFive Performance P670 cores และมาพร้อมกับ AI accelerator ที่มีประสิทธิภาพ 20 TOPS โดยใช้ SiFive Intelligence X280 และ Sophgo TPU ซึ่งจะถูกนำมาใช้ในเมนบอร์ดขนาด mini-ITX ที่มีราคาประมาณ $120(~4,400฿) และจะเปิดตัวในไตรมาสที่ 2 ของปี 2024 โปรเซสเซอร์ RISC-V ยังรองรับ RAM สูงสุด 64GB รวมถึงการเก็บข้อมูลด้วย UFS 3.2 และ SATA 3.0 มาพร้อมกับ Imagination GPU สำหรับกราฟิก 3D และ VPU ที่สามารถถอดรหัสวิดีโอ (video decoding) 4Kp60 H.265, H.264, AV1 และ VP9 นอกจากนี้ยังมีหลายพอร์ตเชื่อมต่อ และระบบยังสามารถจัดการกับ LLMs โมเดลภาษาขนาดใหญ่ที่ถูกติดตั้งในบ้านหรือในอาคาร เช่น LLaMA-65B โดยไม่ต้องการ accelerat […]
การนำ Generative AI มาใช้กับ NVIDIA Jetson Orin, Jetpack 6 SDK พร้อมรองรับหลายระบบปฏิบัติการ
NVIDIA ได้ประกาศเกี่ยวข้องกับหุ่นยนต์และระบบสมองกลฝังตัว (Embedded Systems) ในงาน ROSCon 2023 ได้เน้นเรื่องการนำ Generative AI มาใช้กับโมดูล NVIDIA Jetson Orin และ Jetpack 6 SDK ที่จะถูกเปิดตัวในเดือนหน้า (พฤศจิกายน 2023) พร้อมรองรับ Ubuntu รวมถึงระบบปฏิบัติการและแพลตฟอร์มอื่น ๆ เช่น Debian, Yocto, Wind River, Redhawk RTOS และ Balena Generative AI บน NVIDIA Jetson Orin ในปีที่ผ่านมา Generative AI กำลังได้รับความสนใจด้วยบริการต่างๆ เช่น ChatGPT, Google Bard หรือ Microsoft Bing Chat แต่บริการเหล่าต้องใช้ closed-source software ที่รันบนเซิร์ฟเวอร์ที่ทรงพลังในระบบคลาวด์ ตามที่เราได้กล่าวไว้ในบทความ “AI in a box” โซลูชัน LLM แบบออฟไลน์ มีโปรเจ็กต์ open-source ที่สามารถรันบนฮาร์ดแวร์แบบฝังตัว เช่น Whisper สำหรับการแป […]
Android 14 ได้เปิดตัวแล้ว พร้อมปล่อยซอร์สโค้ดเข้าโครงการ AOSP
Google ได้เปิดตัว Android 14 สำหรับอุปกรณ์ที่รองรับ เช่น สมาร์ทโฟน Google Pixel และได้ส่งซอร์สโค้ด Android 14 เข้าสู่ AOSP (Android Open Source Project) การเปลี่ยนแปลงส่วนใหญ่ในระบบปฏิบัติการ Android 14 เปิดตัวพร้อมกับตัวอย่างแรกเป็นรุ่นทดสอบสำหรับนักพัฒนาซอฟต์แวร์ ซึ่งเปิดตัวในเดือนกุมภาพันธ์ 2023 ซึ่งรวมถึงการปรับปรุงประสิทธิภาพ, ความเป็นส่วนตัว, ความปลอดภัย และการปรับแต่งสำหรับผู้ใช้ ฟีเจอร์ใหม่บางส่วนที่เปิดเผยตั้งแต่ตัวอย่างแรกของนักพัฒนา Android 14 ได้แก่: AI-generated wallpapers ใช้ AI สร้างภาพวอลเปเปอร์ตามที่ต้องการโดยสั่งจากข้อความได้ และไม่ซ้ำกับใคร รองรับแสดงผลภาพ Ultra HDR (Android 13 รองรับวิดีโอ HDR อยู่แล้ว) นำแอปพลิเคชัน Health Connect เข้าเป็นส่วนหนึ่งของตัวระบบปฏิบัติการเพื่อให้ผู้คนติดตามระดั […]
AI in a box : โซลูชัน LLM แบบออฟไลน์ใช้ NPU ของ Rockchip RK3588S
“AI in a box” ของ Useful Sensors เป็น LLM (Large Language Model หรือ โมเดลด้านภาษาขนาดใหญ่) ทำงานแบบออฟไลน์โดยมีความเป็นส่วนตัว และใช้ประโยชน์จาก NPU ใน Rockchip RK3588S สำหรับการสนทนาผ่าน AI ที่คล้ายกับ ChatGPT แต่ไม่ต้องการการเชื่อมต่ออินเทอร์เน็ตหรือการลงทะเบียน ตอนนี้ต้นแบบของ AI box ใช้ฮาร์ดแวร์ที่ซื้อได้จากท้องตลาด โดยเฉพาะ Radxa ROCK 5A SBC ที่มี RAM 8GB และอยู่ในเคสพลาสติก และโค้ดใช้โมเดลโอเพ่นซอร์ส เช่น Whisper สำหรับการแปลงเสียงเป็นข้อความ และโมเดลภาษา Llama2 นอกจากการสนทนาผ่าน AI ที่คุณสามารถโต้ตอบกับกล่องได้เหมือนกับการพูดคุยกับคนจริง กล่อง AI in a Box ยังมีประโยชน์ในการใช้งานอื่น ๆ ดังนี้: คำบรรยายสด – กล่องสามารถแสดงคำบรรยายย่อย/คำบรรยายปิดสำหรับเหตุการณ์สดหรือช่วยเหลือในสถานการณ์ที่บุ […]