Firefly ได้เปิดตัว CSB1-N10 series เป็นเซิร์ฟเวอร์คลัสเตอร์ AI ซึ่งออกแบบมาสำหรับแอปพลิเคชันต่างๆ เช่น การประมวลผลภาษาธรรมชาติหรือ Natural language processing, หุ่นยนต์ และการสร้างภาพ เซิร์ฟเวอร์นี้มาในรูปแบบขนาด 1U สำหรับติดตั้งในตู้ Rack เหมาะสำหรับการใช้งานใน Data Center, เซิร์ฟเวอร์ส่วนตัว และงาน Edge deployments
เซิร์ฟเวอร์รุ่นนี้มาพร้อมกับโหนดประมวลผลหลายตัว โดยใช้โปรเซสเซอร์ประหยัดพลังงาน เช่น Rockchip RK3588, RK3576 หรือ SOPHON BM1688 หรือโมดูล NVIDIA Jetson ที่มีประสิทธิภาพสูง เช่น Orin Nano และ Orin NX ด้วยพลังการประมวลผล AI ตั้งแต่ 60 ถึง 1000 TOPS เซิร์ฟเวอร์ CSB1-N10 สามารถรองรับความต้องการของโมเดล AI ขนาดใหญ่ได้ เช่น โมเดลภาษาธรรมชาติอย่าง Gemma-2B และ Llama3 รวมถึงโมเดลภาพ เช่น EfficientVIT และ Stable Diffusion
สเปคของ CSB1-N10 series
คุณสมบัติ | CSB1-N10S1688 | CSB1-N10R3588 | CSB1-N10R3576 | CSB1-N10NOrinNano | CSB1-N10NOrinNX |
|---|---|---|---|---|---|
| SoC | Octa-core BM1688 | Octa-core RK3588 | Octa-core RK3576 | Hexa-core Jetson Orin Nano | Octa-core Jetson Orin NX |
| ความถี่ | 1.6 GHz | 2.4 GHz | 2.2 GHz | 1.5 GHz | 2.0 GHz |
| จำหนวยโหนด | 10 โหนด + 1 โหนดควบคุม |
||||
| โปรเซสเซอร์โหนดควบคุม | RK3588, 2.4 GHz |
||||
| ประสิทธิภาพ AI (INT8) | 160 TOPS | 60 TOPS | 400 TOPS | 1000 TOPS | |
| หน่วยความจำต่อโหนด | LPDDR4 8GB (อัปเกรดสูงสุด 16GB) | LPDDR4 16GB (อัปเกรดสูงสุด 32GB) | LPDDR4 8GB (อัปเกรดสูงสุด 16GB) | LPDDR5 8GB | LPDDR5 16GB |
| ที่จัดเก็บต่อโหนด | eMMC 32GB (อัปเกรดสูงสุด 256GB) | eMMC 256GB (อัปเกรดสูงสุด 256GB) | eMMC 64GB (อัปเกรดสูงสุด 256GB) | 256GB PCIe NVMe SSD |
|
| การเข้ารหัส/ถอดรหัสวิดีโอ | 160 ช่อง H.265/H.264 1080p@30fps ถอดรหัส, 100 ช่องเข้ารหัส | 10 ช่อง H.265 8K@30fps ถอดรหัส, 10 ช่องเข้ารหัส |
|||
| การขยายที่เก็บข้อมูล | SATA 3.0/SSD hard drive slot |
||||
| Ethernet | 2 × 10G Ethernet (SFP+) 2 × Gigabit Ethernet (RJ45) 1 × Gigabit Ethernet (RJ45, MGNT ใช้สำหรับ BMC management network) |
||||
| Console | พอร์ต RJ45 console |
||||
| การแสดงผล | VGA รองรับความละเอียดสูงสุด 1080p60 |
||||
| USB | 2 × พอร์ต USB3.0 |
||||
| ปุ่ม | ปุ่ม Reset, UID, power |
||||
| อื่นๆ | 1 × RS232 (DB9, baud rate 115200) 1 × RS485 (DB9, baud rate 115200 |
||||
| การระบายความร้อน | 6 × พัดลมแบบ high-speed |
||||
| พาวเวอร์ซัพพลาย | 550W (ไม่รองรับการเปลี่ยนแบบ hot-swappable) |
||||
| ฟอร์มเฟคเตอร์ | 1U rack-mounted |
||||
| ขนาด | 420×421.3×44.4 มม. |
||||
| อุณหภูมิขณะใช้งาน | 0°C ~ 45°C |
||||
| Deep Learning Frameworks | TensorFlow, PyTorch, PaddlePaddle, ONNX, Caffe | cuDNN frameworks: TensorFlow, PyTorch, MATLAB |
|||
| รองรับ Large Model | โมเดล LLMs ที่ใช้ Transformer | LLaMa3, Phi-3 Mini, และ vision models |
|||
เซิร์ฟเวอร์ AI ซีรีส์ CSB1-N10 ทุกรุ่นมาพร้อมกับอินเทอร์เฟซที่เหมือนกัน โดยความแตกต่างจะอยู่ที่ CPU, หน่วยความจำ, ที่เก็บข้อมูล, มัลติมีเดีย, ความสามารถด้าน AI และการรองรับซอฟต์แวร์ที่เกี่ยวข้อง มีความเป็นไปได้ว่า Firefly ได้ออกแบบโมดูล (SoM) ของ Rockchip ให้สามารถใช้งานร่วมกับฟอร์มแฟกเตอร์ SO-DIMM ของ NVIDIA Jetson และก่อนหน้านี้เราเคยมีการกล่าวถึงโมดูล Core-1688JD4, Core-3576JD4 และ Core-3588JD4 ที่ใช้ชิป SoC BM1688, RK3576 และ RK3588 ซึ่งน่าจะเป็นโมดูลที่ใช้ในเซิร์ฟเวอร์ CSB1-N10
ด้านซอฟต์แวร์ CSB1-N10 series AI cluster servers มีระบบ BMC มาพร้อมกับระบบ BMC ที่รองรับฟีเจอร์ต่าง ๆ เช่น Redfish, VNC, NTP และการมอนิเตอร์สำหรับการจัดการแบบเรียลไทม์ นอกจากนี้ยังรองรับ Deep Learning Frameworks เช่น TensorFlow, PyTorch, PaddlePaddle, ONNX และ Caffe พร้อม cuDNN acceleration สำหรับโมเดลบางประเภท เซิร์ฟเวอร์ยังรองรับ Docker containers เพื่อให้สามารถปรับใช้งานโมเดลขนาดใหญ่ เช่น LLaMa3, Phi-3 Mini, EfficientVIT และ Stable Diffusion ได้แบบส่วนตัว อย่างไรก็ตาม รายการในวิกิสำหรับเซิร์ฟเวอร์ซีรีส์ CSB1-N10 ยังคงว่างเปล่า ดังนั้นคุณอาจต้องอ้างอิงเอกสารของโมดูล CPU แทน
ก่อนหน้านี้เราได้เขียนบทความเกี่ยวกับคลัสเตอร์และเมนบอร์ดสำหรับคลัสเตอร์หลายรุ่น เช่น Lichee Cluster 4A mini-ITX, Mixtile Cluster Box และเมนบอร์ด Turing Pi 2.5 mini-ITX แต่โซลูชันที่ Firefly นำเสนอมีความทรงพลังมากกว่า และสามารถติดตั้งในตู้ Rackได้
ราคาของเซิร์ฟเวอร์ CSB1-N10 อยู่ในช่วง $2,059(~70,000฿) สำหรับรุ่น CSB1-N10R3576 ไปจนถึง $14,709(~500,000฿) สำหรับรุ่นประสิทธิภาพสูง CSB1-N10NOrinNX Computing Server ที่มีกำลังประมวลผลถึง 1000 TOPS ลิงก์สำหรับสั่งซื้อผลิตภัณฑ์ทุกรุ่นสามารถหาได้บนหน้าเพจสินค้า และยังมีข้อมูลเพิ่มเติมใน Datasheets ของเซิร์ฟเวอร์คลัสเตอร์ Rockchip/SOPHGO และ NVIDIA
แปลจากบทความภาษาอังกฤษ : Firefly’s CSB1-N10 series AI cluster servers can deliver up to 1000 TOPS of AI power with Rockchip or NVIDIA Jetson Modules
บรรณาธิการข่าวและบทความภาษาไทย CNX Software ได้มีความสนใจในด้านเทคโนโลยี โดยเฉพาะ Smart Home และ IoT