Nvidia DGX Spark
Nvidia DGX Spark คือคอมพิวเตอร์ระดับซูเปอร์คอมพิวเตอร์ AI ในรูปแบบกะทัดรัดที่ออกแบบมาเพื่อนักพัฒนา AI นักวิจัย และนักวิทยาศาสตร์ข้อมูลโดยเฉพาะ โดยนำพลังประมวลผลของสถาปัตยกรรมระดับศูนย์ข้อมูลมาไว้บนโต๊ะทำงานของคุณ ทำให้สามารถสร้าง ทดสอบ และปรับแต่งโมเดล AI ขนาดใหญ่ได้ในพื้นที่ส่วนตัว
จุดเด่นของ DGX Spark
สถาปัตยกรรม NVIDIA Grace Blackwell
- พลังประมวลผล AI สูงสุด: มอบพลังประมวลผล AI สูงสุด 1 PetaFLOP (FP4 sparse) โดยใช้ 5th Generation Tensor Cores เพื่อเร่งความเร็วในการรันโมเดล AI ขั้นสูง
- สถาปัตยกรรม Grace Blackwell (GB10): หัวใจสำคัญคือ NVIDIA GB10 Grace Blackwell Superchip ที่รวมเอาทั้ง CPU และ GPU เข้าไว้ในชิปเดียว
- ขนาดกะทัดรัด: ตัวเครื่องมีขนาดเล็กมากประมาณ 150 x 150 x 50.5 มม. และน้ำหนักเพียง 1.2 กิโลกรัม ทำให้จัดวางบนโต๊ะทำงานได้ง่าย
เทคโนโลยีและการประยุกต์
ตัวอย่างการประยุกต์ใช้งาน
- การสร้างต้นแบบและการทดสอบ: นักพัฒนาสามารถสร้าง ทดสอบ และตรวจสอบความถูกต้องของโมเดล AI ได้อย่างรวดเร็วและเป็นอิสระ โดยไม่จำเป็นต้องรอคิวใช้ทรัพยากรบนคลาวด์หรือศูนย์ข้อมูล
- การปรับแต่งโมเดลขนาดใหญ่ (Large Model Fine-Tuning): สามารถปรับแต่ง (Fine-tune) โมเดล LLMs ที่มีขนาดสูงสุดถึง 70 พันล้านพารามิเตอร์ เพื่อให้มีความเฉพาะเจาะจงกับข้อมูลภายในองค์กร หรือความต้องการเฉพาะทาง
- การอนุมานประสิทธิภาพสูง (High-Performance Inference): ใช้สำหรับการทดสอบและใช้งานจริงโมเดล AI ระดับ State-of-the-Art ที่มีขนาดใหญ่ถึง 200 พันล้านพารามิเตอร์
- งานวิทยาศาสตร์ข้อมูล (Data Science) และ Edge AI Research: เหมาะสำหรับการวิจัยด้าน Physical AI และการพัฒนาแอปพลิเคชัน AI สำหรับอุปกรณ์ปลายทาง (Edge Applications)
นวัตกรรมซอฟต์แวร์
- Coherent Unified System Memory: ด้วยเทคโนโลยี NVLink-C2C ทำให้ CPU และ GPU สามารถแชร์และเข้าถึงข้อมูลใน 128 GB RAM ได้อย่างรวดเร็วและต่อเนื่อง แก้ปัญหาคอขวดของหน่วยความจำ (Memory Bottleneck) ในการทำงานกับโมเดลขนาดใหญ่
- FP4 Precision: รองรับการคำนวณแบบ FP4 (4-bit Floating Point) ใน Tensor Cores ซึ่งช่วยให้สามารถรันการอนุมาน (Inference) ของโมเดลภาษาขนาดใหญ่ (LLMs) ได้อย่างมีประสิทธิภาพสูงสุด
- การขยายระบบ (Spark Stacking): ด้วยพอร์ต QSFP Network connectors ที่ขับเคลื่อนด้วย ConnectX-7 Smart NIC ความเร็วสูงสุด 200 Gbps ทำให้สามารถเชื่อมต่อ DGX Spark สองเครื่องเข้าด้วยกัน เพื่อรองรับโมเดลที่ใหญ่ยิ่งขึ้น (สูงสุดถึง 405 พันล้านพารามิเตอร์)
- ซอฟต์แวร์ครบชุด: มาพร้อมกับ NVIDIA AI Software Stack และ NVIDIA DGX OS ที่ติดตั้งไว้ล่วงหน้า ทำให้พร้อมใช้งานทันทีสำหรับเวิร์กโฟลว์ AI ที่หลากหลาย
ข้อมูลทางเทคนิคโดยละเอียด
| CPU | 20-core Arm processor |
|---|---|
| GPU | NVIDIA Blackwell Architecture, 5th Gen Tensor Cores |
| RAM | 128 GB LPDDR5x unified system memory |
| Storage | 1 TB หรือ 4 TB NVMe M.2 SSD |
| เครือข่าย | 1x 10 GbE RJ-45, 2x QSFP (ConnectX-7, 200 Gbps), Wi-Fi 7 |
| ระบบปฏิบัติการ | NVIDIA DGX OS (Based on Ubuntu Linux) |
สรุป
Nvidia DGX Spark เป็นการนำพลังประมวลผลระดับซูเปอร์คอมพิวเตอร์มาสู่เดสก์ท็อปส่วนบุคคล ถือเป็นการเปิดโอกาสให้นักพัฒนาก้าวข้ามข้อจำกัดด้านหน่วยความจำของระบบเดสก์ท็อปทั่วไปและเพิ่มความรวดเร็วในการทำซ้ำ (Iterate) สำหรับงาน Generative AI และ LLMs นอกจากนี้ยังช่วยให้สามารถโยกย้ายงานไปยัง DGX Cloud หรือศูนย์ข้อมูลอื่น ๆ ได้อย่างราบรื่นด้วยแพลตฟอร์มซอฟต์แวร์ AI ที่เป็นมาตรฐานเดียวกันของ NVIDIA
