NVIDIA Blackwell Ultra GB300 และ AMD Instinct MI355X ปรากฏตัวแล้วในการทดสอบ MLPerf v5.1 AI Inference ล่าสุด

NVIDIA Blackwell Ultra GB300 & AMD Instinct MI355X โชว์พลังแรงสุดใน MLPerf v5.1 Benchmarks ด้วยสมรรถนะ AI ที่ไร้คู่แข่ง

วันนี้ MLCommons ได้เผยผลการทดสอบรอบล่าสุดของ MLPerf v5.1 AI Inference ซึ่งมีชิปเพียงไม่กี่รุ่นที่กลายเป็นจุดเด่น ได้แก่ NVIDIA Blackwell Ultra GB300, AMD Instinct MI355X และ Intel Arc Pro B60 (เรามีรายละเอียดเพิ่มเติมของ Intel ไว้ต่างหาก) โดย GB300 และ MI355X ถือเป็นชิป AI ระดับสูงสุดจากแต่ละค่าย ทำให้ได้รับความสนใจอย่างมาก มาดูกันว่าพวกมันทำผลงานอะไรได้บ้างในการทดสอบครั้งนี้

เริ่มจาก DeepSeek R1 (โหมด Offline) – NVIDIA GB300 ทำผลงาน “ขยี้คู่แข่ง” ได้แรงกว่ารุ่น GB200 ถึง 45% (เทียบแบบ 72 GPU) และ 44% (เทียบแบบ 8 GPU) ซึ่งใกล้เคียงกับที่ NVIDIA เคยสัญญาไว้ (เพิ่มขึ้น 50% เมื่อใช้สถาปัตยกรรม Blackwell Ultra)

ต่อมาใน DeepSeek R1 (โหมด Server) – แสดงผลเพิ่มขึ้น 25% (72 GPU) และ 21% (8 GPU) เมื่อเทียบกับ GB200

ขยับไปที่ Llama 3.1 405B (Offline) – เป็นครั้งแรกที่เราได้เห็นผลของ AMD Instinct MI355X โดยเปรียบเทียบกับ GB200 (เนื่องจากไม่มีการส่งผลแบบ 8 GPU ในการทดสอบนี้) ผลลัพธ์คือแพลตฟอร์ม AMD Instinct ใหม่เพิ่มประสิทธิภาพได้ถึง 27%

สำหรับ Llama 2 70B (Offline) – Instinct MI355X สามารถทำผลงานได้สูงสุด 648,248 token ต่อวินาที (64 ชิป), 350,820 token ต่อวินาที (32 ชิป), และ 65,770 token ต่อวินาที (8 ชิป) ซึ่งมากกว่าการตั้งค่า GB200 (8 GPU) ถึง 2.09 เท่า ส่วน Arc Pro B60 ทำได้ 3,009 token/s แต่ข้อได้เปรียบของมันคือความคุ้มค่าเมื่อเทียบกับชิปศูนย์ข้อมูล/HPC ระดับสูงอย่าง Blackwell Ultra และ Instinct

นอกจากนี้ NVIDIA ยังได้แชร์ผลทดสอบแบบเต็มและบันทึกสถิติใหม่ที่ทำได้ด้วยแพลตฟอร์ม Blackwell Ultra GB300 อีกด้วย

ที่น่าสนใจคือ NVIDIA Blackwell Ultra Lao ยังทำลายสถิติด้าน “reasoning” ในการเปิดตัวครั้งแรกบน MLPerf ด้วย โดยทำคะแนนนำ Hopper ได้ถึง 4.7 เท่า (offline) และ 5.2 เท่า (server)

รอบการทดสอบ MLPerf ครั้งถัดไป คาดว่าจะเห็นทั้ง NVIDIA, AMD และ Intel ปรับแต่งแพลตฟอร์มของตนเพิ่มเติมเพื่อรีดสมรรถนะออกมาให้สูงขึ้น และทำคะแนนได้ดียิ่งกว่าเดิม

ที่มา : Wccftech