YouTuber ดัดแปลง Tesla V100 เซิร์ฟเวอร์ GPU ให้ใช้งานบนพีซีทั่วไป รัน LLM ได้แรงเกินราคา

ท่ามกลางกระแส AI ที่ทำให้การ์ดจอ VRAM สูงมีราคาพุ่งต่อเนื่อง YouTuber ช่อง Hardware Haven ได้ทดลองนำ GPU เซิร์ฟเวอร์รุ่นเก่าอย่าง Nvidia Tesla V100 มาดัดแปลงให้ใช้งานบนพีซีทั่วไป เพื่อรันโมเดล LLM แบบ Local โดยผลลัพธ์ออกมาน่าสนใจเกินคาด

Tesla V100 ที่ใช้ในการทดลองเป็นรุ่นสำหรับเซิร์ฟเวอร์ซึ่งใช้การเชื่อมต่อแบบ SMX2 ไม่ใช่ PCIe มาตรฐานทั่วไป โดยลักษณะการติดตั้งคล้ายซีพียูแบบ Socket ต้องติดตั้งลงบน Baseboard เฉพาะทาง

เจ้าของโปรเจกต์ซื้อ Tesla V100 มาในราคาเพียง 100 ดอลลาร์ หรือประมาณ 3,700 บาท และซื้ออะแดปเตอร์แปลง SMX เป็น PCIe x16 เพิ่มอีกราว 100 ดอลลาร์ ทำให้ต้นทุนรวมทั้งหมดอยู่ที่ประมาณ 7,400 บาท

Tesla V100 รุ่นนี้มาพร้อม VRAM HBM2 ขนาด 16GB แบนด์วิดท์สูงถึง 900 GB/s แม้จะเป็นการ์ดจากปี 2017 แต่ยังคงถูกออกแบบมาสำหรับงาน AI และ HPC โดยตรง

เนื่องจากตัวการ์ดไม่มีระบบระบายความร้อนในตัวและมีเพียงฮีตซิงก์เปล่า YouTuber จึงออกแบบท่อระบายอากาศด้วยเครื่องพิมพ์ 3D และติดตั้งพัดลม Noctua ขนาด 80 มม. เพื่อเป่าลมเข้าฮีตซิงก์

หลังติดตั้งลงบนระบบ Ryzen และใช้งานร่วมกับกราฟิกออนบอร์ด เพราะ V100 ไม่มีพอร์ตแสดงผล ผลการทดสอบบน Ollama กับโมเดล gpt-oss-20b พบว่า Tesla V100 ทำได้ถึง 130 tokens ต่อวินาที

เมื่อเทียบกับ Radeon RX 7800 XT ที่มี VRAM 16GB เท่ากัน กลับทำได้เพียงประมาณ 90 tokens ต่อวินาที

YouTuber ยังนำ RTX 3060 12GB มาเปรียบเทียบเพิ่มเติม โดยรันโมเดล Google gemma4:e4b พบว่า V100 ทำได้ 108 tokens ต่อวินาที ขณะที่ RTX 3060 ทำได้เพียง 76 tokens ต่อวินาที

ด้านการใช้พลังงาน V100 ใช้ไฟประมาณ 293W เทียบกับ 235W บน RTX 3060 แต่เมื่อนำมาคำนวณประสิทธิภาพต่อวัตต์ V100 ยังทำได้ดีกว่าเล็กน้อย

หลังจากจำกัด Power Limit ของ V100 จาก 300W เหลือ 100W พบว่าการใช้ไฟลดลงเหลือประมาณ 170W แต่ยังคงทำความเร็วได้ถึง 95 tokens ต่อวินาที ส่งผลให้ประสิทธิภาพต่อวัตต์เพิ่มขึ้นชัดเจน

เมื่อเทียบกับ RTX 3060 ที่ถูกจำกัด 100W เช่นกัน V100 ยังคงทำผลงานเหนือกว่าอย่างชัดเจน ทั้งด้านความเร็วและประสิทธิภาพพลังงาน

นอกจากนี้ยังมีการทดสอบกับ Frigate NVR สำหรับงานวิเคราะห์กล้องวงจรปิด โดย V100 สามารถตรวจจับวัตถุได้รวดเร็วกว่าเครื่อง Intel N100 mini PC เดิมอย่างมาก แม้จะกินไฟสูงกว่าชัดเจน

Hardware Haven สรุปว่า Tesla V100 ยังคงเป็นตัวเลือกที่คุ้มค่าสำหรับผู้ต้องการรัน LLM แบบ Local หากหาอุปกรณ์ได้ในราคาถูก โดยเฉพาะสำหรับผู้ที่ให้ความสำคัญกับ VRAM สูงและประสิทธิภาพ AI มากกว่าการเล่นเกม

อย่างไรก็ตาม หลังคลิปดังกล่าวได้รับความนิยม มีโอกาสสูงที่ราคาของ Tesla V100 มือสองและอะแดปเตอร์ SMX-to-PCIe จะปรับตัวสูงขึ้นตามความต้องการของตลาดอีกครั้ง

ที่มา: Tom's Hardware