NVIDIA ได้ประกาศเปิดตัวโมเดลพื้นฐานที่ทำงานในเครื่องพีซี AI NVIDIA RTX™ โมเดลเหล่านี้ซึ่งนำเสนอในรูปแบบไมโครเซอร์วิส NVIDIA NIM™ ได้รับการเร่งความเร็วด้วย GPU GeForce RTX™ 50 Series ใหม่ ซึ่งมีประสิทธิภาพ AI สูงถึง 3,352 ล้านล้านการทำงานต่อวินาทีและ VRAM 32GB RTX 50 Series สร้างขึ้นบนสถาปัตยกรรม NVIDIA Blackwell โดยเป็น GPU สำหรับผู้บริโภครุ่นแรกที่เพิ่มการรองรับการคำนวณ FP4 ซึ่งช่วยเพิ่มประสิทธิภาพการอนุมาน AI ขึ้น 2 เท่า และช่วยให้โมเดล AI เชิงสร้างสรรค์สามารถทำงานในเครื่องได้โดยใช้หน่วยความจำที่เล็กลงเมื่อเทียบกับฮาร์ดแวร์รุ่นก่อนหน้า
กรณีการใช้งานครอบคลุม LLM โมเดลภาษาภาพ การสร้างภาพ การพูด โมเดลการฝังตัวสำหรับการสร้างเสริมการเรียกค้น การแยก PDF และการมองเห็นด้วยคอมพิวเตอร์ ไมโครเซอร์วิส NIM ประกอบด้วยส่วนประกอบที่จำเป็นทั้งหมดสำหรับการเรียกใช้ AI บนพีซี และได้รับการปรับให้เหมาะสมสำหรับการใช้งานบน GPU NVIDIA ทั้งหมด
NVIDIA จะเปิดตัวไมโครเซอร์วิส NIM ของ NVIDIA และ AI Blueprints สำหรับพีซี RTX AI จากนักพัฒนาโมเดลชั้นนำ เช่น Black Forest Labs, Meta, Mistral และ Stability AI เพื่อแสดงให้เห็นว่าผู้ที่ชื่นชอบและนักพัฒนาสามารถใช้ NIM เพื่อสร้างตัวแทนและผู้ช่วย AI ได้อย่างไร วันนี้ NVIDIA ได้เปิดตัว Project R2X ซึ่งเป็นอวตารพีซีที่เปิดใช้งานการมองเห็นซึ่งสามารถใส่ข้อมูลไว้ในปลายนิ้วของผู้ใช้ ช่วยเหลือในแอปเดสก์ท็อปและการประชุมทางวิดีโอ อ่านและสรุปเอกสาร และอื่นๆ อีกมากมาย
“AI กำลังก้าวหน้าด้วยความเร็วแสง จาก AI การรับรู้ไปสู่ AI เชิงสร้างสรรค์ และตอนนี้เป็น AI เชิงตัวแทน ไมโครเซอร์วิส NIM และ NVIDIA AI Blueprints ช่วยให้นักพัฒนาและผู้ที่ชื่นชอบพีซีได้ค้นพบองค์ประกอบพื้นฐานเพื่อสำรวจความมหัศจรรย์ของ AI” - Jensen Huang ผู้ก่อตั้งและซีอีโอของ NVIDIA
“GeForce RTX 50 Series GPU ที่มีการคำนวณ FP4 จะปลดล็อกโมเดลมากมายที่สามารถทำงานบนพีซี ซึ่งก่อนหน้านี้จำกัดอยู่แค่ศูนย์ข้อมูลขนาดใหญ่ การทำให้ FLUX เป็นไมโครเซอร์วิส NVIDIA NIM ช่วยเพิ่มอัตราการใช้งาน AI และประสบการณ์ของผู้ใช้ได้มากขึ้น ในขณะเดียวกันก็มอบประสิทธิภาพที่เหลือเชื่อ” - Robin Rombach ซีอีโอของ Black Forest Labs
“AI กำลังขับเคลื่อนการสร้างสรรค์นวัตกรรมพีซี Windows 11 อย่างรวดเร็ว และ Windows Subsystem for Linux (WSL) มอบสภาพแวดล้อมข้ามแพลตฟอร์มที่ยอดเยี่ยมสำหรับการพัฒนา AI บน Windows 11 ควบคู่ไปกับ Windows Copilot Runtime ไมโครเซอร์วิส NVIDIA NIM ที่ปรับให้เหมาะสมสำหรับพีซี Windows ช่วยให้นักพัฒนาและผู้ที่ชื่นชอบสามารถผสานรวมโมเดล AI สำหรับแอป Windows ของตนได้ ทำให้การปรับใช้ความสามารถของ AI ให้กับผู้ใช้ Windows เร็วขึ้นอีก” - Pavan Davuluri รองประธานฝ่ายองค์กรของ Windows ที่ Microsoft
ข่าวประชาสัมพันธ์ RTX AI PC: https://nvidianews.nvidia.com/news/nvidia-launches-ai-foundation-models-for-rtx-ai-pcs