Large Language Models (LLM) ชื่นชอบหน่วยความจำจำนวนมาก ถึงขนาดที่ผู้ที่ชื่นชอบ AI หันมาใช้การตั้งค่าแบบหลาย GPU เพื่อให้มี VRAM มากขึ้นสำหรับแอป AI ของพวกเขา แต่เนื่องจาก LLM ในปัจจุบันจำนวนมากมีขนาดใหญ่เป็นพิเศษ แนวทางนี้จึงมีข้อจำกัด ในบางครั้ง GPU จะตัดสินใจใช้พลังการประมวลผลของ CPU สำหรับข้อมูลนี้ และเมื่อทำเช่นนั้น ประสิทธิภาพของแคช CPU และ DRAM ของคุณก็จะเข้ามามีบทบาท ทั้งหมดนี้หมายความว่าเมื่อพูดถึงประสิทธิภาพของแอปพลิเคชัน AI ไม่ใช่แค่ GPU เท่านั้นที่สำคัญ แต่ยังรวมถึงเส้นทางทั้งหมดที่เชื่อมต่อ GPU กับ CPU ไปยังไดย์ I/O ไปยังโมดูล DRAM ด้วย ดังนั้นจึงสมเหตุสมผลที่จะมีโอกาสเพิ่มประสิทธิภาพของ AI โดยการปรับองค์ประกอบเหล่านี้ให้เหมาะสม
นั่นคือสิ่งที่เราพบขณะใช้เวลาในห้องวิจัยและพัฒนาของเราด้วย CPU AMD Ryzen รุ่นล่าสุด AMD เพิ่งเปิดตัวซีพียู Ryzen ใหม่ 2 ตัวพร้อมเทคโนโลยี AMD 3D V-Cache ได้แก่ AMD Ryzen 9 9950X3D และ Ryzen 9 9900X3D ซึ่งผลักดันซีรีส์นี้เข้าสู่ขอบเขตประสิทธิภาพใหม่ หลังจากทดสอบการเพิ่มประสิทธิภาพที่หลากหลายในเวิร์กโหลดที่หลากหลายแล้ว เราก็ได้ค้นพบการตั้งค่าต่างๆ ที่ให้ประโยชน์ที่จับต้องได้สำหรับผู้ที่ชื่นชอบ AI ตอนนี้ เราก็พร้อมที่จะแบ่งปันการเพิ่มประสิทธิภาพเหล่านี้กับคุณผ่านฟีเจอร์ BIOS ใหม่: AI Cache Boost ซึ่งมีให้ใช้งานผ่านมาเธอร์บอร์ด ASUS AMD 800 Series และการอัปเดตเฟิร์มแวร์ล่าสุดของเรา AI Cache Boost สามารถเร่งประสิทธิภาพได้สูงถึง 12.75% เมื่อคุณทำงานกับ LLM ขนาดใหญ่
พร้อมสำหรับซีพียู AMD Ryzen พร้อมเทคโนโลยี AMD 3D V-Cache
หากต้องการเข้าถึง AI Cache Boost คุณจะต้องมีมาเธอร์บอร์ด ASUS AMD 800 Series และซีพียู AMD Ryzen 9000 Series Granite Ridge เปิดยูทิลิตี้ UEFI BIOS แล้วไปที่แท็บ Extreme Tweaker สลับ AI Cache Boost เป็น "เปิดใช้งาน" แล้วคุณก็พร้อมลุยได้เลย การเปิดใช้งาน AI Cache Boost จะเปิดใช้งานการเพิ่มประสิทธิภาพต่างๆ รวมถึงการโอเวอร์คล็อกนาฬิกา Infinity Fabric (FCLK) เป็น 2100 MHz การเพิ่ม FCLK เป็นส่วนสำคัญของปริศนาที่นี่ เนื่องจากจะช่วยเพิ่มแบนด์วิดท์ของการถ่ายโอนข้อมูลระหว่างคอร์ CPU แคช และหน่วยความจำ และการถ่ายโอนข้อมูลเหล่านี้มีความสำคัญเมื่อทำงานกับ LLM ขนาดใหญ่
หมายเหตุสั้นๆ สำหรับใครก็ตามที่ใช้พีซีเครื่องเดียวกันสำหรับทั้งแอปพลิเคชัน AI และการเล่นเกม การเปิดใช้งาน AI Cache Boost ไม่ส่งผลต่อประสิทธิภาพการเล่นเกมอย่างมาก ดังนั้นคุณจึงสามารถปล่อยให้การตั้งค่าเปิดใช้งานได้แม้ว่าคุณจะสลับจากเวิร์กโหลดประเภทหนึ่งไปยังอีกประเภทหนึ่งก็ตาม หากต้องการความเสถียรที่ดีขึ้นในการเล่นเกม คุณอาจต้องการลด FCLK ด้วยตนเองเป็นการตั้งค่าที่อนุรักษ์นิยมมากขึ้นหลังจากเปิดใช้งาน AI Cache Boost
การนำโหมด Turbo Game มาผสมผสาน
ประสิทธิภาพที่โดดเด่นของ AMD Ryzen 7 9800X3D ในการทดสอบ Geekbench AI และ UL Procyon แสดงให้เห็นว่าเรากำลังมองไปที่สถานการณ์ที่เทคโนโลยี AMD 3D V-Cache สร้างความแตกต่างมากกว่าจำนวนคอร์ที่เพิ่มขึ้นที่มีอยู่ใน AMD Ryzen 9 9950X3D และ 9900X3D เพื่อตรวจสอบเรื่องนี้เพิ่มเติม เราได้ทำการทดสอบเพิ่มเติมซึ่งไม่เพียงแต่เปิดใช้งาน AI Cache Boost เท่านั้น แต่ยังเปิดใช้งานโหมด Turbo Game ด้วย
คุณสมบัติ BIOS นี้ซึ่งมีอยู่ในเมนบอร์ด ASUS AM5 แล้ว ช่วยเพิ่มประสิทธิภาพได้ถึงสองวิธี วิธีแรกใช้ได้กับ CPU AMD Ryzen ระดับไฮเอนด์ที่มี Core Complex Dies (CCD) สองชุดเท่านั้น CCD ชุดที่สองช่วยให้ชิปสามารถนำคอร์และเธรด CPU จำนวนมากมาใช้กับเวิร์กโฟลว์แบบมัลติเธรดได้ แต่แอปต่างๆ ไม่ได้ใช้ทรัพยากรทั้งหมดนั้นเสมอไป โหมด Turbo Game จะปิดใช้งาน CCD ชุดที่สอง ทำให้ CPU ทำงานได้อย่างมีประสิทธิภาพมากขึ้นในสถานการณ์บางอย่าง
ประการที่สอง โหมด Turbo Game จะปิดใช้งานการทำงานแบบมัลติเธรดพร้อมกัน (SMT) เมื่อเปิดใช้งาน SMT แล้ว คอร์แต่ละตัวใน CPU AMD Ryzen ของคุณจะสามารถสั่งงานคำสั่งสองชุดพร้อมกันได้ ทำให้ประสิทธิภาพการทำงานแบบมัลติเธรดของคุณดีขึ้นอย่างมาก ซึ่งถือเป็นประโยชน์อย่างยิ่งสำหรับผู้ใช้หลายๆ คน แต่หากคุณต้องการเพิ่มประสิทธิภาพการทำงานสำหรับเวิร์กโฟลว์ที่ไม่ต้องการเธรด CPU จำนวนมาก คุณจะเห็นประสิทธิภาพที่สูงขึ้นเมื่อปิดใช้งาน SMT การปิดใช้งาน CCD และ SMT จะส่งผลกระทบอย่างมากต่อประสิทธิภาพการทำงานแบบมัลติเธรด ดังนั้นเราขอแนะนำให้ผู้ใช้เปิดใช้งานโหมด Turbo Game เมื่อเป็นประโยชน์ต่อเวิร์กโฟลว์ปัจจุบันเท่านั้น
มาเธอร์บอร์ด ASUS AMD 800 Series ช่วยให้แน่ใจว่าคุณได้รับประสบการณ์ที่ดีที่สุดกับชิปใหม่เหล่านี้ผ่านการตั้งค่า BIOS เสริมที่ช่วยปรับประสบการณ์ของคุณให้เหมาะสมที่สุด สำหรับเวิร์กโฟลว์ AI ที่เกี่ยวข้องกับ LLM โดยเฉพาะ เราพบว่า AI Cache Boost นั้นมีข้อดีมากมาย และเปิดใช้งานได้ง่ายอย่างเหลือเชื่อ เพื่อให้แน่ใจว่าคุณจะได้รับประโยชน์สูงสุดจาก CPU AMD ใหม่ของคุณ โปรดดูรายละเอียดเมนบอร์ด AM5 ของเรา ซึ่งมีตั้งแต่รุ่น X870E และ X870 ระดับบนสุดไปจนถึงรุ่น B850 และ B840 ที่เน้นความคุ้มค่า
มาเธอร์บอร์ด ASUS AMD 800 Series ช่วยให้แน่ใจว่าคุณได้รับประสบการณ์ที่ดีที่สุดกับชิปใหม่เหล่านี้ผ่านการตั้งค่า BIOS เสริมที่ช่วยปรับประสบการณ์ของคุณให้เหมาะสมที่สุด สำหรับเวิร์กโฟลว์ AI ที่เกี่ยวข้องกับ LLM โดยเฉพาะ เราพบว่า AI Cache Boost นั้นมีข้อดีมากมาย และเปิดใช้งานได้ง่ายอย่างเหลือเชื่อ เพื่อให้แน่ใจว่าคุณจะได้รับประโยชน์สูงสุดจาก CPU AMD ใหม่ของคุณ โปรดดูรายละเอียดเมนบอร์ด AM5 ของเรา ซึ่งมีตั้งแต่รุ่น X870E และ X870 ระดับบนสุดไปจนถึงรุ่น B850 และ B840 ที่เน้นความคุ้มค่า
ที่มา : TechPowerUp