Micron เปิดตัวโมดูลหน่วยความจำ LPDRAM SOCAMM2 ขนาด 256GB รุ่นแรกของโลก ที่ใช้ชิป LPDDR5X แบบ monolithic ความจุ 32Gb โดยมีจุดเด่นคือใช้พลังงานเพียงหนึ่งในสาม และมีขนาดกะทัดรัดกว่าโซลูชันหน่วยความจำแบบเดิม เหมาะสำหรับงาน AI และดาต้าเซ็นเตอร์ พร้อมประสิทธิภาพเร็วขึ้นถึง 2.3 เท่า และเพิ่มประสิทธิภาพด้านพลังงานอย่างมีนัยสำคัญ
โมดูลหน่วยความจำรุ่นใหม่นี้สามารถรองรับ LPDRAM ได้สูงสุดถึง 2TB ต่อซีพียูแบบ 8 แชนแนล โดย Micron ระบุว่าสามารถเพิ่มความเร็วในตัวชี้วัดสำคัญอย่าง “time to first token” ได้ถึง 2.3 เท่า ซึ่งเป็นเมตริกสำคัญสำหรับงานประมวลผล AI โดยเฉพาะ LLM inference
ผลิตภัณฑ์นี้ออกแบบมาเพื่อรองรับตลาด AI และดาต้าเซ็นเตอร์โดยตรง โดยมุ่งเน้นเวิร์กโหลดที่ต้องการความจุหน่วยความจำสูง แบนด์วิดท์มาก ประสิทธิภาพพลังงานดี และค่า latency ต่ำ SOCAMM2 จึงเป็นทางเลือกที่น่าสนใจกว่าเซิร์ฟเวอร์เมมโมรีแบบดั้งเดิมอย่าง RDIMM เนื่องจากมีขนาดเล็กกว่าและกินไฟน้อยกว่า
Micron เปิดเผยว่าได้ทำงานร่วมกับ NVIDIA ในการพัฒนาเทคโนโลยีหน่วยความจำขั้นสูงสำหรับ AI ซึ่งนำไปสู่การเปิดตัวโมดูล 256GB LPDRAM SOCAMM2 รุ่นแรกของโลก แม้ว่า VRAM บน GPU จะมีความสำคัญอย่างมากต่อ AI แต่หน่วยความจำระบบ (system/server memory) ที่รวดเร็วก็มีบทบาทสำคัญเช่นกัน โดยเฉพาะในกรณีของการทำ KV cache offloading ที่ย้ายข้อมูล key/value จากหน่วยความจำ GPU ไปยังโซลูชันที่มีต้นทุนต่ำกว่าอย่างโมดูลนี้
Raj Narasimhan รองประธานอาวุโสและผู้จัดการทั่วไปของหน่วยธุรกิจ Cloud Memory ของ Micron กล่าวว่า
“โมดูล 256GB SOCAMM2 ของ Micron ช่วยให้เกิดโซลูชันหน่วยความจำที่เชื่อมต่อกับ CPU ซึ่งมีประสิทธิภาพด้านพลังงานสูงที่สุดสำหรับทั้งงาน AI และ HPC การประกาศในวันนี้สะท้อนถึงความก้าวหน้าทางเทคโนโลยีและบรรจุภัณฑ์ของ Micron ในการส่งมอบหน่วยความจำแบบโมดูลที่มีความจุสูงสุด ใช้พลังงานต่ำที่สุด และมีขนาดเล็กที่สุดในอุตสาหกรรม ความเป็นผู้นำของเราในด้านหน่วยความจำพลังงานต่ำสำหรับดาต้าเซ็นเตอร์ ทำให้เราสามารถเป็นรายแรกที่นำเสนอชิป LPDRAM แบบ monolithic ขนาด 32Gb ซึ่งจะช่วยผลักดันการใช้งานสถาปัตยกรรมระบบที่มีประสิทธิภาพพลังงานสูงและความจุสูงในอุตสาหกรรม”
ที่มา: TweakTown
