SanDisk เปิดแนวคิด HBF หน่วยความจำ Flash ความเร็วสูง วาง NAND ซ้อนใต้ GPU หวังลดการพึ่งพา HBM ในยุค AI

กระแสการเติบโตของปัญญาประดิษฐ์ (AI) กำลังผลักดันความต้องการหน่วยความจำประสิทธิภาพสูงเพิ่มขึ้นอย่างรวดเร็ว โดยเฉพาะหน่วยความจำ HBM (High Bandwidth Memory) ที่กลายเป็นหนึ่งในคอขวดสำคัญของอุตสาหกรรมเซมิคอนดักเตอร์จากปัญหาอุปทานที่ตึงตัวทั่วโลก

ล่าสุด SanDisk ได้เปิดเผยแนวคิดใหม่ที่เรียกว่า High-Bandwidth Flash (HBF) ซึ่งเป็นสถาปัตยกรรมหน่วยความจำรูปแบบใหม่ที่ออกแบบมาเพื่อเพิ่มแบนด์วิดท์ของ NAND Flash และลดช่องว่างด้านประสิทธิภาพระหว่างหน่วยความจำแบบเก็บข้อมูลกับหน่วยความจำ DRAM

เปลี่ยนจากวางข้าง GPU เป็นซ้อนอยู่ใต้ GPU

ปัจจุบัน NAND Flash แม้จะมีข้อได้เปรียบด้านความจุและต้นทุน แต่ยังมีข้อจำกัดด้านความเร็วในการเข้าถึงข้อมูล เนื่องจากตำแหน่งติดตั้งอยู่ห่างจากชิปประมวลผล ทำให้ไม่สามารถแข่งขันกับ HBM ที่ถูกออกแบบมาเพื่อการรับส่งข้อมูลความเร็วสูงได้

SanDisk จึงเสนอแนวทางใหม่ด้วยการนำ NAND Flash มาจัดเรียงในลักษณะการซ้อนแนวตั้งคล้ายกับ HBM โดยใช้เทคโนโลยี TSV (Through-Silicon Via) เชื่อมต่อชิปหลายชั้นเข้าด้วยกันเป็นโครงสร้างเดียว

แนวคิดดังกล่าวช่วยให้สามารถเพิ่มความจุได้อย่างมหาศาล โดย SanDisk ประเมินว่า HBF หนึ่งชุดอาจรองรับความจุได้สูงถึง 4TB ซึ่งมากกว่า HBM ในปัจจุบันที่มีความจุโดยทั่วไปเพียงประมาณ 32GB ถึง 64GB ต่อสแตก

ใช้เทคนิค CBA วาง NAND ไว้ใต้ GPU โดยตรง

อีกหนึ่งแนวคิดที่น่าสนใจคือการใช้โครงสร้าง CMOS Bonded Array (CBA) เพื่อวางชิป HBF NAND ไว้ใต้ GPU โดยตรง

วิธีการนี้จะช่วยลดระยะทางการรับส่งข้อมูลระหว่างหน่วยประมวลผลและหน่วยความจำลงอย่างมาก ส่งผลให้ลดค่าหน่วงเวลา (Latency) และเพิ่มประสิทธิภาพในการเข้าถึงข้อมูลขนาดใหญ่ได้ดียิ่งขึ้น

SanDisk ได้จดสิทธิบัตรเทคโนโลยีดังกล่าวแล้วภายใต้หมายเลขสิทธิบัตร US 12,430,274 B2

HBM และ HBF จะทำงานร่วมกัน

ตามแนวคิดของ SanDisk หน่วยความจำ HBM จะยังคงมีบทบาทสำคัญภายในแพ็กเกจเดียวกัน โดยทำหน้าที่จัดการข้อมูลที่ต้องการความเร็วสูงและมีความสำคัญต่อการประมวลผลแบบเรียลไทม์

ขณะที่ HBF จะเข้ามารับบทเป็นพื้นที่จัดเก็บข้อมูลความจุสูงภายในแพ็กเกจเดียวกัน ทำหน้าที่รองรับชุดข้อมูลขนาดใหญ่สำหรับ AI และงานประมวลผลขั้นสูง ผ่านช่องทางเชื่อมต่อภายในที่มีแบนด์วิดท์สูงกว่าการใช้ SSD หรือหน่วยเก็บข้อมูลแบบเดิม

แนวทางนี้อาจช่วยลดความจำเป็นในการเพิ่มปริมาณ HBM จำนวนมากภายในระบบ และช่วยบรรเทาปัญหาการขาดแคลน HBM ที่เกิดขึ้นในตลาดปัจจุบัน

ยังอยู่ในขั้นแนวคิดและสิทธิบัตร

แม้แนวคิด HBF จะได้รับความสนใจอย่างมากจากอุตสาหกรรม AI และศูนย์ข้อมูล แต่เทคโนโลยีดังกล่าวยังอยู่ในขั้นตอนการพัฒนาและการวางแผนเชิงสถาปัตยกรรมเท่านั้น

ความท้าทายสำคัญที่ SanDisk ต้องเผชิญ ได้แก่ การจัดการความร้อนภายในแพ็กเกจที่มีการซ้อนชิปหลายชั้น การควบคุมต้นทุนการผลิต รวมถึงการรวม GPU, HBM และ NAND Flash ไว้ภายในแพ็กเกจเดียวอย่างมีประสิทธิภาพ

หากสามารถพัฒนาได้สำเร็จ HBF อาจกลายเป็นอีกหนึ่งเทคโนโลยีสำคัญที่ช่วยรองรับความต้องการด้านหน่วยความจำของ AI รุ่นถัดไป และลดแรงกดดันต่อห่วงโซ่อุปทาน HBM ที่กำลังตึงตัวอย่างหนักในปัจจุบัน

ที่มา: Wccftech