AMD เปิดตัว MEXT ใช้ AI ผสาน Flash กับ DRAM ลดการใช้แรมสูงสุด 75% รับมือวิกฤตหน่วยความจำ
AMD เปิดตัวเทคโนโลยี MEXT (Memory Expansion Technology) โซลูชันจัดการหน่วยความจำรูปแบบใหม่ที่ออกแบบมาเพื่อแก้ปัญหาต้นทุน DRAM ที่เพิ่มสูงขึ้นและข้อจำกัดด้านซัพพลายในตลาดเซิร์ฟเวอร์ โดยนำ Flash Storage เข้ามาทำงานร่วมกับ DRAM พร้อมใช้ AI วิเคราะห์และจัดการข้อมูลแบบอัตโนมัติ
ปัจจุบันต้นทุน DRAM กลายเป็นหนึ่งในค่าใช้จ่ายสำคัญของระบบ Data Center โดย AMD ระบุว่า DRAM อาจมีสัดส่วนสูงถึง 75% ของต้นทุนเซิร์ฟเวอร์ในบางรูปแบบ ขณะที่ความต้องการหน่วยความจำจาก AI และ Data Center ยังคงเพิ่มขึ้นอย่างต่อเนื่อง
ปัญหาสำคัญคือ DRAM ถูกใช้งานไม่เต็มประสิทธิภาพ
AMD ระบุว่าระบบ Data Center จำนวนมากมีการจัดสรรหน่วยความจำเกินความจำเป็น (Overprovisioning) รวมถึงมีหน่วยความจำบางส่วนที่ถูกใช้งานไม่เต็มประสิทธิภาพ
ข้อมูลตัวอย่างจาก Microsoft Azure และ Meta ที่ AMD นำเสนอ ระบุว่ามี DRAM ประมาณ 50% ที่ถูกจัดสรรเกินความต้องการ ขณะที่บางส่วนติดค้างอยู่ภายใน Instance และหน่วยความจำประมาณ 50-80% อาจอยู่ในสถานะที่ไม่ค่อยมีการเรียกใช้งาน หรือเรียกว่า Cold Memory Pages
ปัญหานี้ทำให้ Data Center ต้องลงทุนซื้อ DRAM เพิ่มขึ้น แม้ว่าหน่วยความจำบางส่วนจะไม่ได้ถูกใช้งานอย่างเต็มที่ก็ตาม
AMD MEXT ใช้ AI จัดการข้อมูลระหว่าง DRAM และ Flash
หัวใจสำคัญของ MEXT คือการนำ Flash Storage ซึ่งมีต้นทุนต่ำกว่า DRAM มาใช้เป็นส่วนหนึ่งของระบบจัดการหน่วยความจำ โดย AMD ระบุว่า Flash มีต้นทุนจัดซื้อประมาณครึ่งหนึ่งของ DRAM และใช้พลังงานต่ำกว่าประมาณ 30 เท่า แต่มีความเร็วช้ากว่า DRAM อย่างมาก
AMD จึงนำ AI Engine เข้ามาช่วยแก้ปัญหาความล่าช้าในการเข้าถึงข้อมูล โดยระบบจะวิเคราะห์รูปแบบการใช้งานและคาดการณ์ว่าข้อมูลใดมีแนวโน้มถูกเรียกใช้งานในเร็ว ๆ นี้
ข้อมูลที่ใช้งานบ่อยจะถูกเก็บไว้ใน DRAM ส่วนข้อมูลที่ไม่ค่อยถูกใช้งานจะถูกย้ายไปยัง Flash Storage เมื่อ AI คาดการณ์ว่าข้อมูลเหล่านั้นกำลังจะถูกเรียกใช้ ระบบก็จะเตรียมย้ายกลับเข้าสู่ DRAM ล่วงหน้า
แนวทางนี้ช่วยให้ระบบสามารถใช้ DRAM ได้อย่างคุ้มค่ามากขึ้น โดยไม่จำเป็นต้องเพิ่มหน่วยความจำจริงในปริมาณเท่าเดิม
MEXT ประกอบด้วย 3 ส่วนสำคัญ
Linux Driver: โมดูลระดับ Kernel ที่มีน้ำหนักเบาและออกแบบให้ทำงานร่วมกับระบบปฏิบัติการ Linux
AI Engine: ระบบ AI ที่ประกอบด้วยโมเดลหลายรูปแบบ รวมถึงโมเดล Transformer และ LLM สำหรับวิเคราะห์และคาดการณ์การใช้งานหน่วยความจำ
RAM View: เครื่องมือแสดงผลและตรวจสอบการใช้งานหน่วยความจำแบบเรียลไทม์
AMD ระบุว่า AI Engine สามารถฝึกฝนและประมวลผลอย่างต่อเนื่อง โดยใช้ CPU AMD EPYC เพียง 1 คอร์ และไม่จำเป็นต้องใช้ GPU เพิ่มเติม
ลด DRAM สูงสุด 75% พร้อมเพิ่มความจุได้ 3 เท่า
ผลการทดสอบที่ AMD นำเสนอแสดงให้เห็นว่า MEXT สามารถลดการใช้ DRAM ได้ตั้งแต่ 20-75% พร้อมรักษาประสิทธิภาพการทำงานใกล้เคียงระบบที่ใช้ DRAM ทั้งหมด ขึ้นอยู่กับลักษณะของ Workload
สำหรับงาน Agentic AI การใช้ DRAM 50% ร่วมกับ MEXT Flash 50% สามารถเพิ่มอัตราส่วนประสิทธิภาพต่อค่าใช้จ่าย DRAM ได้ประมาณ 90% ในการทดสอบ Workflow ที่มี AI Agent 5 ตัว
ขณะที่การลด DRAM เหลือ 25% และใช้ MEXT Flash 75% สามารถเพิ่มประสิทธิภาพต่อค่าใช้จ่าย DRAM ได้สูงสุด 3.5 เท่าในงานที่ต้องใช้หน่วยความจำสูง
ด้านงาน EDA หรือการออกแบบชิป AMD ระบุว่าระบบสามารถรักษาประสิทธิภาพได้ประมาณ 95% แม้ลด DRAM ลง 50% ส่วนการทดสอบ Spark TPC-DS บน Azure VM สามารถรักษาประสิทธิภาพได้ประมาณ 99% เมื่อใช้ DRAM และ MEXT ในสัดส่วน 50:50
นอกจากนี้ AMD ยังระบุว่า MEXT สามารถเพิ่มความจุหน่วยความจำที่ใช้งานได้สูงสุด 3 เท่า เมื่อเทียบกับการใช้ DRAM เพียงอย่างเดียว
เตรียมขยายการใช้งานใน Data Center
AMD ระบุว่า MEXT เข้าสู่ Phase 1 ซึ่งพร้อมสำหรับการนำไปติดตั้งบนระบบเซิร์ฟเวอร์ AMD EPYC ที่มี NVMe Drive หรือพื้นที่จัดเก็บข้อมูลเฉพาะรองรับ ส่วน Phase 2 มีแผนเปิดให้ใช้งานในรูปแบบ License พร้อมเครื่องมือ RAM View ที่ติดตั้งมาให้
สำหรับการติดตั้งภายในองค์กร AMD ยังนำเสนอตัวเลขการประหยัดต้นทุนสูงสุด 83% และลดค่าใช้จ่าย DRAM ได้ประมาณ 4.9 ล้านดอลลาร์ จากแผนการติดตั้งเซิร์ฟเวอร์เริ่มต้น 145 เครื่อง และขยายไปสู่ 2,000 เครื่องในปี 2027
เทคโนโลยี MEXT ถือเป็นอีกแนวทางที่น่าสนใจของ AMD ในการแก้ปัญหาต้นทุนหน่วยความจำที่เพิ่มขึ้น โดยเปลี่ยนจากการเพิ่ม DRAM เพียงอย่างเดียว มาเป็นการบริหารจัดการหน่วยความจำที่มีอยู่ให้เกิดประโยชน์สูงสุด
หากเทคโนโลยีนี้สามารถทำงานได้ตามผลทดสอบที่ AMD นำเสนอ ก็อาจช่วยลดต้นทุนการลงทุนของ Data Center และรองรับ Workload ด้าน AI ที่ต้องการหน่วยความจำจำนวนมากได้อย่างมีประสิทธิภาพมากขึ้น
ที่มา: AMD
