NVIDIA ประกาศว่า Meta และ Oracle จะเพิ่มประสิทธิภาพเครือข่ายศูนย์ข้อมูล AI ด้วยสวิตช์เครือข่าย NVIDIA Spectrum-X Ethernet ซึ่งจะช่วยขับเคลื่อนประสิทธิภาพของศูนย์ข้อมูล AI ระดับกิกะ

วันนี้ NVIDIA ประกาศว่า Meta และ Oracle จะเพิ่มประสิทธิภาพเครือข่ายศูนย์ข้อมูล AI ด้วยสวิตช์เครือข่าย NVIDIA Spectrum-X™ Ethernet

Meta และ Oracle กำลังใช้สวิตช์ Spectrum-X Ethernet ภายในระบบนิเวศของตนในฐานะสถาปัตยกรรมเครือข่ายแบบเปิดที่เร่งความเร็วได้ ซึ่งช่วยเพิ่มความเร็วในการปรับใช้ในระดับขนาดใหญ่ ปลดล็อกประสิทธิภาพการฝึกฝน AI แบบทวีคูณ และลดระยะเวลาในการเข้าถึงข้อมูลเชิงลึก

“แบบจำลองพารามิเตอร์ล้านล้านกำลังเปลี่ยนโฉมศูนย์ข้อมูลให้กลายเป็นโรงงานผลิต AI ระดับกิกะ และผู้นำในอุตสาหกรรมอย่าง Meta และ Oracle กำลังกำหนดมาตรฐานบน Spectrum-X Ethernet เพื่อขับเคลื่อนการปฏิวัติอุตสาหกรรมนี้” เจนเซน ฮวง ผู้ก่อตั้งและซีอีโอของ NVIDIA กล่าว “Spectrum-X ไม่ใช่แค่อีเทอร์เน็ตที่เร็วขึ้นเท่านั้น แต่ยังเป็นระบบประสาทของโรงงานผลิต AI ที่ช่วยให้ผู้ผลิตระดับไฮเปอร์สเกลสามารถเชื่อมต่อ GPU หลายล้านตัวเข้ากับคอมพิวเตอร์ขนาดยักษ์เพียงเครื่องเดียว เพื่อฝึกฝนโมเดลที่ใหญ่ที่สุดเท่าที่เคยมีมา”

Oracle จะสร้างโรงงานผลิต AI ระดับกิกะที่เร่งความเร็วด้วยสถาปัตยกรรม NVIDIA Vera Rubin และเชื่อมต่อกันด้วย Spectrum-X Ethernet

“โครงสร้างพื้นฐานคลาวด์ของ Oracle ได้รับการออกแบบมาตั้งแต่ต้นเพื่อรองรับเวิร์กโหลด AI และความร่วมมือของเรากับ NVIDIA จะช่วยขยายความเป็นผู้นำด้าน AI ดังกล่าว” Mahesh Thiagarajan รองประธานบริหารของ Oracle Cloud Infrastructure กล่าว “การนำ Spectrum-X Ethernet มาใช้ ช่วยให้เราเชื่อมต่อ GPU หลายล้านตัวเข้าด้วยกันได้อย่างมีประสิทธิภาพสูงสุด เพื่อให้ลูกค้าของเราสามารถฝึกอบรม ปรับใช้ และได้รับประโยชน์จาก AI เชิงสร้างสรรค์และเชิงเหตุผลรุ่นใหม่ได้อย่างรวดเร็วยิ่งขึ้น”

Meta จะรวมสวิตช์ Spectrum Ethernet เข้ากับโครงสร้างพื้นฐานเครือข่ายสำหรับ Facebook Open Switching System (“FBOSS”) ซึ่งเป็นแพลตฟอร์มซอฟต์แวร์ที่พัฒนาขึ้นเพื่อจัดการและควบคุมสวิตช์เครือข่ายขนาดใหญ่ การผสานรวมนี้จะช่วยเร่งการปรับใช้ในระดับขนาดใหญ่ เพื่อปลดล็อกประสิทธิภาพในการฝึกอบรม AI และลดระยะเวลาในการทำความเข้าใจข้อมูลเชิงลึก

“โครงสร้างพื้นฐาน AI รุ่นต่อไปของ Meta จำเป็นต้องมีเครือข่ายแบบเปิดที่มีประสิทธิภาพในระดับที่อุตสาหกรรมไม่เคยพบเห็นมาก่อน” Gaya Nagarajan รองประธานฝ่ายวิศวกรรมเครือข่ายของ Meta กล่าว “การผสานรวม NVIDIA Spectrum Ethernet เข้ากับสวิตช์ Minipack3N และ FBOSS ช่วยให้เราขยายแนวทางเครือข่ายแบบเปิดของเรา พร้อมกับปลดล็อกประสิทธิภาพและความสามารถในการคาดการณ์ที่จำเป็นต่อการฝึกโมเดลขนาดใหญ่ขึ้นเรื่อยๆ และนำแอปพลิเคชัน AI เชิงสร้างสรรค์มาสู่ผู้คนหลายพันล้านคน”

แพลตฟอร์มอีเธอร์เน็ต NVIDIA Spectrum-X
แพลตฟอร์มอีเธอร์เน็ต NVIDIA Spectrum-X ออกแบบมาสำหรับยุคโมเดลล้านล้านพารามิเตอร์ ซึ่งประกอบด้วยสวิตช์อีเธอร์เน็ต Spectrum-X และ Spectrum-X Ethernet SuperNIC เป็นแพลตฟอร์มอีเธอร์เน็ตตัวแรกที่สร้างขึ้นโดยเฉพาะสำหรับ AI ช่วยให้ไฮเปอร์สเกลสามารถเชื่อมต่อ GPU หลายล้านเครื่องเข้าด้วยกันได้อย่างมีประสิทธิภาพและปรับขนาดได้อย่างเหนือชั้น

โมเดลล้านล้านพารามิเตอร์และ AI แบบสร้างกำลังนิยามใหม่ของขนาดของศูนย์ข้อมูล Spectrum-X Ethernet ช่วยให้ AI สามารถปรับขนาดได้ มอบประสิทธิภาพและความสามารถในการปรับขนาดที่จำเป็นต่อการสร้างโครงสร้างพื้นฐาน AI ที่ทันสมัยที่สุดในโลก

Spectrum-X Ethernet ได้แสดงให้เห็นถึงประสิทธิภาพที่ทำลายสถิติแล้ว ช่วยให้ซูเปอร์คอมพิวเตอร์ AI ที่ใหญ่ที่สุดในโลกสามารถบรรลุปริมาณข้อมูล 95% ด้วยเทคโนโลยีควบคุมความแออัด ในทางตรงกันข้าม อีเธอร์เน็ตสำเร็จรูปขนาดใหญ่ประสบปัญหาการชนกันของข้อมูลหลายพันครั้ง ทำให้ปริมาณข้อมูลจำกัดอยู่ที่ประมาณ 60%

ความก้าวหน้าครั้งสำคัญด้านประสิทธิภาพนี้ถือเป็นความก้าวหน้าครั้งสำคัญในด้านเศรษฐศาสตร์และประสิทธิภาพของเครือข่ายระดับ AI เทคโนโลยี NVIDIA Spectrum-XGS Ethernet ซึ่งเป็นส่วนหนึ่งของแพลตฟอร์มเครือข่าย Spectrum-X Ethernet ช่วยให้สามารถขยายขีดความสามารถในการเชื่อมต่อศูนย์ข้อมูลข้ามเมือง ประเทศ และทวีปต่างๆ เข้ากับโรงงาน AI ขนาดใหญ่ระดับกิกะ

Spectrum-X พัฒนาต่อยอดจากแพลตฟอร์มแบบฟูลสแตกของ NVIDIA ซึ่งประกอบด้วย GPU, CPU, NVIDIA NVLink™ และซอฟต์แวร์ เพื่อมอบประสิทธิภาพที่ราบรื่นตั้งแต่การประมวลผลไปจนถึงเครือข่าย ระบบควบคุมความแออัดขั้นสูง การกำหนดเส้นทางแบบปรับตัว และความสามารถในการส่งข้อมูลทางไกลที่ขับเคลื่อนด้วย AI ช่วยให้มั่นใจได้ถึงประสิทธิภาพและความสามารถในการคาดการณ์สำหรับคลัสเตอร์การฝึกอบรมและการอนุมาน AI ขนาดใหญ่