Muse Glimmer 30B จาก Meta พร้อมใช้งานบนแพลตฟอร์ม AMD เพื่อรองรับ Local Agentic AI

Muse Glimmer 30B จาก Meta พร้อมใช้งานบนแพลตฟอร์ม AMD เพื่อรองรับ Local Agentic AI

วันนี้ AMD ประกาศความพร้อมในการรองรับโมเดล Muse Glimmer 30B จาก Meta ตั้งแต่วันแรกที่เปิดตัว ซึ่งช่วยให้โมเดลดังกล่าวสามารถประมวลผลบนฮาร์ดแวร์ของ AMD ได้โดยตรง เพื่อรองรับการทำงานของ Agentic AI บนอุปกรณ์

ในขณะที่ AI Agents เริ่มเข้ามาจัดการเวิร์กโฟลว์ที่ซับซ้อนมากขึ้น ไม่ว่าจะเป็นการจัดการหน่วยความจำ การใช้งานเครื่องมือต่างๆ และการประมวลผลข้อมูลที่ละเอียดอ่อน การรันโมเดลแบบโลคัลผ่านเฟรมเวิร์กอย่าง llama.cpp จะช่วยให้นักพัฒนาลดการพึ่งพาโครงสร้างพื้นฐานบนระบบคลาวด์ลงได้ ในขณะเดียวกันก็ยังสามารถควบคุมความเป็นส่วนตัวและบริหารจัดการต้นทุนได้อย่างมีประสิทธิภาพมากขึ้น

สรุปประเด็นสำคัญ:

Muse Glimmer 30B สามารถประมวลผลบนระบบที่ใช้โปรเซสเซอร์ AMD Ryzen™ AI Max+ หรือบนเครื่องเวิร์กสเตชันที่ขับเคลื่อนด้วยกราฟิกการ์ด Radeon™ AI PRO R9700 เพียงตัวเดียว ผ่านการใช้งานเฟรมเวิร์กแบบเปิดอย่าง llama.cpp

ผ่านทางโปรแกรม LM Studio นักพัฒนาที่ใช้งานบนระบบ AMD ที่รองรับ พร้อมด้วยหน่วยความจำ VRAM/VGM ขนาด 32GB ขึ้นไป สามารถค้นหา ดาวน์โหลด และรันโมเดลได้ภายในเวลาไม่กี่นาที อีกทั้งยังสามารถเชื่อมต่อกับตัว Agents ต่าง ๆ เช่น Hermes Agent หรือ Open Claw ผ่านทาง Endpoints ที่รองรับมาตรฐานของ OpenAI และ Anthropic

Lemonade ช่วยผสานรวม Muse Glimmer 30B เข้ากับแอปพลิเคชันโดยตรงผ่าน Local API Binary แบบฝัง (Embeddable) ที่มีขนาดเพียงประมาณ 4MB ทำให้โมเดลและข้อมูลทั้งหมดถูกจัดเก็บและประมวลผลอยู่บนอุปกรณ์ โดยไม่จำเป็นต้องติดตั้งโปรแกรมแยกต่างหาก