Muse Glimmer 30B จาก Meta พร้อมใช้งานบนแพลตฟอร์ม AMD เพื่อรองรับ Local Agentic AI

     วันนี้ AMD ประกาศความพร้อมในการรองรับโมเดล Muse Glimmer 30B จาก Meta ตั้งแต่วันแรกที่เปิดตัว ซึ่งช่วยให้โมเดลดังกล่าวสามารถประมวลผลบนฮาร์ดแวร์ของ AMD ได้โดยตรง เพื่อรองรับการทำงานของ Agentic AI บนอุปกรณ์

     ในขณะที่ AI Agents เริ่มเข้ามาจัดการเวิร์กโฟลว์ที่ซับซ้อนมากขึ้น ไม่ว่าจะเป็นการจัดการหน่วยความจำ การใช้งานเครื่องมือต่างๆ และการประมวลผลข้อมูลที่ละเอียดอ่อน การรันโมเดลแบบโลคัลผ่านเฟรมเวิร์กอย่าง llama.cpp จะช่วยให้นักพัฒนาลดการพึ่งพาโครงสร้างพื้นฐานบนระบบคลาวด์ลงได้ ในขณะเดียวกันก็ยังสามารถควบคุมความเป็นส่วนตัวและบริหารจัดการต้นทุนได้อย่างมีประสิทธิภาพมากขึ้น

สรุปประเด็นสำคัญ:

• Muse Glimmer 30B สามารถประมวลผลบนระบบที่ใช้โปรเซสเซอร์ AMD Ryzen™ AI Max+ หรือบนเครื่องเวิร์กสเตชันที่ขับเคลื่อนด้วยกราฟิกการ์ด Radeon™ AI PRO R9700 เพียงตัวเดียว ผ่านการใช้งานเฟรมเวิร์กแบบเปิดอย่าง llama.cpp
• ผ่านทางโปรแกรม LM Studio นักพัฒนาที่ใช้งานบนระบบ AMD ที่รองรับ พร้อมด้วยหน่วยความจำ VRAM/VGM ขนาด 32GB ขึ้นไป สามารถค้นหา ดาวน์โหลด และรันโมเดลได้ภายในเวลาไม่กี่นาที อีกทั้งยังสามารถเชื่อมต่อกับตัว Agents ต่าง ๆ เช่น Hermes Agent หรือ Open Claw ผ่านทาง Endpoints ที่รองรับมาตรฐานของ OpenAI และ Anthropic
• Lemonade ช่วยผสานรวม Muse Glimmer 30B เข้ากับแอปพลิเคชันโดยตรงผ่าน Local API Binary แบบฝัง (Embeddable) ที่มีขนาดเพียงประมาณ 4MB ทำให้โมเดลและข้อมูลทั้งหมดถูกจัดเก็บและประมวลผลอยู่บนอุปกรณ์ โดยไม่จำเป็นต้องติดตั้งโปรแกรมแยกต่างหาก