AMD รองรับการรัน LLM พารามิเตอร์ 128B บน Windows AI PC ได้แล้ว

     วันนี้ AMD ได้เปิดตัวไดรเวอร์ KB ใหม่ ซึ่งเป็นส่วนหนึ่งของไดรเวอร์ Adrenalin Edition 25.8.1 โดยจะทำให้โมเดล LLM ที่มีพารามิเตอร์สูงสุด 128B สามารถรันได้บน Windows โดยใช้โปรเซสเซอร์ Ryzen™ AI Max+ 395 128GB ความสำเร็จนี้รวมถึงการรองรับการใช้งาน Llama 4 Scout 109B บน Meta ซึ่งมาพร้อมฟังก์ชันการใช้งานและ Model Context Protocol (MCP) เต็มรูปแบบผ่าน llama.cpp + Vulkan นับเป็นโปรเซสเซอร์สำหรับผู้บริโภคตัวแรกที่สามารถรันโมเดลขนาดนี้ได้

     ด้วยการจัดสรรระบบ RAM ผ่านการพัฒนาบน AMD Variable Graphics Memory (VGM) ทำให้สามารถใช้หน่วยความจำกราฟิกเฉพาะแบบต่อเนื่องได้สูงสุด 96GB บน iGPU ซึ่งช่วยให้สามารถรันโมเดลขนาดใหญ่ (128B ในแบบ 4-bit หรือ 32B ในแบบ FP16) ภายในเครื่องประมวลผลโดยที่ไม่ต้องใช้การ์ดจอแยก

ด้วยไดรเวอร์ Adrenalin ล่าสุด ทำให้ AMD รองรับการใช้งานในด้านต่าง ๆ ประกอบด้วย:

• Windows AI PC เครื่องแรกที่สามารถรัน Llama 4 Scout 109B ได้ด้วยตัวเอง พร้อมฟังก์ชันการใช้งานและเครื่องมือเต็มรูปแบบ

• รองรับ Context Window ขนาด 256,000 โทเคน สำหรับเอกสารขนาดใหญ่, การให้เหตุผลแบบหลายขั้นตอน และเวิร์กโฟลว์ AI Agent

• ความยืดหยุ่นในการรันโมเดลที่หลากหลาย ตั้งแต่ผู้ช่วยงานเล็ก ๆ ไปจนถึงเครื่องมือขั้นสูงสำหรับการเขียนโค้ดและงานด้านภาพ

รายละเอียดเพิ่มเติม : https://www.amd.com/en/blogs/2025/amd-ryzen-ai-max-upgraded-run-up-to-128-billion-parameter-llms-lm-studio.html