AMD โชว์ขุมพลัง GPU ประมวลผลทะลุ 1 ล้านโทเค็น/วินาที บนการทดสอบ MLPerf Inference 6.0

     AMD ได้เผยแพร่ผลการทดสอบล่าสุดจาก MLPerf Inference 6.0 ซึ่งตอกย้ำถึงประสิทธิภาพที่ก้าวกระโดดของโปรเซสเซอร์สำหรับงาน AI อย่าง AMD Instinct MI355X GPU ที่สามารถทำผลงานทะลุ 1 ล้านโทเค็นต่อวินาที (Tokens/sec) ในการประมวลผลเวิร์กโหลด Generative AI รุ่นใหม่ พร้อมโชว์ศักยภาพการสเกลระบบได้อย่างยอดเยี่ยม

ไฮไลต์สำคัญจากผลการทดสอบ:

• ก้าวข้ามขีดจำกัด: ประสิทธิภาพการประมวลผล (Throughput) เพิ่มขึ้นอย่างก้าวกระโดดเมื่อเทียบกับรุ่นก่อนหน้า
• ทรงพลังในชิปเดียว: โชว์ความแข็งแกร่งในการรันโมเดลภาษาขนาดใหญ่ (LLMs) ระดับท็อป เช่น Llama 2 70B ได้อย่างมีประสิทธิภาพด้วย GPU เพียงตัวเดียว
• การสเกลระบบที่แข็งแกร่ง: ผลการทดสอบ Multi-node ได้รับการรับรองจากพาร์ทเนอร์ระดับท็อปในอีโคซิสเต็ม ไม่ว่าจะเป็น Dell, HPE, Cisco และอีกมากมาย

สามารถอ่านรายละเอียดเจาะลึกเพิ่มเติมได้ที่ คลิก หรือบนเว็บไซต์ MLCommons