ای‌ام‌دی، پشتیبانی از مدل کیوون 27B را به صورت محلی ارائه می‌دهد

ای‌ام‌دی (AMD) اعلام کرد که از مدل کیوون (Qwen) 27B شرکت علی‌بابا در کامپیوترهای شخصی و ایستگاه‌های کاری خود از روز اول عرضه به صورت محلی پشتیبانی خواهد کرد. این اقدام به منظور فراهم کردن محیطی برای اجرای مدل‌های بزرگ متن‌باز هوش مصنوعی بدون نیاز به اتصال به ابر انجام می‌شود. مدل کیوون 27B یک مدل متراکم با ۲۷ میلیارد پارامتر است که برای تولید کد، کارهای عملی، تحقیقات و برنامه‌های کاربردی هوش مصنوعی با متن طولانی بهینه‌سازی شده است. محیط اجرایی بر اساس فریم‌ورک استنتاج متن‌باز llama.cpp است و شامل کامپیوترهای شخصی و ایستگاه‌های کاری هوش مصنوعی با پردازنده‌های ای‌ام‌دی و یک کارت گرافیک ای‌ام‌دی ۳۲ گیگابایتی می‌شود. در آزمایش‌های اولیه، پردازنده رایزن AI مکس پلاس ۳۹۵ حداکثر ۲۴.۵ توکن در ثانیه و کارت گرافیک Radeon AI Pro R9700 حداکثر ۵۱.۸ توکن در ثانیه عملکرد استنتاج محلی را نشان داد. پشتیبانی "روز ۰" به این معناست که سیستم پشتیبانی برای اجرای مدل به طور همزمان با انتشار آن در محیط‌های سخت‌افزاری و نرم‌افزاری خاص آماده شده است. علی‌بابا مدل‌های خانواده کیوون را به صورت متن‌باز منتشر کرده است تا توسعه‌دهندگان، مؤسسات تحقیقاتی و شرکت‌ها بتوانند از آن استفاده کنند. این پشتیبانی بخشی از رقابت در زمینه نیمه‌هادی‌های هوش مصنوعی و زیرساخت‌های محلی هوش مصنوعی است و ای‌ام‌دی در حال گسترش اکوسیستمی است که امکان استفاده مشترک از محیط‌های ابری و محلی را فراهم می‌کند.