LM Studio، یک پلتفرم محبوب برای اجرای مدل های زبان بزرگ (LLM) به صورت محلی بر روی رایانه شخصی، برای Windows ARM منتشر شده است. به این ترتیب امکان اجرای مدل های زبان در لپ تاپ های اسنپدراگون فراهم می شود.
به گفته XDA-Developers، نسخه ویژه LM Studio برای لپ‌تاپ‌های مجهز به تراشه Snapdragon X Elite در حال حاضر تنها قادر به اجرای مدل‌های زبانی با استفاده از CPU این دستگاه‌ها و پشتیبانی از واحد پردازش عصبی (NPU) تراشه Snapdragon است. در به روز رسانی های آینده به آن اضافه خواهد شد.
قابلیت های قابل توجه Snapdragon X Elite در زمینه هوش مصنوعی امکان پیاده سازی محلی مدل های هوش مصنوعی با حداکثر 13 میلیارد پارامتر را فراهم می کند. این به این معنی است که طیف گسترده ای از مدل های زبان اصلی، از جمله نسخه های Llama 3 و WizardLM را می توان بر روی لپ تاپ های مجهز به تراشه اجرا کرد.
از جمله مزایای پیاده‌سازی محلی مدل‌های زبان بزرگ با استفاده از ابزارهایی مانند LM Studio، تضمین حریم خصوصی و حذف نیاز به پرداخت اشتراک ماهانه برای چت‌بات‌های محبوب مانند ChatGPT و Jamnai از گوگل است. از طرفی مدل های پیاده سازی شده بر روی LM Studio بر خلاف چت بات های تجاری ذکر شده که گاهی به دلایل مختلف از ایجاد پاسخ امتناع می کنند، قادر به تولید تمامی خروجی های مورد نظر کاربر هستند.
نسخه منتشر شده LM Studio برای Snapdragon را می توانید مستقیماً از صفحه مربوطه در وب سایت LM Studio دانلود کنید. در نظر داشته باشید که نسخه فعلی نهایی نیست و ممکن است با باگ و مشکلات دیگری مواجه شوید.
