مدیرعامل کوالکام مدعی شده است که تا سال 2028 شاهد عرضه گوشی‌هایی خواهیم بود که می‌توانند مدل‌های زبانی بزرگ (LLM) با 100 میلیارد پارامتر را به راحتی اجرا کنند. با این حال، بحران تأمین حافظه رم و افزایش سرسام‌آور قیمت آن، دو مانع مهمی هستند که تحقق این وعده را با تردید مواجه می‌کنند.
کریستیانو آمون، مدیرعامل کوالکام، اعلام کرده است که برخی از شرکت‌های پیشرو در حوزه هوش مصنوعی به دنبال ساخت گوشی‌هایی هستند که توانایی اجرای مداوم مدل‌های زبانی 100 میلیارد پارامتری را داشته باشند. او نام این شرکت‌ها را فاش نکرد، اما از برنامه‌هایی سخن گفت که قرار است تا سال 2028 به نتیجه برسند.
اجرای مدل‌های 100 میلیارد پارامتری به 50 گیگابایت رم نیاز دارد
بزرگترین مانع برای اجرای مدل‌های هوش مصنوعی سنگین روی گوشی‌های هوشمند، ظرفیت حافظه است. حتی اگر یک مدل زبانی با 100 میلیارد پارامتر به روش 4 بیتی فشرده‌سازی (Quantization) شده باشد، برای نگهداری پارامترهای آن به حدود 50 گیگابایت حافظه رم نیاز خواهد داشت. این مقدار، حافظه موردنیاز سیستم‌عامل، اپلیکیشن‌ها و اطلاعات مربوط به پردازش متن را شامل نمی‌شود.
با کاهش دقت محاسبات به 2 بیت نیز همچنان به حدود 25 گیگابایت رم برای خود مدل نیاز داریم. این در حالی است که حتی یک سال پیش، برخی گوشی‌های اندرویدی با 24 گیگابایت حافظه رم از نوع LPDDR5X عرضه می‌شدند، اما بحران فعلی بازار حافظه باعث شده است بسیاری از سازندگان از معرفی مدل‌هایی با ظرفیت رم بالاتر عقب‌نشینی کنند.
از سوی دیگر، اجرای مداوم مدل‌های سنگین هوش مصنوعی فشار زیادی به پردازنده وارد می‌کند و گرمای قابل‌توجهی تولید می‌کند. این مسئله می‌تواند به افت فرکانس پردازنده و کاهش عملکرد دستگاه در اثر محدودیت‌های حرارتی منجر شود.
بر اساس گزارش wccftech اپل نیز پیش‌تر روی اجرای مدل‌های زبانی از طریق حافظه داخلی دستگاه تحقیق کرده است. با این حال، حافظه‌های ذخیره‌سازی مانند UFS و NVMe در مقایسه با رم سرعت پایین‌تری دارند و انتقال اطلاعات از آن‌ها می‌تواند سرعت اجرای مدل و پاسخ‌گویی هوش مصنوعی را کاهش دهد.
اپل و کوالکام با تغییراتی در طراحی و بسته‌بندی تراشه‌های خود، از جمله تراشه‌های A20 Pro و Snapdragon 8 Elite Extreme Gen 6، بخشی از محدودیت‌های سخت‌افزاری را هدف گرفته‌اند. با این وجود، این تغییرات به‌تنهایی مشکل ظرفیت و هزینه حافظه را برطرف نمی‌کنند.
در مقابل، استفاده از مدل‌های کوچک‌تر و تقطیرشده با 20 تا 30 میلیارد پارامتر می‌تواند راهکار عملی‌تری باشد. چنین مدل‌هایی در صورت آموزش و بهینه‌سازی مناسب، قادرند در برخی وظایف به کیفیت مدل‌های بزرگ‌تر نزدیک شوند، در حالی که به منابع سخت‌افزاری کمتری نیاز دارند.
در مجموع، اگرچه اظهارات مدیرعامل کوالکام از افزایش توجه صنعت موبایل به اجرای محلی مدل‌های پیشرفته هوش مصنوعی حکایت دارد، اما هنوز برنامه مشخصی برای غلبه بر محدودیت‌های حافظه، هزینه تأمین قطعات و مدیریت حرارت ارائه نشده است. به همین دلیل، اجرای مداوم مدل‌های 100 میلیارد پارامتری روی گوشی‌ها تا سال 2028 همچنان با چالش‌های فنی و اقتصادی جدی روبه‌رو خواهد بود.
بررسی محصولات مشاهده همه بررسی‌ها
شهر سخت افزار (پشتیبانی‌شده توسط سرورهای نت‌افراز ) به عنوان بزرگترین رسانه سخت‌افزاری فارسی‌زبان در تلاش است تا پوشش کاملی از آخرین اتفاقات دنیای سخت افزار و فنا‌وری را به کاربران ارائه دهد.
نظرات کاربران