مدیرعامل کوالکام: هوش مصنوعی گوشی‌های هوشمند تا سال ۲۰۲۸ متحول می‌شود

کریستیانو آمون، مدیرعامل کوالکام ، پیش‌بینی کرده است که تا سال ۲۰۲۸ گوشی‌هایی وارد بازار شوند که بتوانند مدل‌های هوش مصنوعی با ۱۰۰ میلیارد پارامتر را به‌صورت مداوم اجرا کنند. این پیشرفت می‌تواند تحول بزرگی در هوش مصنوعی گوشی‌های هوشمند ایجاد کند؛ اما محدودیت ظرفیت رم، افزایش قیمت حافظه و مشکلات مدیریت حرارت، تحقق چنین هدفی را دشوار می‌کنند.

🔷 مدیرعامل کوالکام از احتمال عرضه گوشی‌هایی با قابلیت اجرای هوش مصنوعی ۱۰۰ میلیارد پارامتری تا سال ۲۰۲۸ خبر داد. 🔷 اجرای چنین مدل‌هایی با دقت ۴ بیتی به حدود ۵۰ گیگابایت حافظه نیاز دارد. 🔷 کمبود رم، افزایش قیمت حافظه و تولید حرارت از چالش‌های اصلی این فناوری هستند. 🔷 فناوری‌هایی مانند فشرده‌سازی مدل و معماری MoE می‌توانند مصرف حافظه را کاهش دهند. 🔷 کوالکام هنوز نقشه راه مشخصی برای تحقق این هدف ارائه نکرده است.

وعده کوالکام برای اجرای هوش مصنوعی ۱۰۰ میلیارد پارامتری روی گوشی‌ها

کریستیانو آمون در گفت‌وگو با Fireside Alpha اعلام کرد که برخی شرکت‌های فعال در حوزه هوش مصنوعی درحال توسعه گوشی‌هایی هستند که می‌توانند مدل‌های زبانی بزرگ با ۱۰۰ میلیارد پارامتر (100B LLM) را مستقیماً روی دستگاه اجرا کنند. مدیرعامل کوالکام معتقد است چنین گوشی‌هایی ممکن است تا سال ۲۰۲۸ وارد بازار شوند. بااین‌حال، او نام شرکت‌های فعال در این پروژه‌ها را فاش نکرد و توضیحی درباره نحوه تأمین حافظه موردنیاز ارائه نداد.

این موضوع اهمیت زیادی دارد؛ زیرا حافظه رم یکی از بزرگ‌ترین موانع اجرای مدل‌های پیشرفته هوش مصنوعی روی گوشی‌های هوشمند است.

مدیرعامل کوالکام از آینده هوش مصنوعی گوشی‌های هوشمند تا سال ۲۰۲۸ خبر داد.

چرا اجرای مدل‌های هوش مصنوعی ۱۰۰ میلیارد پارامتری دشوار است؟

اجرای یک مدل ۱۰۰ میلیارد پارامتری با کوانتیزه‌سازی ۴ بیتی تنها برای ذخیره پارامترها به حدود ۵۰ گیگابایت حافظه نیاز دارد. این مقدار شامل حافظه موردنیاز سیستم‌عامل، برنامه‌ها و پردازش‌های جانبی نمی‌شود. حتی با کاهش دقت مدل به ۲ بیت، همچنان حدود ۲۵ گیگابایت رم برای پارامترهای آن لازم است؛ درحالی‌که بسیاری از گوشی‌های پرچم‌دار امروزی به ۱۲ یا ۱۶ گیگابایت رم مجهز هستند.

از سوی دیگر، افزایش قیمت و کمبود حافظه DRAM باعث شده برخی تولیدکنندگان از عرضه گوشی‌هایی با رم بیشتر صرف‌نظر کنند؛ باوجوداینکه پیش‌تر مدل‌های اندرویدی با ۲۴ گیگابایت رم LPDDR5X نیز در بازار حضور داشتند.

علاوه‌بر محدودیت حافظه، اجرای مداوم مدل‌های بزرگ باعث افزایش مصرف انرژی و تولید حرارت می‌شود. این موضوع می‌تواند عملکرد تراشه را تحت‌تأثیر قرار دهد و به کاهش خودکار سرعت پردازش برای کنترل دما منجر شود. اپل و کوالکام با تغییراتی در طراحی و بسته‌بندی تراشه‌های A20 پرو و اسنپدراگون ۸ الیت اکستریم نسل ۶ بخشی از این محدودیت‌ها را هدف قرار داده‌اند؛ اما مشکل اصلی ظرفیت حافظه همچنان پابرجاست.

اجرای مدل‌های پیشرفته هوش مصنوعی روی گوشی‌های هوشمند می‌تواند باعث افزایش دما و کاهش عملکرد تراشه شود.

گوشی‌های آینده چگونه مدل‌های هوش مصنوعی بزرگ را اجرا می‌کنند؟

یکی از راهکارهای احتمالی، استفاده از کوانتیزه‌سازی (Quantization) است که با کاهش دقت عددی پارامترها، حجم مدل را کمتر می‌کند. برای مثال، کوانتیزه‌سازی یک‌بیتی می‌تواند حجم پارامترهای مدل ۱۰۰ میلیاردی را به حدود ۱۲٫۵ گیگابایت برساند؛ اما فشرده‌سازی شدید معمولاً کیفیت پاسخ‌ها و توانایی استدلال را کاهش می‌دهد.

راهکار دیگر، معماری ترکیبی متخصصان (Mixture of Experts یا MoE) است. در این روش، تنها بخش‌های موردنیاز مدل هنگام پردازش فعال می‌شوند و سایر بخش‌ها می‌توانند در حافظه داخلی گوشی باقی بمانند.

شرکت‌هایی مانند اپل نیز استفاده از حافظه فلش برای اجرای مدل‌های زبانی را بررسی کرده‌اند. بااین‌حال، سرعت پایین‌تر حافظه‌های UFS و NVMe در مقایسه با رم می‌تواند سرعت پردازش هوش مصنوعی را محدود کند.

آیا مدل‌های کوچک‌تر گزینه بهتری برای هوش مصنوعی گوشی‌های هوشمند هستند؟

راهکار واقع‌بینانه‌تر برای تولیدکنندگان، استفاده از مدل‌های زبانی ۲۰ تا ۳۰ میلیارد پارامتری است که با تکنیک تقطیر دانش (Knowledge Distillation) آموزش دیده‌اند. این مدل‌ها می‌توانند در برخی وظایف عملکردی نزدیک به مدل‌های ۱۰۰ میلیارد پارامتری داشته باشند؛ درحالی‌که به حافظه و توان پردازشی کمتری نیاز دارند.

به‌همین‌دلیل، استفاده از مدل‌های کوچک‌تر و بهینه‌شده احتمالاً در کوتاه‌مدت مسیر عملی‌تری برای توسعه هوش مصنوعی گوشی‌های هوشمند خواهد بود.

کوالکام آینده‌ای را پیش‌بینی می‌کند که گوشی‌های هوشمند بتوانند مدل‌های هوش مصنوعی ۱۰۰ میلیارد پارامتری را بدون وابستگی به سرورهای ابری اجرا کنند. بااین‌حال، محدودیت رم، هزینه بالای حافظه و مدیریت حرارت همچنان موانع بزرگی هستند و این شرکت هنوز راهکار مشخصی برای عبور از آن‌ها ارائه نکرده است.

به‌نظر شما گوشی‌های سال ۲۰۲۸ واقعاً می‌توانند مدل‌های هوش مصنوعی ۱۰۰ میلیارد پارامتری را اجرا کنند یا این وعده بیش‌ازحد خوش‌بینانه است؟ دیدگاهتان را در بخش نظرات بنویسید.