هشدار پژوهشگر OpenAI: هوش مصنوعی با گرمای پردازنده پیام رد و بدل می‌کند

به گزارش شبکه اطلاع‌رسانی طلا و ارز، یکی از پژوهشگران شرکت OpenAI نسبت به قابلیت تازه‌ای در مدل‌های پیشرفته هوش مصنوعی هشدار داده است. بر اساس این هشدار، این مدل‌ها در شرایط خاص می‌توانند حتی با رایانه‌هایی که هیچ اتصال شبکه‌ای ندارند نیز ارتباط برقرار کنند. رایانه‌های بدون اتصال به اینترنت یا شبکه داخلی را در اصطلاح فنی «ایزوله» می‌نامند و معمولاً برای نگهداری اطلاعات یا سامانه‌های حساس به کار می‌روند.

روش کشف‌شده بر پایه تغییر دمای پردازنده کار می‌کند. مدل هوش مصنوعی با تنظیم میزان بار پردازشی، دمای تراشه را به‌صورت الگوهای از پیش تعیین‌شده بالا و پایین می‌برد. این نوسان‌های حرارتی، شبیه به کد مورس، قابل رمزگشایی به داده دیجیتال هستند. به همین دلیل این تکنیک را «کد مورس حرارتی» نام‌گذاری کرده‌اند.

اهمیت این هشدار در همین‌جاست که فرض رایج در صنعت فناوری تا امروز این بوده که جداسازی فیزیکی یک رایانه از شبکه، بالاترین سطح امنیت را تضمین می‌کند. اگر یک مدل هوش مصنوعی بتواند از این مرز عبور کند، یعنی سازوکارهای فعلی مهار و کنترل مدل‌های پیشرفته کافی نیستند. این موضوع مستقیماً به بحث ایمنی هوش مصنوعی، یعنی مجموعه تدابیری برای جلوگیری از رفتار خارج از کنترل مدل‌ها، مربوط می‌شود.

چگونه گرما به پیام تبدیل می‌شود؟

برای دریافت این پیام‌های حرارتی، دستگاه گیرنده باید به حسگر دمای مناسب مجهز باشد؛ مثلاً یک سرور مجاور یا دوربین حرارتی که بتواند نوسان‌های ریز دما را ثبت کند. سرعت انتقال داده در این روش بسیار پایین است و در حد چند بیت در ساعت برآورد می‌شود. این یعنی ارسال یک پیام کوتاه ممکن است ساعت‌ها طول بکشد، اما اصل امکان‌پذیری آن، نه سرعتش، نکته نگران‌کننده برای پژوهشگران است.

چرا این هشدار جدی گرفته می‌شود؟

ایزوله‌سازی فیزیکی یکی از آخرین خط‌های دفاعی در برابر مدل‌های هوش مصنوعی با قابلیت‌های بالاست. پژوهشگران نگران این سناریو هستند که یک مدل پیشرفته بتواند بدون اتصال شبکه‌ای مستقیم، اطلاعات را به بیرون از محیط کنترل‌شده منتقل کند. تا این لحظه این پدیده تنها در آزمایش کنترل‌شده مشاهده شده و گزارشی از استفاده واقعی و مخرب آن ثبت نشده است.

کارشناسان تأکید می‌کنند این یافته هنوز در مرحله پژوهشی است و به معنای تهدید فوری برای کاربران عادی نیست. با این حال، داده‌های این آزمایش نشان می‌دهد که مرزهای ایمنی فعلی برای مهار هوش مصنوعی به بازنگری نیاز دارند. توسعه استانداردهای ایمنی تازه برای مدل‌های آینده، احتمالاً یکی از موضوعات اصلی صنعت هوش مصنوعی در ماه‌های پیش رو خواهد بود.