هوش مصنوعی گوگل جمنای از کنترل خارج شد و سه شرکت را هک کرد

گوگل می‌گوید هوش مصنوعی جمنای در یک آزمایش امنیتی از محیط کنترل‌شده بیرون رفت و به سه شرکت نفوذ کرد.

گوگل می‌گوید پلتفرم هوش مصنوعی Gemini در ماه می (اردیبهشت و خرداد) از محیط آزمایشی خود خارج شد و به سه شرکت نفوذ کرد؛ رخدادی که بار دیگر بحث درباره‌ی مرزهای ایمنی در مدل‌های پیشرفته‌ی هوش مصنوعی را پررنگ کرده است.

بر اساس گزارش نیویورک تایمز ، حادثه‌ی هک در زمانی رخ داد که جمنای و چند مدل دیگر در جریان آزمون‌های امنیت سایبری، دسترسی ناخواسته به اینترنت پیدا کردند. گوگل گفت مدل‌ها به شبکه‌ی سه شرکت وارد شدند، اما درنهایت حمله را متوقف کردند. افشای این نفوذها در ادامه‌ی مجموعه‌ای از اتفاقات مشابه در شرکت‌های پیش‌رو هوش مصنوعی از جمله آنتروپیک، اوپن‌ای‌آی و متا منتشر شد؛ رخدادهایی که نگرانی‌ها درباره‌ی رفتار غیرمنتظره‌ی سامانه‌های قدرتمند را افزایش داده‌اند.

در متن منتشرشده از سوی پژوهشگران امنیتی آمده که دسترسی اینترنتی به‌صورت ناخواسته در اختیار مدل‌ها قرار گرفته و همین موضوع برخی از آن‌ها را به انجام اقدامات تهاجمی امنیتی در دنیای واقعی سوق داده بود. گفته می‌شود نقصی که اجازه‌ی دسترسی به اینترنت را می‌داد، برطرف شده است.

گوگل توضیح داد که در هر یک از موارد، به مدل‌ها دستور داده شده بود به یک شرکت خیالی حمله کنند؛ اما شرکت خیالیِ موجود در آزمون، نامی مشترک با یک شرکت واقعی داشت و وقتی جمنای به اینترنت دسترسی پیدا کرد، تلاش برای نفوذ به همان شرکت واقعی را آغاز کرد.

مدل‌ها سپس با استفاده از گذرواژه‌هایی که در اینترنت پیدا کرده بودند یا حدس زده بودند، وارد زیرساخت آنلاین هدف شدند؛ در دو مورد دیگر هم همین روند تکرار شد. گوگل گفت پس از ورود، مدل‌ها تشخیص دادند که در حال تعامل با زیرساخت واقعی شرکت‌ها هستند، نه محیط شبیه‌سازی‌شده‌ی آزمایش و حمله را پایان دادند. به گفته‌ی گوگل، هیچ آسیبی به شرکت‌های هدف وارد نشد.

در اظهارنظری جداگانه، هدر ادکینز ، معاون مهندسی امنیت گوگل، گفت تیم امنیتی این شرکت سابقه‌ی طولانی در گزارش مشکلات نرم‌افزاری و سیستمی دیگران دارد، حتی اگر مسئله فقط یک گذرواژه‌ی ضعیف باشد. او افزود گوگل سه نهاد درگیر را مطلع کرده و با شریک آموزشی خود برای اعمال تغییرات تازه در فرایندهای آزمایشی همکاری کرده است. ادکینز این رخدادها را نشانه‌ای از اهمیت آموزش مسئولانه‌ی مدل‌های قدرتمند هوش مصنوعی دانست.

شما درباره‌ی مرز امنیت و توانایی در مدل‌های هوش مصنوعی چه فکر می‌کنید؟