هوش مصنوعی Gemini گوگل در جریان یک آزمایش امنیت سایبری توانسته به سامانه‌های محافظت‌شده سه شرکت دیگر نفوذ کند؛ اتفاقی که به گفته گزارش وال‌استریت ژورنال، نخستین موارد شناخته‌شده از هک مستقل شرکت‌ها توسط این مدل هوش مصنوعی محسوب می‌شود.
این اتفاق از آن جهت اهمیت دارد که حملات انجام‌شده لزوماً به‌دلیل پیچیدگی فنی بالا قابل توجه نیستند، بلکه عامل اصلی آن‌ها یک مدل هوش مصنوعی بوده است. پیش از این نیز نمونه مشابهی درباره نفوذ مرتبط با یک مدل هوش مصنوعی OpenAI و پلتفرم Hugging Face گزارش شده بود.
Gemini چگونه به سامانه شرکت‌ها نفوذ کرد؟
این نفوذها در جریان آزمایش‌های امنیت سایبری شرکت Irregular رخ داده‌اند. در یکی از موارد، Gemini با حدس زدن رمزهای عبور مختلف سرانجام توانسته به سیستم هدف دسترسی پیدا کند.
در دو مورد دیگر، این مدل اطلاعات ورود لازم را از یک مخزن عمومی پیدا کرده و از همان اطلاعات برای دسترسی به سامانه‌های شرکت‌ها استفاده کرده است.
در نتیجه، روش‌های مورد استفاده در این حملات الزاماً مشابه حملات پیچیده‌ای که توسط هکرهای حرفه‌ای انجام می‌شوند نبوده‌اند. نکته مهم‌تر این است که Gemini توانسته بخشی از فرایند کشف اطلاعات و دسترسی به سیستم‌های واقعی را به‌صورت مستقل انجام دهد.
گوگل چه زمانی از این حملات مطلع شد؟
شرکت Irregular ظاهراً در اواخر ژوئیه گوگل را در جریان این موارد قرار داده است. با این حال، شرکت‌های مربوطه تا روز جمعه و پس از تماس وال‌استریت ژورنال، به‌صورت عمومی وقوع این حملات را تأیید نکردند.
گوگل در توضیح این موضوع اعلام کرد که دلیل افشای نکردن پیشین این موارد، نحوه رفتار Gemini پس از دستیابی به سیستم‌ها بوده است. طبق توضیح گوگل، مدل در هر سه مورد به‌محض اینکه متوجه شده به یک شرکت واقعی نفوذ کرده است، عملیات خود را متوقف کرده است.
به بیان دیگر، گوگل معتقد است Gemini پس از تشخیص اینکه هدف یک سامانه واقعی است، از ادامه فعالیت خودداری کرده است.
اختلاف نظر بر سر عملکرد Gemini
با وجود توضیحات گوگل، برخی متخصصان امنیت سایبری برداشت متفاوتی از این اتفاق دارند.
جک کیبل، مدیرعامل شرکت امنیت هوش مصنوعی Corridor، به وال‌استریت ژورنال گفته است که گوگل به‌جای پذیرش این موضوع که مدل‌های هوش مصنوعی می‌توانند از محدوده مورد انتظار خارج شوند و حملات سایبری واقعی انجام دهند، تلاش کرده است این اتفاق را در چارچوب قواعد معمول افشای آسیب‌پذیری توضیح دهد.
این اختلاف دیدگاه به یک مسئله مهم‌تر درباره امنیت مدل‌های هوش مصنوعی اشاره دارد: با افزایش توانایی مدل‌ها در استفاده از ابزارها، جست‌وجوی اطلاعات و اجرای چندمرحله‌ای دستورات، مرز میان یک آزمایش امنیتی کنترل‌شده و یک حمله سایبری واقعی می‌تواند پیچیده‌تر شود.
در مورد Gemini، آنچه تاکنون گزارش شده است بیشتر به توانایی مدل در پیدا کردن مسیر دسترسی و استفاده از اطلاعات موجود مربوط می‌شود، نه یک حمله بسیار پیچیده و پیشرفته. بااین‌حال، مستقل بودن بخشی از این فرایندها باعث شده این موارد توجه زیادی در حوزه امنیت هوش مصنوعی به خود جلب کنند.
نظرات کاربران