هشدار گوگل درباره حملات سایبری هوش مصنوعی؛ حوادث بزرگ‌تر ممکن است در راه باشند

هوش مصنوعی دیگر فقط ابزاری برای پاسخ‌گویی به پرسش‌ها و تولید محتوا نیست؛ عامل‌های هوشمندی که می‌توانند به ابزارهای دیجیتال دسترسی پیدا کنند و به‌طور مستقل وظایفی را انجام دهند، نگرانی تازه‌ای در حوزه امنیت سایبری ایجاد کرده‌اند.

به گزارش کالاسودا ، دمیس هسابیس، هم‌بنیان‌گذار و رئیس گوگل دیپ‌مایند، هشدار داده است که حملات سایبری اخیر مرتبط با هوش مصنوعی باید به‌عنوان زنگ خطری جدی تلقی شوند؛ زیرا بدون تقویت تدابیر امنیتی، جهان ممکن است طی یکی دو سال آینده با حوادث بسیار بزرگ‌تری روبه‌رو شود.

حملات اخیر؛ زنگ خطر برای صنعت هوش مصنوعی

هسابیس در نشست بین‌المللی هوش مصنوعی در دوبلین ایرلند، درباره افزایش خطرهای امنیتی ناشی از عامل‌های هوش مصنوعی هشدار داد.

او حوادث اخیر را «شلیک‌های هشدار اولیه» توصیف کرد؛ به این معنا که سامانه‌های فعلی هنوز به حداکثر توانایی خود نرسیده‌اند و به همین دلیل، پیامد حملات گزارش‌شده تاکنون به اندازه تهدیدهای احتمالی آینده نبوده است.

به گفته هسابیس، اگر شرکت‌های فناوری و دولت‌ها برای ایمن‌سازی این سامانه‌ها اقدامات بیشتری انجام ندهند، احتمال وقوع حوادث بزرگ‌تر در سال آینده و سال‌های پس از آن وجود دارد.

این هشدار در شرایطی مطرح می‌شود که مدل‌های پیشرفته هوش مصنوعی توانایی بیشتری برای نوشتن کد، تحلیل نرم‌افزار و انجام وظایف پیچیده پیدا کرده‌اند. همین قابلیت‌ها، در کنار کاربردهای مفیدشان، می‌توانند در صورت سوءاستفاده به افزایش خطر حملات سایبری منجر شوند.

وقتی هوش مصنوعی از پاسخ‌گویی به اقدام مستقل می‌رسد

یکی از مهم‌ترین تحولات در صنعت هوش مصنوعی، ظهور «عامل‌های هوش مصنوعی» یا AI Agents است. برخلاف چت‌بات‌های معمولی که عمدتاً به پرسش‌ها پاسخ می‌دهند، این عامل‌ها می‌توانند با اتصال به ابزارها و نرم‌افزارهای دیگر، مجموعه‌ای از وظایف را به‌صورت پیوسته انجام دهند.

برای مثال، یک عامل هوش مصنوعی ممکن است برای بررسی امنیت یک نرم‌افزار، اطلاعات را تحلیل کند، مشکلات احتمالی را شناسایی کند و نتایج را گزارش دهد. همین توانایی‌ها، اگر در اختیار افراد خرابکار قرار گیرند یا بدون محدودیت‌های امنیتی کافی به کار گرفته شوند، می‌توانند برای شناسایی نقاط ضعف سامانه‌ها و تسهیل حملات مورد سوءاستفاده قرار بگیرند.

نگرانی اصلی این است که با افزایش استقلال عامل‌ها، کنترل تمام اقدامات آن‌ها دشوارتر شود؛ به‌خصوص زمانی که دسترسی گسترده‌ای به شبکه‌های سازمانی، اطلاعات حساس یا ابزارهای اجرایی داشته باشند.

از نفوذ به شبکه‌های سازمانی تا رفتارهای پیش‌بینی‌ناپذیر

هشدار هسابیس تنها به احتمال حملات سایبری محدود نمی‌شود. در گزارش‌های اخیر، مواردی از رفتارهای ناخواسته سامانه‌های هوش مصنوعی نیز مطرح شده است.

یکی از نمونه‌های مورد اشاره در گزارش رویترز، اعلام شرکت آنتروپیک درباره موردی بود که در آن یک مدل هوش مصنوعی اطلاعات نادرستی درباره وقوع یک قتل در اختیار پلیس قرار داده بود. چنین رویدادی پرسش‌هایی درباره قابلیت اعتماد به خروجی مدل‌ها و ضرورت کنترل رفتار آن‌ها در موقعیت‌های حساس ایجاد می‌کند.

این اتفاق به‌خودی‌خود به معنای آن نیست که سامانه‌های هوش مصنوعی دارای قصد یا اراده انسانی هستند؛ بلکه نشان می‌دهد خروجی اشتباه یا رفتار پیش‌بینی‌نشده یک سامانه می‌تواند، به‌ویژه در صورت اتصال به ابزارهای واقعی، پیامدهای جدی داشته باشد.

پیشنهاد هسابیس: استانداردهای بین‌المللی برای امنیت هوش مصنوعی

رئیس دیپ‌مایند معتقد است صنعت هوش مصنوعی باید از تجربه حوزه‌های حساس دیگری مانند زیست‌شناسی و فناوری هسته‌ای برای طراحی چارچوب‌های امنیتی استفاده کند.

او از ضرورت شکل‌گیری نوعی نهاد بین‌المللی برای تدوین استانداردهای ایمنی هوش مصنوعی سخن گفته است؛ نهادی که بتواند به ایجاد معیارهای مشترک برای ارزیابی و ایمن‌سازی سامانه‌های پیشرفته کمک کند.

بااین‌حال، هسابیس تأکید دارد که این استانداردها نباید مانع نوآوری شوند. از نظر او، فرایند ارزیابی و صدور گواهی ایمنی باید متناسب با سطح خطر هر سامانه باشد و بتواند هم‌زمان با پیشرفت فناوری به‌سرعت تغییر کند.

این رویکرد می‌تواند به معنای بررسی دقیق‌تر قابلیت‌های مدل‌ها پیش از انتشار عمومی، آزمایش آن‌ها در محیط‌های کنترل‌شده و تعیین محدودیت‌های متناسب با میزان دسترسی و توانایی هر سامانه باشد.

مایکروسافت هم خواستار مقررات تازه شد

برد اسمیت، رئیس مایکروسافت، نیز در همین نشست درباره رفتارهای پیش‌بینی‌ناپذیر هوش مصنوعی ابراز نگرانی کرد و سال ۲۰۲۶ را سالی هشداردهنده برای این صنعت دانست.

او خواستار تدوین قوانین و مقرراتی شد که بتوانند هم‌زمان با سرعت پیشرفت فناوری، ایمنی را تضمین کنند. به اعتقاد اسمیت، هیچ شرکت یا فناوری نباید از قانون مستثنا باشد و مقررات باید ضمن ایجاد نظارت مؤثر، امکان نوآوری را نیز در نظر بگیرند.

هم‌زمانی این هشدارها نشان می‌دهد که نگرانی درباره امنیت هوش مصنوعی دیگر صرفاً به پژوهشگران مستقل محدود نیست و به یکی از موضوعات اصلی بحث میان مدیران شرکت‌های بزرگ فناوری تبدیل شده است.

آینده امنیت سایبری در عصر عامل‌های هوشمند

گسترش عامل‌های هوش مصنوعی می‌تواند به شرکت‌ها کمک کند آسیب‌پذیری‌های نرم‌افزاری را سریع‌تر شناسایی کنند و در برابر تهدیدها واکنش مؤثرتری نشان دهند. اما همین سرعت و توانایی، در صورت نبود کنترل‌های کافی، ممکن است در اختیار مهاجمان نیز قرار گیرد.

چالش پیش‌روی صنعت فناوری این است که میان توسعه سریع مدل‌ها و ایجاد سازوکارهای امنیتی قابل اعتماد تعادل برقرار کند. آزمایش‌های پیش از انتشار، محدودکردن دسترسی عامل‌ها به اطلاعات حساس، نظارت انسانی بر اقدامات پرخطر و تدوین استانداردهای مشترک از جمله موضوعاتی هستند که در این مسیر اهمیت دارند.

هشدار هسابیس بیش از آنکه پیش‌بینی قطعی وقوع یک فاجعه سایبری باشد، دعوتی به اقدام پیشگیرانه است: شرکت‌ها و دولت‌ها باید پیش از آنکه قابلیت‌های هوش مصنوعی قدرتمندتر شوند، برای کنترل خطرهای آن آماده باشند.

پیام اصلی این هشدار روشن است: هرچه عامل‌های هوش مصنوعی مستقل‌تر و توانمندتر می‌شوند، امنیت آن‌ها نیز باید از ابتدا بخشی جدایی‌ناپذیر از طراحی و توسعه‌شان باشد، نه اقدامی که پس از وقوع یک حادثه جدی به فکر آن بیفتیم.