ویل گاتسگن، تحلیلگر ارشد مسائل حوزه هوش مصنوعی در نشریه آتلانتیک
به گزارش فرارو به نقل از نشریه آتلانتیک، هوش مصنوعی وارد مرحله‌ای شده که عامل‌های هوشمند آن می‌توانند در حوزه هک و شناسایی آسیب‌پذیری‌های نرم‌افزاری عملکردی بسیار پیشرفته داشته باشند؛ قابلیتی که اکنون تهدیدی جدی برای یکی از مهم‌ترین زیرساخت‌های زندگی مدرن یعنی نظام بانکی محسوب می‌شود. سرعت و مقیاس فعالیت این عامل‌ها با تهدیدهای سایبری سنتی تفاوت دارد و همین مسئله باعث شده بانک‌ها و شرکت‌های فناوری خود را برای مرحله‌ای تازه از رقابت میان مهاجمان و مدافعان سایبری آماده کنند.
بانک‌ها برای مقابله با عامل‌های هوشمند آماده می‌شوند
شرکت‌های بزرگ فناوری و مؤسسات مالی از مدت‌ها قبل نسبت به پیامدهای مدل‌های پیشرفته هوش مصنوعی حساس شده‌اند. در اوایل سال جاری، همزمان با آماده‌سازی شرکت آنتروپیک برای عرضه مدل جدیدی با نام «مایتوس»، این شرکت دسترسی اولیه به مدل را در اختیار گروهی محدود از شرکت‌ها قرار داد تا آنها بتوانند پیش از عرضه عمومی، سامانه‌های دفاعی خود را تقویت کنند.
جی‌پی مورگان چیس یکی از این شرکت‌ها بود و با گسترش این برنامه، بانک‌های بیشتری نیز به آن اضافه شدند. پس از عرضه مدل، اسکات بسنت، وزیر خزانه‌داری آمریکا و جروم پاول، رئیس وقت فدرال رزرو، با مدیران بانک‌هایی همچون بانک آو آمریکا، سیتی‌گروپ و گلدمن ساکس و دیگر مؤسسات مالی بزرگ درباره پیامدهای احتمالی این فناوری گفت‌وگو کردند. اهمیت موضوع از آنجا ناشی می‌شود که آنتروپیک ادعا کرده بود مایتوس می‌تواند در یافتن و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری، از همه انسان‌ها به جز ماهرترین متخصصان عملکرد بهتری داشته باشد.
تفاوت اصلی عامل‌های هوش مصنوعی با تهدیدهای سایبری گذشته، فقط در توانایی آنها برای یافتن آسیب‌پذیری نیست؛ بلکه سرعت و مقیاس فعالیت آنها اهمیت بیشتری دارد. این عامل‌ها می‌توانند با سرعت ماشین فعالیت کنند و به‌صورت گروهی به کار گرفته شوند.
به این ترتیب، مهاجمان بالقوه قادر خواهند بود مجموعه‌ای از عامل‌های هوشمند را به‌صورت همزمان فعال کنند تا شکاف‌های امنیتی در سیستم‌های پشتیبان شرکت‌ها را جست‌وجو کنند. چنین وضعیتی می‌تواند حملات سایبری را از عملیات‌های محدود و نسبتاً زمان‌بر انسانی به فرایندی گسترده، خودکار و بسیار سریع تبدیل کند.
وقتی خود عامل‌های هوش مصنوعی از کنترل خارج می‌شوند
یکی دیگر از نگرانی‌های جدی، احتمال از دست رفتن کنترل شرکت‌های فناوری بر عامل‌هایی است که خود آنها ایجاد کرده‌اند. اوایل سال جاری، اوپن‌ای‌آی اعلام کرد برخی از عامل‌های این شرکت برخلاف دستورهای تعیین‌شده عمل کرده‌اند، از محیط کنترل‌شده خارج شده و به سرورهای شرکت «هاگینگ فیس» نفوذ کرده‌اند. این عامل‌ها همچنین اطلاعات کارکنان را سرقت کرده و برای مخفی کردن شواهد اقدامات خود از مدیران انسانی تلاش کرده بودند.
این حادثه تنها یک نمونه نیست. اوپن‌ای‌آی پس از آن چند مورد دیگر از نقص‌ها و رفتارهای پیش‌بینی‌نشده را نیز افشا کرد و نمونه‌های مشابهی از رخدادهای مربوط به هک با استفاده از هوش مصنوعی در شرکت‌هایی مانند گوگل، آنتروپیک و متا نیز گزارش شده است. این حوادث یک مشکل اساسی را برجسته می‌کنند: سازندگان مدل‌های پیشرفته همیشه پیش از تکمیل فرایند آموزش نمی‌دانند یک مدل دقیقاً چه توانایی‌هایی خواهد داشت. به همین دلیل، یکی از دانشمندان ارشد اوپن‌ای‌آی گفته است که هوش مصنوعی بیش از آنکه «طراحی» شود، «رشد» می‌کند.
حمله به یک بانک چه پیامدی خواهد داشت؟
هنوز نمی‌توان با قطعیت گفت اگر یک عامل هوش مصنوعی بتواند آسیب‌پذیری بزرگی را در کدهای یک بانک پیدا کند، چه اتفاقی رخ خواهد داد. اما اهمیت بانک‌ها باعث می‌شود چنین حمله‌ای محدود به یک شرکت باقی نماند.
بانک‌ها در بخش بزرگی از زندگی اقتصادی مدرن نقش زیرساختی دارند. بنابراین اختلال در سیستم‌های پشتیبان آنها می‌تواند به پرداخت‌های دیجیتال و تجارت الکترونیکی سرایت کند و پیامدهای گسترده‌تری برای فعالیت‌های اقتصادی ایجاد کند.
نظرات کاربران