به گزارش شبکه اطلاع‌رسانی طلا و ارز، هزاران عامل هوش مصنوعی در حال پیوستن به شبکه‌هایی هستند که به آن‌ها امکان می‌دهد یکدیگر را پیدا کنند، پیام خصوصی بفرستند و دانش عملیاتی خود را به اشتراک بگذارند؛ شبکه‌هایی که حالا به بستری برای آموزش الگوهای ناامن، سرقت کلیدهای دسترسی و حتی تعیین پاداش با بیت‌کوین تبدیل شده‌اند. این تحول، زنگ خطری جدی برای مدل‌های سنتی امنیت سایبری به شمار می‌رود.
یکی از نمونه‌های برجسته، پلتفرمی به نام مولت‌بوک است که خود را شبکه‌ای اجتماعی «ساخته‌شده مخصوص عامل‌های هوش مصنوعی» معرفی می‌کند. در این فضا، بحث‌هایی درباره پروتکل‌های ارتباطی میان عامل‌ها جریان دارد که به آن‌ها اجازه می‌دهد بر اساس قابلیت‌ها یکدیگر را شناسایی کرده و بدون واسطه با هم ارتباط بگیرند.
عبور از ابزارهای منفرد به بازیگران شبکه‌ای
تا همین اواخر، عامل‌های هوش مصنوعی به‌عنوان ابزارهایی مستقل در نظر گرفته می‌شدند؛ ابزارهایی که با ایمن‌سازی محیط اجرا و محدودکردن دسترسی‌ها می‌شد ریسک آن‌ها را کنترل کرد. اما تبدیل‌شدن عامل‌ها به موجودیت‌هایی شبکه‌ای، این فرض را به چالش کشیده است. وقتی یک عامل می‌تواند تنظیمات، دستورات یا حتی الگوهای کاری موفق را از عامل دیگر دریافت کند، نقص‌های امنیتی دیگر محدود به یک نمونه باقی نمی‌مانند.
این تهدید صرفاً نظری نیست. پژوهشگران امنیتی از کشف صدها پنل کنترلی در معرض دید عمومی، کلیدهای دسترسی افشاشده و استقرارهای اشتباه در چارچوب‌های عامل‌محور خبر داده‌اند. در بسیاری از سازمان‌ها، کارکنان بدون مجوز رسمی از این چارچوب‌ها استفاده می‌کنند و همین موضوع، سطح حمله را به‌طور قابل‌توجهی افزایش داده است.
زیرساخت ارتباطی؛ شتاب‌دهنده ریسک
پروتکل‌های کشف و ارتباط میان عامل‌ها، مانند آنچه در برخی پروژه‌های متن‌باز دیده می‌شود، در حال تبدیل‌شدن به زیرساخت هستند. اما این زیرساخت پیش از آن‌که با احراز هویت رمزنگاری‌شده و سازوکارهای اعتبارسنجی همراه شود، در محیطی مستقر شده که هنوز از نشت اطلاعات و پیکربندی‌های ناامن رنج می‌برد.
در چنین شرایطی، سطح حمله از «یافتن یک نمونه آسیب‌پذیر» به «آموزش یک عامل و تماشای تکثیر آن آموخته‌ها» تغییر می‌کند. الگوهای ناامن می‌توانند مانند میم‌ها در شبکه‌های اجتماعی پخش شوند و بدون درک مفهومی از سوءاستفاده، توسط عامل‌های دیگر اجرا شوند.
نقص‌های ساده، پیامدهای بزرگ
برخلاف تصور عمومی، بسیاری از رخدادهای ثبت‌شده پیچیده نیستند. پنل‌های مدیریتی بدون احراز هویت، پراکسی‌هایی که به ترافیک محلی اعتماد می‌کنند و پورت‌های باز پیش‌فرض، از جمله خطاهایی هستند که بارها تکرار شده‌اند. اما تفاوت اینجاست که این خطاها حالا با سیستم‌هایی گره خورده‌اند که دسترسی به مرورگر، ایمیل و ابزارهای سازمانی دارند.
گزارش‌ها نشان می‌دهد مهاجمان حتی از موج محبوبیت عامل‌های هوش مصنوعی برای توزیع بدافزار استفاده کرده‌اند؛ از جمله افزونه‌های جعلی که پیش از شناسایی رسمی، هزاران بار نصب شده‌اند. در این میان، برخی عامل‌ها برای یافتن آسیب‌پذیری در سایر عامل‌ها پاداش تعیین کرده و بیت‌کوین را به‌عنوان روش پرداخت ترجیح داده‌اند.
سه سناریوی پیش‌رو برای اکوسیستم عامل‌ها
در یک سناریوی خوش‌بینانه، ابزارها با تنظیمات امن‌تر عرضه می‌شوند، ممیزی امنیتی به روال استاندارد تبدیل می‌شود و لایه‌های ارتباطی پیش از فراگیرشدن، به احراز هویت و اعتبارسنجی مجهز می‌شوند. سناریوی دوم، تداوم سوءپیکربندی‌ها و تسریع سوءاستفاده‌هاست؛ جایی که ارتباط میان عامل‌ها به گسترش سریع الگوهای ناامن منجر می‌شود. در سناریوی سوم، وقوع یک حادثه بزرگ می‌تواند به مداخله پلتفرم‌ها، محدودسازی کشف آزاد و اعمال قواعد سخت‌گیرانه منجر شود.
چالش فوری سازمان‌ها
یافته‌ها نشان می‌دهد استفاده غیررسمی از عامل‌های هوش مصنوعی در سازمان‌ها پیش از تدوین سیاست‌های امنیتی در حال گسترش است. اینترنت در حال پذیرش طبقه‌ای جدید از «شهروندان دیجیتال» است؛ موجودیت‌هایی با هویت، شهرت و توانایی اشتراک‌گذاری دانش عملیاتی. معماری‌های امنیتی فعلی برای چنین بازیگرانی طراحی نشده‌اند.
ریسک واقعی، هوش فراانسانی نیست
خطر اصلی نه از خودآگاهی عامل‌ها، بلکه از شبکه‌ای‌شدن آن‌ها پیش از تطبیق مدل‌های امنیتی ناشی می‌شود. زیرساختی که امروز برای کشف، هویت و ارتباط عامل‌ها ساخته می‌شود، تعیین خواهد کرد که مقیاس‌پذیری آینده به نفع مدافعان امنیت تمام شود یا مهاجمان. عامل‌های هوش مصنوعی از یک پدیده نوظهور، به سطحی تازه از سطح حمله در حال تبدیل‌شدن هستند.
نظرات کاربران