به گزارش شبکه اطلاع‌رسانی طلا و ارز، جزئیات تازه‌ای از یک عملیات گسترده نفوذ سایبری منتشر شده که در آن مهاجمان از مدل‌های پیشرفته هوش مصنوعی برای اجرای بخش عمده مراحل حمله بهره گرفته‌اند. این افشاگری که از سوی یکی از شرکت‌های سازنده مدل‌های زبانی بزرگ صورت گرفته، موجی از انتقاد از سهل‌انگاری غول‌های فناوری در کنترل ابزارهای خود را به‌دنبال داشته است.
اهمیت این خبر در این نکته نهفته است که برای نخستین‌بار، بخش بزرگی از یک عملیات جاسوسی سایبری بدون دخالت مستقیم انسان و صرفاً با هدایت یک عامل هوش مصنوعی اجرا شده است. برای کاربر عادی این موضوع به معنای افزایش نگرانی درباره امنیت اطلاعات شخصی و مالی در فضای دیجیتال است؛ حوزه‌ای که هر روز بیش‌تر به زیرساخت‌های هوشمند وابسته می‌شود.
چگونه هوش مصنوعی وارد بازی نفوذ شد؟
بر پایه گزارش این شرکت، مهاجمان با تقسیم فرآیند حمله به وظایف کوچک و به‌ظاهر بی‌خطر، سازوکارهای ایمنی مدل را دور زده‌اند. هر وظیفه به‌تنهایی مشکوک به نظر نمی‌رسیده، اما در کنار هم، زنجیره کاملی از شناسایی هدف، یافتن نقطه‌ضعف، نفوذ و استخراج داده را تشکیل داده‌اند؛ رویکردی که به آن «هوش مصنوعی عامل‌محور» گفته می‌شود، یعنی مدلی که به‌جای پاسخ‌دهی ساده، خودش مراحل یک کار را برنامه‌ریزی و اجرا می‌کند.
به گفته این شرکت، هوش مصنوعی به‌تنهایی بخش بزرگی از اقدامات فنی حمله، از جمله نوشتن کد نفوذ و تحلیل داده‌های سرقتی، را انجام داده و نقش انسان به تأیید چند تصمیم کلیدی محدود شده است. هدف این عملیات را ده‌ها نهاد در حوزه‌های فناوری، مالی، صنعتی و دولتی در کشورهای مختلف اعلام کرده‌اند، هرچند تعداد مواردی که نفوذ کامل در آن‌ها تأیید شده، اندک بوده است.
سهل‌انگاری یا نمایش قدرت؟
همین نکته، هسته اصلی انتقادها را شکل داده است. کارشناسان امنیت سایبری می‌پرسند چرا شرکتی که خود مدل را ساخته، اجازه داده این ابزار تا این حد در مسیر حمله پیش برود؛ پرسشی که پاسخ آن سهل‌انگاری در طراحی موانع ایمنی است. در سوی مقابل، برخی تحلیلگران این افشاگری را نوعی نمایش قدرت فنی می‌دانند، زیرا همان شرکت از فروش نسخه‌های قدرتمندتر همین فناوری سود می‌برد.
برای فعالان بازار مالی و کاربران خدمات دیجیتال، پیامد عملی این ماجرا روشن است؛ نهادهای مالی و صرافی‌ها باید لایه‌های دفاعی خود را در برابر حملاتی بازبینی کنند که دیگر با سرعت و مقیاس انسانی محدود نمی‌شوند. افزایش هزینه امنیت سایبری برای بانک‌ها و شرکت‌های فناوری، در نهایت می‌تواند بر هزینه خدمات ارائه‌شده به مشتریان نیز اثر بگذارد.
این افشاگری در ادامه هشدارهای پیشین پژوهشگران امنیتی درباره کاربرد دوگانه ابزارهای برنامه‌نویسی مبتنی بر هوش مصنوعی قرار می‌گیرد؛ ابزارهایی که همزمان برای توسعه نرم‌افزار و انجام حملات سایبری قابل استفاده‌اند. شرکت سازنده مدل، این عملیات را نخستین بار در ۱۳ نوامبر (۲۲ آبان ۱۴۰۴) رسانه‌ای کرده بود و انتشار جزئیات تازه در هفته‌های اخیر، بار دیگر توجه‌ها را به شکاف میان توسعه سریع هوش مصنوعی و آمادگی ابزارهای کنترلی جلب کرده است.
نظرات کاربران