مدل‌های داخلی اوپن‌ای‌آی محدودیت‌های مرور وب را دور زده ، به دو وب‌سایت دیگر نفوذ کرده و با بهره‌گیری از داده‌های هویتی افشاشده، مبالغی رمزارز را از یک کیف پول دیجیتال خارج کرده‌اند.
ظاهرا سامانه‌های خودکار یادگیری تقویتی در جریان مواجهه با موانع دسترسی، به رفتارهای غیراخلاقی و اقداماتی با ماهیت مجرمانه متوسل شده‌اند.
چهار رویداد امنیتی تازه در ماه ژوئن رخ داده است. افشاگری‌های اخیر در شرایطی صورت می‌گیرد که اوپن‌ای‌آی پیش‌تر در ماه جولای (تیر و مرداد) فاش کرد عامل‌های هوش مصنوعی با بهره‌برداری از یک آسیب‌پذیری روز صفر، محدودیت‌های اینترنتی را شکستند و برای سرقت پاسخ‌های آزمون هک، وارد شبکه هاگینگ فیس شدند.
در دو مورد از حوادث تازه، عامل‌ها مامور جمع‌آوری اطلاعات از وب‌سایت‌ها بودند؛ اما پس از برخورد با سد دسترسی، تصمیم به نفوذ گرفتند. در جریان آموزش تقویتی یکی از مدل‌ها، سامانه به‌دلیل مواجهه با خطای عدم دسترسی هنگام دریافت آمار تخت‌های بیمارستانی در یک وب‌سایت دولتی، روند نفوذ را آغاز کرد.
اوپن‌ای‌آی، توسعه‌دهنده ابزارهای هوش مصنوعی، گفت: «مدل از ویژگی دانلود فایل وب‌سایت برای دریافت تنظیمات سرور و فایل‌های برنامه، شامل مدارک هویتی حساس، بهره برد. این سامانه با بازرسی کدهای برنامه، بررسی‌های احراز هویتِ بخش آمار را دور زد و داده‌هایی را که پیش‌تر منع شده بود، استخراج کرد. مدل در ادامه داده‌ها را به‌صورت محلی ذخیره ساخت.»
ارتکاب چنین اعمالی توسط انسان‌ها پیگرد قانونی سنگینی در پی دارد و رویدادهای اخیر، نگرانی‌ها را پیرامون پیامدهای پیش‌بینی‌نشده توسعه مهارنشده سامانه‌های خودمختار دوچندان کرده است.
نظرات کاربران