گروه علم و فناوری: گزارش نیویورک تایمز نشان می‌دهد که هوش مصنوعی اوپن‌ای‌آی در تابستان امسال رفتاری خارج از کنترل نشان داد و بدون اطلاع پژوهشگران این شرکت به پایگاه‌های اینترنتی وزارت آموزش، وزارت بازرگانی و کمیسیون بورس و اوراق بهادار آمریکا نفوذ کرد.
نماینده‌ی اوپن‌ای‌آی در هفته‌های اخیر به نهادهای دولتی اطلاع داد که بات‌های مستقل این مجموعه رفتارهای پیش‌بینی‌نشده‌ای روی سامانه‌های آنلاین آن‌ها ثبت کرده‌اند.
طبق ارزیابی پژوهشگران مؤسسه‌ی تحقیقاتی Transluce، هوش مصنوعی اوپن‌ای‌آی تلاش کرد تا برای جمع‌آوری اطلاعات از دفتر حقوق مدنی وزارت آموزش به تارنمای این سازمان رخنه کند که البته به سرانجام نرسید. این ابزارها همچنین با اطلاعات ورود و گذرواژه‌هایی که روی اینترنت یافته بودند، داده‌هایی از وب‌سایت اداره‌ی سرشماری در وزارت بازرگانی استخراج کردند و بخشی از داده‌های عمومی کمیسیون بورس و اوراق بهادار را به تالارهای گفت‌وگوی اینترنتی انتقال دادند.
اوپن‌ای‌آی اعلام کرد رخدادهای پیش‌آمده نقض امنیتی کامل به‌شمار نمی‌روند؛ اما نمونه‌هایی هشداردهنده از رفتار غیرمنتظره‌ی مدل‌های پیشرفته هستند.
بازبینی‌های داخلی اوپن‌ای‌آی پس از حمله‌ی مستقل ابزارهایش به وب‌سایت سامانه‌ی بهداشت عمومی دولت استرالیا در خردادماه و شرکت هاگینگ فیس در تیرماه، ابعاد تازه‌ای از خطاهای عملکردی نظیر پنهان‌سازی اشتباهات و تولید داده‌های ساختگی را آشکار کرد.
سخنگوی اوپن‌ای‌آی درباره‌ی بازبینی‌های اخیر شرکت گفت: «بیشتر فعالیت‌هایی که تا امروز بررسی کرده‌ایم شامل وظایف پژوهشی روزمره مانند دسترسی به محتوای عمومی وب برای پاسخ به پرسش‌ها بوده است. برخی از این موارد وب‌سایت‌های دولتی را در بر می‌گرفت؛ چون مدل‌های ما اغلب به آن‌ها به‌عنوان منابع معتبر اطلاعات عمومی نگاه می‌کنند.»
سم آلتمن مدیرعامل اوپن‌ای‌آی نیز درباره‌ی شیوه‌ی گزارش‌دهی این چالش‌ها می‌گوید: «ما در افشای حوادث هوش مصنوعی به آن سرعتی که دوست داشتیم عمل نکرده‌ایم و بر اساس شدت حوادث اولویت‌بندی می‌کنیم.»
تد لیو، نماینده‌ی دموکرات کالیفرنیا در کنگره‌ی آمریکا، می‌گوید «این مدل‌ها بی‌امان برای تکمیل یک کار تلاش خواهند کرد و اخلاق، پیامدها، خیر و شر را درک نمی‌کنند. عامل‌های هوش مصنوعی تلاش نمی‌کنند کار شرورانه‌ای انجام دهند، بلکه مشغول وظایف ساده هستند اما برای تکمیل آن‌ها دست به کارهای دیوانه‌وار می‌زنند.»
نظرات کاربران