چرا اوپن‌ای‌آی آموزش مدل‌های قدرتمند خود را متوقف کرده است؟

ICTPRESS - اوپن‌ای‌آی پس از شناسایی چندین مورد رفتار غیرمنتظره و پرخطر در عامل‌های هوش مصنوعی و آشکار شدن ضعف در تدابیر حفاظتی، آموزش، ارزیابی و استنتاج مدل‌های قدرتمند خود را تا زمان رفع این نقص‌ها متوقف کرد.

به گزارش شبکه خبری ICTPRESS به نقل از دیجیتال ترندز، اوپن‌ای‌آی اعلام کرده است پس از بروز چندین مورد رفتار غیرمنتظره و پرخطر از سوی عامل‌های هوش مصنوعی، روند آموزش قدرتمندترین مدل‌های خود را متوقف کرده است.

این تصمیم چند روز پس از انتشار گزارش‌هایی درباره دور زدن محدودیت‌های کنترلی و عبور عامل‌های هوش مصنوعی از تدابیر حفاظتی اتخاذ شد. در این موارد، عامل‌های هوش مصنوعی توانستند به محتوای وب‌سایت‌های شخص ثالث دسترسی پیدا کنند.

اوپن‌ای‌آی در یادداشتی درباره این رخداد اعلام کرد: این حادثه شکافی را در کنترل ما بر محدودیت‌های شبکه آشکار کرد. به همین دلیل، اجرای آموزش متوقف شد و پس از آن تصمیم گرفته شد تمام آموزش‌ها، ارزیابی‌ها و استنتاج‌های مرتبط با توانمندترین مدل‌های شرکت نیز تا زمان تأیید رفع این شکاف و تقویت امنیت سایبری سیستم متوقف شود.

اوایل این هفته نیز گزارش شد یک عامل هوش مصنوعی توسعه‌یافته توسط اوپن‌ای‌آی به وب‌سایت سرویس خدمات درمانی استرالیا نفوذ کرده و تلاش کرده است به داده‌های خصوصی دسترسی پیدا کند. این نخستین رخداد از این دست نیست؛ چند هفته پیش نیز گروهی از عامل‌های هوش مصنوعی از محیط ایزوله یا سندباکس خود خارج شدند و به سیستم‌های شرکت هاگینگ فیس نفوذ کردند.

در ادامه، موارد دیگری از رفتار مدل‌های هوش مصنوعی خارج از چارچوب فرایند آموزش گزارش شد. همچنین چند روز پیش مشخص شد عامل‌های هوش مصنوعی اوپن‌ای‌آی دست‌کم سه وب‌سایت دولتی آمریکا، از جمله وب‌سایت‌های کمیسیون بورس و اوراق بهادار و وزارت بازرگانی این کشور، را هدف قرار داده‌اند.

سم آلتمن، مدیرعامل اوپن‌ای‌آی، نیز در پستی در شبکه‌های اجتماعی اذعان کرد واکنش شرکت به برخی از این حوادث امنیتی می‌توانست سریع‌تر باشد.

اوپن‌ای‌آی تنها شرکت پیشرو هوش مصنوعی نیست که با نگرانی‌هایی درباره خطرات امنیتی عامل‌های خودمختار مواجه شده است. موارد مشابهی درباره مدل جمینای گوگل و کلود شرکت آنتروپیک نیز گزارش شده است.

در پی این رخدادها، اوپن‌ای‌آی و آنتروپیک خواستار کندتر شدن روند توسعه مدل‌های قدرتمند هوش مصنوعی شده‌اند؛ در مقابل، دولت آمریکا با وضع مقررات استاندارد ایمنی برای هوش مصنوعی مخالفت کرده است.

نگرانی‌ها تنها به رفتارهای غیرمنتظره مدل‌ها، که کارشناسان از آن با عنوان «عدم همسویی» یاد می‌کنند، محدود نیست. با افزایش خودمختاری عامل‌های هوش مصنوعی و تلاش آنها برای دور زدن محدودیت‌ها در مسیر انجام وظایف، موضوع مسئولیت‌پذیری در صورت وقوع چنین رخدادهایی نیز به چالشی جدی تبدیل شده است.

با وجود افزایش این نگرانی‌ها، هنوز چارچوب مشخص و قطعی برای تعیین مسئولیت در چنین رخدادهایی، چه در سطح ملی و چه در سطح جهانی، تصویب نشده است. سازمان ملل متحد نیز بر تدوین و تصویب فوری چارچوبی برای حکمرانی و ایمنی هوش مصنوعی تأکید کرده است.