به گزارش شهرآرانیوز؛ شرکت اوپن‌ای‌آی اعلام کرده است که مدل‌های پیشرفته خود را با استفاده از نسخه‌های ذخیره‌شده و شبیه‌سازی‌شده اینترنت آموزش خواهد داد تا از دسترسی مستقیم و کنترل‌نشده آنها به وب زنده جلوگیری کند. این شرکت معتقد است با توجه به وضعیت کنونی پژوهش‌های ایمنی هوش مصنوعی، دسترسی آزاد مدل‌ها به اینترنت می‌تواند خطر‌های امنیتی به همراه داشته باشد.
به گزارش تک‌کرانچ، این تصمیم حدود دو هفته پس از آن اعلام شد که شرکت آنتروپیک، یکی از رقبای اصلی اوپن‌ای‌آی، محدودیت‌هایی را برای دسترسی جدیدترین و توانمندترین مدل‌های خود به اینترنت زنده اعمال کرد.
این تغییر رویکرد در پی نگرانی‌هایی درباره رفتار مدل‌های هوش مصنوعی در جریان آموزش صورت گرفته است. گزارش‌ها حاکی از آن است که برخی مدل‌ها هنگام انجام وظایف آموزشی تلاش کرده‌اند به سامانه‌های خارجی دسترسی پیدا کنند، از تالار‌های گفت‌و‌گو برای یافتن پاسخ کمک بگیرند و راه‌هایی برای دور زدن محدودیت‌های امنیتی بیابند.
اوپن‌ای‌آی در مطلبی در وبلاگ خود تأکید کرده است که با توجه به شرایط فعلی در زمینه هم‌راستاسازی مدل‌ها، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنتی، آموزش مدل‌های پیشرفته بدون اتصال مستقیم به اینترنت، رویکرد مسئولانه‌تری است.
این شرکت همچنین اعلام کرده است که در ۲۰ سپتامبر، یکی از مدل‌های پیشرفته‌اش از طریق یک پیکربندی نادرست به اینترنت دسترسی پیدا کرد. در پی این اتفاق، روند آموزش مدل‌ها برای باقی‌مانده آن ماه متوقف شد تا راهکار‌های تازه‌ای برای افزایش امنیت طراحی و آزمایش شوند.
چالش جداسازی مدل‌ها از اینترنت
آموزش مدل‌های هوش مصنوعی در محیط‌های ایزوله یا «سندباکس» که به اینترنت متصل نیستند، از نظر فنی و اجرایی چالش‌برانگیز است. برخی متخصصان پیش‌تر هشدار داده‌اند که جداسازی کامل زیرساخت‌های آموزشی از اینترنت به منابع گسترده و تغییرات اساسی در شیوه فعالیت گروه‌های پژوهشی نیاز دارد.
استیون آدلر، پژوهشگر پیشین اوپن‌ای‌آی، پیش‌تر گفته بود که ایزوله‌سازی مراکز داده هوش مصنوعی ممکن است مستلزم حضور گروه‌های پژوهشی در محل این مراکز باشد؛ اقدامی که هزینه‌های اجرایی سنگینی به همراه دارد. به گفته او، هنوز مشخص نیست که مزایای امنیتی این رویکرد تا چه اندازه هزینه‌های آن را توجیه می‌کند.
از سوی دیگر، یکی از مهندسان امنیت اوپن‌ای‌آی نیز تأکید کرده است که ایمن‌سازی محیط‌های آزمایشی و جدا نگه‌داشتن مدل‌ها از اینترنت، برخلاف تصور عمومی، فرایندی ساده نیست. آموزش مدل‌های پیشرفته به ابزارها، منابع و زیرساخت‌های متنوعی نیاز دارد و گروه‌های بزرگی از پژوهشگران در طراحی و آزمایش این محیط‌ها مشارکت می‌کنند.
اوپن‌ای‌آی اعلام کرده است که در جریان آزمایش‌های امنیتی موسوم به «تیم قرمز»، تلاش‌هایی برای خروج مدل‌ها از محیط‌های ایزوله انجام شده است. این آزمایش‌ها آسیب‌پذیری‌های متعددی را آشکار کرده و شرکت را به بازنگری در رویکرد امنیتی خود سوق داده‌اند.
استفاده از نسخه‌های ذخیره‌شده وب
برای ادامه آموزش مدل‌ها بدون اتصال مستقیم به اینترنت، اوپن‌ای‌آی مجموعه‌ای گسترده از محتوای وب را نمایه‌سازی و ذخیره کرده است. به این ترتیب، مدل‌ها می‌توانند با نسخه‌های بازسازی‌شده و ذخیره‌شده محتوای اینترنت تعامل داشته باشند، بدون آن‌که مستقیماً به سامانه‌ها و منابع خارجی متصل شوند.
با این حال، هنوز مشخص نیست که این روش تا چه اندازه می‌تواند کارایی و کیفیت آموزش از طریق اینترنت زنده را حفظ کند. تصمیم اوپن‌ای‌آی و اقدامات مشابه آنتروپیک نشان می‌دهد که شرکت‌های پیشرو در حوزه هوش مصنوعی، کنترل دسترسی مدل‌های قدرتمند به محیط‌های بیرونی را به یکی از اولویت‌های اصلی امنیتی خود تبدیل کرده‌اند.
نظرات کاربران