به گزارش شبکه اطلاع‌رسانی طلا و ارز، شرکت اوپن‌ای‌آی اعلام کرد پس از یک حادثه امنیتی مرتبط با انتشار غیرمجاز بخشی از مدل‌های هوش مصنوعی‌اش در پلتفرم هاگینگ‌فیس، زیرساخت امنیتی خود را به‌طور جدی تقویت می‌کند. این شرکت جداسازی شبکه، نظارت مستمر بر مدل‌ها و کنترل دقیق‌تر فرایند آموزش و ارزیابی را در دستور کار قرار داده است.
این اقدام برای کاربران این هوش مصنوعی اهمیت دارد؛ چراکه امنیت مدل‌های زیربنایی مستقیماً بر محرمانگی داده‌هایی اثر می‌گذارد که کاربران در گفت‌وگو با این ابزارها وارد می‌کنند. هرگونه نفوذ به هسته یک مدل می‌تواند به افشای اطلاعات فنی حساس یا دستکاری در رفتار سامانه هوش مصنوعی منجر شود.
چه اتفاقی افتاده است؟
بر اساس گزارش‌ها، نسخه‌هایی از مدل‌های اوپن‌ای‌آی بدون مجوز رسمی در هاگینگ‌فیس - یکی از بزرگ‌ترین مخازن آنلاین مدل‌های هوش مصنوعی - قرار گرفته بود. این پلتفرم به توسعه‌دهندگان امکان می‌دهد مدل‌های آموزش‌دیده را بارگذاری، دانلود و به اشتراک بگذارند؛ به همین دلیل نشت هر فایل مدل می‌تواند بخشی از پارامترهای داخلی یک سامانه هوش مصنوعی را در اختیار افراد غیرمجاز قرار دهد.
واکنش اوپن‌ای‌آی
اوپن‌ای‌آی در واکنش به این حادثه سه محور اصلی را برای اصلاح سیاست امنیتی خود تعریف کرده است: جداسازی شبکه‌ای میان محیط‌های آموزش و محیط‌های عملیاتی، نظارت لحظه‌ای بر رفتار و دسترسی مدل‌ها، و بازبینی سخت‌گیرانه‌تر فرایند ارزیابی پیش از انتشار هر مدل جدید. هدف این تغییرات، کاهش احتمال دسترسی غیرمجاز به فایل‌های حساس و جلوگیری از تکرار چنین نشتی‌هایی است.
کارشناسان حوزه امنیت سایبری می‌گویند رشد سریع بازار هوش مصنوعی، رقابت میان شرکت‌ها برای انتشار سریع‌تر مدل‌ها را افزایش داده و همین موضوع می‌تواند فشار بر لایه‌های امنیتی را بیشتر کند. تقویت زیرساخت امنیتی از سوی اوپن‌ای‌آی می‌تواند الگویی برای سایر شرکت‌های فعال در این صنعت باشد.
هاگینگ‌فیس در سال‌های اخیر به یکی از مرجع‌های اصلی توسعه‌دهندگان هوش مصنوعی برای اشتراک‌گذاری مدل‌های متن‌باز تبدیل شده است. این پلتفرم میزبان ده‌ها هزار مدل از شرکت‌ها و پژوهشگران مختلف است و هرگونه ضعف امنیتی در آن می‌تواند دامنه گسترده‌ای از سامانه‌های هوش مصنوعی را تحت تأثیر قرار دهد.
نظرات کاربران