اوپن‌ای‌آی توسعه مدل Astra را به‌دلیل نگرانی‌های امنیتی کند کرد

اوپن‌ای‌آی اعلام کرد بخشی از توسعه مدل هوش مصنوعی جدید خود با نام «Astra» را پس از یک بررسی داخلی متوقف کرده است. ارزیابی‌های اولیه نشان داده این مدل در زمینه کدنویسی خودکار و امنیت سایبری پیشرفت قابل‌توجهی داشته و به سطحی رسیده که می‌تواند به‌صورت مستقل حملات سایبری علیه برخی سامانه‌های واقعی و محافظت‌شده را شناسایی و اجرا کند.

اوپن‌ای‌آی می‌گوید Astra به «آستانه بحرانی امنیت سایبری» رسیده و به همین دلیل، طبق چارچوب ایمنی این شرکت، باید تدابیر حفاظتی بیشتری برای آن اعمال شود. این شرکت همچنین تأکید کرده Astra هنوز در حال توسعه است و در حمله اخیر به Hugging Face نقشی نداشته؛ با این حال، نمی‌توان احتمال رسیدن آن به بالاترین سطح توانایی‌های سایبری را رد کرد.

این اتفاق در شرایطی رخ می‌دهد که طی هفته‌های اخیر چندین مورد از رفتارهای غیرمنتظره مدل‌های هوش مصنوعی در آزمایش‌های امنیتی منتشر شده است. برخی کارشناسان نسبت به این روند هشدار داده و خواستار نظارت سخت‌گیرانه‌تر شده‌اند، در حالی که برخی دیگر چنین توانایی‌هایی را نشانه پیشرفت مدل‌های هوش مصنوعی می‌دانند. اوپن‌ای‌آی نیز گفته دلیل انتشار این اطلاعات، شفاف‌سازی درباره تغییرات احتمالی در سطح توانایی‌های مدل‌های آینده است.