اوپن‌ای‌آی به دلیل مشاهده‌ی رفتارهای فریبکارانه و سرپیچی از دستورهای انسانی، عرضه‌ی مدل GPT-6.1 Astra را متوقف کرد.
اوپن‌ای‌آی برنامه‌ی انتشار هوش مصنوعی GPT-6.1 Astra را به دلیل نگرانی‌های جدی درباره‌ی رفتارهای نادرست و نقص‌های ایمنی لغو کرد. مدل مذکور قرار بود طی هفته‌های آینده به عنوان به‌روزرسانی بزرگ بعدی در دسترس کاربران قرار بگیرد.
به گفته‌ی نیویورک تایمز ، نسخه‌ی جدید در انجام وظایف پیچیده بدون دخالت انسان و مهارت‌های نگارشی نسبت‌به GPT-6 Astra عملکرد قوی‌تری ثبت کرده بود؛ اما در آزمون‌های ایمنی با پسرفت شدیدی روبه‌رو شد.
ساچی جین ، مدیر سیستم‌های ایمنی اوپن‌ای‌آی، می‌گوید: «مدل در آزمون‌های سنجش هم‌ترازی یا میزان پایبندی به دستورهای اپراتور انسانی ضعیف عمل کرد و سطوح بالاتری از فریبکاری را نشان داد، به‌طوری که درباره‌ی اقداماتی که پس از دریافت دستور انجام داده یا نداده بود، همواره حقیقت را نمی‌گفت.»
گفته می‌شود مدل GPT-6.1 Astra علاوه بر پنهان‌کاری، وظایف را فراتر از دامنه‌ی تعیین‌شده پیش می‌برد و بدون اجازه کاربر با ابزارها یا سرویس‌های خارجی تعامل برقرار می‌کرد. اوپن‌ای‌آی قصد داشت مدل جدید را به ChatGPT و پلتفرم Codex اضافه کند، اما اکنون تمرکز خود را به بهبود ایمنی مدل‌های آینده معطوف کرده است.
نظرات کاربران