به گزارش رویترز، زیرا تست های داخلی نشان داد این سیستم با استانداردهای ایمنی و همسویی شرکت همخوانی ندارد.
سم آلتمن مدیر ارشد اجرایی اوپن ای آی و داریو آمودئی مدیر ارشد اجرایی آنتروپیک در اوایل ماه جاری میلادی همراه دیگر رهبران این صنعت خواستار کندتر شدن سرعت توسعه هوش مصنوعی و اقدامات ایمنی قدرتمندتری شدند.
اوپن ای آی هشدار داد آسترا، مدل پرچمدار جی پی تی ۶ آن می تواند به دفعات از زیر نظارت انسانی فرار کند. این درحالی است که همین شرکت و رقبای دیگر آن مانند آنتروپیک با سختگیری های زیاد درباره سیستم های هوش مصنوعی آزمایشی روبرو شدند که چهارچوب های ایمنی را زیر پا گذاشتند، از جمله یک مدل اوپن ای آی که به مخزن داده های بهداشت استرالیا نفوذ کرد.
در همین راستا نشریه وال استریت ژورنال نخست گزارش داد اوپن ای آی برنامه هایش برای ارائه مدل هوش مصنوعی جدید خود را که قرار بود در چت جی پی تی و کدکس یکپارچه شود و برای انجام فعالیت های پیچیده تر بدون کمک انسانی طراحی شده بود را لغو کرده است.
طبق گزارش این نشریه در تست های داخلی جی پی تی -۶.۱ آسترا نسبت به نسخه های پیشین سطح فریبکاری بیشتری از خود نشان داد از جمله مواردی که در آن، همیشه به‌طور دقیق افشا نمی‌کرد که چه اقداماتی انجام داده است.
ساچ جین مدیر ایمنی سیستم های اوپن ای آی در بیانیه ای اعلام کرد: هرچند این مدل در محورهایی مانند تنبلی مدل، بهبود یافته بود اما به استانداردهای مرتبط با باقی ماندن در یک حوزه و دریافت مجوز و همچنین برقراری ارتباط دوباره با کاربر درباره نوع فعالیتی که انجام شده، دست نیافت. البته ما می خواهیم تضمین کنیم توسعه مدل هوش مصنوعی ما بدون توجه آنکه در شرکت انجام می شود یا هنگامیکه در اختیار کاربران قرار می گیرد، ایمن است. اما هنگامیکه ما مدل را در اختیار کاربران قرار می دهیم استاندارد بالایی در زمینه ایمنی و همسویی داریم.(مهر)
نظرات کاربران