OpenAI پس از حادثهای که در جریان آزمایش مدلهای هوش مصنوعی این شرکت به نفوذ در زیرساخت Hugging Face منجر شد، تدابیر امنیتی جدیدی وضع کرده است. این شرکت میگوید از این پس مدلهای قدرتمندتر تحت نظارت شدیدتر، جداسازی شبکهای بیشتر و ارزیابیهای امنیتی گستردهتری قرار خواهند گرفت. در همین حال، بزرگترین عملیات آموزش تقویتی OpenAI همچنان متوقف است و شرکت در حال بازبینی سازوکارهای ایمنی مدلهای پیشرفته خود است.
توقف موقت آموزش تقویتی پس از حادثه Hugging Face
ماجرای نفوذ مدلهای OpenAI به Hugging Face چه بود؟
جداسازی شبکهای سختگیرانهتر میشود
نظارت بر رفتار مدلها؛ مهمترین لایه دفاعی جدید
هرچه مدل قدرتمندتر باشد، نظارت شدیدتر خواهد بود
هنوز گزارش نهایی حادثه منتشر نشده است
نظرات کاربران