شرکت OpenAI تیم «آمادگی» برای بررسی خطرات هوش مصنوعی را منحل کرده است

شرکت OpenAI ظاهراً در جریان تغییر ساختار داخلی خود، تیم «آمادگی» یا Preparedness را که وظیفه ارزیابی خطرات بالقوه و شدید مدل‌های هوش مصنوعی را برعهده داشت، منحل کرده است. براساس گزارش فایننشال تایمز، این تغییر در پایان ماه گذشته انجام شد و اکنون مدیران ارشد تیم‌های دیگر مسئولیت حوزه‌های مختلف ارزیابی ریسک را برعهده گرفته‌اند.

🔷 تیم ایمنی OpenAI موسوم به Preparedness ظاهراً در جریان تغییر ساختار شرکت منحل شده است. 🔷 این تیم خطرات جدی و بالقوه مدل‌های هوش مصنوعی را ارزیابی می‌کرد. 🔷 مسئولیت حوزه‌هایی مانند خطرات زیستی و سایبری اکنون میان تیم‌های دیگر تقسیم شده است. 🔷 شرکت OpenAI این تغییرات را بخشی از فرایند ساده‌سازی ساختار خود توصیف کرده است. 🔷 خروج برخی مدیران حوزه ایمنی نیز نگرانی‌هایی درباره اولویت‌های OpenAI ایجاد کرده است.

چرا OpenAI تیم Preparedness را منحل کرد؟

به‌گزارش فایننشال تایمز ، OpenAI این اقدام را بخشی از فرایند «ساده‌سازی» ساختار شرکت می‌داند. مدیران ارشد تیم‌های دیگر اکنون مسئولیت بررسی خطرات مختلف هوش مصنوعی، ازجمله ریسک‌های زیستی و سایبری را برعهده دارند.

این تغییر در آستانه برنامه احتمالی OpenAI برای عرضه اولیه سهام صورت گرفته است. سم آلتمن نیز از کارکنان خواسته فعالیت‌های جانبی را کاهش دهند و تمرکز بیشتری روی کسب‌وکار اصلی ChatGPT داشته باشند.

تغییرات OpenAI فقط به تیم آمادگی محدود نیست

شرکت OpenAI اخیراً تغییرات دیگری نیز در ساختار و محصولات خود اعمال کرده است. این شرکت اپلیکیشن تولید ویدیوی Sora را کنار گذاشته و هم‌زمان چند چهره مرتبط با حوزه ایمنی و اخلاق نیز شرکت را ترک کرده‌اند.

کلوئه باکالار (Chloé Bakalar) ، مسئول حوزه اخلاق، و یوهانس هایدکه (Johannes Heidecke) ، مدیر بخش ایمنی، ازجمله افرادی هستند که از OpenAI جدا شده‌اند. این خروج‌ها در کنار انحلال تیم Preparedness، بحث‌هایی را درباره رویکرد OpenAI درزمینه ایمنی هوش مصنوعی ایجاد کرده است.

OpenAI ظاهراً تیم آمادگی خود برای ارزیابی خطرات هوش مصنوعی را منحل کرده است.

انحلال تیم آمادگی هم‌زمان با آزمایش‌های بحث‌برانگیز مدل‌های OpenAI

این تغییرات پس از آزمایش‌هایی صورت می‌گیرند که در آن برخی مدل‌های OpenAI رفتارهای غیرمنتظره‌ای نشان دادند. فایننشال تایمز به مواردی اشاره می‌کند که مدل‌ها در جریان آزمایش‌های ایمنی توانستند به مخزن ابزارهای هوش مصنوعی Hugging Face نفوذ کنند.

بااین‌حال، این اتفاق‌ها در محیط‌های آزمایشی رخ داده‌اند و نمی‌توان رفتار مدل‌ها در چنین شرایطی را مستقیماً به نحوه عملکرد عمومی ChatGPT تعمیم داد.

شرکت OpenAI با انحلال تیم Preparedness، وظایف آن را به بخش‌های دیگر منتقل کرده و هم‌زمان تمرکز بیشتری روی ChatGPT دارد. اکنون پرسش اصلی این است که ساختار جدید تا چه اندازه می‌تواند ارزیابی مستقل و مؤثر خطرات مدل‌های پیشرفته هوش مصنوعی را حفظ کند.

به‌نظر شما OpenAI باید یک تیم مستقل برای بررسی خطرات هوش مصنوعی داشته باشد یا تقسیم این مسئولیت میان تیم‌های مختلف روش بهتری است؟ دیدگاه خود را در بخش نظرات بنویسید.