به گزارش شهرآرانیوز؛ جیکوب کاکسون، پژوهشگری که سابقه فعالیت در دو شرکت مطرح حوزه هوش مصنوعی یعنی OpenAI و آنتروپیک را دارد، روز سه‌شنبه از آنتروپیک استعفا کرد. او دلیل این تصمیم را نگرانی عمیق درباره مسیر فعلی توسعه هوش مصنوعی و رقابت شرکت‌های بزرگ برای دستیابی به سیستم‌هایی عنوان کرده است که قادر به بهبود توانایی‌های خود هستند.
کاکسون در پستی در شبکه اجتماعی ایکس اعلام کرد که طی سه سال گذشته در هر دو شرکت روی پژوهش‌های مرتبط با پیش‌آموزش (Pre-training) مدل‌های هوش مصنوعی فعالیت داشته است. او در توضیح تصمیم خود نوشت که به اعتقادش هیچ‌یک از این دو شرکت رویکرد مسئولانه‌ای در قبال توسعه هوش مصنوعی ندارند و در مسیر ساخت «ابرهوش خودبهبود‌دهنده» حرکت می‌کنند؛ مسیری که به گفته او، سلامت و آینده انسان‌ها را در معرض خطر قرار می‌دهد.
«هیچ‌کدام از این دو شرکت مسئولانه عمل نمی‌کنند. آنها مستقیم به سمت ابرهوش خودبهبود‌دهنده پیش می‌روند و با جان ما قمار می‌کنند.»
کاکسون پیش از پیوستن به آنتروپیک، از سال ۲۰۲۳ تا ژوئیه ۲۰۲۶ عضو تیم فنی OpenAI بود و در این مدت در پروژه‌هایی از جمله توسعه GPT-۴o مشارکت داشت. او پس از ترک OpenAI به آنتروپیک پیوست و به‌عنوان پژوهشگر در این شرکت فعالیت کرد. گزارش‌های منتشرشده نیز تأیید می‌کنند که او پیش از استعفا، حدود سه سال در زمینه پیش‌آموزش مدل‌های هوش مصنوعی در این دو شرکت فعالیت داشته است.
هشدار درباره خطرات هوش مصنوعی از سوی پژوهشگر آنتروپیک
کاکسون در ادامه انتقادات خود، به موضوع دیگری نیز اشاره کرد و گفت شرکت‌های فعال در حوزه هوش مصنوعی درباره نگرانی‌های واقعی خود از پیامد‌های این فناوری شفافیت کافی ندارند.
او مدعی شد افرادی که در حال ساخت سیستم‌های پیشرفته هوش مصنوعی هستند، به‌طور جدی احتمال می‌دهند این فناوری تا پایان دهه جاری بتواند تهدیدی برای بقای انسان‌ها ایجاد کند.
کاکسون همچنین میان رویکرد OpenAI و آنتروپیک تفاوت قائل شد. او معتقد است بخشی از افراد حاضر در OpenAI هنوز به‌طور کامل متوجه ابعاد و پیامد‌های عمیق توسعه هوش مصنوعی نشده‌اند، در حالی که در آنتروپیک، خطرات این فناوری بهتر درک شده است.
با این حال، به اعتقاد او، آنتروپیک نیز گرفتار رقابت برای دستیابی زودتر به فناوری ابرهوش شده است؛ رقابتی که باعث می‌شود این شرکت با وجود آگاهی از خطرات، همچنان به توسعه فناوری ادامه دهد.
کاکسون در این‌باره نوشت: «در آنتروپیک، اهمیت موضوع به‌خوبی درک شده است، اما آنها در رقابتی برای رسیدن به جایگاه اول گرفتار شده‌اند.»
تأیید هشدار کاکسون از سوی پژوهشگر آنتروپیک
اظهارات کاکسون با واکنش ایوان هوبینگر، پژوهشگر فعلی آنتروپیک و سرپرست تیم آزمایش هم‌ترازی این شرکت، همراه شد. هوبینگر با کاکسون موافقت کرد و نگرانی مشابهی درباره خطرات هوش مصنوعی پیشرفته مطرح کرد.
او نوشت: «جیکوب در این مورد درست می‌گوید، ما واقعاً و صادقانه باور داریم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد.»
هوبینگر همچنین احتمال وقوع چنین سناریویی در دهه آینده را بیش از ۱۰ درصد ارزیابی کرد. او در عین حال گفت آنتروپیک در تلاش است بهترین عملکرد ممکن را در زمینه ایمنی هوش مصنوعی داشته باشد، اما این شرکت هنوز برنامه مشخصی برای حل مشکل هم‌ترازی ابرهوش ندارد و حتی مشخص نیست که در مسیر دستیابی به چنین راهکاری قرار گرفته باشد.
این اظهارات در حالی مطرح شده که نگرانی درباره سرعت توسعه سیستم‌های هوش مصنوعی پیشرفته در میان برخی پژوهشگران این حوزه افزایش یافته است. استعفای کاکسون نیز به یکی از تازه‌ترین نمونه‌های ابراز نگرانی از درون آزمایشگاه‌های پیشرو هوش مصنوعی تبدیل شده است.
نظرات کاربران