ساتیا نادلا، مدیرعامل مایکروسافت، در یادداشتی مفصل درباره خطرات مدل‌های پیشرفته هوش مصنوعی هشدار داده و خواستار ایجاد سازوکارهایی شده است که امکان توقف فوری و کنترل این سیستم‌ها را فراهم کنند.
نادلا معتقد است دیگر نمی‌توان هوش مصنوعی را مجموعه‌ای از «جعبه‌های سیاه تو در تو» در نظر گرفت که صرفا خروجی آن‌ها را بپذیریم یا رد کنیم. به گفته او، صنعت هوش مصنوعی باید به سمت ساخت سیستم‌هایی حرکت کند که قابل مشاهده، قابل کنترل و قابل ممیزی باشند و در عین حال شواهدی قابل‌اعتماد و قابل‌فهم برای انسان از تصمیم‌ها و اقدامات خود بر جای بگذارند.
مدیرعامل مایکروسافت خواستار «ترمز اضطراری» برای هوش مصنوعی شد
بخش قابل‌توجهی از پیشنهادهای نادلا مشابه توصیه‌هایی است که در ماه‌های اخیر از سوی دیگر فعالان این صنعت مطرح شده‌اند؛ از جمله افشای سریع رخدادهای امنیتی ، انجام حسابرسی‌های مستقل، استفاده از داده‌های قابل راستی‌آزمایی و توسعه فناوری‌های مهار و کنترل مدل‌ها.
با این حال، او در موضوع کنترل مدل‌های هوش مصنوعی موضع سخت‌گیرانه‌تری اتخاذ کرده و تاکید دارد که توسعه‌دهندگان باید از همان ابتدا فرض کنند یک مدل دچار نفوذ یا سوءاستفاده شده است.
نادلا در این باره می‌گوید:
باید فرض کنیم یک مدل از ابتدا به خطر افتاده و آن را مهار کنیم. به آن مانند یک ترمز اضطراری فکر کنید. همیشه باید فردی مجاز وجود داشته باشد که بتواند در میانه انجام یک وظیفه، مدل را متوقف یا خاموش کند. مدل‌های پیشرفته‌تر به فناوری‌های مهار پیشرفته‌تری نیاز خواهند داشت و باید این فناوری‌ها به استانداردی فراگیر تبدیل شوند.
مدیرعامل مایکروسافت در ادامه بر لزوم افزایش شفافیت در توسعه و استقرار سیستم‌های هوش مصنوعی تاکید کرده و معتقد است کاربران و نهادهای نظارتی باید بتوانند نحوه عملکرد این مدل‌ها را بهتر درک و ارزیابی کنند.
نکته جالب توجه این است که نادلا در بخش‌های مختلف یادداشت خود از اصطلاح «ابرهوش» (Super Intelligence) برای اشاره به هوش مصنوعی استفاده کرده است؛ عبارتی که همچنان محل بحث بسیاری از کارشناسان و پژوهشگران این حوزه محسوب می‌شود.
اظهارات مدیرعامل مایکروسافت در حالی مطرح می‌شود که رقابت میان شرکت‌های بزرگ فناوری برای توسعه مدل‌های قدرتمندتر هوش مصنوعی با سرعت زیادی ادامه دارد و هم‌زمان نگرانی‌ها درباره ایمنی، شفافیت و نحوه کنترل این سیستم‌ها نیز در حال افزایش است.
نظرات کاربران