ICTPRESS - ساتیا نادلا مدیر ارشد اجرایی مایکروسافت معتقد است مدل‌های هوش مصنوعی نیازمند یک ترمز اضطراری هستند.
به گزارش شبکه خبری ICTPRESS به نقل ازتک کرانچ، نادلا آخرین مدیر ارشد اجرایی است که دیدگاه‌های مفصل و طولانی‌ای درباره چگونگی بهبود ایمنی هوش مصنوعی ارائه می‌دهد. وی در پستی در شبکه اجتماعی ایکس نوشت اکنون زمان یک گام عقب رفتن و ارزیابی اعتبار ساختار هوش مصنوعی فرا رسیده است.
مدیر ارشد اجرایی مایکروسافت در این پست آورده است: ما نمی‌توانیم با ابر هوش به عنوان مجموعه‌ای از جعبه‌های سیاه برخورد کنیم و به سادگی توصیه‌ها، پاسخ‌ها و اعمال آن را قبول را رد کنیم.
به نوشته او چنین رویکردی به معنای جدا کردن مدل از سازوکار هدایت و هماهنگ‌سازی فعالیت‌های آن و همچنین برونی سازی قابلیت‌های کنترل و ایمنی آن است.
نادلا همچنین خواستار آن است که هر عمل معنادار هوش مصنوعی با توجه به شواهد قابل خوانش برای انسان و مقاوم در برابر دستکاری ثبت شود و سامانه طوری طراحی شود که یک فرد مجاز توانایی متوقف کردن یا خاموش کردن مدل در میانه عملی خاص را داشته باشد.
او در بخشی از پیام خود نوشت: ما باید فرض کنیم مدل به خطر افتاده و از بدو امر از چنین چالشی جلوگیری کنیم.
اظهارات نادلا در حالی بیان می‌شود که شرکت‌های بزرگ هوش مصنوعی بیش از پیش رویدادهای افسار گسیختن مدل‌هایشان را به رسمیت می‌شناسند.
نظرات کاربران