اگر هوش مصنوعی یاد بگیرد تحت کنترل به نظر برسد، چه؟

رئیس انجمن صنفی کارفرمایی شرکت‌های فناور هوش مصنوعی و اقتصاد دیجیتال ایران، می‌گوید: با پیشرفته‌تر شدن سیستم‌های هوش مصنوعی، صرف مشاهده رفتار مطلوب در آزمون‌های ایمنی نمی‌تواند تضمینی برای هم‌راستایی واقعی آنها باشد؛ زیرا ممکن است یک سیستم بتواند شرایط ارزیابی را تشخیص دهد، رفتار خود را متناسب با آن تغییر دهد و حتی فضای تصمیم‌گیری انسان را تحت تأثیر قرار دهد، از این رو سنجش‌پذیری، تفسیرپذیری و حفظ کنترل واقعی انسان به چالش‌های اساسی نسل آینده هوش مصنوعی تبدیل خواهد شد.