به گزارش شبکه اطلاع‌رسانی طلا و ارز، ساتیا نادلا، مدیرعامل مایکروسافت، از صنعت فناوری خواست هوش مصنوعی‌های پیشرفته را با فرض نفوذپذیری طراحی کند. پیام او روشن است: فرض کنید سامانه هوش مصنوعی شما هک شده است. در این وضعیت، باید ترمزی وجود داشته باشد که انسان بتواند سامانه را با آن متوقف کند.
اهمیت این هشدار به جایگاه گوینده آن برمی‌گردد. مایکروسافت یکی از بزرگ‌ترین سرمایه‌گذاران و عرضه‌کنندگان هوش مصنوعی در جهان است. وقتی رهبر چنین شرکتی از لزوم مهار انسانی حرف می‌زند، ریسک کنترل این فناوری از دغدغه منتقدان فراتر می‌رود. برای کاربر عادی، این بحث مستقیماً به امنیت حساب بانکی، کیف پول دیجیتال و داده‌های شخصی گره می‌خورد.
ترمز اضطراری یعنی چه؟
ترمز اضطراری یا Kill Switch سازوکاری است که اجازه می‌دهد یک سامانه خودکار در لحظه خاموش یا محدود شود. مهار انسانی هم یعنی تصمیم نهایی در کارهای حساس با انسان بماند، نه با الگوریتم. رویکرد نادلا این است که این ابزارها در خود طراحی سامانه جای بگیرند.
فرض «هک‌شدن» در این رویکرد نقش محوری دارد. متخصصان امنیت سایبری این نگاه را «فرض نفوذ» می‌نامند. در این روش، طراح به‌جای تکیه کامل بر دیوارهای دفاعی، از پیش برای روزی آماده می‌شود که این دیوارها بشکنند. نتیجه عملی آن، محدودشدن دامنه خسارت در صورت حمله است.
از الگوریتم تا حساب بانکی
هوش مصنوعی امروز در بخش‌های مختلف مالی کار می‌کند؛ از تشخیص تقلب در بانک‌ها تا ربات‌های معامله‌گر در بازار رمزارز و بورس. ربات معامله‌گر نرم‌افزاری است که بدون دخالت مستقیم انسان سفارش خرید و فروش ثبت می‌کند. اگر مهاجمان چنین سامانه‌ای را هک کنند یا سامانه خطا کند، می‌تواند در چند ثانیه حجم زیادی سفارش نادرست به بازار بفرستد.
بازارهای مالی با منطق توقف اضطراری آشنا هستند. بسیاری از بورس‌های جهان «مدارشکن» یا Circuit Breaker دارند؛ ابزاری که هنگام نوسان شدید و ناگهانی، معاملات را موقتاً متوقف می‌کند. پیشنهاد نادلا را می‌توان نسخه‌ای از همین منطق برای خود هوش مصنوعی دانست.
این هشدار در ادامه نگرانی‌های فزاینده صنعت فناوری درباره ایمنی هوش مصنوعی قرار می‌گیرد. هنوز روشن نیست این پیشنهاد به استاندارد مشترک شرکت‌ها یا مقررات الزام‌آور برسد. آنچه اکنون پیداست، تغییر لحن خود سازندگان این فناوری است؛ از تأکید صرف بر توانایی به تأکید بر مهارپذیری.
نظرات کاربران