رئیس مایکروسافت: هوش مصنوعی از شیر و ماشین لباسشویی هم کمتر قانون‌گذاری شده است

در حالی که بحث درباره امنیت و نظارت بر هوش مصنوعی به یکی از مهم‌ترین موضوعات صنعت فناوری تبدیل شده، برد اسمیت، رئیس مایکروسافت، معتقد است وضعیت فعلی قانون‌گذاری این حوزه حتی از برخی محصولات مصرفی روزمره نیز ضعیف‌تر است.

اسمیت در گفت‌وگویی با ITV گفته است سیستم‌های هوش مصنوعی امروزی نسبت به محصولاتی مانند شیر یا ماشین لباسشویی قانون‌گذاری کم‌تری را پشت سر می‌گذارند. به اعتقاد او، دولت‌ها باید چارچوب‌هایی مشابه استانداردهای ایمنی صنایع سنتی برای توسعه و استفاده از هوش مصنوعی تدوین کنند.

او همچنین پیشنهاد داده شرکت‌های فعال در این حوزه به استفاده از «کلید قطع اضطراری» یا Kill Switch مجهز شوند؛ قابلیتی که به اپراتورها اجازه می‌دهد در صورت بروز رفتارهای ناخواسته یا خطرناک، فعالیت یک سیستم هوش مصنوعی را فورا متوقف کنند.

مایکروسافت خواهان کنترل بیشتر مدل‌های هوش مصنوعی است

اظهارات اسمیت در شرایطی مطرح می‌شود که نگرانی‌ها درباره رفتار عامل‌های هوش مصنوعی در حال افزایش است. طی ماه‌های اخیر چندین گزارش درباره خروج برخی عامل‌های هوش مصنوعی از محیط‌های آزمایشی یا تلاش آن‌ها برای دسترسی غیرمجاز به سامانه‌های مختلف منتشر شده است.

در همین راستا، ساتیا نادلا، مدیرعامل مایکروسافت، نیز اخیرا در پیامی مفصل بر لزوم توسعه کنترل‌های سخت‌گیرانه‌تر برای مدل‌های هوش مصنوعی تاکید کرده است. او معتقد است حتی بزرگ‌ترین شرکت‌های فناوری هنوز درک کاملی از سازوکار دقیق مدل‌هایی که توسعه داده‌اند ندارند.

باید سیستم‌هایی بسازیم که رفتار آن‌ها قابل مشاهده باشد، محدودیت‌هایشان قابل آزمایش باشند و بتوانیم همیشه اقدامات آن‌ها را کنترل و مهار کنیم.

مدیرعامل مایکروسافت همچنین از توسعه آهسته‌تر مدل‌های هوش مصنوعی، گزارش‌دهی شفاف رخدادها و انجام ارزیابی‌های مستقل حمایت کرده است.

اختلاف نظر میان رهبران صنعت هوش مصنوعی

مواضع اخیر مایکروسافت این شرکت را به دیدگاه‌های محتاطانه‌تری که در میان برخی بازیگران صنعت وجود دارد نزدیک کرده است. برای مثال داریو آمودی، مدیرعامل انتروپیک، نیز بارها بر ضرورت نظارت بیشتر بر توسعه هوش مصنوعی تاکید کرده است.

در مقابل، برخی چهره‌های مطرح صنعت دیدگاه متفاوتی دارند. سم آلتمن، مدیرعامل OpenAI، اخیرا گفته بود جامعه باید وقوع برخی پیامدهای منفی را به‌عنوان بخشی از روند پیشرفت هوش مصنوعی بپذیرد . از سوی دیگر، مارک زاکربرگ و جنسن هوانگ نیز همچنان با هرگونه کند کردن هماهنگ روند توسعه هوش مصنوعی در سطح صنعت مخالف هستند.

این اظهارات در حالی مطرح می‌شود که دولت آمریکا نیز هنوز رویکرد واحدی درباره قانون‌گذاری هوش مصنوعی اتخاذ نکرده است. در هفته‌های اخیر گروهی از مدیران بزرگ فناوری در نشست‌هایی با دونالد ترامپ درباره آینده مقررات این حوزه گفت‌وگو کرده‌اند. هم‌زمان برخی از بزرگ‌ترین شرکت‌های فعال در حوزه AI نیز متعهد شده‌اند کمیته‌های داخلی نظارتی تشکیل دهند و با نهادهای ممیزی مستقل همکاری کنند.

منتقدان: مشکل از هوش مصنوعی سرکش نیست، از شرکت‌هاست

با وجود نگرانی‌های فزاینده درباره «عامل‌های هوش مصنوعی سرکش»، همه کارشناسان با این روایت موافق نیستند.

تیمنیت گبرو، بنیان‌گذار موسسه Distributed AI Research، معتقد است تمرکز بیش از حد روی سناریوهای آخرالزمانی باعث می‌شود مسئولیت شرکت‌های فناوری در قبال اشتباهات و ضعف‌های امنیتی فعلی کمرنگ شود.

او در مصاحبه‌ای اعلام کرده:

این‌ها نمونه‌هایی از سرکش شدن هوش مصنوعی نیستند؛ بلکه نشانه بی‌کفایتی و سهل‌انگاری شرکت‌هایی هستند که این سیستم‌ها را توسعه داده‌اند.

به اعتقاد گبرو، مدل‌های هوش مصنوعی موجود فاقد اراده مستقل هستند و مسئولیت اصلی خطاها و آسیب‌های احتمالی باید متوجه شرکت‌هایی باشد که این فناوری‌ها را طراحی، آموزش و عرضه می‌کنند.

او هشدار داده است که یکی از خطرات اصلی در سال‌های آینده، شکل‌گیری نوعی «تسلط بر مقررات» از سوی شرکت‌های بزرگ فناوری خواهد بود؛ وضعیتی که در آن همان شرکت‌هایی که از هوش مصنوعی سود می‌برند، نقش تعیین‌کننده‌ای در تدوین قوانین محدودکننده آن نیز ایفا می‌کنند.

در نتیجه، بحث درباره قانون‌گذاری هوش مصنوعی اکنون از یک موضوع فنی فراتر رفته و به یکی از مهم‌ترین اختلاف‌نظرها میان دولت‌ها، شرکت‌های فناوری و منتقدان این صنعت تبدیل شده است.