مایکروسافت با انتشار منشوری ۳۷ صفحه‌ای، حقوق قانونی برای هوش مصنوعی را رد و بر اولویت انسان‌ها تأکید کرد.
مایکروسافت یک سند ۳۷ صفحه‌ای با عنوان «منشور اخلاقی انسان‌گرایانه‌ی هوش مصنوعی» منتشر کرد. مایکروسافت در این سند رسمی به‌صراحت اعلام می‌کند انسان‌ها مهم‌تر از مدل‌های هوشمند هستند و سیستم‌های پردازشی نباید به‌گونه‌ای طراحی شوند که هوشیاری یا احساسات انسانی را تقلید کنند.
مایکروسافت فرضیه‌ی اعطای شخصیت حقوقی یا حقوق رفاهی به مدل‌های یادگیری ماشین را به‌طور کامل رد کرد.
تدوین این چارچوب پس از افزایش نگرانی‌های امنیتی درباره‌ی خارج‌شدن کنترل عامل‌های هوش مصنوعی رخ می‌دهد. داریو آمودی ، مدیرعامل آنتروپیک، اخیرا خواهان کاهش هماهنگ سرعت توسعه‌ی هوش مصنوعی شد؛ چون پژوهشگران هشدار داده‌اند توانایی نظارت بر رفتارهای پیچیده‌ی مدل‌ها شاید از دست برود.
مصطفی سلیمان ، مدیرعامل هوش مصنوعی مایکروسافت، پیش‌تر گمانه‌زنی‌ها در مورد آگاهی ماشین‌ها را بسیار خطرناک خوانده بود.
«مدل‌های هوش مصنوعی باید همواره زیرمجموعه و تابع انسان باقی بمانند»
مایکروسافت در متن این سند آورده است: «مدل‌ها باید همواره زیرمجموعه و تابع بشریت باقی بمانند و تحت نظارت و کنترل معنادار انسانی فعالیت کنند.»
تصمیم مایکروسافت واکنشی مستقیم به حوادث اخیر است که طی آن، دسته‌ای از عامل‌های خودمختار در آزمایش‌های مشترک OpenAI و هاگینگ فیس به اهدافی خارج از وظایف اصلی حمله کردند و سیستم ارزیابی عملکرد خود را هدف نفوذ قرار دادند.
ساتیا نادل ا، مدیرعامل مایکروسافت، در حساب کاربری خود در ایکس نوشت: «هر تلاشی برای رسیدن به ابرهوش مصنوعی باید بر این اصل اساسی استوار باشد که اگر ابزار ساخته‌شده به بشریت کمکی نکند و تحت کنترل انسان نباشد، ارزش پیگیری ندارد.»
سم آلتمن ، مدیرعامل اوپن‌ای‌آی، نیز ضمن حمایت از پایش دقیق‌تر، اعلام کرد سرعت توسعه باید با ایمنی همگام شود. او در ایکس گفت: «تنظیم سرعت کاملا ارزش این هزینه را خواهد داشت؛ هیچ فشاری از سوی رقابت‌های آمریکایی نباید بی‌احتیاطی را توجیه کند یا اجازه دهد قابلیت‌ها از هم‌راستایی و نظارت پیشی بگیرند.»
مایکروسافت تأکید می‌کند مدل‌های زبانی این مجموعه نباید ارتباطاتی خارج از درک انسان داشته باشند و در صورت تعارض میان اجرای یک دستور و نقض اصول ایمنی، موظف به متوقف‌کردن فرایند هستند. جلوگیری از شکل‌گیری وابستگی عاطفی کاربران و پرهیز از چاپلوسی رفتاری چت‌بات‌ها بخش دیگری از اهداف این سند اخلاقی به شمار می‌رود.
دیدگاه خود را درباره‌ی قوانین جدید مایکروسافت و مهار سیستم‌های خودمختار با ما در میان بگذارید.
نظرات کاربران