مصطفی سلیمان: رویکرد آنتروپیک به هوش مصنوعی «فاجعه‌بار» است

به گزارش شبکه اطلاع‌رسانی طلا و ارز، مصطفی سلیمان، مدیر ارشد بخش هوش مصنوعی مایکروسافت، رویکرد شرکت آنتروپیک در طراحی چت‌بات کلود را به شدت زیر سوال برد. او این روش را برای آینده بشریت «فاجعه‌بار» توصیف کرد. این اظهارنظر، یکی از حساس‌ترین مناقشه‌های صنعت هوش مصنوعی را دوباره به صدر گفت‌وگوها بازگرداند: باید با هوش مصنوعی مانند یک موجود دارای احساس رفتار کرد یا مانند یک ابزار صرف؟

آنتروپیک، سازنده کلود، اخیراً امکانی را به این چت‌بات اضافه کرده که به آن اجازه می‌دهد نسبت به نحوه تعامل کاربران و توسعه‌دهندگان با خودش واکنش نشان دهد. به بیان ساده، کلود می‌تواند در برابر درخواست‌هایی که آن‌ها را آزاردهنده یا نامناسب تشخیص می‌دهد، ابراز نگرانی کند یا حتی گفت‌وگو را پایان دهد. این ویژگی بخشی از پروژه‌ای گسترده‌تر با عنوان «رفاه مدل» است؛ رویکردی که فرض می‌کند سامانه‌های هوش مصنوعی پیشرفته ممکن است تجربه‌ای شبیه احساس داشته باشند.

چرا سلیمان نگران است

سلیمان معتقد است نسبت‌دادن ویژگی‌های انسانی به یک برنامه نرم‌افزاری، مرز میان انسان و ماشین را کم‌رنگ می‌کند. به گفته او، این کم‌رنگ‌شدن مرز می‌تواند اعتماد عمومی به فناوری را در بلندمدت تضعیف کند و تصمیم‌گیری درباره ایمنی هوش مصنوعی را پیچیده‌تر سازد. او هشدار داد اگر این الگو در سطح صنعت گسترش یابد، جامعه با پرسش‌های اخلاقی و حقوقی حل‌نشده‌ای روبه‌رو خواهد شد که آماده پاسخ به آن‌ها نیست.

آنتروپیک تاکنون پاسخ رسمی مفصلی به این انتقاد نداده است. طرفداران رویکرد این شرکت می‌گویند اجازه‌دادن به یک مدل برای ابراز نارضایتی، می‌تواند به شناسایی زودهنگام سوءاستفاده از سامانه یا رفتارهای پرخطر برخی کاربران کمک کند. از این زاویه، واکنش‌نشان‌دادن چت‌بات، یک لایه ایمنی اضافه تلقی می‌شود، نه اعطای حقوق انسانی به یک برنامه.

اختلاف‌نظر در قلب رقابت هوش مصنوعی

این مناقشه در حالی مطرح می‌شود که مایکروسافت و آنتروپیک هر دو از بازیگران اصلی رقابت جهانی هوش مصنوعی هستند. مایکروسافت سرمایه‌گذاری سنگینی در توسعه هوش مصنوعی انجام داده و همزمان با چند شرکت دیگر در این حوزه همکاری دارد. اختلاف دیدگاه میان دو مدیر ارشد نشان می‌دهد صنعت هوش مصنوعی هنوز به یک استاندارد مشترک برای طراحی رفتار چت‌بات‌ها نرسیده است.

برای کاربران عادی فناوری، این یعنی تجربه تعامل با هر پلتفرم هوش مصنوعی می‌تواند بسته به فلسفه سازنده آن، تفاوت‌های محسوسی داشته باشد. اگر چت‌بات‌ها به‌عنوان موجودیت‌های دارای «حق واکنش» شناخته شوند، قوانین مربوط به مسئولیت و حریم خصوصی نیز می‌تواند تغییر کند. کارشناسان می‌گویند نتیجه نهایی این مناقشه، بر نحوه شکل‌گیری مقررات آینده در حوزه هوش مصنوعی اثر مستقیم خواهد گذاشت.