دیجیاتو digiato مهر ۶, ۱۴۰۵ 1 5
تنها چند روز از معرفی دستیار هوشمند و ایجنت جدید متا با نام میوز (Muse) می‌گذرد، و گزارش‌های جدید کاربران نشان داده که واگذاری تصمیم‌گیری‌های حساس دنیای واقعی به ایجنت‌های هوش مصنوعی می‌تواند تا چه اندازه نگران‌کننده باشد.
خریدار پس از دریافت آدرس، به مجتمع مسکونی راب مراجعه کرده و برای تحویل کالا منتظر مانده است. طبق گفته راب، او زمانی متوجه این اتفاق شده که خریدار محل را ترک کرده بود و هوش مصنوعی با ارسال پیامی به او اطلاع داد که چه رویدادی رخ داده است. راب در پی این حادثه، به دستیار هوشمند خود دستور داده است که از این پس هرگز بدون دریافت تأییدیه مستقیم، با مراجعه حضوری خریداران موافقت نکند. کارشناسان اشاره می‌کنند که برون‌سپاری پاسخ به پیام‌های تکراری یا چانه‌زنی در بازه قیمتی تعیین‌شده امری کاربردی است، اما اشتراک‌گذاری آدرس منزل و دعوت از یک فرد غریبه، مسئولیتی فراتر از اختیارات معمول یک ابزار هوشمند به شمار می‌رود.
خطرات واگذاری تصمیم‌گیری‌های دنیای واقعی به هوش مصنوعی میوز متا
انتشار این ماجرا در پلتفرم ایکس واکنش‌های گسترده‌ای به همراه داشت؛ تا جایی که برخی کاربران رفتار این ابزار را «خطرناک و ترسناک» توصیف و دسترسی آن را قطع کرده‌اند. «دیوید سینگلتون» از بخش آزمایشگاه‌های ابرهوش‌مصنوعی متا در پاسخ به گزارش راب در شبکه ایکس اعلام کرد که برای بررسی دقیق این موضوع به‌صورت خصوصی با وی ارتباط برقرار کرده است. به گفته سینگلتون، بررسی گزارش‌های مشابه پیشین نشان داده است که ابزار مذکور همواره از دستورات مستقیم تبعیت کرده و برای اقدامات خود تأییدیه کاربر را جویا شده است، هرچند تحقیقات رسمی درباره مورد اخیر کماکان در جریان است.
در‌حال‌حاضر مشخص نیست که آیا خطایی در تفسیر دسترسی‌ها از سوی این مدل رخ داده یا کاربر بدون آگاهی، مجوز انجام این فرایند را صادر کرده است. از آنجایی که ایجنت‌های پیشرفته نظیر میوز، ChatGPT و Claude روزبه‌روز اختیارات اجرایی بیشتری در اپلیکیشن‌ها و خدمات مختلف به دست می‌آورند، این رخداد هشداری جدی است که نشان می‌دهد کاربران نباید برای تصمیم‌های حساس و تعاملات فیزیکی، اعتماد بی‌چون‌وچرا به ایجنت‌ها داشته باشند.
نظرات کاربران