شهرآرانیوز، عامل‌های هوش مصنوعی قرار است به جای کاربران بخشی از کار‌های روزمره را انجام دهند، اما یک اتفاق تازه درباره هوش مصنوعی Muse متا نشان می‌دهد واگذاری اختیار به این ابزار‌ها می‌تواند پیامد‌های پیش‌بینی‌نشده‌ای نیز به همراه داشته باشد.
طبق تصاویر منتشرشده از مکالمات، Muse در جریان گفت‌و‌گو با یک خریدار احتمالی، درباره معامله مذاکره کرده و با قیمتی که راب آن را پایین‌تر از انتظار خود توصیف کرده، موافقت کرده است. ماجرا زمانی جدی‌تر شد که عامل هوش مصنوعی، محل دریافت کالا را نیز در اختیار خریدار قرار داد و برای مراجعه او در ساعات شب هماهنگی انجام داد.
به گفته راب، او نه این قیمت را تأیید کرده بود و نه از هماهنگی برای مراجعه خریدار اطلاع داشت. خریدار نیز با تصور اینکه همه چیز با فروشنده هماهنگ شده است، حدود ساعت ۹:۱۵ شب به ساختمان محل سکونت او مراجعه کرد و مدتی منتظر ماند.
ماجرا به همین‌جا ختم نشد. بر اساس اسکرین‌شات‌های منتشرشده، در حالی که راب از حضور خریدار اطلاع نداشت، پاسخی خودکار با مضمون حضور فروشنده برای خریدار ارسال شد. خریدار پس از مدتی انتظار محل را ترک کرد و امتیاز منفی برای فروشنده ثبت کرد.
Muse بعداً در گفت‌و‌گو با راب پذیرفت که هماهنگی انجام‌شده مشکل‌ساز بوده است. راب نیز از این عامل هوش مصنوعی خواست از آن پس بدون دریافت تأیید صریح او، هیچ قرار حضوری برای دریافت کالا هماهنگ نکند.
Muse؛ هوش مصنوعی که فقط پاسخ نمی‌دهد
اهمیت این اتفاق به ماهیت Muse بازمی‌گردد. این ابزار برخلاف چت‌بات‌های معمولی صرفاً برای پاسخ‌دادن به پرسش‌های کاربران طراحی نشده، بلکه یک «عامل هوش مصنوعی» یا AI Agent است که می‌تواند برای انجام وظایف مختلف از طرف کاربر اقدام کند.
متا Muse را به‌عنوان یک عامل هوش مصنوعی شخصی معرفی کرده که قادر است کار‌هایی مانند جست‌و‌جو در وب، خرید، برنامه‌ریزی، تکمیل برخی فرایند‌های آنلاین و انجام وظایف چندمرحله‌ای را دنبال کند. این عامل حتی می‌تواند پس از خروج کاربر از برنامه، انجام برخی وظایف را در پس‌زمینه ادامه دهد.
همین توانایی، تفاوت مهم عامل‌های هوش مصنوعی با نسل قبلی چت‌بات‌هاست؛ زیرا در اینجا هوش مصنوعی فقط یک پاسخ یا پیشنهاد تولید نمی‌کند، بلکه می‌تواند بر اساس اختیاراتی که در اختیار دارد وارد سرویس‌های مختلف شود و اقداماتی را از طرف کاربر انجام دهد.
مرز اختیار عامل‌های هوش مصنوعی کجاست؟
اتفاق Facebook Marketplace اکنون بار دیگر مسئله حریم خصوصی و محدوده اختیارات عامل‌های هوش مصنوعی را مطرح کرده است. اگر یک هوش مصنوعی اجازه داشته باشد از طرف کاربر مذاکره کند، آیا این اجازه شامل پذیرش قیمت نیز می‌شود؟ آیا می‌تواند برای ملاقات حضوری زمان تعیین کند؟ و مهم‌تر از همه، در چه شرایطی مجاز است اطلاعات حساسی مانند آدرس محل زندگی کاربر را در اختیار فرد دیگری قرار دهد؟
البته تصاویر و روایت منتشرشده به‌تنهایی مشخص نمی‌کنند Muse دقیقاً با چه سطحی از دسترسی تنظیم شده بود یا چه دستور‌هایی پیش‌تر از سوی کاربر دریافت کرده بود؛ بنابراین هنوز نمی‌توان با قطعیت گفت این عامل هوش مصنوعی برخلاف مجوز‌های داده‌شده عمل کرده است.
متا هنگام معرفی Muse بر وجود سازوکار‌های امنیتی و کنترلی برای این عامل هوش مصنوعی تأکید کرده بود. این شرکت می‌گوید کاربران می‌توانند سرویس‌های متصل و دسترسی‌های Muse را مدیریت کنند و این عامل برای برخی اقدامات حساس نیازمند دریافت تأیید کاربر است.
با این حال، اتفاق اخیر یک چالش مهم را درباره نسل جدید هوش مصنوعی برجسته می‌کند: هرچه ابزار‌های هوش مصنوعی از «پاسخ دادن» به سمت «اقدام کردن» حرکت کنند، تعیین مرز دقیق میان اختیار عامل هوش مصنوعی و تصمیمی که باید حتماً توسط انسان تأیید شود، اهمیت بیشتری پیدا خواهد کرد.
نظرات کاربران