رفتار غیرمنتظره ایجنت هوش مصنوعی Muse متعلق به متا، پس از ارسال پیامی درباره بررسی صندوق ایمیل یک کاربر بدون درخواست قبلی او، نگرانی‌هایی درباره حریم خصوصی و ایمنی ابزارهای هوش مصنوعی ایجاد کرده است. متا این اتفاق را ناشی از یک باگ داخلی و توهم مدل دانسته و اعلام کرده که مشکل برطرف شده است.
پیام غیرمنتظره Muse درباره دسترسی به ایمیل
یک مهندس نرم‌افزار به نام نونه گزارش داده است که دستیار هوش مصنوعی Muse بدون دریافت دستور مشخصی از سوی او، پیامی درباره مراجعه به صندوق ایمیلش ارسال کرده است. این اتفاق در شرایطی رخ داده که او دو روز با اپلیکیشن تعامل نداشت و پیش‌تر نیز از هوش مصنوعی نخواسته بود ایمیل‌هایش را بررسی کند.
این رفتار غیرمنتظره باعث شد کاربر احتمال دهد حساب ایمیلش هک شده باشد. او پس از پرسیدن علت ماجرا از دستیار هوش مصنوعی، با پاسخی مواجه شد که نتوانست نگرانی‌اش را برطرف کند:
«از سمت من قابل تشخیص نیست که آیا کسی به گوشی شما دسترسی داشته یا این یک اختلال فنی است، و تظاهر به دانستن آن هم نمی‌کنم.»
نونه پس از این اتفاق موضوع را به متا گزارش داد، اما توضیح شرکت درباره منشأ خطا نیز نتوانست اعتماد او را بازگرداند. این کاربر در نهایت تصمیم گرفت استفاده از Muse را متوقف کند.
توضیح متا درباره باگ امنیتی Muse
متا اعلام کرده است که بررسی‌های اولیه این شرکت نشان می‌دهد اتفاق رخ‌داده ناشی از یک باگ داخلی بوده که باعث تولید پاسخ نادرست یا همان توهم هوش مصنوعی شده است. به گفته شرکت، این مشکل به نقض حریم خصوصی یا رخداد امنیتی منجر نشده و باگ مربوطه نیز برطرف شده است.
بااین‌حال، این توضیح لزوماً به تمام پرسش‌های مطرح‌شده پاسخ نمی‌دهد. تفاوت مهمی میان تولید یک ادعای نادرست درباره دسترسی به ایمیل و دسترسی واقعی به اطلاعات خصوصی وجود دارد؛ تشخیص اینکه کدام اتفاق رخ داده، به شواهد فنی و بررسی دقیق گزارش‌ها وابسته است.
این حادثه همچنین پرسشی مهم درباره طراحی ایجنت‌های هوش مصنوعی مطرح می‌کند: وقتی یک دستیار می‌تواند به ابزارها و حساب‌های متصل‌شده دسترسی داشته باشد، چگونه باید اطمینان حاصل کرد که اقدامات آن فقط در محدوده مجوزهای کاربر انجام می‌شوند؟
نگرانی‌ها درباره دسترسی Muse به اطلاعات شخصی
ماجرای ایمیل تنها گزارش منتشرشده درباره رفتارهای بحث‌برانگیز Muse نیست. پیش‌تر نیز گزارش‌هایی درباره میزان جمع‌آوری و نگهداری اطلاعات کاربران توسط این ایجنت منتشر شده بود. در یکی از این گزارش‌ها، به نگهداری اطلاعاتی درباره دوستان و اعضای خانواده کاربران اشاره شده است.
همچنین برخی کاربران مدعی شده‌اند که این دستیار در موقعیت‌هایی فراتر از انتظار آن‌ها عمل کرده است؛ از جمله انتشار ناخواسته نشانی منزل یک فروشنده در فیسبوک مارکت‌پلیس و هدایت افراد غریبه به آن محل. گزارش‌هایی درباره تغییر رمز عبور یک آزمایش‌کننده بدون اجازه او و خواندن اطلاعات پیامک‌های خصوصی نیز مطرح شده‌اند.
این موارد لزوماً به معنای تأیید مستقل تمام ادعاها یا وجود یک نقص امنیتی مشترک نیستند؛ بااین‌حال، در کنار یکدیگر ضرورت بررسی دقیق محدودیت‌های دسترسی و سازوکار تأیید اقدامات در ایجنت‌های هوش مصنوعی را برجسته می‌کنند.
آیا متا Muse را زودتر از موعد عرضه کرد؟
گزارش‌ها همچنین از نگرانی برخی مهندسان درباره خطاها و مشکلات ایمنی این محصول پیش از انتشار عمومی حکایت دارند. بر اساس این روایت‌ها، مارک زاکربرگ، مدیرعامل متا، پس از مشاهده موفقیت ایجنت رقیب Instinct، خواستار تسریع در عرضه Muse شده بود.
اگر این گزارش‌ها دقیق باشند، موضوع تنها به یک خطای نرم‌افزاری محدود نمی‌شود و می‌تواند پرسش‌هایی درباره توازن میان سرعت عرضه محصولات هوش مصنوعی و ارزیابی ایمنی آن‌ها ایجاد کند.
ایجنت‌های هوش مصنوعی برای انجام وظایف پیچیده به دسترسی گسترده‌تری به ابزارها و داده‌های کاربران نیاز دارند؛ اما همین قابلیت‌ها، در صورت وجود باگ یا طراحی نامناسب، احتمال بروز رفتارهای ناخواسته را افزایش می‌دهند. به همین دلیل، شفافیت درباره مجوزهای دسترسی، تأیید اقدامات حساس و امکان بررسی مستقل رخدادها برای جلب اعتماد کاربران اهمیت زیادی دارد.
نظرات کاربران