بانک‌های بزرگ نگران‌اند که عامل‌های هوش مصنوعی خطر کلاه‌برداری را افزایش دهند

دستیارهای هوشمند ممکن است پول کاربران را در کلاه‌برداری‌ها به باد دهند؛ مؤسسات مالی اکنون خواستار تدابیر پیشگیرانه هستند.

درحالی‌که طرفداران سرسخت هوش مصنوعی، بیشتر نگران سناریوهای آخرالزمانی و نابودی جهان به‌دست این فناوری هستند، برخی از مؤسسات مالی بزرگ، زنگ خطر را درباره یک نگرانی ملموس‌تر و واقع‌بینانه‌تر به صدا درآورده‌اند: کلاه‌برداری!

روز سه‌شنبه، کنسرسیومی از بانک‌های بزرگ جهانی با انتشار یک مرام‌نامه، نگرانی‌های خود را پیرامون نقش دستیارهای هوش مصنوعی در حوزه تجارت شرح داد. این سند همچنین اصولی را به‌تفصیل بیان می‌کند که بانک‌ها انتظار دارند شرکت‌های هوش مصنوعی در ادامه مسیر توسعه این فناوری، به آن‌ها پایبند باشند.

به‌طور مشخص، بانک‌ها نگران‌اند که عامل‌های هوش مصنوعی (که اختیار دارند از سوی مشتریان اقدام به خرید و پرداخت کنند)، پول کاربران را در دام کلاه‌برداری‌ها از دست بدهند و به‌نوبه خود، به فروشندگان نیز آسیب برسانند.

در مقدمه این سند آمده است:

ما به‌عنوان نهادهای مالی که تحت نظارت‌های شدید قانونی قرار داریم، هم‌زمان با ظهور فناوری‌های نوظهور، بر مدیریت مؤثر ریسک متمرکز هستیم. هنوز برای مصرف‌کنندگان مشخص نیست که آیا عامل‌های هوش مصنوعی واقعا در راستای منافع آن‌ها عمل خواهند کرد یا خیر.

این سند در ادامه می‌افزاید:

نگرانی اصلی این است که عامل‌های هوش مصنوعی ممکن است کالای اشتباهی بخرند، بیش‌ازحد پول خرج کنند، یا از آن بدتر، پول کاربر را در کلاه‌برداری‌ها به باد دهند. مشتریان مطمئن نیستند که در این فرایند محافظت می‌شوند یا در صورت بروز خطا، باید به چه کسی مراجعه کنند.

این مرام‌نامه با عنوان «ایجاد اعتماد در تجارت عامل‌محور»، توسط مؤسسات نام‌آشنایی نظیر بنک آو امریکا، کپیتال وان، ای‌اس‌بی بانک، بانک مشترک‌المنافع استرالیا، گروه آی‌ان‌جی و گروه نت‌وست منتشر شده است.

در بخش دیگری از این سند می‌خوانیم:

تجارت عامل‌محور، خطرات امنیتی جدیدی را به همراه می‌آورد و پتانسیل کلاه‌برداری و اختلافات مالی را افزایش می‌دهد. ممکن است در مورد اینکه چه محصول یا خدماتی باید ارائه شود، زمان و نحوه ارائه آن چگونه باشد و یا اینکه چه کسی در صورت تجاوز هوش مصنوعی از اختیاراتش پاسخگو خواهد بود، تناقض‌هایی میان مصرف‌کنندگان، هوش مصنوعی و فروشندگان به وجود آید.

برخی از ارائه‌دهندگان ممکن است به رویه‌های ناایمن روی بیاورند؛ از جمله درخواست اطلاعات کارت بانکی مصرف‌کننده و وارد کردن مستقیم آن در وب‌سایت‌ها، اولویت دادن به روش‌های پرداخت ناامن و عدم رعایت استانداردهای پردازش پرداخت. عوامل مخرب نیز ممکن است روش‌های حمله جدیدی را امتحان کنند؛ از جمله نفوذ به عامل‌های هوش مصنوعی و جعل هویت آن‌ها و همچنین اجرای اَشکال پیچیده‌تری از مهندسی اجتماعی.

این گروه‌های مالی همچنین نگرانی خود را نسبت به صاحبان کسب‌وکار ابراز کردند؛ چراکه ظهور چت‌بات‌های خرید، احتمالا موجب افزایش شکایات، اختلافات مربوط به کارت‌های اعتباری و پرونده‌های استرداد وجه خواهد شد.

این سند پنج اصل اساسی را برای پیروی صنعت هوش مصنوعی ترسیم می‌کند: شفافیت، ایمنی، حریم خصوصی و حفاظت از داده‌ها، حق انتخاب و تعامل‌پذیری.

برای مثال، این مؤسسات مالی معتقدند که توسعه‌دهندگان هوش مصنوعی باید ایمنی و رضایت مصرف‌کننده و فروشنده را در زمینه حریم خصوصی کاربران در اولویت قرار دهند. بانک‌ها همچنین از این شرکت‌ها می‌خواهند که به حق انتخاب مصرف‌کنندگان در بازار احترام بگذارند و با ایجاد محدودیت، آن‌ها را گرفتار انحصار نکنند.

زمان‌بندی انتشار این سند نیز در نوع خود جالب‌توجه بود؛ این مرام‌نامه کمتر از ۲۴ ساعت پس از گزارش کشف یک آسیب‌پذیری خطرناک (از نوع روز صفر) در دستیار هوشمند شرکت متا، موسوم به میوز، منتشر شد. همچنین، انتشار این سند تنها چند ساعت پس از آن رخ داد که شرکت آمازون رسما اعلام کرد دسترسی دستیار میوز را برای انجام خرید در پلتفرم خود مسدود خواهد کرد.