دستیارهای هوش مصنوعی ممکن است پول کاربران را به کلاه‌برداران بسپارند

به گزارش شبکه اطلاع‌رسانی طلا و ارز، چند مؤسسه مالی بزرگ درباره خطری تازه در دنیای هوش مصنوعی هشدار داده‌اند. نگرانی آن‌ها به «عامل‌های هوش مصنوعی» مربوط است. این عامل‌ها نرم‌افزارهایی هستند که فقط پاسخ نمی‌دهند، بلکه از طرف کاربر کار انجام می‌دهند؛ مثلاً خرید می‌کنند، قبض می‌پردازند یا پول منتقل می‌کنند.

اهمیت این هشدار در زمان آن است. شرکت‌های فناوری این روزها با سرعت، دستیارهایی با دسترسی مستقیم به حساب و کیف پول کاربران عرضه می‌کنند. اگر کلاه‌بردار بتواند چنین دستیاری را فریب دهد، پول کاربر بدون دخالت مستقیم خود او از حساب خارج می‌شود. پیامد این وضعیت برای هر کسی که پرداخت‌هایش را به ابزار هوشمند می‌سپارد، ملموس است.

از نگرانی آخرالزمانی تا خطر روزمره

بخش بزرگی از بحث عمومی درباره هوش مصنوعی، حول سناریوهای دور و آخرالزمانی می‌چرخد. برخی از طرفداران این فناوری بیش‌تر نگران آن هستند که هوش مصنوعی روزی از کنترل انسان خارج شود. اما بانک‌ها توجه را به خطری نزدیک‌تر برده‌اند: از دست رفتن پول واقعی در معاملات روزمره.

تفاوت این دو نگرانی در فاصله آن‌ها با زندگی مردم است. سناریوی نخست هنوز فرضی است. اما کلاه‌برداری مالی همین حالا رخ می‌دهد و عامل‌های هوش مصنوعی می‌توانند دامنه آن را گسترده‌تر کنند.

چرا دستیار هوشمند فریب می‌خورد؟

دستیار هوش مصنوعی بر پایه دستورها و اطلاعاتی که دریافت می‌کند تصمیم می‌گیرد. کلاه‌بردار می‌تواند با یک پیام، یک صفحه وب جعلی یا یک فاکتور ساختگی، دستیار را به پرداخت اشتباه هدایت کند. دستیار برخلاف انسان، نشانه‌های مشکوک رفتاری را همیشه تشخیص نمی‌دهد. در نتیجه یک خطای کوچک ممکن است بدون توقف به انتقال پول ختم شود.

مسئله دیگر، تعیین مسئولیت است. اگر دستیار هوشمند پول کاربر را به حساب کلاه‌بردار بفرستد، هنوز روشن نیست بانک، سازنده نرم‌افزار یا خود کاربر پاسخ‌گو باشد. همین ابهام یکی از دلایل اصلی درخواست مؤسسات مالی برای تدابیر پیشگیرانه است؛ یعنی قواعد و ابزارهایی که پیش از وقوع خسارت، جلوی آن را بگیرند.

برای کاربران ایرانی نیز این بحث بی‌ارتباط نیست. استفاده از کیف پول‌های دیجیتال، صرافی‌های رمزارز و ابزارهای پرداخت خودکار رو به گسترش است. داده‌ها از منبع خبر نشان نمی‌دهد این مؤسسات دقیقاً چه راهکاری پیشنهاد کرده‌اند؛ اما جهت کلی روشن است: هرچه اختیار مالی بیش‌تری به ماشین سپرده شود، اهمیت کنترل انسانی و تأیید تراکنش‌ها بیش‌تر می‌شود.