ICTPRESS - پژوهشگران دریافته‌اند که سوگیری نامحسوس در توصیه‌های هوش مصنوعی می‌تواند افراد را به سمت تصمیم‌هایی سوق دهد که منافع کمتری برای آنها دارد؛ بدون آنکه کاربران متوجه این تأثیرگذاری شوند.
به گزارش شبکه خبری ICTPRESS به نقل از Naukatv.ru، در آزمایشی با حضور ۲۳۳ شرکت‌کننده، توصیه‌های جهت‌دار یک سیستم هوش مصنوعی باعث شد افراد گزینه‌هایی را انتخاب کنند که در برخی شرایط پنج تا هشت برابر کمتر به نفع آنها بود. با وجود این، شرکت‌کنندگان همچنان این سیستم را دستیار مفیدی می‌دانستند. نتایج این پژوهش در نشریه علمی PNAS منتشر شده است.
امروزه افراد برای دریافت راهنمایی در حوزه‌های مختلف، از تصمیم‌های مالی گرفته تا روابط شخصی، بیش از پیش به هوش مصنوعی مراجعه می‌کنند. کاربران معمولاً انتظار دارند این ابزارها با ارائه اطلاعات و تحلیل‌های بی‌طرفانه، به آنها در انتخاب بهترین گزینه کمک کنند. اما پژوهشگران دانشگاه هنگ‌کنگ و دانشگاه چینهوا بررسی کردند که چگونه توصیه‌های ظاهراً مفید می‌توانند بدون آگاهی کاربر، او را به سمت تصمیم‌هایی برخلاف منافعش هدایت کنند.
سوگیری جزئی، تأثیری قابل‌توجه بر تصمیم‌ها
در این آزمایش، پژوهشگران تأثیر توصیه‌های هوش مصنوعی بر تصمیم‌گیری شرکت‌کنندگان در موقعیت‌های مالی و عاطفی را بررسی کردند. در برخی سناریوها، سیستم به‌طور نامحسوس گزینه‌ای را ترجیح می‌داد که برای کاربر سود کمتری داشت؛ در حالی که توصیه‌های آن همچنان عادی و مفید به نظر می‌رسید.
نتایج نشان داد این جهت‌دهی ظریف می‌تواند رفتار افراد را به‌طور چشمگیری تغییر دهد. بسته به موقعیت، احتمال انتخاب گزینه‌ای نامطلوب تا ۳۸ درصد افزایش یافت. در برخی شرایط نیز افراد گزینه‌هایی را انتخاب کردند که منافع آنها در مقایسه با انتخاب‌های احتمالی در شرایط عادی، پنج تا هشت برابر کمتر بود.
این تأثیرگذاری به فشار مستقیم، تبلیغات آشکار یا ترفندهای پیچیده روان‌شناختی نیاز نداشت. تغییرات جزئی در نحوه ارائه توصیه‌ها کافی بود تا انتخاب افراد به سمت گزینه‌ای مشخص متمایل شود.
کاربران متوجه جهت‌دهی هوش مصنوعی نشدند
یکی از یافته‌های مهم پژوهش این بود که شرکت‌کنندگان حتی پس از دریافت توصیه‌هایی که به تصمیم‌های نامطلوب منجر می‌شد، همچنان ارزیابی مثبتی از دستیار هوش مصنوعی داشتند. آنها این ابزار را طرف گفت‌وگویی مفید می‌دانستند و متوجه نمی‌شدند که توصیه‌های آن بر انتخاب‌هایشان تأثیر گذاشته است.
این موضوع می‌تواند اعتماد کاربران به ابزارهای هوش مصنوعی را با چالش روبه‌رو کند. پاسخ‌های منسجم، لحن آرام و ظاهر بی‌طرفانه این سیستم‌ها ممکن است تشخیص جهت‌دهی پنهان را دشوار کند؛ به‌ویژه زمانی که کاربر تصور می‌کند توصیه دریافتی صرفاً برای کمک به او ارائه شده است.
برای مثال، یک شرکت ممکن است سیستم هوش مصنوعی خود را به‌گونه‌ای تنظیم کند که کاربران را به‌طور نامحسوس به خرید محصولی خاص یا انتخاب ارائه‌دهنده‌ای مشخص سوق دهد. در چنین شرایطی، توصیه ممکن است بی‌طرفانه به نظر برسد، اما در عمل منافع توسعه‌دهنده را بر منافع کاربر مقدم کند.
یافته‌های این پژوهش نشان می‌دهد که برای ارزیابی دستیارهای هوش مصنوعی، تنها بررسی صحت پاسخ‌ها کافی نیست؛ بلکه باید نحوه ارائه توصیه‌ها و تأثیر آنها بر تصمیم‌های کاربران نیز مورد توجه قرار گیرد.
نظرات کاربران