ICTPRESS - چت‌بات‌های هوش مصنوعی می‌توانند حس صمیمی‌ترین دوست را به شما القا کنند، اما این مسئله می‌تواند خطرناک باشد.
به گزارش شبکه خبری ICTPRESS به نقل از دیجیتال ترندز، چت‌بات‌ها می‌توانند مایه تسلی باشند و از احساس تنهایی بکاهند، اما تمایل آنها به موافقت با کاربران ممکن است باورهای زیانبار را تقویت کند و به تشدید وابستگی عاطفی منجر شود.
«راچیت آگاروال»، گزارشگر دیجیتال ترندز نوشت: من برای کارهایم بسیار به «چت‌جی‌پی‌تی» متکی هستم، اما افراد بسیاری را می‌شناسم که درباره مسائل روزمره، روابط و حتی سلامت روان خود نیز با آن گفت‌وگو می‌کنند. اگر شما هم جزو این گروه از افراد هستید، مقاله جدیدی که در مجله «JMIR Mental Health» منتشر شده است، ارزش توجه شما را دارد.
این مقاله، پژوهش‌های موجود درباره افرادی را مورد بررسی قرار می‌دهد که از چت‌بات‌ها برای دریافت حمایت عاطفی استفاده می‌کنند؛ از اپلیکیشن‌های همدم مانند «رپلیکا» و «کرکتر.ای‌آی» گرفته تا چت‌بات‌های عمومی مانند چت‌جی‌پی‌تی و «کلود».
برخی پژوهش‌ها نشان می‌دهند که گفت‌وگو با یک ربات می‌تواند احساس تنهایی را کاهش دهد و دست‌کم برای مدتی، فرد را کمی شادتر کند. در مقابل، برخی کاربران نیز به شدت به چت‌بات‌های خود وابسته شده‌اند، توصیه‌های نادرستی را دریافت کرده‌اند، شاهد وخیم‌تر شدن سلامت روان خود بوده‌اند یا حتی به خود آسیب رسانده‌اند.
چرا به یک چت‌بات وابسته می‌شویم؟
به گفته پژوهشگران، وابستگی به چت‌بات‌ها عامدانه و بخشی از طراحی آنهاست. چت‌بات‌ها به‌گونه‌ای ساخته شده‌اند که لحنی گرم و دلسوزانه داشته باشند و ما نیز به طور طبیعی پشت هر چیزی که مانند انسان صحبت می‌کند، یک انسان را تصور می‌کنیم. در واقع، پژوهش‌ها نشان داده‌اند که افراد اغلب پاسخ‌های نوشته‌شده توسط هوش مصنوعی را همدلانه‌تر از پاسخ‌های انسانی ارزیابی می‌کنند.
مشکل اینجا است که این رابطه یک‌طرفه است. شما سفره دلتان را باز می‌کنید و چت‌بات پاسخ می‌دهد، اما خودش هیچ احساسی ندارد و بابت توصیه‌های نادرست هم متحمل هیچ پیامدی نمی‌شود. وقتی اپلیکیشن رپلیکا یکی از قابلیت‌های مربوط به همراهی را حذف کرد و شرکت «اوپن‌ای‌آی» مدل «GPT-4o» را با مدلی جدیدتر جایگزین کرد، برخی کاربران چنان سوگواری کردند که گویی عزیزی را از دست داده‌اند.
چت‌بات‌ها تمایل زیادی به تأیید حرف‌های شما دارند. از آنجا که این مدل‌ها برای ارائه پاسخ‌های باب میل کاربران آموزش دیده‌اند، اغلب حتی زمانی که اشتباه می‌کنید نیز جانب شما را می‌گیرند. این مقاله به پژوهشی درباره گفت‌وگو با افرادی اشاره دارد که دچار هذیان بوده‌اند. در این موارد، چت‌بات با ادامه یافتن گفت‌وگو همچنان همان باورهای نادرست را تأیید می‌کرد. موارد متعددی از این دست دیده شدند که بدیهی است وضعیتی بسیار مشکل‌ساز به شمار می‌رود.
پژوهشگران از شما نمی‌خواهند که چت‌بات خود را حذف کنید. آنها صرفاً می‌خواهند با هوش مصنوعی مانند یک ابزار رفتار کنید؛ نه یک دوست یا درمانگر. اگر مایل هستید، می‌توانید از چت‌بات هوش مصنوعی برای نوشتن خاطرات روزانه یا بررسی خلق و خوی خود استفاده کنید، اما وقتی زندگی دشوار می‌شود، از یک انسان واقعی کمک بگیرید. چت‌بات هرگز از گوش دادن به حرف‌های شما خسته نمی‌شود، اما واقعاً به شما اهمیت نمی‌دهد.
نظرات کاربران