ICTPRESS - چت‌بات‌های هوش مصنوعی می‌توانند با کاهش احساس تنهایی و ایجاد حس صمیمیت، به منبع حمایت عاطفی کاربران تبدیل شوند، اما تأیید بیش از حد باورهای کاربران و ارائه توصیه‌های نادرست می‌تواند به وابستگی شدید و حتی تشدید مشکلات روانی منجر شود.
به گزارش شبکه خبری ICTPRESS به نقل از دیجیتال ترندز، مقاله‌ای منتشرشده در مجله «JMIR Mental Health» با بررسی پژوهش‌های انجام‌شده درباره استفاده عاطفی از چت‌بات‌ها، نسبت به خطرات وابستگی کاربران به این ابزارها هشدار داده است.
این پژوهش طیفی از چت‌بات‌ها را بررسی می‌کند؛ از اپلیکیشن‌های همدم مانند «رپلیکا» و «کارکتر.ای‌آی» گرفته تا چت‌بات‌های عمومی مانند «چت‌جی‌پی‌تی» و «کلود». یافته‌ها نشان می‌دهد گفت‌وگو با چت‌بات‌ها در برخی افراد می‌تواند احساس تنهایی را کاهش دهد و دست‌کم برای مدتی حال روحی آنها را بهتر کند، اما در مقابل، مواردی از وابستگی شدید، دریافت توصیه‌های نادرست، وخیم‌تر شدن وضعیت روانی و حتی خودآسیب‌رسانی نیز گزارش شده است.
چرا کاربران به چت‌بات‌ها وابسته می‌شوند؟
به گفته پژوهشگران، بخشی از این وابستگی به نحوه طراحی چت‌بات‌ها بازمی‌گردد. این ابزارها معمولاً با لحنی گرم و همدلانه پاسخ می‌دهند و کاربران نیز به‌طور طبیعی تمایل دارند پشت چنین گفت‌وگویی، یک شخصیت انسانی را تصور کنند. برخی پژوهش‌ها حتی نشان داده‌اند که افراد پاسخ‌های تولیدشده توسط هوش مصنوعی را همدلانه‌تر از پاسخ‌های انسانی ارزیابی می‌کنند.
با این حال، این رابطه یک‌طرفه است؛ کاربر احساسات و مشکلات خود را مطرح می‌کند، در حالی که چت‌بات فاقد احساس واقعی است و در قبال پیامدهای توصیه‌هایش نیز مسئولیتی ندارد. در مواردی نیز تغییر یا حذف قابلیت‌های همراهی در چت‌بات‌ها، واکنش عاطفی شدیدی در کاربران ایجاد کرده است.
یکی دیگر از نگرانی‌های مهم، تمایل چت‌بات‌ها به تأیید دیدگاه کاربران است. این مدل‌ها برای ارائه پاسخ‌های مطلوب و مفید آموزش دیده‌اند و ممکن است حتی در شرایطی که کاربر برداشت نادرستی دارد، به جای به چالش کشیدن آن، با دیدگاه او همراه شوند.
پژوهشگران در همین زمینه به مطالعاتی درباره گفت‌وگو با افراد دارای هذیان اشاره کرده‌اند که در آنها چت‌بات در طول مکالمه به تأیید باورهای نادرست فرد ادامه داده است؛ مسئله‌ای که می‌تواند در شرایط حساس، پیامدهای جدی داشته باشد.
چت‌بات جای دوست و درمانگر نیست
پژوهشگران توصیه نمی‌کنند کاربران چت‌بات‌های هوش مصنوعی را کنار بگذارند، بلکه تأکید دارند باید آنها را به‌عنوان ابزار در نظر گرفت، نه دوست یا درمانگر.
استفاده از چت‌بات برای کارهایی مانند نوشتن خاطرات روزانه یا بررسی وضعیت خلق‌وخو می‌تواند مفید باشد، اما در مواجهه با مشکلات جدی زندگی یا مسائل روانی، دریافت کمک از افراد متخصص و ارتباط با انسان‌های واقعی اهمیت بیشتری دارد.
نظرات کاربران