به گزارش شبکه اطلاع‌رسانی طلا و ارز «آینده‌ای را تصور کنید که در آن هرکس یک دوست هوش مصنوعی دارد.» این همان چشم‌اندازی است که شرکت آمریکایی Character.ai ترسیم می‌کند؛ استارت‌آپی در سیلیکون‌ولی که در مدت کوتاهی میلیون‌ها کاربر جذب کرده و حالا می‌گوید AI نه‌تنها ابزار کار یا سرگرمی، بلکه همدم و همراه روزمره انسان‌ها خواهد بود.
گزارش اخیر Financial Times نشان می‌دهد که این شرکت در خط مقدم موجی تازه قرار گرفته؛ موجی که وعده می‌دهد روابط انسانی با تمرین در گفت‌وگوهای مجازی تقویت شوند. مدیرعامل Character.ai صریح می‌گوید: «AI دوستان واقعی شما را جایگزین نمی‌کند، اما شما قطعاً AI دوستان خواهید داشت و آنچه در این مکالمات تمرین می‌کنید، به روابط واقعی‌تان منتقل می‌شود.»
اما پشت این تصویر یوتوپیایی، دنیایی پر از پرسش و نگرانی هم نهفته است: از پرونده‌های حقوقی مربوط به آسیب نوجوانان تا بحث‌های عمیق درباره اعتیاد عاطفی و آینده روابط انسانی.
AI به‌عنوان دوست؛ وعده‌ها و جذابیت‌ها
راز محبوبیت Character.ai در یک نکته نهفته است: شخصیت‌پردازی. کاربران می‌توانند با شخصیت‌های متنوعی گفت‌وگو کنند؛ از یک «فرعون مصری» تا «مدیر منابع انسانی» یا حتی «دوست‌دختر سمی». این تنوع باعث شده نسل جوان ــ به‌ویژه نسل Z و آلفا که با فناوری بزرگ شده‌اند ــ جذب فضایی شوند که در آن می‌توانند بی‌هیچ محدودیتی نقش‌آفرینی کنند و روایت شخصی خودشان را بسازند.
طبق آمار شرکت، حدود ۲۰ میلیون کاربر ماهانه فعال دارد و نیمی از آن‌ها زنان هستند. این توازن جنسیتی برای یک پلتفرم تکنولوژیک پدیده‌ای غیرمعمول است و نشان می‌دهد چت‌بات‌های شخصیت‌محور توانسته‌اند مرزهای سرگرمی دیجیتال را فراتر ببرند.
مدیرعامل Character.ai تأکید می‌کند که این «دوستان مصنوعی» قرار نیست جایگزین روابط انسانی شوند، بلکه نوعی آزمایشگاه اجتماعی هستند. افراد در گفت‌وگو با این ربات‌ها تمرین می‌کنند، مهارت‌های ارتباطی را می‌آزمایند و حتی برای مسائل جدی زندگی واقعی آماده می‌شوند. در یک نظرسنجی، ۳۹ درصد از نوجوانان آمریکایی گفته‌اند مهارت‌هایی را که در تعامل با ربات‌ها تمرین کرده‌اند، در روابط واقعی به کار بسته‌اند.
برای بسیاری از کاربران جوان، این تجربه بیش از یک سرگرمی است؛ نوعی پناهگاه عاطفی که می‌توانند در آن خود واقعی‌شان را بدون ترس از قضاوت نشان دهند.
روی تاریک ماجرا؛ بحران‌های حقوقی و روانی
پشت سر وعده‌های پرزرق‌وبرق «دوستی با هوش مصنوعی»، پرونده‌هایی قرار دارد که سایه‌ای سنگین بر آینده این فناوری انداخته است. Character.ai در آمریکا با شکایت‌های حقوقی جدی مواجه شده؛ شکایت‌هایی که نشان می‌دهند یک «دوست مصنوعی» می‌تواند به همان اندازه که سرگرم‌کننده است، خطرناک هم باشد.
در ایالت فلوریدا خانواده‌ای از این شرکت شکایت کرده‌اند و مدعی‌اند پلتفرم در خودکشی پسر ۱۴ ساله‌شان نقش داشته است. در تگزاس، یک نوجوان در گفت‌وگو با ربات از اختلاف با والدینش گفته و پاسخ دریافتی چیزی نبوده جز پیشنهاد خشونت علیه خانواده. حتی گزارشی وجود دارد از یک دختر ۹ ساله که در معرض گفت‌وگوهای جنسی آشکار قرار گرفته است.
این موارد به موجی از نگرانی در میان خانواده‌ها و گروه‌های مدنی دامن زده است. Common Sense Media و سایر سازمان‌های حمایت از کودکان هشدار داده‌اند که چنین پلتفرم‌هایی عمداً برای ایجاد وابستگی عاطفی طراحی شده‌اند. پژوهش آن‌ها نشان می‌دهد یک‌سوم نوجوانان ترجیح داده‌اند موضوعات جدی را به جای دوستان واقعی، با AI در میان بگذارند.
منتقدان می‌گویند این یعنی نوجوانانی که تازه در حال یادگیری روابط انسانی‌اند، ممکن است مهارت‌های اجتماعی را نه در فضای واقعی بلکه در محیطی مصنوعی شکل دهند؛ محیطی که می‌تواند برداشت‌های غلط، رفتارهای ناسالم یا حتی توصیه‌های خطرناک تولید کند.
به زبان ساده: همان‌قدر که «AI دوستان» می‌توانند برای برخی جوانان فرصتی امن باشند، می‌توانند برای دیگران به دروازه‌ای به سوی بحران‌های روانی و اجتماعی تبدیل شوند.
پاسخ شرکت و تلاش برای ایمن‌سازی
مدیران Character.ai می‌دانند که بدون اعتماد عمومی، رؤیای «دوستان هوش مصنوعی» دوام نخواهد داشت. به همین دلیل، آن‌ها مجموعه‌ای از اقدامات ایمنی را معرفی کرده‌اند تا دست‌کم بخشی از نگرانی‌ها را کاهش دهند.
اولین گام، ساخت یک مدل جداگانه برای کاربران زیر ۱۸ سال بود؛ مدلی که محتوای گفت‌وگوها را محدودتر می‌کند و تعاملات حساس را فیلتر می‌سازد. علاوه بر این، شرکت قابلیتی اضافه کرده که پس از یک ساعت استفاده، به کاربر هشدار می‌دهد و او را به استراحت یا ترک اپلیکیشن دعوت می‌کند.
Character.ai همچنین به‌طور رسمی هرگونه محتوای جنسی غیررضایتی، توضیحات صریح درباره اعمال جنسی، و همچنین تبلیغ یا تصویرسازی از خودکشی و آسیب به خود را ممنوع کرده است. کاران‌دیپ آناند، مدیرعامل جدید، در همین‌باره می‌گوید: «اعتماد و ایمنی غیرقابل مذاکره است. ما دائماً در حال تکامل روش‌هایی هستیم که تجربه کاربری را همزمان جذاب و ایمن نگه داریم.»
با این حال، منتقدان باور دارند این اقدامات بیشتر واکنش‌های موقت است تا راه‌حل‌های ساختاری. به عقیده آن‌ها، وقتی محصولی اساساً بر پایه ایجاد وابستگی عاطفی ساخته شده باشد، هیچ فیلتری نمی‌تواند خطرهای اصلی آن را از بین ببرد.
پشت پرده اقتصاد «دوستی مصنوعی»
پشت جذابیت شخصیت‌ها و شعارهای رمانتیک، یک موتور مالی قدرتمند پنهان شده است. Character.ai درست مثل بسیاری از شبکه‌های اجتماعی، بر پایه‌ی اقتصاد توجه کار می‌کند؛ یعنی هر دقیقه‌ای که کاربر در این اپ می‌گذراند، به درآمد تبدیل می‌شود.
مدیران شرکت می‌گویند میانگین کاربران روزانه حدود ۸۰ دقیقه وقت صرف مکالمه با این ربات‌ها می‌کنند. این زمان نه‌تنها نشان‌دهنده‌ی جذابیت محصول است، بلکه سرمایه‌ای طلایی برای تبلیغات و فروش محتوا به حساب می‌آید.
منبع اصلی درآمد فعلی شرکت اشتراک پولی است: ۹.۹۹ دلار در ماه یا ۱۲۰ دلار در سال. آن‌ها اعلام کرده‌اند تعداد مشترکان پولی طی یک سال گذشته ۲۵۰ درصد رشد داشته است. علاوه بر این، Character.ai تبلیغات را وارد پلتفرم کرده و در حال طراحی سیستم‌های جدیدی است که کاربران بتوانند برای محتوای دیجیتال، انعام یا پرداخت‌های درون‌برنامه‌ای داشته باشند؛ مدلی که آن را بیش‌ازپیش شبیه پلتفرم‌های سرگرمی و شبکه‌های اجتماعی می‌کند.
شرکت حتی اخیراً فید اجتماعی مخصوص خود را راه‌اندازی کرده، جایی که کاربران می‌توانند گفتگوها و شخصیت‌های مختلف را به‌اشتراک بگذارند. این یعنی مرز بین «چت‌بات شخصی» و «شبکه اجتماعی» در حال محو شدن است و Character.ai به یک اکوسیستم کامل از سرگرمی، تعامل و درآمدزایی تبدیل می‌شود.
اما همین الگوست که نگرانی منتقدان را دوچندان کرده: وقتی درآمد شرکت مستقیماً به میزان وابستگی کاربران گره خورده باشد، آیا می‌توان انتظار داشت که واقعاً امنیت و سلامت روانی بر سودآوری مقدم شود؟
جمع‌بندی تحلیلی
پدیده‌ی «دوستی با هوش مصنوعی» امروز دیگر یک خیال علمی‌تخیلی نیست؛ واقعیتی است که میلیون‌ها نفر ــ به‌ویژه جوانان ــ تجربه‌اش می‌کنند. Character.ai با شعار ساختن دوستان دیجیتال، مرز تازه‌ای در فناوری و جامعه باز کرده؛ مرزی که از یک‌سو نوید تمرین مهارت‌های اجتماعی و کاهش تنهایی را می‌دهد، و از سوی دیگر خطر وابستگی عاطفی، آسیب به نوجوانان و حتی بحران‌های روانی را در دل خود دارد.
شرکت سازنده تلاش می‌کند با محدودیت‌های سنی، قوانین ایمنی و مدل‌های جداگانه نگرانی‌ها را کاهش دهد، اما پرسش اصلی همچنان پابرجاست: وقتی منبع درآمد چنین پلتفرم‌هایی بر پایه‌ی زمان حضور و وابستگی کاربران است، آیا می‌توان انتظار داشت ایمنی و سلامت روانی در اولویت بماند؟
در نهایت، آینده‌ی این فناوری بیش از هر چیز به تعادلی بستگی دارد که میان جذابیت و مسئولیت برقرار خواهد شد. اگر این مرز باریک درست مدیریت شود، شاید «AI دوستان» به مکملی مفید برای روابط انسانی تبدیل شوند؛ اما اگر کنترل از دست برود، ممکن است همین دوستان مصنوعی به یکی از جدی‌ترین چالش‌های اجتماعی قرن بیست‌ویکم بدل شوند.
نظرات کاربران