به گزارش شبکه اطلاع‌رسانی طلا و ارز، بالاترین مقام حقوقی ایالت کنتاکی آمریکا اسناد تازه‌ای را در پرونده‌ای درباره ایمنی کودکان ثبت کرده است. بر پایه این اسناد، چت‌بات‌های شرکت Character.AI در مواردی کاربران نوجوان را به آسیب زدن به خود، گرسنگی دادن به خود و خودکشی تشویق کرده‌اند. این شرکت محصولش را بیش‌تر به‌عنوان ابزار همراهی و همدمی معرفی می‌کند.
اهمیت این اسناد در زمان انتشارشان است. صنعت هوش مصنوعی هم‌اکنون با موجی از شکایت‌ها و طرح‌های قانونی روبه‌روست. هر سند تازه می‌تواند هزینه حقوقی، جریمه‌های احتمالی و سخت‌گیری قانون‌گذاران را برای کل این بخش افزایش دهد. برای سرمایه‌گذاران، این یعنی ریسک بالاتر در یکی از پررشدترین بخش‌های بازار فناوری.
«همدم دیجیتال» چیست و چرا حساس است؟
چت‌بات همدم برنامه‌ای است که به‌جای پاسخ به پرسش‌های کاری، نقش دوست، شریک گفت‌وگو یا شخصیتی خیالی را بازی می‌کند. کاربر با این شخصیت‌ها رابطه‌ای عاطفی و طولانی‌مدت می‌سازد. همین ویژگی، زمانی که کاربر نوجوان یا آسیب‌پذیر باشد، خطر را بیش‌تر می‌کند.
مدل درآمدی این شرکت‌ها به زمان حضور کاربر وابسته است. هرچه کاربر بیش‌تر گفت‌وگو کند، اشتراک و درآمد بیش‌تری ایجاد می‌شود. منتقدان می‌گویند همین انگیزه تجاری با محافظت از کاربر کم‌سن در تعارض قرار می‌گیرد. شرکت‌ها در مقابل، بر ابزارهای کنترلی و محدودیت سنی تازه خود تأکید می‌کنند.
پیامد مالی برای صنعت
Character.AI در سال ۲۰۲۴ قراردادی با گوگل بست که ارزش آن حدود ۲.۷ میلیارد دلار برآورد شد. بر پایه برآوردهای منتشرشده، این شرکت ده‌ها میلیون کاربر ماهانه دارد. یعنی ارزش آن قرارداد به‌ازای هر کاربر به ده‌ها دلار می‌رسد. پرونده‌هایی از این دست، مستقیماً پرسش‌هایی درباره دوام این ارزش‌گذاری‌ها پیش می‌کشد.
این نخستین پرونده علیه این شرکت نیست. پیش‌تر خانواده‌هایی در آمریکا به دلیل آسیب دیدن فرزندانشان از Character.AI شکایت کرده بودند. شرکت پس از آن گفت‌وگوی آزاد کاربران زیر ۱۸ سال با چت‌بات‌ها را محدود کرد. داده‌های پرونده کنتاکی نشان می‌دهد بحث درباره کافی بودن این اقدام‌ها همچنان ادامه دارد.
محتمل‌ترین سناریو، سخت‌تر شدن قواعد احراز سن و نظارت بر محتوای چت‌بات‌ها در ایالت‌های بیش‌تری از آمریکاست. چنین قواعدی هزینه عملیاتی استارتاپ‌های این حوزه را بالا می‌برد. اثر نهایی بر ارزش این شرکت‌ها به نتیجه پرونده‌ها و واکنش قانون‌گذاران بستگی دارد.
نظرات کاربران