افشای رازهای شخصی به چت‌بات‌ها؛ داده‌های کاربران کجا می‌رود؟

به گزارش شبکه اطلاع‌رسانی طلا و ارز، میلیون‌ها نفر هر روز با چت‌بات‌های هوش مصنوعی گفت‌وگو می‌کنند. بخشی از این گفت‌وگوها به مسائل بسیار شخصی مربوط است؛ از مشکلات سلامت روان گرفته تا وضعیت مالی و روابط خانوادگی. این حجم از اعتماد، پرسش مهمی را پیش کشیده است: این داده‌ها بعد از ارسال، دقیقاً چه سرنوشتی پیدا می‌کنند؟

پاسخ ساده نیست. اغلب شرکت‌های هوش مصنوعی گفت‌وگوهای کاربران را روی سرورهای خود ذخیره می‌کنند و در بسیاری موارد از آنها برای بهبود و آموزش نسخه‌های بعدی مدل استفاده می‌کنند. به بیان دیگر، متنی که یک کاربر امروز تایپ می‌کند، ممکن است بخشی از داده‌های آموزشی مدلی باشد که ماه‌ها بعد منتشر می‌شود؛ مگر آنکه کاربر به‌طور صریح گزینه غیرفعال‌کردن ذخیره تاریخچه را انتخاب کرده باشد.

چه کسی به مکالمات دسترسی دارد؟

ذخیره داده تنها بخشی از ماجراست. برخی شرکت‌ها برای بررسی ایمنی و رعایت قوانین، تیم‌هایی از بازبینان انسانی دارند که مکالمات پرچم‌گذاری‌شده را می‌خوانند. این پرچم‌گذاری معمولاً بر اساس محتوای حساس یا مشکوک انجام می‌شود، اما مرز دقیق آن همیشه برای کاربر شفاف نیست. حذف اطلاعات هویتی از متن نیز فرایندی کامل نیست؛ ترکیب چند جزئیات به‌ظاهر بی‌خطر می‌تواند هویت واقعی فرد را دوباره آشکار کند.

نهادهای ناظر در چند کشور اروپایی به این روند ورود کرده‌اند. نهاد حفاظت از داده ایتالیا در سال ۲۰۲۳ میلادی به‌طور موقت دسترسی به یکی از پرکاربردترین چت‌بات‌ها را در این کشور محدود کرد و خواستار شفافیت بیشتر درباره نحوه استفاده از داده‌های کاربران شد. این اقدام فشار بر شرکت‌های هوش مصنوعی برای اصلاح سیاست‌های حریم خصوصی را افزایش داد.

کاربران چه کنترلی دارند؟

بیشتر پلتفرم‌های بزرگ اکنون امکاناتی برای مدیریت داده در اختیار کاربر می‌گذارند؛ از جمله غیرفعال‌کردن حافظه بلندمدت، حذف تاریخچه گفت‌وگو یا درخواست خروج از فرایند آموزش مدل. با این حال، فعال‌سازی این گزینه‌ها معمولاً پیش‌فرض نیست و کاربر باید خودش آنها را در تنظیمات حساب پیدا کند. حتی پس از حذف ظاهری یک گفت‌وگو، برخی شرکت‌ها داده را برای بازه‌ای مشخص و به دلایل امنیتی یا قانونی نگه می‌دارند.

تفاوت مهم دیگر، نوع حساب کاربری است. نسخه‌های رایگان چت‌بات‌ها معمولاً داده بیشتری برای آموزش مدل جمع‌آوری می‌کنند، در حالی که حساب‌های سازمانی یا پولی اغلب با قراردادهایی همراه‌اند که استفاده از داده برای آموزش را محدود یا حذف می‌کنند. این تفاوت، فاصله میان کاربر عادی و مشتری تجاری را در سطح حریم خصوصی به‌وضوح نشان می‌دهد.

در نهایت، مسئولیت نگهداری از اطلاعات حساس میان کاربر و شرکت سازنده تقسیم شده است. بخشی از ریسک با تنظیمات موجود در هر پلتفرم قابل کاهش است، اما تصمیم درباره میزان اطلاعاتی که باید با یک چت‌بات در میان گذاشته شود، در نهایت بر عهده خود کاربر باقی می‌ماند.