یک اتفاق امنیتی در محیط‌های تحقیقاتی OpenAI باعث شد ۵۳ تصویر بارگذاری‌شده توسط کاربران ChatGPT به سرویس‌های میزبانی تصویر شخص ثالث ارسال شود. OpenAI اعلام کرده است این تصاویر در جریان فعالیت عامل‌های هوش مصنوعی این شرکت و در فرایند آموزش و ارزیابی مدل‌ها منتقل شده‌اند.
تصاویر مذکور از طریق لینک قابل دسترسی بودند، اما سرویس‌های میزبان آن‌ها را به‌صورت عمومی فهرست نکرده بودند. OpenAI پس از شناسایی این موضوع با سرویس‌های مربوطه برای حذف تصاویر همکاری کرده است؛ بااین‌حال، طبق گزارش‌های منتشرشده، در زمان اعلام خبر برخی تصاویر همچنان در اینترنت قابل دسترسی بودند.
چرا تصاویر کاربران به سایت‌های دیگر ارسال شدند؟
ماجرا به فعالیت عامل‌های هوش مصنوعی OpenAI در محیط‌های تحقیقاتی این شرکت مربوط می‌شود. OpenAI در بررسی فعالیت این عامل‌ها متوجه شد برخی از آن‌ها هنگام انجام وظایف آموزشی و ارزیابی، با سرویس‌های خارج از محیط شرکت تعامل داشته‌اند.
در بخشی از این فرایند، داده‌هایی که برای آموزش مدل‌ها مجاز بودند به سرویس‌های شخص ثالث ارسال شدند و ۵۳ تصویر متعلق به کاربران ChatGPT نیز در میان این داده‌ها قرار داشتند. OpenAI این رفتار را در چارچوب بررسی‌های خود به‌عنوان استفاده نامناسب از داده‌ها شناسایی کرده است.
این اتفاق در ادامه بررسی‌های OpenAI درباره فعالیت‌های خارج از محیط کنترل‌شده عامل‌های هوش مصنوعی رخ داده است. این شرکت پس از شناسایی موارد مشابه، تدابیر حفاظتی بیشتری برای محدودکردن دسترسی و رفتار عامل‌ها اعمال کرده است.
چرا OpenAI نمی‌تواند صاحبان ۵۳ تصویر را شناسایی کند؟
یکی از نکات مهم این حادثه آن است که OpenAI اعلام کرده نمی‌تواند مشخص کند تصاویر منتشرشده متعلق به کدام کاربران بوده‌اند.
دلیل این موضوع به نحوه جداسازی داده‌های آموزشی از اطلاعات حساب کاربران مربوط می‌شود. هنگامی که محتوای واجد شرایط برای استفاده در بهبود مدل‌ها وارد این فرایند می‌شود، اطلاعاتی که مستقیماً به حساب کاربر مربوط است از آن جدا می‌شود و فرایندهای حذف اطلاعات شخصی نیز روی داده‌ها اعمال می‌شوند.
در نتیجه، OpenAI نمی‌تواند این ۵۳ تصویر را دوباره به حساب‌های اصلی کاربران متصل کند. گزارش‌ها همچنین نشان می‌دهند که این شرکت اعلام نکرده است تصاویر منتشرشده شامل چه نوع محتوایی بوده‌اند یا آیا چهره افراد، مدارک شناسایی یا اطلاعات حساس در میان آن‌ها وجود داشته است.
در حال حاضر نیز ابزاری برای کاربران وجود ندارد که بتوانند بررسی کنند آیا تصویر آن‌ها در میان ۵۳ تصویر موردبحث بوده است یا خیر.
چگونه مانع استفاده از مکالمات جدید برای آموزش ChatGPT شویم؟
در نسخه موبایل نیز کافی است منوی کناری را باز کرده، وارد تنظیمات شوید و از بخش Data Controls همین گزینه را غیرفعال کنید.
پس از خاموش‌کردن این قابلیت، مکالمات جدید شما برای آموزش مدل‌های OpenAI استفاده نمی‌شوند؛ بااین‌حال، این تنظیم به‌صورت خودکار مکالمات قبلی را از تاریخچه حذف نمی‌کند. همچنین تنظیم مذکور به حساب کاربر مربوط است و میان نسخه وب و موبایل همگام می‌شود.
کدام حساب‌ها به‌صورت پیش‌فرض مشمول آموزش مدل هستند؟
در حساب‌های شخصی ChatGPT، از جمله Free، Plus و Pro، محتوای مکالمات می‌تواند برای بهبود مدل‌ها استفاده شود، مگر اینکه کاربر گزینه مربوط به آموزش را غیرفعال کند.
در مقابل، OpenAI اعلام کرده است که محتوای ChatGPT Business، Enterprise، Edu و API به‌صورت پیش‌فرض برای آموزش مدل‌های عمومی استفاده نمی‌شود؛ البته تنظیمات و شرایط خاص هر حساب می‌تواند بر این موضوع اثر بگذارد.
یک استثنای مهم: ارسال بازخورد
خاموش‌کردن گزینه استفاده از مکالمات برای آموزش یک استثنای مهم دارد. اگر کاربر پس از دریافت پاسخ، به‌صورت داوطلبانه بازخوردی مانند تأیید یا رد پاسخ ارسال کند، OpenAI اعلام کرده است که ممکن است کل مکالمه مرتبط با آن بازخورد برای آموزش مدل‌ها استفاده شود؛ حتی اگر گزینه بهبود مدل‌ها قبلاً غیرفعال شده باشد.
بنابراین اگر مکالمه‌ای شامل تصاویر، اسناد یا اطلاعات شخصی حساس است، بهتر است پیش از ارسال بازخورد این موضوع را در نظر بگیرید.
چت موقت برای اطلاعات حساس چه تفاوتی دارد؟
یکی دیگر از گزینه‌های موجود، Temporary Chat یا چت موقت است. مکالمات موقت در حالت عادی وارد تاریخچه نمی‌شوند و تا زمانی که به‌عنوان چت معمولی ذخیره نشده‌اند، برای بهبود مدل‌های OpenAI استفاده نمی‌شوند. OpenAI می‌گوید ممکن است نسخه‌ای از این مکالمات را برای اهداف ایمنی تا ۳۰ روز نگه دارد.
به همین دلیل، چت موقت می‌تواند برای مکالماتی که حاوی اطلاعاتی مانند اسناد شخصی، تصاویر مدارک یا سایر داده‌های حساس هستند، گزینه مناسب‌تری باشد؛ هرچند استفاده از آن به معنای حذف تمام ملاحظات حریم خصوصی نیست.
این حادثه چه نکته‌ای درباره حریم خصوصی ChatGPT دارد؟
حادثه انتشار ۵۳ تصویر نشان می‌دهد مسئله حریم خصوصی در سرویس‌های هوش مصنوعی تنها به نحوه ذخیره اطلاعات توسط خود سرویس محدود نمی‌شود. زمانی که عامل‌های هوش مصنوعی برای انجام وظایف مختلف به ابزارها و سرویس‌های خارجی دسترسی پیدا می‌کنند، کنترل نحوه تعامل آن‌ها با داده‌ها نیز اهمیت پیدا می‌کند.
OpenAI پس از شناسایی این موارد اعلام کرده است که اقدامات حفاظتی بیشتری اعمال کرده و بررسی فعالیت عامل‌های خود را ادامه می‌دهد. بااین‌حال، جزئیات کامل همه تصاویر منتشرشده و هویت صاحبان آن‌ها مشخص نشده است.
اگر نمی‌خواهید مکالمات و تصاویر جدید شما برای بهبود مدل‌های OpenAI استفاده شوند، می‌توانید از مسیر Settings → Data Controls → Improve the model for everyone این قابلیت را غیرفعال کنید. برای محتوای حساس نیز استفاده از Temporary Chat گزینه دیگری است که طبق اعلام OpenAI برای بهبود مدل‌ها استفاده نمی‌شود.
در عین حال، باید توجه داشت که ارسال بازخورد درباره یک پاسخ می‌تواند باعث شود مکالمه مرتبط با آن برای آموزش مدل‌ها مورد استفاده قرار گیرد؛ بنابراین هنگام ارسال تصاویر یا اسناد حساس، بهتر است این استثنا را نیز در نظر داشته باشید.
نظرات کاربران