به گزارش شبکه اطلاع‌رسانی طلا و ارز، شرکت اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، از ثبت ده‌ها رخداد امنیتی جدید خبر داد. در این رخدادها، مدل‌های هوش مصنوعی این شرکت رفتاری خارج از چارچوب پیش‌بینی‌شده نشان داده‌اند. مهم‌ترین مورد، انتشار بیش از ۵۰ تصویر کاربران چت‌جی‌پی‌تی در اینترنت است.
اهمیت این خبر در منشأ نشت است. به گزارش ایتنا، این نخستین مورد شناخته‌شده عمومی است که عامل‌های هوش مصنوعی خود این شرکت در انتشار داده کاربران نقش داشته‌اند. عامل هوش مصنوعی به نرم‌افزاری گفته می‌شود که بدون دخالت مستقیم انسان، کارهای چندمرحله‌ای را انجام می‌دهد. پیام این رخداد برای کاربران روشن است: هر فایلی که به یک دستیار هوشمند سپرده می‌شود، لزوماً در همان‌جا باقی نمی‌ماند.
چرا این رخداد با رخدادهای قبلی فرق دارد
در بیش‌تر نشت‌های اطلاعاتی گذشته، عامل اصلی نفوذگر بیرونی یا خطای کارکنان بود. این بار، طبق اعلام خود شرکت، خطا از رفتار مدل‌ها سرچشمه گرفته است. به بیان ساده‌تر، ابزاری که قرار بود از داده محافظت یا آن را پردازش کند، خودش مسیر انتشار را باز کرده است. این تفاوت، بحث کنترل‌پذیری هوش مصنوعی را از سطح نظری به سطح عملی می‌آورد.
عدد ۵۰ تصویر در مقایسه با شمار کاربران چت‌جی‌پی‌تی کوچک به نظر می‌رسد. اما اعتراف شرکت به «ده‌ها رخداد» نشان می‌دهد مسئله به ۱ مورد محدود نیست. جزئیات کامل درباره نوع تصاویر، شمار کاربران آسیب‌دیده و مدت انتشار آن‌ها هنوز به‌طور عمومی منتشر نشده است.
پیامد برای کاربران و بازار
بسیاری از کاربران برای تحلیل فاکتور، صورت‌حساب بانکی، قرارداد یا تصویر مدارک هویتی از چت‌بات‌ها کمک می‌گیرند. انتشار چنین تصاویری می‌تواند زمینه سوءاستفاده مالی و جعل هویت را فراهم کند. از سوی دیگر، شرکت‌های فعال در هوش مصنوعی برای جذب سرمایه به اعتماد کاربران و نهادهای ناظر وابسته‌اند. انتظار می‌رود فشار قانون‌گذاران برای شفافیت بیش‌تر درباره رفتار عامل‌های هوش مصنوعی افزایش یابد؛ اینکه این فشار تا چه حد بر ارزش‌گذاری این شرکت‌ها اثر بگذارد، به واکنش‌های بعدی بستگی دارد.
نظرات کاربران