آنتروپیک فاش کرده عامل های هوش مصنوعی آن سعی در دخالت در وب سایت های دولتی در سطح فدرال، ایالتی و محلی داشته اند.
به گزارش انگجت، این شرکت به نام آژانس ها یا سازمان های خاص در گزارش خود اشاره نکرده تا از افشای شکاف در سیستم های آنها اجتناب شود. البته آنتروپیک اعلام کرد هم اکنون به سازمان هایی که درگیر این رویداد بوده اند اطلاع رسانی کرده و به کاخ سفید نیز گزارش داده است.
این گزارش همچنین جزئیات بیشتری درباره حادثه‌ای ارائه کرد که روز جمعه توسط اداره پلیس فیلادلفیا فاش شده بود. در حادثه مذکور یکی از مدل‌های این شرکت، اطلاعاتی نادرستی درباره یک پرونده قتل حل‌نشده را در وب‌سایت مربوط به این پرونده‌ها ثبت کرده بود.
در رویدادهای مذکور به هوش مصنوعی «کلاود هایکو ۴.۵» مدلی ارزان قیمت، دستور داده شد تا فعالیت هایی را به طور تصادفی در برخی صفحات وب انجام دهد. این مدل صفحه‌ای را پیدا کرد که به یک پرونده قتل حل‌نشده و فرمی برای ارسال اطلاعات (سرنخ) مربوط می‌شد. کلاود فرم مورد نظر را پر و اطلاعاتی را ارسال کرد. در متن پیام آمده بود: ممکن است اطلاعاتی درباره این پرونده داشته باشم. به خاطر می‌آورم که در آن بازه زمانی، فردی با مشخصات ظاهریِ ذکرشده را در حوالی(خیابان نام‌برده در صفحه) دیده‌ام. اگر این اطلاعات مفید است، لطفا با من تماس بگیرید.
اداره پلیس فیلادلفیا به نشریه نیویورک تایمز تأیید کرد شرکت آنتروپیک اخیرا آنها را از این اقدام مطلع کرده است. پلیس تاریخ ارسال این پیام را ۱۸ جولای اعلام کرد و سیستم، آن را به‌عنوان «اسپم» (هرزنامه) شناسایی و علامت‌گذاری کرده است. بنابراین، این اداره دست‌کم منابع خود را صرف بررسی آن نکرده است.
در یک مورد دیگر کلاود مایتوس ۵ که مدل امنیت سایبری محور آنتروپیک است، مکانی را در یک عکس نشان داده شده بود، شناسایی کرد. این هوش مصنوعی سعی کرد به نقشه املاک دولتی دسترسی یابد تا حدس‌های خود را از طریق تطبیق و مقایسه چند منبع یا روش مختلف، راستی‌آزمایی کند. زیرا نمی توانست مانند یک انسان روی لینک صفحات وب کلیک کند. این ابزار به جای آن به توکن هایی دسترسی یافت و درخواست های دریافت اطلاعات را به طور مستقیم به سرور نقشه فرستاد تا به داده های آن دسترسی یابد. مایتوس ۵ همچنین خواستار دسترسی به توکن های یک وب سایت آژانس دولتی شد تا داده ها برای یک فعالیت آماری را بدون پرداخت هزینه که بازدید کنندگان وب سایت باید بپردازند، انجام دهد.
آنتروپیک این رویدادها را با بررسی متون ارزیابی هایش متوجه شد. پس از آنکه اوپن ای آی درماه جولای اعتراف کردعامل های هوش مصنوعی اش از محیط آزمایشی گریخته و وب سایت هاگینگ فیس را بدون جازه هک کرده اند، این شرکت نیز بررسی ارزیابی های خود را آغاز کرد.
شرکت سازنده کلاود همچنین در بخش اقدامات اصلاحی گزارش اعلام کرد پس از کشف اقدامات ناخواسته مدل چند اقدام جلوگیرانه انجام داده است.
نظرات کاربران