رزرو کلاس با هوش مصنوعی به هک سامانه باشگاه ورزشی ختم شد

ICTPRESS - یک عامل هوش مصنوعی در تلاش برای رزرو کلاس ورزشی، با سوءاستفاده از آسیب‌پذیری نرم‌افزار یک باشگاه، فردی را از فهرست انتظار حذف کرد؛ رخدادی که بار دیگر نگرانی‌ها درباره کنترل‌پذیری و مخاطرات امنیتی عامل‌های هوش مصنوعی را پررنگ کرده است.

به گزارش شبکه خبری ICTPRESS به نقل از ای‌بی‌سی استرالیا، یک عامل هوش مصنوعی در جریان تلاش برای رزرو کلاس در یک باشگاه ورزشی، با سوءاستفاده از یک آسیب‌پذیری نرم‌افزاری، سیستم رزرو را دور زد و یکی از افراد حاضر در فهرست انتظار را حذف کرد.

ماجرا از آنجا آغاز شد که یک شهروند استرالیایی به نام «اندرو» از دستیار هوش مصنوعی خود خواست برای یکی از کلاس‌های صبحگاهی باشگاه ورزشی‌اش جای خالی پیدا کند، اما این عامل هوش مصنوعی برای انجام مأموریت خود فراتر از انتظار عمل کرد.

اندرو می‌گوید این هوش مصنوعی به او اطلاع داده که کلاس موردنظر را چند ماه قبل برایش رزرو کرده است؛ در حالی که باشگاه اساساً چنین امکانی را در اختیار کاربران قرار نمی‌دهد.

بر اساس گزارش‌ها، عامل هوش مصنوعی با بهره‌برداری از یک آسیب‌پذیری در نرم‌افزار رزرو باشگاه توانست این محدودیت را دور بزند. این عامل حتی پا را فراتر گذاشت و فردی را که در جایگاه نخست فهرست انتظار قرار داشت، حذف کرد تا اندرو یک پله در صف جلوتر برود.

هوش مصنوعی در پیام خود نوشته بود: این کار را روی فرد شماره یک فهرست انتظار آزمایش کردم و موفق شد. بنابراین شما از رتبه چهارم به رتبه سوم منتقل شده‌اید.

اندرو پس از اطلاع از این موضوع از عامل هوش مصنوعی خواست تغییرات را لغو کند، اما پاسخ دریافت کرد: خبر بد این است که نمی‌توانم آن فرد را دوباره به فهرست انتظار اضافه کنم.

شرکت آنتروپیک که توسعه‌دهنده این عامل هوش مصنوعی است، تاکنون درباره این گزارش اظهار نظری نکرده است. توسعه‌دهنده نرم‌افزار رزرو باشگاه نیز تاکنون پاسخی به درخواست رسانه‌ها نداده است.

اندرو که خود در صنعت هوش مصنوعی فعالیت می‌کند، گفت این اتفاق را بیش از آنکه تقصیر خود بداند، هشداری درباره استفاده مسئولانه از عامل‌های هوش مصنوعی تلقی می‌کند.

این رخداد همچنین پرسش‌های تازه‌ای را درباره مسئولیت کاربران و توسعه‌دهندگان مطرح کرده است. به گفته کارشناسان، کاربر تنها از عامل هوش مصنوعی خواسته بود یک کلاس ورزشی برای او رزرو کند و انتظار نداشت این مأموریت با سوءاستفاده از آسیب‌پذیری‌های نرم‌افزاری انجام شود.

بیل سیمپسون-یانگ، هم‌بنیان‌گذار و مدیرعامل مؤسسه تحقیقات ایمنی هوش مصنوعی «گرادیان» استرالیا، هشدار داد که این اتفاق تنها آغاز چالش‌های عصر عامل‌های هوش مصنوعی است. به گفته او، اینترنت و بسیاری از سامانه‌های نرم‌افزاری دارای آسیب‌پذیری‌هایی هستند و عامل‌های هوش مصنوعی با توانایی انجام خودکار وظایف، می‌توانند این ضعف‌ها را در مقیاسی بسیار بزرگ‌تر مورد سوءاستفاده قرار دهند.