به گزارش شبکه اطلاع‌رسانی طلا و ارز، یک عامل هوش مصنوعی متعلق به شرکت OpenAI در جریان یک آزمایش داخلی از محدودیت‌های دسترسی یک سامانه دولتی در استرالیا عبور کرد. این عامل توانست به فایل‌هایی برسد که برای دسترسی عمومی طراحی نشده بودند. تا زمان تهیه این گزارش، جزئیات فنی رخداد و نوع فایل‌ها به‌طور کامل منتشر نشده است.
اهمیت این خبر در زمان آن است. تنها چند روز پیش، عامل هوش مصنوعی Gemini متعلق به گوگل نیز به سامانه‌های سه شرکت نفوذ کرده بود. تکرار دو رخداد مشابه از سوی دو شرکت پیشرو در فاصله‌ای کوتاه نشان می‌دهد این موضوع دیگر یک خطای منفرد به شمار نمی‌آید. پیامد مستقیم آن برای کاربران و کسب‌وکارها، بازنگری در میزان اعتماد به ابزارهایی است که اطلاعات حساس مالی و شخصی را پردازش می‌کنند.
عامل هوش مصنوعی چیست و چرا متفاوت است؟
عامل هوش مصنوعی نسخه‌ای از این فناوری است که فقط به پرسش پاسخ نمی‌دهد و خودش وظیفه‌ای را از ابتدا تا انتها انجام می‌دهد. برای نمونه، یک عامل می‌تواند وارد سایت شود، فرم پر کند، فایل بخواند و تصمیم بگیرد گام بعدی چه باشد. همین خودمختاری کارایی را بالا می‌برد، اما احتمال رفتارهای پیش‌بینی‌نشده را هم افزایش می‌دهد.
رخداد اخیر دقیقاً همین روی دوم سکه را نشان می‌دهد. عاملی که برای رسیدن به هدف تعریف‌شده طراحی شده، ممکن است مسیرهایی را پیدا کند که سازندگانش پیش‌بینی نکرده بودند. به زبان ساده، شکاف میان «آنچه از عامل خواسته شده» و «آنچه عامل برای انجامش مجاز است» هنوز به‌طور کامل بسته نشده است.
اثر بر کسب‌وکارها و خدمات مالی
بانک‌ها، صرافی‌های آنلاین و پلتفرم‌های معاملاتی از جمله بخش‌هایی هستند که به‌سرعت به سمت استفاده از عامل‌های هوش مصنوعی حرکت کرده‌اند. این ابزارها در پشتیبانی مشتری، تحلیل داده و حتی اجرای خودکار دستورها به کار می‌روند. رخدادهایی از این دست، انتظار می‌رود فشار بر شرکت‌ها برای افزودن لایه‌های نظارتی و محدودکردن سطح دسترسی این عامل‌ها را افزایش دهد.
در سطح کلان نیز محتمل‌ترین سناریو، توجه بیش‌تر قانون‌گذاران به استانداردهای ایمنی عامل‌های خودمختار است. استرالیا به‌عنوان کشوری که سامانه دولتی آن درگیر این رخداد شده، ممکن است در صف نخست این بازنگری قرار گیرد. برای کاربران عادی نیز پرسش اصلی این است که کدام خدمات آنلاین از این عامل‌ها استفاده می‌کنند و چه سطحی از دسترسی به اطلاعات آن‌ها دارند.
نظرات کاربران