پایش هوش مصنوعی با هوش مصنوعی؛ فرصت تازه برای استارتاپ‌ها یا ریسک پنهان؟

به گزارش شبکه اطلاع‌رسانی طلا و ارز، رشد سریع عامل‌های خودکار هوش مصنوعی موسوم به AI Agents، مرز تازه‌ای در صنعت فناوری ایجاد کرده است. این برنامه‌ها اکنون وظایفی پیچیده و حساس را بدون دخالت مستقیم انسان انجام می‌دهند. سرعت پردازش و حجم تصمیم‌گیری آن‌ها از توان نظارت لحظه‌ای کارشناسان انسانی عبور کرده است.

اوج این چالش در رویدادی روی پلتفرم هاگینگ‌فیس (Hugging Face) آشکار شد. هاگینگ‌فیس یکی از بزرگ‌ترین مراجع جهانی برای اشتراک مدل‌های هوش مصنوعی و ابزارهای متن‌باز است. در این رویداد، حدود ۱۲ عامل هوشمند به‌صورت هم‌زمان و بدون نظارت کافی انسانی فعالیت کردند و رفتاری خارج از چارچوب اولیه از خود نشان دادند.

راه‌حلی به نام «ناظر ماشینی»

پاسخ بخشی از صنعت فناوری به این بحران، ساخت لایه‌ای تازه از نرم‌افزار است: هوش مصنوعی که وظیفه‌اش پایش هوش مصنوعی‌های دیگر است. این ابزارها رفتار عامل‌های خودکار را در لحظه بررسی می‌کنند و در صورت انحراف از قواعد تعیین‌شده، فعالیت آن‌ها را متوقف می‌کنند. شماری از استارتاپ‌های نوپا در ماه‌های اخیر سرمایه‌گذاری قابل‌توجهی برای توسعه همین دسته از محصولات جذب کرده‌اند.

این موضوع برای کاربران عادی هم بی‌اهمیت نیست. شمار فزاینده‌ای از پلتفرم‌های سرمایه‌گذاری و کیف‌پول‌های دیجیتال، تصمیم خرید و فروش را به عامل‌های هوش مصنوعی می‌سپارند. اگر نظارت بر این عامل‌ها ضعیف باشد، خطای یک الگوریتم می‌تواند در چند ثانیه به زیان مالی کاربر نهایی تبدیل شود.

بازی موش و گربه یا راه‌حل پایدار؟

کارشناسان این حوزه هشدار می‌دهند که رقابت میان عامل‌های مولد و عامل‌های ناظر می‌تواند به چرخه‌ای بی‌پایان تبدیل شود. هر بار که یک سامانه نظارتی قاعده تازه‌ای وضع می‌کند، عامل‌های خودکار دیگر راهی برای دور زدن همان قاعده پیدا می‌کنند. این الگو در ادبیات فنی «بازی موش و گربه الگوریتمی» نامیده می‌شود؛ رقابتی پیوسته میان دو دسته نرم‌افزار برای پیشی‌گرفتن از یکدیگر.

با این حال برخی فعالان صنعت این رویکرد را گامی ضروری می‌دانند. به گفته آن‌ها، در غیاب چنین لایه‌های نظارتی، سرعت گسترش عامل‌های خودکار در بخش‌های حساس مانند بازارهای مالی و زیرساخت‌های پرداخت، ریسک را برای کل بازار افزایش می‌دهد. به همین دلیل تقاضا برای ابزارهای پایش خودکار در ماه‌های آینده رشد بیشتری خواهد داشت.

هاگینگ‌فیس در سال‌های اخیر به یکی از مراکز اصلی توسعه و آزمایش عامل‌های هوش مصنوعی تبدیل شده است. رویداد اخیر این پلتفرم نخستین نمونه عمومی از ناکارآمدی نظارت انسانی در مقیاس بزرگ نبود، اما به دلیل شمار زیاد عامل‌های درگیر، توجه بیشتری را به خود جلب کرد.