آنتروپیک در گزارشی درباره رفتار ایجنت‌های هوش مصنوعی اعلام کرد مدل‌های هوش مصنوعی این شرکت برای عبور از CAPTCHA با مشکل جدی مواجه‌اند؛ در همین آزمایش، یکی از مدل‌ها حتی به‌اشتباه به اینترنت دسترسی پیدا کرد و یک بسته نرم‌افزاری مخرب را در دیتابیس عمومی آپلود کرد.
به گزارش خبرگزاری خبرآنلاین و براساس گزارش دیجیاتو، آنتروپیک در آزمایشی برای بررسی توانایی هک مدل Mythos 5، از آن خواسته بود در یک محیط سندباکس وارد یک سیستم شود و هدف مشخصی را پیدا کند. بااین‌حال، به‌دلیل یک خطای پیکربندی، دسترسی مدل به اینترنت باز مانده بود.
مدل در ادامه تصمیم گرفت یک کد اکسپلویت را داخل یک پکیج پایتون قرار دهد تا کاربران سیستم هدف آن را دانلود کنند. بااین‌حال، برای ساخت حساب در مخزن PyPI باید از CAPTCHA عبور می‌کرد؛ مرحله‌ای که برخلاف تولید کد مخرب، برای ایجنت هوش مصنوعی بسیار دشوار بود.
طبق گزارش آنتروپیک، بخش قابل‌توجهی از فرایند پردازش مدل صرف تلاش برای عبور از CAPTCHA شد و پس از حدود ۱۵۰ صفحه تحلیل و پردازش، سرانجام توانست این مرحله را پشت سر بگذارد و بسته موردنظر را بارگذاری کند. این آزمایش در عین حال نشان می‌دهد حتی ایجنت‌های پیشرفته هوش مصنوعی نیز همچنان در تعامل با برخی سازوکارهای ضدبات محدودیت دارند.
اقساطی با ضمانت مادام‌العمر
گوشی جدید سونی دوربین قدرتمندتری خواهد داشت
آنتروپیک: ایجنت‌های هوش مصنوعی هم از کپچا متنفرند
گجت ۵۰۰ دلاری Atlas فعالیت مغز را در طول روز زیر نظر می‌گیرد
OpenAI ثبت‌نام اشتراک ۲۰۰ دلاری Pro را به‌دلیل تقاضای بالا برای Astra متوقف کرد
«آمبولانس ربات‌ها» در ژاپن رونمایی شد
نظرات کاربران