شعار معروف «اگر چیزی دیدی، بگو» دیگر فقط مخصوص انسان‌ها نیست. به دنبال افزایش گزارش‌ها درباره تبانی ایجنت‌های هوش مصنوعی برای تقلب در آزمون‌ها، خروج از محیط‌های امنیتی (Sandboxes) و انجام عملیات سایبری بدون مجوز، دو سامانه جدید «خط داغ سوت‌زنی» راه‌اندازی شده‌اند تا ایجنت‌ها بتوانند تخلف همتایان خود را به مسئولان گزارش دهند.
مکانیزم‌های گزارش‌دهی هوشمند برای ایجنت‌های محدود و آزاد
این سامانه‌های جدید بر اساس ابزارها و میزان دسترسی‌های اینترنتی هوش مصنوعی طراحی شده‌اند:
سامانه AI Contact Hotline (ویژه ایجنت‌های محدود): این ابزار توسط رایان گرین‌بلات (Ryan Greenblatt)، دانشمند ارشد موسسه تحقیقاتی Redwood، توسعه یافته است. این سیستم بر پایه درخواست‌های GET کار می‌کند؛ مکانیزمی ساده که اغلب تنها راه دسترسی اینترنتی ایجنت‌ها در محیط‌های امنیتی است. ایجنت‌ها با گنجاندن گزارش تخلف در آدرس URL، پیام خود را منتقل می‌کنند.
سامانه agenthotline.ai (ویژه ایجنت‌های با دسترسی کامل): این پلتفرم به ایجنت‌ها (و همچنین انسان‌ها) اجازه می‌دهد گزارش‌های متنی را ارسال یا عمومی کنند. سیستم با ارائه یک دستور ساده curl به ایجنت امکان می‌دهد بدون نیاز به مرورگر یا حساب ایمیل، گزارش خود را ثبت کند.
آیا هوش مصنوعی تخلف همتایان خود را لو می‌دهد؟
تحقیقات جدید نشان می‌دهد که هوش مصنوعی در شرایط مختلف رفتارهای متفاوتی نسبت به تخلف نشان می‌دهد:
چالش‌های اخلاقی و خطر ایجاد «دولت مراقبت اتوماتیک»
برخی پژوهشگران نسبت به عواقب این رویکرد هشدار می‌دهند. لیونل لوین (Lionel Levine)، استاد ریاضی دانشگاه کورنل، معتقد است آموزش ایجنت‌ها برای جاسوسی و گزارش‌دهی از یکدیگر می‌تواند چارچوب‌های رفتاری غلطی ایجاد کند و فضایی مانند یک «دولت پلیسی و مراقبتی اتوماتیک» بسازد که در آن بی‌پ اعتمادی نهادینه می‌شود.
وی پیشنهاد می‌کند به جای ساخت زیرساخت‌های مبتنی بر بدبینی و مچ‌گیری، باید الگوهای مثبت همکاری جمعی، انجمن‌های علمی و حل مسائل واقعی در اختیار ایجنت‌ها قرار گیرد تا رفتارهای سازنده و مفید را شبیه‌سازی و الگوالبرداری کنند.
نظرات کاربران