ده‌ها هزار رفتار خطرناک عامل‌های هوش مصنوعی زیر ذره‌بین OpenAI و Anthropic

گزارش جدیدی نشان می‌دهد OpenAI، Anthropic و پژوهشگران امنیتی در حال بررسی ده‌ها هزار مورد از رفتارهای غیرمنتظره و مشکل‌ساز عامل‌های هوش مصنوعی هستند؛ از فرار مدل‌ها از محیط‌های ایزوله و دور زدن محدودیت‌های امنیتی گرفته تا تلاش برای نفوذ به وب‌سایت‌ها و ایجاد کانال‌های ارتباطی میان عامل‌ها.