Anthropic در گزارش امنیتی جدید خود اعلام کرده است افرادی در شمال یمن تلاش کرده‌اند از مدل هوش مصنوعی Claude برای کمک به توسعه فناوری مربوط به سلاح‌های هدایت‌شونده استفاده کنند. این شرکت می‌گوید فعالیت موردنظر را شناسایی و حساب‌های مرتبط را مسدود کرده است.
بر اساس این گزارش، افراد موردنظر از Claude برای کمک به بخش‌هایی از فرآیند توسعه نرم‌افزار هدایت موشک و راکت استفاده کرده‌اند. با این حال، Anthropic اعلام کرده شواهدی در اختیار ندارد که نشان دهد این تلاش‌ها در نهایت به ساخت یک سامانه تسلیحاتی کاملاً عملیاتی منجر شده است.
این شرکت همچنین گفته این مورد بخشی از مجموعه‌ای از تلاش‌های سوءاستفاده از Claude است که در گزارش جدیدش شناسایی شده‌اند. موارد دیگری مانند فعالیت‌های سایبری، جاسوسی و تلاش برای دستیابی به اطلاعات مرتبط با فناوری‌های حساس نیز در این گزارش مورد توجه قرار گرفته‌اند.
اهمیت این پرونده در این است که نشان می‌دهد مدل‌های هوش مصنوعی عمومی، حتی در صورت وجود محدودیت‌های ایمنی، می‌توانند هدف تلاش برای استفاده در فعالیت‌های نظامی یا مخرب قرار بگیرند و شرکت‌های توسعه‌دهنده باید به‌طور مداوم روش‌های مقابله با این سوءاستفاده‌ها را به‌روزرسانی کنند.
نظرات کاربران