شرکت چینی مون‌شات AI قابلیت‌های سایبری تهاجمی مدل هوش مصنوعی خود را محدود کرد

ICTPRESS - شرکت چینی «مون شات ای آی» قابلیت های تهاجمی سایبری جدیدترین مدل خود را کاهش داده است.

به گزارش شبکه خبری ICTPRESS به نقل از رویترز، این درحالی است که نگرانی‌ها درباره آنکه حملات خودکار هوش مصنوعی ممکن است عملیات‌های هک را بیشر کند، افزایش یافته است.

مون شات هنگام معرفی مدل «کیمی K۳.۱پرو» از محدودیت‌ها خبر داد. شرکت چینی، کیمی K۳.۱پرو را قدرتمندترین مدل وزن باز دسته سه هزار میلیارد پارامتری توصیف کرده و قصد دارد وزن مدل را منتشر کند و به عبارتی به توسعه دهندگان خارج شرکت اجازه دهد مدل‌های خود را روی سیستم‌هایش فعال و اصلاح کنند.

خالق مدل کیمی اعلام کرد داده‌های مرتبط سایبری را از پیکره آموزشی حذف و محیط‌های آموزشی که برای توسعه مدل به کار می‌روند را تقویت و همزمان مهارت‌های کدنویسی عمومی را حفظ کرده است. در بیانیه شرکت آمده است: هدف ما این نیست که وزن‌های باز مدل را منتشر کنیم که باعث گسترش مرز نهایی توانمندی‌های سایبری شوند.

دولت‌ها، شرکت‌های فناوری و محققان امنیت سایبری به طرز فزاینده‌ای نگرانند که هوش مصنوعی بتواند عملیات‌های هک پیچیده را راحت‌تر و ارزان‌تر انجام دهد. مدل‌های هوش مصنوعی که می‌توانند کد بنویسند و ابزارهای نرم افزاری را فعال و فعالیت‌های چند مرحله‌ای و بلند را تکمیل کنند، در شناسایی ضعف‌ها در برنامه‌ها و خودکار سازی حملات سایبری به کاربران کمک می‌کنند.