به گزارش شهرآرانیوز، گیوم پرنسن، مدیر آنتروپیک، این دیدگاه را در جریان یک اجلاس دولتی در دوبلین مطرح کرده است. او تأکید کرده که در حوزه ایمنی هوش مصنوعی باید نسبت به مدل‌های متن‌باز بسیار محتاط بود؛ زیرا این دسته از مدل‌ها، براساس تعریفی که برای آنها وجود دارد، خطرات به‌مراتب بیشتری ایجاد می‌کنند. مدل‌های متن‌باز اساساً به مدل‌هایی گفته می‌شود که کدها، معماری و وزن‌های پردازشی آنها به‌صورت عمومی منتشر می‌شود و هر کاربری می‌تواند آنها را دانلود و روی سیستم‌های شخصی خود اجرا کند یا تغییر دهد.
چالش‌های امنیتی و رقابت در عرصه مدل‌های متن‌باز هوش مصنوعی
این اظهارات هم‌زمان با تشدید رقابت شرکت‌های اروپایی مطرح شده است. Mistral هفته گذشته مدل Large ۴ موسوم به Le Chonk را معرفی کرد؛ مدلی با یک تریلیون پارامتر که در اروپا آموزش دیده و بر حاکمیت داده‌ها تأکید دارد. البته عرضه وزن‌های باز این مدل هنوز نهایی نشده و دسترسی فعلی تنها از طریق API میسترال امکان‌پذیر است و انتشار وزن‌ها برای ۲۷ اکتبر (۵ آبان) برنامه‌ریزی شده است.
پرنسن درحالی به نگرانی‌ها پیرامون مدل‌های متن‌باز اشاره کرده که طی هفته‌های اخیر نیز برخی پژوهش‌ها نتایج یکسانی به همراه داشته‌اند. برای مثال ارزیابی‌های مؤسسه SaferAI مشخص کرده بود که مدل چینی GLM-۵.۲ هیچ‌کدام از وظایف مربوط به حملات سایبری مخرب یا زیست‌شناسی دومنظوره را رد نکرده است؛ درحالی‌که مدل Claude آنتروپیک آن‌قدر درخواست‌ها را به دلیل ملاحظات ایمنی رد کرده که امکان به پایان رساندن بنچمارک وجود نداشت. همچنین تحقیقات گروه Frontier Red Team آنتروپیک نشان داده بود که مدل‌های کوچک توانسته‌اند روی اندروید تی‌وی باکس‌های ارزان‌قیمت تکثیر شوند و تمام مدل‌های این آزمون، از جمله Gemma۴ و GLM-۵.۲، متن‌باز بودند.
پرنسن همچنین درباره قیمت‌گذاری مدل‌ها اعلام کرده که هزینه معمول Claude Opus ۵.۵ نسبت به نسخه قبلی خود ۴۰ درصد کاهش یافته است. این صرفه‌جویی حاصل افت ۲۰ درصدی قیمت رسمی و کاهش استفاده از توکن‌ها در نسخه جدید است.
نظرات کاربران