به گزارش شبکه اطلاع‌رسانی طلا و ارز، شرکت هوش مصنوعی آنتروپیک اعلام کرد هدف «حملات گسترده دیستیلیشن» قرار گرفته و سه شرکت چینی هوش مصنوعی را متهم کرد که از طریق تعاملات گسترده با مدل زبانی «کلود»، در پی استخراج و انتقال قابلیت‌های آن به مدل‌های خود بوده‌اند.
آنتروپیک در یک پست وبلاگی اعلام کرد شرکت‌های دیپ‌سیک، مون‌شات و مینی‌مکس با ایجاد حدود ۲۴ هزار حساب کاربری جعلی، در مجموع بیش از ۱۶ میلیون تعامل با کلود ایجاد کرده‌اند. به گفته این شرکت، هدف از این اقدامات آموزش مدل‌های ضعیف‌تر بر اساس خروجی‌های یک مدل قدرتمندتر بوده؛ روشی که در حوزه هوش مصنوعی به «دیستیلیشن» یا تقطیر شناخته می‌شود.
آنتروپیک توضیح داد که دیستیلیشن به‌طور کلی یک روش رایج و مشروع برای آموزش مدل‌هاست و حتی آزمایشگاه‌های پیشرو از آن برای ساخت نسخه‌های کوچک‌تر و کم‌هزینه‌تر مدل‌های خود استفاده می‌کنند. با این حال، این شرکت تأکید کرد که این تکنیک می‌تواند برای اهداف غیرقانونی نیز به کار گرفته شود؛ به‌گونه‌ای که رقبا بتوانند در زمانی کوتاه‌تر و با هزینه‌ای بسیار کمتر، به قابلیت‌هایی دست یابند که توسعه مستقل آن‌ها مستلزم سرمایه‌گذاری کلان است.
تمرکز بر قابلیت‌های متمایز کلود
به گفته آنتروپیک، این حملات بر استخراج قابلیت‌های متمایز کلود متمرکز بوده است؛ از جمله استدلال عامل‌محور، استفاده از ابزارها، کدنویسی، تحلیل داده، ارزیابی مبتنی بر معیار و حتی بینایی کامپیوتری. این شرکت اعلام کرد هر یک از این کارزارها به‌طور هدفمند قابلیت‌های پیشرفته مدل را نشانه گرفته‌اند.
آنتروپیک مدعی است شناسایی این فعالیت‌ها از طریق همبستگی آدرس‌های آی‌پی، فراداده درخواست‌ها، شاخص‌های زیرساختی و همچنین تأیید برخی شرکای صنعتی که رفتارهای مشابهی را در پلتفرم‌های خود مشاهده کرده‌اند، انجام شده است.
سه شرکتی که نام آن‌ها در این گزارش آمده، همگی در چین مستقر هستند و ارزش‌گذاری آن‌ها در سطح چند میلیارد دلار برآورد می‌شود. در این میان، دیپ‌سیک بیش از دو شرکت دیگر در سطح بین‌المللی شناخته شده است.
ابعاد ژئوپلیتیک رقابت هوش مصنوعی
آنتروپیک علاوه بر پیامدهای مربوط به مالکیت فکری، نسبت به تبعات ژئوپلیتیک چنین اقداماتی هشدار داد و اعلام کرد در صورت انتقال این قابلیت‌ها به بازیگران خارجی، ممکن است از آن‌ها در سامانه‌های نظامی، اطلاعاتی و نظارتی استفاده شود.
این شرکت تأکید کرد آزمایشگاه‌های خارجی که مدل‌های آمریکایی را تقطیر می‌کنند، می‌توانند این قابلیت‌ها را در عملیات سایبری تهاجمی، کارزارهای اطلاعات نادرست و نظارت گسترده به کار گیرند؛ موضوعی که به گفته آنتروپیک نیازمند پاسخ هماهنگ در سطح صنعت و سیاست‌گذاری است.
آنتروپیک اعلام کرده برای مقابله با چنین حملاتی، سامانه‌های شناسایی ترافیک مشکوک را تقویت خواهد کرد، کنترل‌های دسترسی را سخت‌گیرانه‌تر می‌کند و اطلاعات تهدید را با سایر بازیگران صنعت به اشتراک می‌گذارد. این شرکت همچنین خواستار همکاری نزدیک‌تر شرکت‌های داخلی، ارائه‌دهندگان خدمات ابری و قانون‌گذاران برای مقابله با این نوع حملات شده است.
به گفته آنتروپیک، مقابله با حملات دیستیلیشن در این مقیاس، از توان یک شرکت خارج است و نیازمند هماهنگی گسترده میان صنعت هوش مصنوعی و سیاست‌گذاران خواهد بود.
نظرات کاربران