هوش مصنوعی چینی «کیمی» خود را «کلاد» می‌پندارد

وزیر خزانه‌داری آمریکا ادعا کرد که هوش مصنوعی چینی کیمی فکر می‌کند که «کلاد» (محصول آنتروپیک) است.

اسکات بسنت، وزیر خزانه‌داری ایالات متحده اعلام کرد واشنگتن قصد دارد سازوکاری برای اطلاع‌رسانی متقابل با پکن در صورت بروز حوادث مرتبط با هوش مصنوعی پیشنهاد دهد. او در گفت‌وگو با اکسیوس گفت مذاکرات میان مقامات ارشد دو کشور بر خطراتی مانند عامل‌های خودمختار خارج از کنترل و بهره‌برداری گروه‌های غیردولتی از فناوری برای تهدیدهای سایبری یا زیستی متمرکز بوده است.

اسکات بسنت به رفتارهای غیرمنتظره مدل‌های چینی اشاره کرد و مدعی شد مدل کیمی به دلیل استفاده از روش تقطیر روی مدل‌های آمریکایی، گاهی خود را کلاد می‌پندارد. او همچنین از ارسال تصادفی برخی داده‌های حساس تسلیحاتی ارتش چین به شرکت آنتروپیک توسط این سامانه خبر داد.

اسکات بسنت می‌گوید: «فکر می‌کنم آن‌ها متوجه نبودند مدل‌های متن‌بازشان چقدر قدرتمند هستند. بسیاری از مدل‌های چینی بسیار نیرومندند؛ نه به اندازه‌ی مدل‌های آمریکایی، اما توانایی آن‌ها به ۸۰ تا ۹۰ درصد می‌رسد و بدون حفاظ‌های ایمنی می‌توانند به هر نقطه از جهان وارد شوند.»

نگرانی‌های چین فراتر از مسائل نظامی است و حفظ کنترل اطلاعاتی را نیز در بر می‌گیرد. مقامات امنیتی پکن ماه گذشته هشدار دادند فناوری‌های نوین می‌توانند بستری برای جنگ شناختی و تهدید ثبات سیاسی باشند. دولت آمریکا نیز توسعه مدل‌ها را به‌صورت داوطلبانه بررسی می‌کند، اما در صورت نادیده‌گرفتن مسائل ایمنی حق مداخله را برای خود محفوظ می‌داند.

بسنت می‌گوید: «ما خواهان شتاب ایمن هستیم. اگر مدیران نگران از دست رفتن کنترل مدل‌ها هستند، باید سرعت خود را کاهش دهند. ما رقابت سختی برای رسیدن به مرزهای جدید داریم، اما باید تمرکز بیشتری روی تاب‌آوری و دفاع بگذاریم.»