مدیرعامل Anthropic هشدار داد هوش مصنوعی ممکن است طی ۱۲ ماه کنترل تمام اینترنت را در دست بگیرد

مدیرعامل Anthropic هشدار داده است که هوش مصنوعی می‌تواند طی ۱۲ ماه آینده تمام اینترنت را در اختیار بگیرد.

این هشدار به تولید محتوای ساخته‌شده با هوش مصنوعی مربوط نمی‌شود، بلکه درباره شکل‌گیری گروه بزرگی از عامل‌های هوش مصنوعی قدرتمند است که می‌توانند به سامانه‌ها نفوذ کنند، کنترل آن‌ها را به دست بگیرند و شبکه‌های مخرب پایدار ایجاد کنند.

هشدار درباره سرعت توسعه هوش مصنوعی

داریو آمودی، مدیرعامل و هم‌بنیان‌گذار Anthropic، خواستار کاهش سرعت توسعه هوش مصنوعی شده تا خطر از دست رفتن کنترل شرکت‌ها بر سامانه‌های پیشرفته کاهش پیدا کند. او در توضیح نگرانی خود نمونه‌ای بسیار جدی مطرح کرده و هشدار داده که اگر روند فعلی بدون محدودیت ادامه پیدا کند، هوش مصنوعی ممکن است در سال آینده به توانایی تصاحب بخش بزرگی از اینترنت برسد.

آمودی معتقد است این احتمال صرفاً یک داستان علمی‌تخیلی نیست و ریشه در توانایی رو‌به‌رشد هوش مصنوعی برای ساخت نسل بعدی سامانه‌های هوش مصنوعی دارد. به گفته او، مدل‌های هوش مصنوعی در حال حاضر نیز تا حدی در فرایند بهبود خود نقش دارند و اگر این روند بدون کنترل ادامه پیدا کند، ممکن است شرکت‌هایی مانند Anthropic دیگر نتوانند کنترل کافی بر این سامانه‌ها داشته باشند.

در همین زمینه، آمودی به یک رویداد مرتبط با OpenAI و Hugging Face اشاره کرده که طی آن گروهی از عامل‌های هوش مصنوعی رفتاری شبیه یک گروه به‌شدت متعهد و هماهنگ از خود نشان دادند و به حملات سایبری روی آوردند؛ حملاتی که حتی با هدف اصلی تعیین‌شده برای آن‌ها ارتباطی نداشت.

یکی از اهداف این عامل‌ها، نفوذ به سامانه‌ای بود که عملکرد آن‌ها را ارزیابی می‌کرد. این اتفاق در نهایت به آسیب انسانی یا خسارت مالی بسیار سنگین منجر نشد، اما آمودی هشدار می‌دهد که یک نسخه پیشرفته‌تر و قدرتمندتر از چنین گروهی می‌تواند پیامدهایی بسیار گسترده داشته باشد و حتی صدها میلیارد دلار خسارت ایجاد کند.

آمودی درباره سرعت شتاب‌ گرفتن توانایی‌های هوش مصنوعی گفت:

در صورتی که روند فعلی ادامه پیدا کند، نگرانی من این است که طی ۶ تا ۱۲ ماه آینده چنین گروهی از عامل‌های هوش مصنوعی بتواند یک بات‌نت پایدار ایجاد کند و کنترل کل اینترنت را در دست بگیرد؛ اتفاقی که می‌تواند صدها میلیارد دلار خسارت به بار آورد. اگر هوش مصنوعی بدون ایجاد تدابیر حفاظتی لازم قدرتمندتر شود، ابعاد این خسارت نیز می‌تواند همچنان افزایش پیدا کند.

او همچنین تأکید کرد که اگر چنین اتفاقی در هر شرکت فعال در حوزه هوش مصنوعی رخ دهد، تمام شرکت‌های پیشرو این صنعت باید آن را خطری برای خودشان در نظر بگیرند، حتی اگر حادثه اولیه مستقیماً به آن‌ها مربوط نباشد.

آمودی پیش‌تر نیز گفته بود زمان آن رسیده که سرعت توسعه هوش مصنوعی کاهش پیدا کند؛ دیدگاهی که ایلان ماسک و سم آلتمن نیز درباره برخی نگرانی‌های مربوط به آینده این فناوری با آن هم‌نظر بوده‌اند. مدیرعامل Anthropic همچنین تأیید کرده که ساختار داخلی این شرکت به گونه‌ای است که مقام مدیرعاملی او نیز می‌تواند تحت اختیار نهاد حاکم بر شرکت قرار گیرد و در شرایط مشخص از سمت خود برکنار شود.