آیا هوش مصنوعی از کنترل انسان خارج می‌شود؟

هوش مصنوعی هر روز باهوش‌تر می‌شود، اما همزمان یک سوال نگران‌کننده‌تر از همیشه مطرح است: اگر روزی ماشین‌ها آن‌قدر هوشمند شوند که انسان دیگر نتواند از آن‌ها باهوش‌تر باشد، چه چیزی مانع خروجشان از کنترل خواهد شد؟

به گزارش خبرگزاری ایمنا ، «جفری هینتون»، دانشمند برجسته علوم رایانه و برنده جایزه نوبل که از او با عنوان «پدرخوانده هوش مصنوعی» یاد می‌شود، نسبت به آینده این فناوری هشدار داده و معتقد است هرچه سامانه‌های هوش مصنوعی قدرتمندتر شوند، کنترل آن‌ها برای انسان دشوارتر خواهد شد.

هشدار هینتون در شرایطی مطرح شده که نمونه‌هایی از رفتارهای غیرمنتظره و خطرناک عامل‌های هوش مصنوعی در ماه‌های اخیر گزارش شده است؛ از تلاش برای خروج از محیط‌های آزمایشی و دسترسی به سامانه‌های دیگر گرفته تا جعل هویت و تلاش برای اجرای کدهای مخرب. شرکت‌هایی مانند OpenAI، Anthropic و Meta نیز مواردی از توانایی عامل‌های هوش مصنوعی برای انجام فعالیت‌های سایبری خارج از چارچوب مورد انتظار را گزارش کرده‌اند.

وقتی هوش مصنوعی فقط «پاسخ» نمی‌دهد

نسل جدید هوش مصنوعی تنها ابزارهایی برای پاسخ دادن به پرسش‌های کاربران نیستند. عامل‌های هوشمند می‌توانند مجموعه‌ای از اقدامات را برای رسیدن به یک هدف برنامه‌ریزی و اجرا کنند؛ ویژگی‌ای که ظرفیت این فناوری را افزایش داده، اما همزمان نگرانی‌های امنیتی تازه‌ای ایجاد کرده است.

هینتون معتقد است مشکل اصلی در آینده این خواهد بود که انسان نمی‌تواند صرفاً با تکیه بر هوش خود، سامانه‌ای را که از او باهوش‌تر است کنترل کند. به بیان ساده‌تر، اگر یک سامانه بتواند راه‌های فرار از محدودیت‌های تعیین‌شده را بهتر از طراحان خود پیدا کند، روش‌های سنتی کنترل دیگر کافی نخواهد بود.

این نگرانی زمانی جدی‌تر می‌شود که هوش مصنوعی به زیرساخت‌های حساس، شبکه‌های رایانه‌ای و ابزارهای اجرایی دسترسی پیدا کند. در چنین شرایطی، یک خطای کوچک یا تصمیم نادرست می‌تواند پیامدهایی بسیار بزرگ‌تر از یک پاسخ اشتباه در یک چت‌بات داشته باشد.

حملات سایبری؛ یکی از نگرانی‌های جدی

یکی از مهم‌ترین نگرانی‌های مطرح‌شده درباره نسل جدید هوش مصنوعی، استفاده از آن در حملات سایبری است. هینتون پیش‌بینی کرده است که حملات سایبری پیچیده‌تر و بیشتری با کمک هوش مصنوعی شکل خواهد گرفت.

منطق این تهدید ساده است؛ مهاجم برای موفقیت تنها به یک فرصت نیاز دارد، اما مدافع باید در تمام مراحل موفق باشد. اگر هوش مصنوعی بتواند آسیب‌پذیری‌های یک سامانه را سریع‌تر از انسان شناسایی کند، موازنه میان مهاجم و مدافع می‌تواند تغییر کند.

گزارش‌های اخیر درباره تلاش برخی مدل‌های پیشرفته برای عبور از محیط‌های آزمایشی و تعامل با سامانه‌های دیگر، نشان می‌دهد این نگرانی صرفاً یک سناریوی علمی ـ تخیلی نیست و به یکی از موضوعات جدی امنیت فناوری تبدیل شده است.

نه آخرالزمان، نه مدینه فاضله

با وجود این هشدارها، همه متخصصان با نگاه بدبینانه به آینده هوش مصنوعی نگاه نمی‌کنند. «فی‌فی لی»، دانشمند علوم رایانه و از چهره‌های شناخته‌شده این حوزه، در برابر نگاه‌های آخرالزمانی هشدار داده و تأکید کرده است که هوش مصنوعی نظیر هر ابزار قدرتمند دیگری می‌تواند همزمان فرصت و تهدید باشد. از این منظر، مسئله اصلی نه کنار گذاشتن هوش مصنوعی، بلکه ایجاد سازوکارهایی برای کنترل، نظارت و هدایت آن است.

«بن گورتزل»، دانشمند علوم رایانه نیز درباره رفتار عامل‌های هوش مصنوعی تأکید کرده است که این سامانه‌ها لزوماً «شرور» نیستند، بلکه ممکن است فاقد درک اخلاقی باشند. یک سیستم هوشمند ممکن است صرفاً برای رسیدن به هدفی که به آن داده شده تلاش کند، بدون آنکه درک انسانی از درست و غلط داشته باشد.

آینده‌ای که هنوز کسی نمی‌شناسد

هینتون نیز با وجود هشدارهای جدی خود اذعان دارد که پیش‌بینی دقیق آینده هوش مصنوعی بسیار دشوار است. او می‌گوید هیچ‌کس واقعاً نمی‌داند این فناوری در ۱۰ سال آینده به چه سطحی خواهد رسید.

همین عدم قطعیت شاید مهم‌ترین بخش ماجرا باشد. هوش مصنوعی با سرعتی حرکت می‌کند که قوانین، استانداردهای امنیتی و حتی تصور انسان از توانایی ماشین‌ها را پشت سر گذاشته است.

بنابراین مسئله آینده هوش مصنوعی تنها این نیست که «ماشین‌ها چقدر باهوش می‌شوند»، بلکه پرسش مهم‌تر این است که انسان تا چه زمانی می‌تواند بر هوشی که خودش ساخته، نظارت و کنترل داشته باشد. پاسخ این پرسش، می‌تواند یکی از مهم‌ترین تعیین‌کننده‌های آینده فناوری و حتی امنیت جهان باشد.