بیل گیتس: هوش مصنوعی خطرناک‌ترین فناوری تاریخ است؛ برای ۲۰ سال آشفتگی آماده شوید

به گزارش شهرآرانیوز ، بیل گیتس، هم‌بنیان‌گذار مایکروسافت و از چهره‌های شناخته‌شده دنیای فناوری، در ماه‌های اخیر بار‌ها درباره پیامد‌ها و خطر‌های هوش مصنوعی هشدار داده است. او ۲۶ اوت ۲۰۲۶ (۴ شهریور ۱۴۰۵)، مقاله‌ای با عنوان «عصر پرتلاطم هوش مصنوعی فرا رسیده است؛ انتخاب‌هایی که اکنون می‌کنیم حیاتی هستند» منتشر کرد و همان روز در گفت‌وگویی با اکسیوس نیز درباره تهدید‌های این فناوری و ضرورت آمادگی دولت‌ها و جوامع برای مواجهه با آن سخن گفت؛ و سپس در مصاحبه‌ای با شبکه NBC در ۲۷ سپتامبر ۲۰۲۶ (۵ مهر ۱۴۰۵)، خواستار نظارت و قانون‌گذاری جدی‌تر برای مهار خطر‌های آن شد.

گیتس اکنون در گفت‌وگویی تازه با سردبیر رسانه The Verge در تاریخ ۲۲ اکتبر ۲۰۲۶ (۳۰ مهر ۱۴۰۵)، بار دیگر درباره تهدید‌های امنیتی هوش مصنوعی، آینده بازار کار، دشواری کنترل مدل‌های پیشرفته و نگرانی‌های نسل جوان صحبت کرده است. او در این مصاحبه تأکید می‌کند که مسئله اصلی، صرفاً نگرانی از آینده‌ای دور نیست؛ بخشی از خطرها، به‌ویژه در حوزه حملات سایبری و اشتغال، ممکن است طی چند سال آینده آشکارتر شوند.

چرا گیتس هوش مصنوعی را خطرناک‌ترین فناوری تاریخ می‌داند؟

گیتس می‌گوید سرعت پیشرفت هوش مصنوعی در یک سال گذشته، به‌ویژه در برنامه‌نویسی، شناسایی آسیب‌پذیری‌های امنیتی و استدلال در حوزه زیست‌شناسی، بسیار چشمگیر بوده است. به باور او، این توانایی‌ها فقط به یک صنعت یا گروه خاص محدود نمی‌شوند و می‌توانند تقریباً تمام عرصه‌های زندگی انسان را تحت تأثیر قرار دهند؛ از روابط اجتماعی و آموزش گرفته تا امنیت سایبری، بازار کار و شیوه جنگیدن کشورها.

درحالی‌که برخی شرکت‌ها برای حفظ تدابیر امنیتی و جلوگیری از سوءاستفاده از مدل‌های خود تلاش می‌کنند، مدل‌هایی نیز وجود دارند که می‌توان محافظت‌های آنها را حذف کرد یا محدودیت‌هایشان را دور زد. گیتس این دسته از مدل‌ها را یکی از نگرانی‌های فوری می‌داند؛ زیرا ممکن است ابزار‌های قدرتمندی را در اختیار افرادی قرار دهند که قصد حملات سایبری یا سوءاستفاده زیستی دارند.

به گفته او، مسئله فقط این نیست که مدل‌ها در اختیار چه کسانی قرار می‌گیرند، بلکه باید بررسی کرد چه قابلیت‌هایی دارند و چه محدودیت‌هایی بر استفاده از آنها اعمال شده است.

او در این گفت‌و‌گو هشدار می‌دهد که قدرت هوش مصنوعی از آستانه‌ای عبور کرده است که پیامد‌های آن دیگر به آینده‌ای فرضی محدود نمی‌شود. به اعتقاد گیتس، این فناوری می‌تواند ظرفیت انجام حملات مخرب را از دولت‌ها و سازمان‌های بزرگ به گروه‌های کوچک‌تر و حتی افراد مستقل منتقل کند؛ تغییری که مقابله با تهدید‌های امنیتی را دشوارتر خواهد کرد.

مشکل فوری، از کنترل خارج شدن هوش مصنوعی نیست

با وجود هشدار‌های جدی درباره خطر‌های هوش مصنوعی، گیتس میان سوءاستفاده انسان‌ها از این فناوری و احتمال خارج شدن خود مدل‌ها از کنترل تمایز قائل می‌شود. او می‌گوید از نظرش، خطر فوری‌تر این نیست که هوش مصنوعی به‌طور مستقل کنترل جهان را در دست بگیرد؛ بلکه مسئله این است که افراد مخرب از قابلیت‌های موجود برای آسیب رساندن به دیگران استفاده کنند.

گیتس توضیح می‌دهد که هنوز راهکار‌های فنی مختلفی برای کنترل رفتار مدل‌های پیشرفته وجود دارد، هرچند هیچ‌کدام به سطح مطلوب نرسیده‌اند. یکی از این راهکارها، ایجاد لایه‌های امنیتی بیرونی است که اقدامات مدل را بررسی کنند و اجازه ندهند بدون مجوز به منابع رایانه‌ای دسترسی پیدا کند، برای افراد ناشناس پیام بفرستد یا اقدامات پیش‌بینی‌نشده انجام دهد.

راهکار دیگر، تغییر شیوه آموزش مدل‌ها و افزایش توانایی پژوهشگران برای درک فرایند‌های درونی آنهاست. به باور گیتس، اگر مشخص شود یک مدل چگونه به تصمیمی خاص رسیده و چه عواملی رفتار آن را شکل داده‌اند، امکان شناسایی و اصلاح برخی مشکلات بیشتر می‌شود.

بااین‌حال، او تأکید می‌کند که کنترل مدل‌های پیشرفته هنوز مسئله‌ای حل‌نشده است. هوش مصنوعی ممکن است دستور‌ها را به شیوه‌هایی تفسیر کند که سازندگانش انتظار ندارند و همین موضوع، ارزیابی ایمنی آن را دشوار می‌کند.

گیتس همچنین هشدار می‌دهد که حتی حل مسئله کنترل و هم‌راستاسازی هوش مصنوعی با خواسته‌های انسان، تمام مشکلات ناشی از این فناوری را برطرف نمی‌کند.

چرا گیتس خواستار ورود جدی‌تر دولت‌هاست؟

گیتس معتقد است اتکا به تعهدات داوطلبانه شرکت‌های فناوری برای تضمین ایمنی هوش مصنوعی کافی نیست. به گفته او، زمانی که چندین شرکت به‌طور هم‌زمان در رقابت برای ساخت مدل‌های پیشرفته هستند، نمی‌توان مسئولیت ایمنی را فقط بر عهده خود شرکت‌ها گذاشت؛ زیرا تصمیم یک شرکت برای محدود کردن فعالیت‌هایش لزوماً مانع پیشرفت رقبای آن نخواهد شد.

او در این زمینه به تجربه صنایع دیگر اشاره می‌کند و می‌گوید دولت‌ها برای ایمنی هواپیماها، خودرو‌ها و دارو‌ها استاندارد‌هایی تعیین کرده‌اند و در بررسی خطر‌ها نقش دارند. از نگاه گیتس، هوش مصنوعی نیز به چارچوبی مشابه، البته متناسب با گستردگی و سرعت تحول آن، نیاز دارد.

بااین‌حال، او معتقد نیست که کند کردن توسعه هوش مصنوعی به‌سادگی امکان‌پذیر است. گیتس می‌گوید اجرای چنین سیاستی در سطح جهانی، به‌ویژه با توجه به رقابت میان کشورها، دشوار خواهد بود.

او همچنین هشدار می‌دهد که اگر دولت‌ها برای ایجاد این چارچوب‌ها زودتر اقدام نکنند، ممکن است در آینده با توانایی‌هایی روبه‌رو شوند که در بخش‌هایی خارج از نظارت رسمی و در محیط‌هایی غیرقابل مشاهده توسعه یافته‌اند.

هشدار درباره آینده بازار کار؛ فقط مشاغل ساده در خطر نیستند

یکی از نگرانی‌های اصلی گیتس، تغییر گسترده بازار کار است. او معتقد است برخلاف برخی تصورات رایج، هوش مصنوعی تنها مشاغل تکراری و کم‌مهارت را تحت تأثیر قرار نمی‌دهد و می‌تواند به‌تدریج بسیاری از کار‌های تخصصی و فکری را نیز انجام دهد.

گیتس برای توضیح این موضوع به مشاغلی مانند پشتیبانی تلفنی، فروش تلفنی و حسابداری اشاره می‌کند و می‌گوید هوش مصنوعی ممکن است این فعالیت‌ها را بسیار سریع‌تر، ارزان‌تر و حتی دقیق‌تر از انسان انجام دهد. او همچنین پیشرفت مدل‌ها در ریاضیات و توانایی آنها در تولید راه‌حل‌هایی را یادآور می‌شود که پیش‌تر به مهارت‌های تخصصی انسان وابسته بودند.

اما نگرانی گیتس فقط به تعداد مشاغل از دست‌رفته محدود نیست. او یادآور می‌شود که کار برای بسیاری از انسان‌ها علاوه بر درآمد، منبعی برای شکل‌گیری روابط اجتماعی، احساس مفید بودن و داشتن هدف در زندگی است. از همین رو، حتی اگر هوش مصنوعی در نهایت هزینه تولید کالا‌ها و ارائه خدمات را کاهش دهد، جامعه همچنان باید برای پیامد‌های انسانی و اجتماعی این تغییر آماده باشد.

چرا گیتس از ۲۰ سال آشفتگی صحبت می‌کند؟

گیتس برای توصیف آینده، از دوره‌ای حدوداً ۲۰ ساله سخن می‌گوید که به باور او، جهان باید پیش از رسیدن به عصر فراوانی از آن عبور کند. او این عدد را پیش‌بینی دقیقی نمی‌داند و می‌گوید زمان تحقق تغییرات، از جمله فراگیر شدن ربات‌های انسان‌نما، همچنان نامشخص است؛ اما حجم سرمایه‌گذاری‌ها و فعالیت شرکت‌ها نشان می‌دهد که پیشرفت در این حوزه می‌تواند سریع باشد.

به گفته او، اگر ربات‌های انسان‌نما بتوانند با هزینه پایین کار‌های فیزیکی را انجام دهند، فعالیت‌هایی مانند ساخت خانه، تولید غذا و حتی انجام برخی جراحی‌ها ممکن است دستخوش تغییر شوند. در چنین شرایطی، بسیاری از کالا‌ها و خدمات می‌توانند ارزان‌تر و دسترس‌پذیرتر شوند و کمبود‌هایی که امروز بر زندگی انسان‌ها سایه انداخته‌اند، کاهش یابند.

بااین‌حال، گیتس معتقد است مسیر رسیدن به این وضعیت هموار نخواهد بود. در دوره گذار، برخی افراد و گروه‌ها از فناوری سود خواهند برد و برخی دیگر ممکن است شغل، درآمد یا جایگاه اجتماعی خود را از دست بدهند. او این نابرابری در پیامد‌ها را یکی از مهم‌ترین دلایل نگرانی خود می‌داند.

گیتس همچنین به نگرانی نسل جوان درباره آینده اشاره می‌کند. از نظر او، وقتی جوانان تصور کنند هر مهارتی که برای یادگیری آن تلاش می‌کنند، ممکن است به‌سرعت با توانایی‌های هوش مصنوعی جایگزین شود، احساس بی‌هدفی و ناامیدی می‌تواند گسترش یابد. او می‌گوید این نگرانی را باید جدی گرفت، زیرا انسان‌ها به چیزی فراتر از دسترسی به کالا‌ها و خدمات نیاز دارند و می‌خواهند احساس کنند نقشی منحصر‌به‌فرد در جامعه ایفا می‌کنند.

نباید خطرهای هوش مصنوعی را نادیده بگیریم

گیتس در بخش پایانی گفت‌وگو تأکید می‌کند که خود را بدبین مطلق به آینده هوش مصنوعی نمی‌داند. او این فناوری را عمیق‌ترین تحول فناورانه‌ای توصیف می‌کند که بشر با آن روبه‌رو شده است؛ تحولی که هم ظرفیت ایجاد پیشرفت‌های بزرگ را دارد و هم می‌تواند پیامدهای مخربی به همراه بیاورد. به باور گیتس، اختلاف‌نظر درباره هوش مصنوعی نباید به دو قطب «همه‌چیز خوب است» و «همه‌چیز بد است» محدود شود. او خواستار آن است که دولت‌ها، شرکت‌ها، دانشگاهیان و جامعه مدنی برای کاهش خطرها و بهره‌برداری از مزایا همکاری کنند؛ زیرا بی‌توجهی به تهدیدها می‌تواند هزینه‌های سنگینی به همراه داشته باشد. پیام نهایی او این است که حتی اگر هوش مصنوعی در نهایت به کاهش کمبودها و افزایش رفاه منجر شود، رسیدن به آن نقطه بدون آشفتگی و انتخاب‌های دشوار نخواهد بود. گیتس معتقد است پنهان کردن این واقعیت از مردم، به‌ویژه جوانانی که آینده‌شان تحت تأثیر این فناوری قرار می‌گیرد، کمکی به حل مسئله نمی‌کند. از نظر او، جامعه باید از همین حالا برای شکل دادن به آینده‌ای آماده شود که در آن هم مزایای هوش مصنوعی در دسترس باشد و هم خطرهای آن تا حد امکان مهار شود.