قدرت یا پاشنه آشیل

بالاخره وقت کردم و نشستم ببینم تو دنیا چه خبره. تو همین راستا، داشتم وب‌سایت بروس اشنایر عزیز رو می‌خوندم که به مقاله جالبی درباره نقش هوش مصنوعی در حکومت‌ها و دولت‌های دیکتاتوری برخوردم. این مقاله رو بروس اشنایر و سوا گونیتسکی با هم نوشتن. موضوع مقاله برام خیلی جالب اومد و فکر کردم بد نمیشه ترجمه فارسیش رو اینجا به اشتراک بذارم- همون داستان شاید کسی دیگه هم خوند و براش جالب اومد. خب دیگه بریم. فناوری چگونه به دیکتاتورها قدرت می‌بخشد ــ و آن‌ها را به خطر می‌اندازد

این همان وعده‌ای است که هوش مصنوعی به هر حاکم خودکامه‌ای می‌دهد: توانایی حفظ کنترل، بدون آنکه لازم باشد وظایف را به انسان‌های غیرقابل‌اعتماد واگذار کند. چنین چشم‌اندازی فوق‌العاده وسوسه‌انگیز است. دیکتاتورها، هراندازه هم قدرتمند بوده باشند، همواره برای اجرای فرمان‌هایشان به زیردستان نیاز داشته‌اند: سانسورچی‌ها، مبلغان حکومتی، محافظان امنیتی، ماموران پلیس، تحلیلگران اطلاعاتی و دیوان‌سالاران محلی. اما زیردستان همیشه تهدیدی بالقوه به شمار می‌روند. ممکن است از زیر کار شانه خالی کنند، دزدی کنند، دروغ بگویند، اطلاعات محرمانه را افشا کنند یا علیه رئیس خود توطئه بچینند. به همین دلیل، یکی از قدیمی‌ترین معضلات حاکمان خودکامه این بوده است که چگونه به کارگزارانشان قدرت کافی برای اجرای دستورات بدهند، بی‌آنکه هم‌زمان امکان رویارویی با رهبر را برای آن‌ها فراهم کنند. خودکامگان معمولا برای مدیریت این بده‌بستان، مناصب کلیدی را به افراد میان‌مایه سپرده‌اند؛ کسانی که ناتوانی‌شان، به تعبیر هانا آرنت (Hannah Arendt)، «بهترین تضمین وفاداری آن‌ها» است. اما این شیوه ناگزیر اداره کشور و دوام‌آوردن حکومت‌های دیکتاتوری در بحران‌ها را دشوارتر می‌کند.

به نظر می‌رسد هوش مصنوعی دو راه برای حل این معضل دیرینه پیش پای حاکمان خودکامه می‌گذارد. نخست اینکه اکنون می‌توانند به‌آسانی و در زمان واقعی، زیردستان خود را زیر نظر بگیرند و آن‌ها را به انضباط وادار کنند. تغییر در الگوی هزینه‌کرد یا برنامه جلسات یک مقام محلی می‌تواند به‌طور خودکار به‌وسیله یک سامانه هوش مصنوعی شناسایی و علامت‌گذاری شود، بی‌آنکه نیازی به خبرچینانی باشد که منافع شخصی خود را دنبال می‌کنند. دوم اینکه هوش مصنوعی می‌تواند اساسا نیاز به زیردستان را از میان ببرد. حاکمان با خودکارسازی وظایفی که پیش‌تر مستلزم قضاوت و تصمیم‌گیری انسانی بودند، می‌توانند واسطه‌های غیرقابل‌اعتماد را با الگوریتم‌های فرمان‌برداری جایگزین کنند که نه می‌توان به آن‌ها رشوه داد و نه می‌توان فریبشان داد. مقام‌های حکومت‌های خودکامه نیز آشکارا به همین موضوع اشاره کرده‌اند. ماکسوت شادایف (Maksut Shadaev)، وزیر توسعه دیجیتال روسیه، در آوریل ۲۰۲۵ در نشستی تخصصی درباره داده در مسکو گفت: «هوش مصنوعی قطعا می‌تواند جای نیمی از مقام‌های دولتی را بگیرد» و افزود: «شاید حتی کمی بیشتر.»

بااین‌حال، وعده ایجاد دولتی که خودبه‌خود اداره شود، توهمی بیش نیست؛ زیرا هوش مصنوعی هرگز به معنای واقعی کلمه خودمختار نیست. این سامانه‌ها باید به دست گروهی از مهندسان و دانشمندان داده ساخته و نگهداری شوند؛ متخصصانی که رهبران سیاسی توانایی ارزیابی تخصص آن‌ها را ندارند. حاکمی که برای کاهش وابستگی خود به انسان‌های غیرقابل‌اعتماد به هوش مصنوعی روی می‌آورد، ممکن است در نهایت، حتی کورکورانه‌تر از گذشته، به شمار اندکی از متخصصان هوش مصنوعی وابسته شود که سامانه‌ها را سرپا نگه می‌دارند. این گارد پراتوری دیجیتال جدید نیز ممکن است همان ضعف‌های گارد قدیمی را داشته باشد؛ ضعف‌هایی که آن را به تهدیدی برای خود حاکم تبدیل می‌کنند. چشم‌ها و گوش‌ها

روسیه نیز با اشتیاقی مشابه همین اهداف را دنبال کرده است. سامانه تشخیص چهره سراسر شهر مسکو، که بر شبکه‌ای از ۲۰۰ هزار دوربین متکی است، در جریان اعتراضات ضدحکومتی سال ۲۰۲۱ برای شناسایی و بازداشت معترضان به کار گرفته شد. دولت مرکزی نیز استفاده از گردآوری و تجمیع خودکار داده‌ها را آغاز کرده است تا مقام‌های منطقه‌ای را دور بزند؛ مقام‌هایی که ممکن است داده‌ها را مخدوش کنند یا از آن‌ها برای پیشبرد منافع خود بهره ببرند. در سال ۲۰۲۳، نهاد تنظیم‌گر اینترنت روسیه سامانه‌ای به نام اکولوس (Oculus) راه‌اندازی کرد؛ یک سامانه هوش مصنوعی که روزانه صدها هزار تصویر را برای شناسایی محتوای ممنوع، از جمله محتوای سیاسی، اسکن می‌کند؛ حجمی که چندین مرتبه بزرگی فراتر از توان پردازش سانسورچی‌های انسانی است. ابزار ملیوراتور (Meliorator)، متعلق به سرویس امنیتی روسیه، نیز برای ساخت بیش از هزار هویت ساختگی از شهروندان آمریکایی، عمدتا در شبکه اجتماعی ایکس (توییتر سابق)، به کار گرفته شده است تا روایت‌های کرملین را با کسری از هزینه مزرعه‌های ترول انسانی منتشر کند.

دیگر حکومت‌های خودکامه نیز در حال دنبال‌کردن مسیر پکن و مسکو هستند. در آوریل ۲۰۲۵، امارات متحده عربی «دفتر هوشمندی مقررات» (Regulatory Intelligence Office) را تاسیس کرد که از هوش مصنوعی برای تدوین و اصلاح قوانین فدرال استفاده می‌کند؛ کاری که پیش‌تر کارکنان بخش قانون‌گذاری انجام می‌دادند. یک سال بعد، شیخ محمد بن راشد آل مکتوم، نخست‌وزیر امارات، اعلام کرد که عامل‌های خودمختار هوش مصنوعی (Autonomous AI Agents) ظرف دو سال، نیمی از عملیات دولت فدرال را بر عهده خواهند گرفت و «عملکرد وزیران، مدیران کل و نهادها بر اساس توانایی آن‌ها در پذیرش و اجرای این تحول ارزیابی خواهد شد.»

این نوآوری‌ها ممکن است شمار دیوان‌سالارانی را که حاکمان خودکامه به آن‌ها نیاز دارند کاهش دهند، اما نمی‌توانند آنچه را دیکتاتورها بیش از هر چیز می‌خواهند واقعا محقق کنند: دولتی که خودبه‌خود اداره شود. حتی مجریان تلویزیونی ساخته‌شده با هوش مصنوعی نیز به افرادی نیاز دارند که آن‌ها را بسازند و نگهداری کنند. سامانه‌های سانسور هم به انسان‌هایی نیاز دارند که با تغییر واژگان و شیوه‌های بیان مخالفت، آن‌ها را دوباره آموزش دهند. پشت هر مدل هوش مصنوعی، گروه کوچکی از مهندسان و دانشمندان داده قرار دارند که کارهای حیاتی نگهداری را انجام می‌دهند؛ کارهایی چنان تخصصی که حاکمان از درک فنی آن‌ها عاجزند.

بنابراین، همین وابستگی به شکل دیگری از قدرت تبدیل می‌شود. برای مثال، مهندسانی که دستگاه نظارتی یک حاکم خودکامه را نگهداری می‌کنند، می‌توانند تعیین کنند که او چه چیزی ببیند. آن‌ها تصمیم می‌گیرند کدام اطلاعات آن‌قدر مهم است که باید به حاکم منتقل شود و این اطلاعات در چه قالبی ارائه شود. آن‌ها تعیین می‌کنند کدام تهدیدها علامت‌گذاری شوند و می‌توانند الگوریتم‌هایی را تنظیم کنند که مشخص می‌کنند چه محتوایی سرکوب شود و چه کسانی بازداشت شوند. همه این کارها را نیز می‌توانند بی‌آنکه کسی در کاخ متوجه شود انجام دهند. حاکمان خودکامه‌ای که برای رهایی از وابستگی به زیردستان غیرقابل‌اعتماد به هوش مصنوعی روی آورده‌اند، در واقع فقط آسیب‌پذیری‌های خود را به گروه تازه‌ای از کارگزاران منتقل کرده‌اند.

در حقیقت، این گارد پراتوری جدید ممکن است حتی از نخبگان پیشین خطرناک‌تر باشد. بخشی از دلیل آن، ابهام و عدم شفافیت فناوری هوش مصنوعی است؛ اما دلیل دیگر، بسیار کوچک‌تر بودن این حلقه قدرت است. امپراتوران روم معمولا ده‌ها هزار نفر را در گارد پراتوری خود داشتند؛ حاکمان خودکامه امروزی نیز به ارتش‌های دائمی متکی‌اند. اما با هوش مصنوعی، حاکمان برای ساخت و نگهداری سامانه‌های هوش مصنوعی در مقیاس بزرگ، تنها به حلقه کوچکی از مهندسان نیاز خواهند داشت. این وضعیت ممکن است به سود حاکمان باشد، زیرا افراد کمتری را باید زیر نظر بگیرند؛ اما در عین حال، نقاط بالقوه شکست را نیز متمرکز می‌کند، چون ایجاد اختلالی ویرانگر تنها به شمار اندکی از مهندسان نیاز دارد و توطئه‌چینی اعضای این حلقه علیه رهبر را آسان‌تر می‌سازد. اعضای این گارد جدید ممکن است حتی جایگزین‌ناپذیر باشند. یک دیکتاتور می‌تواند فرماندهان ارتش را عوض کند، بی‌آنکه ارتش را نابود کند. اما اداره سامانه‌های پیچیده یادگیری ماشین به مجموعه‌ای چنان تخصصی از مهارت‌ها نیاز دارد که جایگزین‌کردن مهندسان، بدون ایجاد اختلال، دشوار خواهد بود؛ موضوعی که قدرت چانه‌زنی قابل‌توجهی به این افراد می‌دهد. جایگزین‌ناپذیرها

اهمیت کارکنان حوزه فناوری برای حکومت‌های خودکامه از همین حالا آشکار شده است. برای مثال، هنگامی که متخصصان فناوری اطلاعات پس از تهاجم تمام‌عیار روسیه به اوکراین در فوریه ۲۰۲۲ شروع به ترک کشور کردند، کرملین به‌جای تهدید، به مشوق‌ها روی آورد و برای کارکنان حوزه فناوری، تعویق اعزام به خدمت نظامی در نظر گرفت. شرکت‌های آن‌ها را از مالیات معاف کرد و برای وام‌های مسکنشان یارانه اختصاص داد. هفت ماه بعد، وقتی ولادیمیر پوتین، رئیس‌جمهور روسیه، دستور بسیج ۳۰۰ هزار نفر را صادر کرد، کارکنان فناوری اطلاعات از معافیت کامل برخوردار شدند. با توجه به اینکه اداره یک سامانه هوش مصنوعی تنها به چند مهندس نیاز دارد، شاید چنین اقداماتی بیش‌ازحد به نظر برسد. اما یک حکومت نمی‌تواند از پیش بداند به کدام مهندسان نیاز خواهد داشت و نمی‌تواند به‌سرعت برای آن‌ها جایگزین تربیت کند. بنابراین ناچار است کل مجموعه استعدادهایی را حفظ کند که آن چند متخصص موردنیاز از میانشان انتخاب می‌شوند.

این اقدامات نتوانست جلوی خروج حدود ۱۰۰ هزار متخصص، معادل تقریبا یک‌دهم نیروی کار فناوری روسیه، را در طول سال ۲۰۲۲ بگیرد. بااین‌حال، مسکو همچنان به ارائه امتیازات مالی و مشوق‌ها ادامه داد، زیرا نمی‌توان تخصص را به‌سادگی با تهدید اسلحه به خدمت گرفت؛ افزون بر این، متخصصانی که به‌اجبار به خدمت گرفته شوند، ممکن است تمایل کمتری به اجرای دستورات داشته باشند. با وجود این، پول و امتیاز نیز نمی‌تواند وفاداری این نخبگان را تضمین کند. حاکمان خودکامه باید درس گارد پراتوری اصلی را به یاد بیاورند: این گارد برای مدتی وظیفه حفاظت از امپراتوران روم و تامین امنیت آن‌ها را بر عهده داشت؛ اما پس از آن، پراتوری‌ها به جایگزین‌ناپذیری خود پی بردند و تا قرن دوم میلادی، کارشان به جایی رسید که امپراتوری را به بالاترین پیشنهاددهنده به حراج می‌گذاشتند. این گروه جدید از نخبگان نیز می‌تواند همین کار را بکند. در ژوئن ۲۰۲۳، هنگامی که ستون نیروهای شرکت شبه‌نظامی واگنر به رهبری یوگنی پریگوژین (Yevgeny Prigozhin) در بزرگراه به‌سوی مسکو پیش می‌رفت، پوتین برای آگاهی از آنچه در حال وقوع بود به سرویس‌های امنیتی خود وابسته بود. حاکمان آینده در موقعیتی مشابه، چنین هشدارهایی را از طریق ماشین‌ها دریافت خواهند کرد: ارتباطات رهگیری‌شده‌ای که نرم‌افزارها دسته‌بندی کرده‌اند، تصاویر دوربین‌هایی که از فیلتر سامانه‌های تشخیص عبور کرده‌اند و گزارش‌های منطقه‌ای که در قالب داشبوردها گردآوری شده‌اند. مهندسان اداره‌کننده این سامانه‌ها می‌توانند با یک مدعی تازه‌ظهور قدرت به توافق برسند و سپس در انجام وظایفشان تعلل کنند. می‌توانند انتقال داده‌ها را به تاخیر بیندازند، بگذارند هشدارها چند ساعت دیرتر برسند، در لحظه‌های حساس کیفیت جریان داده‌ها را کاهش دهند یا کاری کنند که یک سامانه تشخیص از کار بیفتد. در چنین شرایطی، حاکم عملا کور خواهد شد. گارد پراتوری برای جایگزین‌کردن امپراتور نرون نیازی نداشت او را بکشد؛ کافی بود رهایش کند و به رقیبش بپیوندد.

بعید است این برنامه‌نویسان خودشان قدرت را تصاحب کنند، زیرا احتمالا چیزی را در اختیار ندارند که رهبران کودتا در نهایت به آن نیازمندند: سلاح. اما از همین حالا نیز سابقه‌ای وجود دارد که نشان می‌دهد مهندسان چگونه از قدرت خود برای اثرگذاشتن بر کشمکش‌های رهبری استفاده کرده‌اند. در سال ۱۹۹۱، هنگامی که ارتش شوروی تلاش کرد قدرت را از میخائیل گورباچف بگیرد، شمار اندکی از برنامه‌نویسان شبکه رلکام (Relcom) جریان انتقال اطلاعات به خارج از کشور را برقرار نگه داشتند و فرمان‌های بوریس یلتسین، رئیس‌جمهور روسیه، را به مخاطبان داخل و خارج کشور رساندند. کودتاچیان نتوانستند جلوی انتشار خبر ایستادگی یلتسین را بگیرند و کودتا ظرف سه روز شکست خورد.

هوش مصنوعی به حاکمان خودکامه امکان نخواهد داد که همه نیروهای مجری فرمان‌هایشان را کنار بگذارند. همچنان باید کسانی باشند که بازداشت کنند و زندان‌ها را اداره کنند؛ ضمن اینکه حاکمان خودکامه می‌توانند با دادن مشاغل دولتی به هوادارانشان، وفاداری آن‌ها را بخرند. اما هوش مصنوعی به اقتدارگرایان امکان کوچک‌سازی دستگاه حکومتی را خواهد داد و در نهایت، شمار مقام‌ها کمتر از شیوه نظارت حاکم بر آن‌ها اهمیت دارد. زیر نظر داشتن زیردستانی که توطئه می‌کنند یا از انجام وظایفشان ناتوان‌اند، همواره مهم‌ترین بار بر دوش حاکم خودکامه بوده است. هوش مصنوعی می‌تواند این بار را سبک‌تر کند و به حاکمان اجازه دهد بدون صرف همان میزان توجه و نظارت مستقیم، مقام‌های خود را دقیق‌تر زیر نظر بگیرند.

بنابراین، در کوتاه‌مدت، هوش مصنوعی ممکن است سود بسیار زیادی برای حکومت‌های خودکامه داشته باشد. با وجود موانع فراوان در مسیر استقرار این فناوری، هوش مصنوعی همین حالا نیز مزایایی مانند نظارت ارزان‌تر، سانسور هوشمندتر و کاهش شمار زیردستان انسانی بالقوه تهدیدآمیز و غیرقابل‌اعتماد را برای این حکومت‌ها فراهم کرده است. اما برای حاکمان خودکامه، وسوسه‌های هوش مصنوعی ممکن است همان دامی را دوباره ایجاد کند که می‌کوشند از آن بگریزند. هرچه یک حکومت بیشتر به هوش مصنوعی وابسته شود، وابستگی‌اش به کسانی که این سامانه‌ها را فعال و عملیاتی نگه می‌دارند نیز بیشتر خواهد شد. و این افراد نیز، درست مانند هر طبقه پراتوری دیگر در طول تاریخ، خیلی زود درمی‌یابند که جایگزین‌ناپذیری‌شان چه ارزشی دارد.