نقد اقتصاد سیاسی

بحث کنونی درباره‌ی تدوین مقرراتی برای هوش مصنوعی (AI) در ایالات متحده اساساً اختلافی بر سر چگونگی تعادل بین دو دغدغه متضاد است: جلوگیری از آسیب جدی ناشی از سیستم‌ها ی هوش مصنوعی قدرتمندتر در حالی که نوآوری، توسعه‌ی اقتصادی و آزادی استفاده از این فناوری حفظ شود (دانشگاه استانفورد ۲۰۲۶) شرکت‌کنندگان در این بحث طیف گسترده‌ای از حرفه‌ها و موقعیت‌های اجتماعی را دربرمی‌گیرد: توسعه‌دهندگان هوش مصنوعی، ریاضیدانان، دانشمندان کامپیوتر، مهندسان، فیلسوفان و اخلاق‌دانان، اتحادیه‌های کارگری، مدافعان مصرف کننده و سیاستمداران بورژوا. به نظر حدود دو سوم ساکنین آمریکا باور دارند که هوش مصنوعی حداقل یک خطر «متوسط» است و اکثریت افراد در دو حزب دموکرات و جمهوری خواه، و گروه‌های سنی مختلف باورد دارند که هوش مصنوعی پیشرفته می‌تواند را بشریت را نابود کند ( پولیتیکو ، ۱۶ سپتامبر ۲۰۲۶).

بنابراین، چندین نگرانی درباره‌ی هوش مصنوعی وجود دارد. [1]

پژوهشگران برجسته‌ی هوش مصنوعی مانند جفری هینتون ، [2] یوشوا بنجیو ، [3] و استوارت راسل ، [4] و همچنین برخی رهبران صنعت هوش مصنوعی نگران‌اند که هوش مصنوعی پیشرفته ممکن است برای بشر مسئله‌ساز یا حتی غیر قابل‌کنترل شود. این نظریات موجب جنجال بیشتر وجلب توجه عمومی شده است.

اقتصاددانان سؤال متفاوتی مطرح می‌کنند: حتی اگر هوش مصنوعی هرگز فراهوشمند [5] نشود، اگر ماشین‌های توانمندتر بخش بزرگی از کار فکری انسانی را انجام دهند چه اتفاقی می‌افتد؟ بیانیه‌ای در سال ۲۰۲۶ با امضای صدها اقتصاددان و رهبران فناوری به‌طور خاص خواستار پژوهش درباره پیامدهای اقتصادی هوش مصنوعی شد.

جامعه شناس‌‌ها، دانشمندان علوم نظامی، وکلا و سیاست‌گذاران نگران این موضوع هستند که چه کسی هوش مصنوعی را کنترل می‌کند، چه کسی مالک زیرساخت‌های کامپیوتری آن خواهد بود، چه کسی از نظر اقتصادی سود خواهد برد و چگونه هوش مصنوعی بر دموکراسی و حقوق بشر تأثیر خواهد گذاشت؟ برای مثال، جلسه‌ی علمی مستقل سازمان ملل، هوش مصنوعی را در حوزه‌های اقتصاد، امنیت، حقوق بشر، دموکراسی، خودمختاری، ایمنی و حکمرانی بررسی می‌کند.

دولت‌ها، شرکت‌های فناوری و نهادهای نظارتی بر سر میزان نظارت مناسب اختلاف‌نظر دارند. برخی مدیران هوش مصنوعی خواستار مقررات و هماهنگی قوی‌تر در صنعت هوش مصنوعی هستند، در حالی که دیگران معتقدند مقررات بیش از حد می‌تواند نوآوری را کند و رقابت با دیگر دولت-ملت‌ها را تضعیف کند.

شکی نیست که سوسیالیست‌ها در همه جا باید دراین موارد نظر دهند و چشم‌انداز سوسیالیستی را پیش ببرند و بررسی کنند که آیا و چگونه هوش مصنوعی می‌تواند بخشی از آینده‌ی سوسیالیستی باشد یا نه. نگرانی‌های کم‌اهمیت‌تر درباره‌ی فناوری هوش مصنوعی نیز که در ادامه مطرح می‌شود نیز باید مورد توجه سوسیالیست‌ها باشد.

هوش مصنوعی احتمالاً نمایانگر مرحله‌ی نهایی حرکت فناورانه در نظام سرمایه‌داری به سوی اتوماسیون است. دیدگاه کارل مارکس از کمونیسم جامعه‌ای از فراوانی توأم با با اصلی اخلاقی است، «از هرکس به اندازه‌ی توانش، به هرکس به اندازه‌ی نیازهایش». (مارکس، ۱۸۷۵). او با دیدی مثبت به فناوری می‌نگریست که در جهت تقلیل مداوم زمان کار اجتماعاً لازم برای ایجاد امکان توسعه‌ی پتانسیل‌های انسانی حرکت می‌کند. او روند توسعه فناوری در شیوه‌ی تولید سرمایه‌داری را که توسط انباشت سرمایه و رقابت هدایت می‌شود، به سمت اتوماسیون تحلیل کرده است (نیری، ۱۴۰۳). [9] در نتیجه می‌توان هوش مصنوعی را گزینه‌ی محتملی برای جایگزینی انسان‌ها در وظایف تولید و خدمات در جامعه‌ی سوسیالیستی و سپس کمونیستی دانست.

من در همان نوشته این نگرش مثبت به فناوری به این دلیل نقد کرده‌ام که توسعه‌ی فناوری با نظریه‌ی مارکس در مورد کمونیسم به‌عنوان جامعه‌ی بشری که از بیگانگی زدوده شده در تضاد آشکار است. به لحاظ تاریخی، فناوری راهکار جوامع طبقاتی (تمدن) برای مصادره‌ی ثروت از طبیعت توسط استثمار توده مردم کارگر بوده است، یعنی بیگانگی از طبیعت و بیگانی اجتماعی تنیده در هم. سوسیالیسم که در قرن بیست‌ویکم تنها سوسیالیسم زیست‌بوم‌گرا می‌تواند باشد (نیری ۱۴۰۱) باید فتیشیسم فناوری را که ناشی از تمدن سرمایه‌داری صنعتی انسان‌محور است با چشم‌انداز جامعه‌ی سوسیالیستی که تولید را تنها برای توسعه‌ی انسانی و جدا از غارت طبیعت می‌داند که در آن نه فرهنگِ داشتن بلکه فرهنگِ بودن و هماهنگی با نظم طبیعت حاکم است.

حالا بیایید روی تهدید وجودی که هوش مصنوعی می‌تواند برای بشریت ایجاد کند تمرکز کنیم. من نگرانی‌های دانشمندان هوش مصنوعی را که در بالا نام بردم (جفری هینتون، یوشوا بنجیو و استوارت راسل) خلاصه می‌کنم.

برای نیم قرن، جفری هینتون فناوری‌ای را که در مرکز چت‌بات‌هایی مانند ChatGPT قرار دارد، توسعه داده است. اکنون او نگران است که هوش مصنوعی می‌تواند به بشریت آسیب جدی وارد کند. هینتون که بیش از یک دهه در گوگل کار کرده بود و به یکی از قابل‌احترام‌ترین فناوران هوش مصنوعی تبدیل شده بود شغل خود را را ترک کرد تا آزادانه درباره‌ی خطرات هوش مصنوعی صحبت کند. وی در مصاحبه‌ای با نیویورک تایمز (متز، ۲۰۲۳)، گفت که هوش مصنوعی مولد [10] هم‌اکنون می‌تواند وسیله‌ای برای نشر اطلاعات نادرست باشد. هوش مصنوعی مولد رشته‌ای از هوش مصنوعی است که می‌تواند متن، تصاویر، ویدیوها، صوت، کد رایانه‌ای یا سایر اشکال دیجیتال را تولید کند. هینتو می‌گوید که هوش مصنوعی به‌زودی می‌تواند جایگزین مشاغل گوناگون شود و در آینده، حتی می‌تواند بشریت را به خطر بیندازد. او استدلال کرد: «مشکل است تصور کنیم چگونه می‌توان جلوی استفاده از آن‌را توسط افراد ناباب گرفت.»

یوشوا بنجیو، دانشمند کامپیوتر کانادایی و پیشگام شبکه‌های عصبی مصنوعی و یادگیری عمیق است. یادگیری عمیق زیرمجموعه‌ای از یادگیری ماشینی است که هوش مصنوعی را به‌طور قابل توجهی پیشرفت داده است، زیرا رایانه‌ها را قادر می‌سازد مانند مغز انسان یاد بگیرند و درک کنند. این روش به کامپیوترها کمک می‌کند تا الگوهای داده را به‌طور مستقل کشف کنند و این امر منجر به پیشرفت‌هایی در شناسایی تصویر، درک گفتار و پردازش زبان طبیعی می‌شود.

آنچه بیش از همه مرا نگران می‌کند این است که ما به‌طور جمعی در حال پیشروی به سوی الگو‌های هوش مصنوعی هستیم که در بیشتر وظایف شناختی به سطح انسانی یا حتی بالاتر می‌رسند، بدون این‌که بدانیم چگونه آن‌ها را به‌طور قابل اعتماد هماهنگ و کنترل کنیم. با افزایش توانایی‌ها و عاملیت هوش مصنوعی، [11] رفتارهایی مانند تقلب، دستکاری و دروغ‌گویی که امروز نشانه‌های اولیه‌ی آن‌ها را می‌بینیم، تهدیدات جدی‌تری ایجاد خواهند کرد و می‌توانند به خطرات فاجعه‌بار منجر شوند. من و چند پژوهشگر برجسته‌ی دیگر هوش مصنوعی حتی معتقدیم که اگر هیچ اقدام مهمی انجام نشود، مسیر فعلی می‌تواند منجر به خلق عوامل هوش مصنوعی فوق‌العاده هوشمند شود که به گونه‌ای با انسان‌ها رقابت می‌کنند که ممکن است آینده‌ی ما را به خطر بیندازد. ( آبزرور ، ۱۸ سپتامبر ۲۰۲۵)

استوارت راسل، دانشمند کامپیوتر بریتانیایی است که به دلیل مشارکت‌هایش در هوش مصنوعی شناخته شده است. راسل همراه با پیتر نورویگ، نویسنده‌ی کتاب درسی معتبر در حوزه‌ی هوش مصنوعی با عنوان « هوش مصنوعی: رویکردی مدرن » است که در بیش از ۱۵۰۰ دانشگاه در ۱۳۵ کشور استفاده می‌شود. راسل در روزنامه‌ی گاردین به استعفای پژوهشگر ایمنی هوش مصنوعی، جیکوب کاکسون، از آنتروپیک اشاره می‌کند. کاکسون، در نامه‌ی استعفای خود، نگرانی خود را نسبت به اولویت‌دادن به توسعه‌ی ابرهوش مصنوعی [12] در شرکت‌هایی مانند Anthropic و OpenAI ابراز می‌کند و می‌گوید که آن‌ها «با زندگی ما قمار می‌کنند». او بر نبود یک چارچوب ایمنی و روش‌های جلوگیری از رقابت برای ایجاد سیستم‌های پیشرفته‌ی هوش مصنوعی تأکید می‌کند و خواستار اقدام فوری برای مقابله با این خطرات وجودی می‌شود. این نامه بحث گسترده‌ای درباره‌ی پی‌آمدهای اخلاقی توسعه‌ی هوش مصنوعی و مسئولیت‌های پژوهشگران در این حوزه برانگیخته است.

راسل چنین اظهارنظر می‌کند:

خودبهبودسازی بازگشتی [13] که منجر به ابر هوش مصنوعی می‌شود، خطر از دست دادن غیرقابل بازگشت کنترل انسانی را افزایش می‌دهد. سطح ریسک قابل‌قبول برای از دست دادن کنترل شاید یک در ۱۰۰ میلیون در سال باشد، نه یک در هر ۱۰ یا یک از پنج که مدیران عامل هوش مصنوعی در حال حاضر تخمین زده اند.

و به یاد داشته باشید «نبود کامل برنامه‌های معتبر برای کنترل سیستم‌های ابر هوش مصنوعی». در نقطه‌ای، پیشرفت در این مسیر فناوری متوقف خواهد شد، نه به این دلیل که پیشرفت بیشتر غیرممکن است، بلکه چون پیشرفت بیشتر وقتی فناوری ذاتاً ناامن باشد، غیرقابل تحمل است. بشریت حق دارد از خود محافظت کند.

مقاومت زیادی در برابر این استدلال وجود دارد. ما قبلا تریلیون‌ها دلار در مسیر فناوری فعلی سرمایه گذاری کرده ایم و قصد داریم تریلیون‌ها دلار دیگر را سرمایه‌گذاری کنیم. اما مغالطه‌ی هزینه‌ی سرمایه‌گذاری شده فقط همین است: اگر اشتباهی را دو برابر کنیم، باز هم اشتباه است.» ( راسل، ۱۵ سپتامبر ۲۰۲۶)

شکی نیست که مردم کارگر، از جمله سوسیالیست‌ها، باید به خواست گسترده برای وضع مقررات کامل و فوری جهت کنترل فناوری هوش مصنوعی که در حال حاضر توسط شرکت‌های خصوصی شکل می‌گیرد و میلیاردها دلار در آن سرمایه‌گذاری کرده اند، بپیوندند. منافع مالی آنها این است که در این مسیر پیش بروند و اولین کسانی باشند که سیستم‌های ابر هوش مصنوعی را در اختیار داشته باشند که بتوانند جهان را کنترل کنند. البته آن‌ها بر این احتمال که چنین سیستم‌های ابرهوش مصنوعی ممکن است تصمیم به سلطه بر بشریت بگیرند و حتی ما را نابود کنند در نظر نمی‌گیرند.

بنابراین، تمدن سرمایه‌داری صنعتی انسان‌محور اکنون تهدید وجودی جدیدی ایجاد کرده است: فناوری هوش مصنوعی. در ۲۵۰ سال گذشته و به‌ویژه بعد از پایان جنگ دوم جهانی، چهار تهدید وجودی زیست‌بومی از بطن این تمدن به‌وجود آمده است: گرمایش جهانی و تغیرات اقلیمی فاجعه‌بار، انقراض ششم گونه‌ها، همه‎گیری‌های مکرر، و هولوکاست هسته‌ای. نکته‌ی اساسی این است که این خطر با دیگر خطرات وجودی فرقی اساسی دارد. خطر ناشی از ماهیت یادگیری برگشتی [14] و خودمختاری این فناوری است و نه صرفاً استفاده از آن توسط قدرت‌های سرمایه‌داری. ابرهوش مصنوعی برنامه‌ریزی است و احتمال زیادی هست که از بشر هوشیار تر بشود و شاید علیه منافع بشریت عمل کند.

دیالکتیک نفیِ نفی در نظریه‌ی مارکس، یعنی رادیکالیزه‌شدن طبقه‌ی کارگر و ظهور خودسازماندهی و فعالیت‌های آن برای فراتر رفتن از سرمایه‌داری جهانی، با وجود فراهم بودن شرایط مادی برای سوسیالیسم هنوز محقق نشده است. هم‌زمان، تمدن سرمایه‌داری انسان‌محور بحران اجتماعی و سیاره‌ای را ایجاد کرده است که بخش بزرگی از حیات روی زمین، از جمله‌ی نسل بشر را تهدید می‌کند. هوش مصنوعی جدید‌ترین تهدید وجودی است.

[1] من بحث درباره‌ی خطرات ناشی از زیر ساخت هوش مصنوعی، مراکز داده‌ها (data centers)، را کنار گذاشته‌ام. این امر در ایالات متحده به دلیل مصرف بسیار زیاد انرژی و آب باعث بسیج مردم در ایالات متعددی شده است که خواهان تعطیلی آنها هستند. این در شرایطی است که در برخی نقاط کمبود آب شیرین وجود دارد. این مراکز باعث نشر میزان بالایی از گازهای گلخانه هستند که بحران وجودی گرمایش کره زمین و تغیرات اقلیمی فاجعه‌بار تشدید می‌کنند.

[6] Regulation vs. innovation

[7] Autonomous cyber attacks

[8] Autonomous artificial intelligence agents

[9] مارکس در مورد این که نوآوری در فنون چگونه صورت می‌گیرد نظری ندارد. توجه او معطوف نقش دینامیسم انباشت سرمایه و رقابت در پذیرش فناوری نو در شیوه‌ی تولید سرمایه‌داری است. تامسون ۱۹۹۰.

[10] Generative artificial intelligence (GAI)

[11] Artificial intelligence agent (Agent)

[13] Recursive self-improvement

مارکس، کارل. نقد برنامه گوتا . ۱۸۷۵.

نیری، کامران. سوسیالیسم در قرن بیست‌ویکم . نقد اقتصاد سیاسی. ۲ تیر ۱۴۰۱.

________. «سرمایه‌داری، اتوماسیون، سوسیالیسم، دیدگاه کارل مارکس درباره‌ی فرایند کار .» نقد اقتصاد سیاسی.۱۱ دی ۱۴۰۳.

Metz, Cade. “ The Godfather of A.I. Leaves Google and Warns of Dangers Ahead .” The New York Times, December 2, 2023.

Observer (The Editors). Yoshua Bengio On A.I. Risks, Model Breakthroughs and Canada’s Role.

Stanford University. 2026 AI Index Report .

Thomson, Ross. “Economic Forms of Technical Change,”R. Thomson, editor. 1990.