نبرد پاپ با هوش مصنوعی؛ چرا واتیکان نگران آینده این صنعت است؟

به گزارش شبکه اطلاع‌رسانی طلا و ارز 

پاپ لئو چهاردهم، نخستین پاپ آمریکایی تاریخ، با انتشار بخشنامه‌ای تحت عنوان «انسانیت باشکوه» (Magnifica Humanitas)، یکی از جدی‌ترین مداخلات مذهبی در سرنوشت تکنولوژی را رقم زده است. این سند که در ادبیات کلیسا «انسیلیکال» (Encyclical) نامیده می‌شود یعنی عالی‌ترین سطح از آموزه‌های رسمی پاپ که خطاب به تمام کاتولیک‌های جهان و بشریت نوشته می‌شود دقیقاً در صد و سی و پنجمین سالگرد انتشار بخشنامه تاریخی «رِروم نوواروم» امضا شد؛ سندی که در قرن نوزدهم برای مقابله با پیامدهای مخرب انقلاب صنعتی نوشته شده بود. پاپ با این انتخاب زمانی، پیامی روشن ارسال کرده است. هوش مصنوعی برای دنیای امروز، همان انقلاب صنعتی جدید است که اگر مهار نشود، کرامت انسانی را زیر چرخ‌دنده‌های محاسباتی خود له خواهد کرد.

در مراسم رونمایی از این سند در واتیکان، چهره‌های سرشناسی از سیلیکون‌ولی، از جمله بنیان‌گذاران شرکت هوش مصنوعی «آنتروپیک» (Anthropic)، حضور داشتند تا شنونده‌ی هشداری باشند که مستقیم قلب بیزنس‌مدل‌های آن‌ها را نشانه گرفته بود. پاپ در این متن ۴۲ هزار کلمه‌ای، از استعاره‌ی کتاب مقدس یعنی «برج بابل» استفاده کرده است؛ داستانی که در آن انسان‌ها تلاش کردند با ساخت برجی عظیم به آسمان برسند و جایگزین قدرت خدا شوند، اما در نهایت با از دست دادن قدرت تکلم و درک متقابل، دچار فروپاشی شدند. پاپ لئو معتقد است تلاش فعلی برای ساخت هوش مصنوعیِ فراگیر، تکرار همان غرورِ بابلی است که می‌خواهد تنوع و اصالت انسانی را فدای یک «استاندارد‌سازی جهانی و ماشینی» کند.

اکنون سوال اصلی اینجاست؛ در دنیایی که کارایی (Efficiency) و سرعت پردازش به تنها معیار موفقیت تبدیل شده، آیا واتیکان می‌تواند غول‌های تکنولوژی را متقاعد کند که ارزش یک انسان، فراتر از خروجی و تولیدات اوست؟ این بخشنامه تنها یک نصیحت اخلاقی نیست، بلکه طرح یک پرسش بنیادین است. آیا ما در حال ساخت ابزاری برای خدمت به بشریت هستیم، یا در حال بنا کردن برجی که قرار است خالقان خود را زیر آوار یکنواختی و الگوریتم‌ها دفن کند؟

پشتِ پرده‌ی درخشان؛ افشای «برده‌داری نوین» در مزارع داده

پاپ در بخش دوم بخشنامه خود، با دقتی که بیشتر شبیه به یک تحلیلگر ارشد اقتصادی است تا یک رهبر مذهبی، به سراغ شکاف میان «ثروت الگوریتمیک» و «فلاکت انسانی» رفته است. او هوش مصنوعی را متهم کرده که بر پایه‌ی یک سیستم ناعادلانه بنا شده که پاپ آن را «برده‌داری دیجیتال» می‌نامد. اشاره او دقیقاً به ارتش نامرئیِ کارگرانی است که در کشورهای در حال توسعه، با دستمزدهای ناچیز در حال «برچسب‌گذاری داده‌ها» (Data Labeling) هستند؛ یعنی همان افرادی که ساعت‌ها پشت مانیتور می‌نشینند تا به هوش مصنوعی بفهمانند تفاوت یک «دوچرخه» با «پل» چیست، تا ماشین بتواند یاد بگیرد.

این بخش از تحلیل پاپ، مستقیماً به مفهوم «زنجیره تأمین» (Supply Chain) در صنعت تکنولوژی می‌پردازد. او خاطرنشان کرده است که هوش مصنوعیِ پاک و شیکی که ما در گوشی‌هایمان استفاده می‌کنیم، ریشه در «استخراج خونین» دارد؛ از معادن کبالت در کنگو که توسط کودکان برای باتری‌ها و چیپست‌ها حفاری می‌شود، تا مراکز داده‌ای که مقادیر عظیمی از آب شیرین مناطق محروم را برای خنک‌سازی سرورها بلعیده و محیط‌زیست را تخریب می‌کنند. پاپ با این رویکرد، هوش مصنوعی را نه یک پدیده صرفاً نرم‌افزاری، بلکه یک «بار سنگین فیزیکی» بر دوش زمین و طبقه کارگر توصیف کرده است.

علاوه بر این، پاپ لئو هشدار داده است که منطق هوش مصنوعی، یعنی «بهینه‌سازی مطلق»، در حال تبدیل کردن محیط‌های کاری به زندان‌های الگوریتمیک است. او می‌گوید وقتی مدیر یک کارمند، نه یک انسان، بلکه یک «الگوریتم» باشد که فقط اعداد را می‌فهمد، «کرامت انسانی» (Human Dignity) یا همان ارزش ذاتی و غیرقابل معامله‌ی هر فرد، از بین می‌رود. در این سیستم، کارگر دیگر یک انسان با نیازهای عاطفی و جسمی نیست، بلکه تنها یک «واحد بهره‌وری» است که اگر سرعتش از حد استاندارد ماشین پایین‌تر بیاید، به سادگی از چرخه حذف می‌شود. اینجاست که پاپ لئو چهاردهم با لحنی تند، تکنولوژی را به جای «ابزار پیشرفت»، «ابزار سرکوب نوظهور» معرفی می‌کند.

مرز نفوذناپذیر؛ چرا «الگوریتم» هرگز نمی‌تواند «انسان» باشد؟

در حالی که در دره‌ی سیلیکون، برخی دانشمندان با شور و حرارت از ظهور «هوش مصنوعیِ آگاه» (Sentient AI) سخن می‌گویند، یعنی ماشینی که نه تنها پردازش می‌کند، بلکه توانایی درک، احساس و رنج کشیدن را دارد. پاپ لئو چهاردهم در بخشنامه‌ی خود یک دیوار بلند کلامی و فلسفی در برابر این ادعا بنا کرده است. او در این بخش با دقتی تحلیلی، میان دو مفهوم تمایز قائل می‌شود: «هوش» (Intelligence) که آن را قدرت حل مسئله و بهینه‌سازی داده‌ها تعریف می‌کند، و «حکمت» (Wisdom) که آن را محصول رنج، تجربه، عشق و داشتن یک کالبد فانی انسانی می‌داند.

پاپ در متن خود هشدار می‌دهد که بزرگ‌ترین فریب عصر ما، «انسان‌انگاریِ ماشین» (Anthropomorphism) است؛ یعنی تمایل ما به اینکه به ابزارهای ساخته‌ی دست خودمان، ویژگی‌های انسانی نسبت دهیم. او می‌گوید هوش مصنوعی در بهترین حالت، یک «آینه‌ی شکسته» است که تنها بازتابی از دانش انباشته‌شده‌ی ما را به خودمان برمی‌گرداند، اما فاقد آن چیزی است که کلیسا آن را «جرقه الهی» یا روح می‌نامد. از دیدگاه واتیکان، ماشین می‌تواند «شبیه‌سازی» کند، اما نمی‌تواند «شهود» داشته باشد؛ می‌تواند «اطلاعات» را منتقل کند، اما نمی‌تواند «معنا» خلق کند.

این بخش از تحلیل پاپ، یک هشدار امنیتی و اجتماعی بزرگ در دل خود دارد. او معتقد است اگر ما به اشتباه باور کنیم که ماشین‌ها صاحب فهم یا قضاوت اخلاقی هستند، به تدریج مسئولیت‌های سنگینِ انسانی مانند قضاوت در دادگاه‌ها، تشخیص‌های پزشکی حساس و تصمیم‌گیری برای جنگ و صلح را به الگوریتم‌ها واگذار می‌کنیم. پاپ این روند را «سلبِ مسئولیت از انسان» می‌نامد و تأکید می‌کند که سپردن سرنوشت یک انسان به دست ماشینی که «فقط محاسبه می‌کند و نمی‌فهمد»، بزرگ‌ترین جنایت علیه بشریت در قرن بیست و یکم خواهد بود. در واقع، پاپ می‌خواهد بگوید که خطر اصلی این نیست که ماشین‌ها شبیه انسان شوند، بلکه خطر اینجاست که انسان‌ها در اثر تعامل با ماشین، کم‌کم مانند ماشین‌ها سرد، محاسبه‌گر و فاقد همدلی شوند.

از موعظه تا مقررات؛ واتیکان چگونه می‌خواهد «قانونِ انسانی» را جایگزین منطق ماشین کند؟

بخش پایانی «انسانیت باشکوه» عملاً یک جمع‌بندی اخلاقی ساده نیست؛ پاپ لئو چهاردهم در اینجا تلاش می‌کند متن را از سطح هشدار و روایت، به سطح چارچوب سیاست‌گذاری برساند. پیام مرکزی او روشن است. اگر هوش مصنوعی قرار است ستون فقرات اقتصاد و دولت‌ها شود، باید از همین حالا زیر یک «قانونِ انسانی» برود؛ قانونی که معیارش فقط رشد، سرعت و بهره‌وری نباشد، بلکه کرامت انسان را به‌عنوان خط قرمز غیرقابل مذاکره تعریف کند.

پاپ در این جمع‌بندی، دوگانه‌ای می‌سازد که به زبان بازار هم قابل فهم است: جهان فناوری با منطق بهینه‌سازی پیش می‌رود (کمترین هزینه، بیشترین خروجی) اما جامعه با منطق مشروعیت می‌ایستداینکه چه چیزی «درست» است و چه چیزی «مجاز» نیست. از نگاه او، بحران اصلی AI دقیقاً همین‌جاست. فناوری با شتاب جلو می‌رود، اما قواعد اخلاقی و حقوقی عقب مانده‌اند. نتیجه‌اش هم همان چیزی است که پاپ در طول متن هشدار می‌دهد: وقتی تصمیم‌های بزرگ به الگوریتم‌ها واگذار شود، ریسک «خطای سیستماتیک» بالا می‌رود؛ خطایی که می‌تواند در مقیاس میلیونی تکثیر شود و پاسخ‌گویی‌اش هم مبهم بماند.

در این نقطه، پاپ به‌طور ضمنی با روایت رایج سیلیکون‌ولی وارد چالش می‌شود؛ روایتی که می‌گوید «اول بسازیم، بعداً اصلاحش می‌کنیم». واتیکان دقیقاً برعکس می‌گوید: اول باید مرزها روشن شود اینکه چه چیزهایی حتی اگر ممکن باشد، نباید مجاز باشد. مفهوم کلیدی این بخش، همان چیزی است که می‌شود آن را Human-in-the-loop به زبان ساده توضیح داد: یعنی در تصمیم‌های حساس—از درمان و استخدام تا قضاوت و امنیت—باید یک انسانِ مسئول و پاسخ‌گو در زنجیره تصمیم باقی بماند؛ نه برای تزئین، بلکه برای اینکه مسئولیت اخلاقی از بین نرود و «حق توضیح» و «حق اعتراض» برای مردم معنا داشته باشد.

اما نتیجه تحلیلیِ جذاب‌ترِ متن اینجاست: پاپ لزوماً نمی‌خواهد حرکت AI را متوقف کند؛ او می‌خواهد جهتِ سرمایه و نوآوری را عوض کند. پیام پنهان این بخشنامه به دولت‌ها، رگولاتورها و حتی سرمایه‌گذاران این است که «هوش مصنوعیِ موفقِ آینده» صرفاً آن مدلی نیست که دقیق‌تر و بزرگ‌تر است؛ مدلی است که بتواند از زیر بار آزمون اخلاقی و اجتماعی هم عبور کند. شفافیت، پاسخ‌گویی، عدم تبعیض، و احترام به انسان به‌عنوان هدف، نه ابزار.

به بیان دیگر، واتیکان دارد روی یک خلأ دست می‌گذارد که بسیاری از بازیگران بازار هم به‌تدریج حسش کرده‌اند: بی‌اعتمادی عمومی. اگر جامعه به این نتیجه برسد که AI شغل را می‌بلعد، داده را می‌مکد، تصمیم را بی‌چهره می‌کند و مسئولیت را پنهان، آن‌وقت موجی از واکنش سیاسی و محدودیت‌های سخت‌گیرانه می‌آید کهنه فقط در اروپا، بلکه در هرجا که صندوق رأی و فشار افکار عمومی نقش داشته باشد. «انسانیت باشکوه» در این خوانش، بیشتر از آنکه یک خطابه مذهبی باشد، هشدار درباره هزینه‌های اقتصادی بی‌اعتمادی است.

نتیجه نهایی پاپ، یک جمع‌بندی غیرمنتظره اما قابل‌فهم است: خطر اصلی هوش مصنوعی «شبیه شدن ماشین به انسان» نیست؛ خطر اصلی «تنزل انسان به ماشین» است. جامعه‌ای که در آن ارزش فرد با نمره بهره‌وری، امتیاز الگوریتم و خروجی قابل‌اندازه‌گیری سنجیده شود. این سند می‌گوید اگر قرار است آینده دیجیتال قابل دفاع باشد، باید یک اصل در مرکز آن بماند: انسان، واحد اندازه‌گیری نیست؛ معیار معناست.