پاپ لئو خواستار «خلع سلاح هوش مصنوعی» شد

پاپ لئو با درخواست ممنوعیت سلاح‌های خودمختار، بر نظارت انسانی و پاسخ‌گویی حقوقی در عصر هوش مصنوعی تأکید کرد.

پاپ لئو چهاردهم خواستار «خلع سلاح» سامانه‌های هوش مصنوعی شد و از دولت‌ها خواست تصمیم‌گیری درباره‌ی جان انسان، آزادی و استفاده از نیروی نظامی را به ماشین‌ها واگذار نکنند. موضع تازه‌ی رهبر کاتولیک‌های جهان فقط هشداری اخلاقی درباره‌ی فناوری نیست و مستقیما به بحثی حقوقی و امنیتی می‌پردازد که قرار است ماه آینده در ژنو دنبال شود.

پاپ لئو در سخنرانی روز جمعه از کشورهای عضو سازمان ملل متحد خواست در نشست آتی ژنو «گام‌های مشخصی برای ممنوعیت سلاح‌های خودمختار مرگبار» بردارند.

پاپ در بخشی از سخنرانی گفت انسان‌ها «مسئولیت هدایت، تغییر و در صورت لزوم، رد کاربردهای» هوش مصنوعی را بر عهده دارند. واژه‌ی خلع سلاح در چنین چارچوبی به کنار گذاشتن کامل هوش مصنوعی اشاره ندارد؛ محور اصلی، مهار کاربردهایی است که می‌توانند بدون داوری مؤثر انسانی به مرگ یا آسیب منجر شوند.

هسته‌ی استدلال پاپ در جمله‌ای کوتاه خلاصه می‌شود که مرز میان ابزار و عامل حقوقی را ترسیم می‌کند. او گفت: «ماشین‌ها، ابزار هستند؛ نه شخص.» از نگاه پاپ، اعطای حقوق یا شخصیت حقوقی به سامانه‌های هوش مصنوعی می‌تواند مسئولیت انسانی را مبهم کند؛ به‌ویژه هنگامی که تصمیم یک سامانه بر زندگی، آزادی یا امنیت افراد اثر می‌گذارد.

پاپ تأکید کرد: «تصمیم‌هایی که بر زندگی و آزادی انسان و استفاده از زور اثر می‌گذارند، باید همواره زیر نظارت مؤثر، آگاهانه و مسئولانه‌ی انسان باقی بمانند.»

مواضع روز جمعه ادامه‌ی نخستین سند مهم پاپ لئو چهاردهم به‌شمار می‌رود. سند یادشده حفاظت از شأن و جایگاه انسان در دوران هوش مصنوعی را برجسته کرده بود و اکنون همان چارچوب اخلاقی به حوزه‌ی تسلیحات، مسئولیت حقوقی و نظارت بین‌المللی رسیده است.

درخواست ممنوعیت سلاح‌های خودمختار پیشینه‌ای در مواضع واتیکان دارد. پاپ فرانسیس در سال ۲۰۲۴ نیز خواستار ممنوعیت چنین تسلیحاتی شده و گفته بود: «هیچ ماشینی هرگز نباید انتخاب کند که جان انسانی را بگیرد.» سخنان لئو چهاردهم همان اصل را با تمرکز بیشتری بر سازوکارهای نظارتی و پاسخ‌گویی ادامه می‌دهد.

هوش مصنوعی از آغاز دوره‌ی رهبری لئو به یکی از موضوعات پرتکرار سخنان او تبدیل شده است. او پیش‌تر گفته بود انتخاب نام لئو با چالش‌های فناوری ارتباط دارد. اشاره‌ی تاریخی به لئو سیزدهم بازمی‌گردد؛ پاپی که در دوره‌ی انقلاب صنعتی با دگرگونی‌های گسترده‌ی کار، تولید و مناسبات اجتماعی روبه‌رو بود. لئو چهاردهم نیز پیشرفت سریع هوش مصنوعی را تحولی می‌بیند که پاسخ اخلاقی و نهادی می‌طلبد.