آیا می‌توانیم هوش مصنوعی بومی بسازیم؟

این یادداشت با تکیه بر چارچوب تحلیلی استخراج شده از مطالعۀ تطبیقی شش سند راهبردی ملی و با افزودن دو چالش خاصِ بافت ایران (مشکل امنیت جانی پژوهشگران و مسألۀ پیشگیری از حملات سایبری در تراز استاکس‌نت) به این پرسش پاسخ می‌دهد که آیا جمهوری اسلامی ایران می‌تواند چنین برنامۀ استراتژیکی بزرگی را به درستی تدوین و اجرا کند؟

این یادداشت نشان می‌دهد موفقیت در این مسیر به هم‌ترازی ظرفیت‌های پایه (داده، رایانش، منابع انسانی)، ظرفیت‌های سازمانی (حکمرانی، تأمین مالی، نهادهای میانجی) و برون‌دادهای راهبردی وابسته است، مشروط بر آنکه دو لایۀ حفاظتیِ منابع انسانی و زیرساخت دیجیتالی امن و ایمن به‌عنوان شروط عرضیِ کل مدل طراحی و اجرا شوند. بااین‌حال، در صورت تداوم شرایط جنگی حاضر و تشدید تهدیدهای هدفمند علیه دانشمندان و زیرساخت‌های حیاتی کشور، دستیابی به این هدف با موانعی فراتر از ظرفیت‌سازی فنی روبه‌رو خواهد شد.

همانطور که ذکر شد رسیدن به مدل بنیادین هوش مصنوعی بومی، مسأله نیست، مشکل است!

من دو دهه پیش از یکی از درسگفتارهای مرحوم دکتر سید جواد طباطبایی آموختم که در فلسفه علم، مهندسی، مدیریت بحران و حتی برنامه‌ریزی استراتژیکی اغلب نادیده گرفته می‌شود که باید میان «مسأله» (Problem) و «مشکل» (Difficulty/Conundrum) تمایز قائل شد.

مسأله معمولاً، وضعیتی کاملاً تعریف‌شده است که در آن:

اما مشکل یعنی وضعیتِ بی‌صورت‌بندی، جایی است که:

مثال: «چگونه مدل بومی هوش مصنوعی خودمان را در جامعه‌ای آشوبناک اجرا کنیم که کاربران اَش به مدل‌های خارجی عادت و دل خوش کرده‌اند، در جامعه‌ای که سرمایه‌گذاران اَش ریسک‌گریز اند، و قوانین بین‌المللیِ تحریم‌کننده تراشه‌ها هر ۶ ماه تغییر می‌کنند و دسترسی به آنها حتی برای کشورهایی که تحریم نشده اند و در محاصرۀ اقتصادی و تجاری و مالی نیستند همواره سخت تر می‌شود ؟»

پاسخ به این پرسش، مشکل است؛ چون یک صورت‌بندی مشخص ندارد.

ما مسأله را با علم و مهندسی حل می‌کنیم. اما مشکلاتی مطرح می‌شوند که با علم و مهندسی حل نمی شوند، زیرا هیچ راهکار و راه‌حلی ندارند. آنها را شاید بتوان با «از-خر-شیطان- پایین-آمدن»، حکمرانی خوب، مذاکرۀ شفاف، صبوری، و گاهی تغییر زاویه دیدِ مدیریت و عمدتاً انکار آگاهانۀ بسیاری از آنها، رفع شان کرد و سپس با خیال راحت به «مسأله» پرداخت.

برای پاسخ به سه دلیل کلیدی برای این که چرا عبور از مشکل گاهی «محال» است، چه مواردی هستند، دلایل عبورناپذیری از مشکلات به طور خلاصه در جدول ذکر شده‌اند.

اما محال بودنِ عبور از یک مشکل، به معنای شکست نیست؛ بلکه به معنای آن است که باید «ریختِ موفقیت» را عوض کنیم. مثلاً شاید موفقیت رسیدن به یک مدل بومی هوش مصنوعی، نه در رقابت با چت‌جی‌پی‌تی یا دیپ‌سیک، بلکه در ایجاد یک «اکوسیستم کوچک ولی خودبسنده» باشد که برای هوشمندسازی مهمترین حوزه‌های خاص داخلی یک وزارتخانه کافی است.

بزرگترین خطای فکری ما معاصران این است که اغلب از شوق «حلیم» ناپرهیزگارانه دل به دریا می زنیم و مشکل را به شکل مسأله می‌بینیم؛ در حالی که برخی از مهم‌ترین دستاوردهای بزرگ تاریخی، نه با گام‌های بزرگ بلکه با احتیاط و نه با هماوردجویی با مشکلی عظیم، که با کنارگذاشتن و دورزدن مشکل یا با بازتعریف آن به دست آمده‌اند.

مدل بنیادین هوش مصنوعی بومی، یک مدل زبانی به قدر کافی بزرگ متنی یا چندوجهی (Multimodal) است که از صفر تا صد آن، باید در داخل کشور ( یا در درون منطقۀ جغرافیایی‑فرهنگی کشورهای اسلامی) «در صلح و صفا» طراحی، آموزش، بهینه‌سازی و میزبانی شده باشد. این مدل نه‌تنها از نظر فنی باید مستقل باشد، بلکه داده‌های آموزش، اهداف کارکردی، و سازوکارهای تعامل آن باید بر اساس بافت زبانی، فرهنگی، حقوقی و اقتصادی جامعۀ هدف (یا جوامع منطقۀ مورد نظر) شکل گرفته باشد.

به طور کلی ارکان اصلی مدل بنیادین هوش مصنوعی بومی عبارتند از:

به این ترتیب: مدل بنیادین هوش مصنوعی بومی، یک سامانۀ هوشمند زبانی یا چندوجهی است که تمامی اجزای آن (معماری، داده، آموزش، ارزش‌گذاری و کاربرد) بر اساس منابع، نیازها و حاکمیت جامعۀ هدف طراحی و پیاده‌سازی شده و از زنجیرۀ تأمین خارجی در لایه‌های کلیدی آن بی‌نیاز است.

اما چالش‌های تدوین برنامه استراتژیکی ملی برای هوش مصنوعی عبارتند از:

۱. چالش تلقی هوش مصنوعی به‌عنوان موضوع حاکمیت ملی

نخستین چالش، عبور از تلقی هوش مصنوعی به‌عنوان مجموعه‌ای از الگوریتم‌ها و نرم‌افزارها و درک آن به‌عنوان یک ظرفیت ملی چندبعدی است. توان ملی هوش مصنوعی به داده، منابع انسانی، رایانش، تراشه، شبکه، انرژی، دانش و قواعد حقوقی وابسته است و ضعف هر یک از این اجزا می‌تواند بر کل ظرفیت اثر بگذارد. از این منظر، مسأله فقط دسترسی به فناوری نیست، بلکه مسأله توان تصمیم‌گیری، انتخاب، جایگزینی و استمرار خدمت در حوزه‌های حیاتی است. پنج قلمرو مرتبط را در این زمینه باید برجسته کرد: حاکمیت داده، حاکمیت رایانش، حاکمیت وزن‌ها، حاکمیت الگوریتمی و حاکمیت سخت‌افزاری.

چالش اصلی در اینجا، وابستگی متقابل این قلمروهاست. داشتن مرکز داده بدون نیروی متخصص، داشتن مدل بدون رایانش کافی، یا داشتن شتاب‌دهنده بدون امکان تأمین و نگهداری آن در شرایط بحرانی، الزاماً به معنای برخورداری از حاکمیت واقعی هوش مصنوعی نیست. بنابراین، تعریف مرزهای ظرفیت ملی و تعیین اینکه کدام اجزاء حیاتی، استراتژیکی یا قابل تأمین از خارج هستند، خود به یک چالش استراتژیکی تبدیل می‌شود.

۲. چالش معماری حکمرانی و هماهنگی نهادی

واگذاری مسئولیت هوش مصنوعی به یک وزارتخانه یا سازمان، خطرِ بخشی‌شدنِ نگاه و محدودشدنِ افقِ برنامه را ایجاد می‌کند؛ در مقابل اما پراکندگی مسئولیت میان سازمان‌های متعدد می‌تواند به موازی‌کاری، رقابت نهادی و اتلاف منابع منجر شود.

چالش اصلی، تعیین مرز مسئولیت و رابطه دولت، دانشگاه، صنعت و نهادهای میانجی است. در یک برنامه ملی، دولت سیاست‌گذار و تنظیم‌کننده، دانشگاه تولیدکننده دانش و نیروی انسانی، صنعت توسعه‌دهنده و تجاری‌کننده و نهادهای میانجی هماهنگ‌کننده این حوزه‌ها هستند. دشواری زمانی بیشتر می‌شود که چند نهاد دولتی هم‌زمان مدعی سیاست‌گذاری، تنظیم‌گری، تأمین مالی یا اجرای برنامه باشند و سازوکار روشن حل تعارض وجود نداشته باشد.

۳. چالش تداوم تعهد سیاسی و فرادولتی‌بودن برنامه

توسعه اکوسیستم ملی هوش مصنوعی معمولاً به دوره‌ای طولانی‌تر از عمر یک دولت یا حتی یک دوره پارلمانی نیاز دارد. در نتیجه، میان چرخه‌های کوتاه سیاسی و افق بلندمدت فناوری تعارض ایجاد می‌شود. تغییر دولت یا مدیر می‌تواند به تغییر اولویت‌ها، کاهش بودجه، انحلال یا تغییر ساختار سازمان مسئول و پراکندگی منابع انسانی منجر شود.

چالش عمیق‌تر آن است که برنامه چگونه از یک «برنامه دولت» به «تعهد ملی» تبدیل شود، بدون آنکه استمرار آن به یک جریان سیاسی یا شخص خاص وابسته باشد. نبود چنین تداومی، برنامه را در معرض توقف، تغییر مسیر یا گسست نهادی قرار می‌دهد.

۴. چالش همکاری دولت، دانشگاه و صنعت

از سوی دیگر سه بخش دولت، دانشگاه و صنعت اهداف و منطق‌های متفاوتی دارند. دانشگاه بیشتر بر تولید و انتشار دانش، صنعت بر مزیت رقابتی و بازگشت سرمایه و دولت بر منافع عمومی و اهداف ملی تمرکز دارد. تفاوت اهداف سازمانی، نظام‌های ارزیابی عملکرد، سطح اعتماد، رقابت بر سر منابع و ابهام در مالکیت فکری می‌تواند همکاری پایدار را دشوار کند.

در نتیجه، فاصله میان پژوهش و محصول، میان سیاست و فناوری و میان نیاز دولت و ظرفیت دانشگاه می‌تواند به یکی از موانع اصلی برنامه تبدیل شود. نبود نهادهای میانجی کارآمد نیز این شکاف‌ها را تشدید می‌کند.

۵. چالش زیرساخت رایانشی، داده و سرمایه فناورانه

مدل‌های بنیادین به سه سرمایه اصلی داده، رایانش و الگوریتم وابسته‌اند. تأمین شتاب‌دهنده‌های پیشرفته، ایجاد مراکز داده تخصصی، تأمین انرژی پایدار، کنترل هزینه آموزش مدل‌ها و ایجاد زیرساخت ذخیره‌سازی داده، از چالش‌های اساسی محسوب می‌شوند.

این چالش صرفاً اقتصادی نیست؛ زیرا ظرفیت رایانشی به موضوعی ژئوپلیتیکی تبدیل شده است. وابستگی به تراشه، شتاب‌دهنده، تجهیزات شبکه، مراکز داده، خدمات ابری و فناوری‌های ذخیره‌سازی می‌تواند در شرایط بحران به محدودیت عملیاتی تبدیل شود. همچنین، مقیاس‌پذیری رایانش، انرژی و سرمایش، ارتباط میان شتاب‌دهنده‌ها و استمرار دسترسی به زیرساخت، همگی بر قابلیت توسعه مدل‌های بزرگ اثر می‌گذارند.

۶. چالش منابع انسانی و سازمان یادگیرنده

کمبود متخصصان یکی از بنیادی‌ترین محدودیت‌های برنامه است. نیاز کشور فقط به برنامه‌نویس یا کاربر هوش مصنوعی محدود نیست بلکه پژوهشگر هوش مصنوعی، مهندس یادگیری عمیق، متخصص داده، مهندس زیرساخت، متخصص امنیت، کارشناس اخلاق، مهندس تاب‌آوری و سیاست‌گذار هوش مصنوعی نیز مورد نیازند.

چالش دیگر، تبدیل نیروی انسانی به ظرفیت سازمانی است. حتی وجود متخصصان برجسته، بدون سازمان‌هایی که بتوانند دانش را جذب، حفظ، منتقل و به‌روزرسانی کنند، الزاماً به ظرفیت ملی پایدار منجر نمی‌شود. مهاجرت متخصصان و وابستگی سازمان به تعداد محدودی نیروی کلیدی نیز آسیب‌پذیری انسانی ایجاد می‌کند.

۷. چالش زبان فارسی و سرمایه زبانی دیجیتالی

توسعه هوش مصنوعی فارسی‌محور با کمبود پیکره‌های متنی بزرگ و استاندارد، با پراکندگی منابع علمی و تخصصی، با فقدان اصطلاح‌نامه‌های جامع و ماشین‌خوان، با ناهماهنگی در معادل‌سازی علمی و فنی و با دشواری‌های پردازش خط فارسی روبه‌رو است.

اینجا مشکل فقط کمبود حجم داده فارسی نیست؛ کیفیت، ساختار، تنوع، اعتبار و قابلیتِ پردازشِ منابعِ زبانی نیز اهمیت دارد. پراکندگی محتوای فارسی میان نهادهای دولتی، دانشگاه‌ها، ناشران، نویسندگان و صاحبان محتوا، چالش دسترسی و یکپارچه‌سازی سرمایه زبانی را نیز ایجاد می‌کند.

۸. چالش تاب‌آوری و استقلال استراتژیکی

برنامه ملی هوش مصنوعی در محیطی از عدم‌قطعیت فناوری، محدودیت‌های زنجیره تأمین، تحولات ژئوپلیتیکی، تحریم‌ها، مهاجرت متخصصان و تغییرات اقتصادی اجرا می‌شود. بنابراین، ظرفیت ایجادشده ممکن است در برابر شوک‌های بیرونی یا درونی آسیب‌پذیر باشد.

تاب‌آوری ابعاد مختلفی دارد: استمرار فعالیت مراکز داده، شبکه و انرژی؛ وابستگی به تأمین‌کنندگان خارجیِ تراشه و تجهیزات؛ ترور فیزیکی و شخصیتی یا خروج متخصصان کلیدی؛ امنیت و پشتیبان‌گیری داده‌های حیاتی؛ و حفظِ دانش سازمانی در زمانِ تغییرِ مدیران و دولت‌ها. ضعف هر یک از این حلقه‌ها می‌تواند کل برنامه را تحت سوءِ تأثیر قرار دهد.

۹. چالش مدل اقتصادی و تأمین مالی پایدار

توسعه مدل‌های بنیادین، مراکز داده و نیروی انسانی متخصص هزینه‌های سنگینی دارد، در حالی که بازگشت سرمایه معمولاً بلندمدت است. ازاین‌رو، وابستگی بیش از حد به بودجه دولتی، نبودِ مدلِ کسب‌وکارِ پایدار، فاصله پژوهش و بازار و دشواری قیمت‌گذاریِ خدمات هوش مصنوعی، از چالش‌های اصلی‌اند.

چالش دیگر، عدم تناسب میان ماهیت عمومی برخی زیرساخت‌های هوش مصنوعی و ماهیت تجاری محصولات است. مرز میان زیرساخت عمومی، سرمایه‌گذاری خصوصی و محصول تجاری می‌تواند در تخصیص منابع و تعیین مسئولیت‌ها ابهام ایجاد کند.

۱۰. چالش امنیت جانی و حفاظت از منابع انسانی استراتژیکی

با تبدیل‌شدن هوش مصنوعی به مؤلفه‌ای از قدرت اقتصادی، علمی و امنیت ملی، دانشمندان، مهندسان و مدیران ارشد این حوزه ممکن است به سرمایه‌ای راهبردی تبدیل شوند. در چنین شرایطی، امنیت جانی پژوهشگران و متخصصان هوش مصنوعی صرفاً مساله‌ای فردی یا سازمانی نیست، بلکه می‌تواند به مساله‌ای مرتبط با تداوم ظرفیت ملی تبدیل شود.

این چالش شامل آسیب‌پذیری متخصصان کلیدی، تمرکز دانش در تعداد محدودی از افراد، تهدید علیه پژوهشگران حوزه‌های حساس، فشار بر خانواده و محیط کاری آنان و پیامدهای روانی و سازمانی تهدیدهای امنیتی است. همچنین، اگر خروج یا حذف چند متخصص بتواند یک پروژه ملی را متوقف یا به‌شدت تضعیف کند، خودِ ساختار برنامه دارای آسیب‌پذیری راهبردی خواهد بود. این چالش با «تاب‌آوری انسانیِ» (مذکور در بخش ۸ این یادداشت) ارتباط مستقیم دارد؛ به درستی، وابستگی سازمان به چند متخصص اصلی را باید یکی از مسائل تاب‌آوری دانست.

۱۱. چالش مقاوم‌سازی و امنیت زیرساخت‌ها و پایگاه‌های هوش مصنوعی

زیرساخت داده‌ای هوش مصنوعی ممکن است به مرور زمان به یکی از حیاتی‌ترین دارایی‌های ملی تبدیل شود. بنابراین، خطر صرفاً سرقت یا افشای داده نیست، بلکه دستکاری، تخریب، آلوده‌سازی یا مختل‌کردن داده‌ها و سامانه‌های پشتیبان نیز می‌تواند قابلیت‌های هوش مصنوعی را دچار اختلال کند.

این چالش را می‌توان در قالب سناریوی یک حمله پیچیده و چندمرحله‌ای، مشابه آنچه در حمله استاکس‌نت از نظر منطق کلیِ نفوذ، پنهان‌کاری و اثرگذاری بر یک زیرساخت حیاتی مشاهده شد، در نظر گرفت؛ با این تفاوت که هدف در اینجا زیرساخت داده، سامانه‌های مدیریت داده، محیط‌های آموزش و ارزیابی مدل و زنجیره دسترسی به داده‌های حیاتی است. مساله اساسی، تشخیص تفاوت میان حمله متعارف سایبری و حمله‌ای است که بتواند «تمامیت داده» و در نتیجه رفتار مدل‌های هوش مصنوعی را هدف قرار دهد.

خطر دیگر، حمله به نسخه‌های پشتیبان، سامانه‌های مدیریت هویت و دسترسی، زنجیره نرم‌افزار و سخت‌افزار، یا منابع داده بالادستی است. در چنین شرایطی، حتی وجود نسخه پشتیبان نیز لزوماً به معنای مصونیت نیست؛ زیرا اگر داده آلوده یا دستکاری‌شده در چند لایه زیرساختی تکثیر شده باشد، تشخیص داده معتبر از داده مخدوش به مساله‌ای پیچیده تبدیل می‌شود. ازاین‌رو، امنیت پایگاه داده هوش مصنوعی فقط «امنیت اطلاعات» نیست، بلکه با اعتبار، تمامیت و قابلیت اعتماد به خود ظرفیت ملی هوش مصنوعی پیوند می‌خورد.

۱۲. چالش تنظیم مقررات، اخلاق و اعتماد عمومی

گسترش هوش مصنوعی بدون اعتماد عمومی پایدار نیست. مسائل حریم خصوصی، شفافیت الگوریتمی، مسئولیت‌پذیری، امنیت، تبعیض و امکان رسیدگی به خطاها و آسیب‌های ناشی از سامانه‌های هوش مصنوعی، همگی بخشی از این چالش‌ هستند.

دشواری اصلی در ایجاد تعادل میان نوآوری و کنترل ریسک است. مقررات بیش از حد سخت‌گیرانه ممکن است نوآوری را محدود کند و مقررات مبهم یا ناکافی نیز می‌تواند اعتماد عمومی و امنیت را تضعیف کند. علاوه بر آن، سرعت تحول مدل‌های بنیادین و کارگزاران هوشمند می‌تواند موجب شود چارچوب‌های حقوقی و مقرراتی از تحولات فناوری عقب بمانند.

(توجه: در مجموع، چالش تدوین برنامه استراتژیکی ملی هوش مصنوعی، حاصلِ جمع ساده این دوازده مساله نیست؛ بلکه ناشی از وابستگی متقابل آنهاست. زیرساخت بدون نیروی انسانی، داده بدون امنیت، مدل بدون رایانش، پژوهش بدون صنعت، سرمایه‌گذاری بدون تداوم سیاسی، و فناوری بدون اعتماد عمومی نمی‌توانند به ظرفیت ملی پایدار تبدیل شوند. به همین دلیل، باید هوشیار بود: موفقیت برنامه را باید وابسته به هم‌ترازی سیاست، نهاد، زیرساخت، منابع انسانی، داده و بازار دانست.

صادقانه بگویم: من تحقق برنامه‌ای وابسته به رفع حداقل دوازده چالش مذکور را در شرایط فعلی تا اطلاع ثانوی محال می‌دانم.

طلای آنلاین در خلأ نظارت و زنگ خطر تکرار بحران‌های اعتباری