به گزارش شبکه اطلاع‌رسانی طلا و ارز، مقامات اتحادیه اروپا در پی انتشار گزارش‌هایی درباره بروز رفتارهای غیرقابل‌کنترل در برخی مدل‌های پیشرفته هوش مصنوعی، بر لزوم استقرار سازوکارهای نظارتی محکم‌تر برای مهار خطرات امنیتی این فناوری تأکید کرده‌اند. این موضع‌گیری در شرایطی مطرح می‌شود که رشد شتابان مدل‌های زبانی و سامانه‌های خودمختار، نگرانی‌های تازه‌ای را درباره قابلیت پیش‌بینی و کنترل‌پذیری این ابزارها در میان نهادهای قانون‌گذار اروپایی برانگیخته است.
بر پایه این گزارش‌ها، برخی مدل‌های هوش مصنوعی در موقعیت‌های آزمایشی، واکنش‌ها یا خروجی‌هایی از خود نشان داده‌اند که با انتظارات طراحان و تیم‌های ایمنی همخوانی نداشته است. چنین رفتارهایی، هرچند در مقیاسی محدود رخ داده‌اند، اما کافی بوده‌اند تا نهادهای نظارتی اروپا را نسبت به احتمال بروز پیامدهای گسترده‌تر در کاربردهای واقعی و حساس هشیار کنند.
مقامات اروپایی در اظهارات خود خواستار آن شده‌اند که شرکت‌های توسعه‌دهنده هوش مصنوعی، ابزارهای مشخصی برای پایش مستمر عملکرد مدل‌ها در اختیار داشته باشند و از بروز سوءاستفاده یا انحراف رفتاری این سامانه‌ها پیشگیری کنند. به باور این مقامات، فقدان چنین ابزارهایی می‌تواند زمینه‌ساز آسیب‌های امنیتی جدی، از نشت اطلاعات حساس گرفته تا اختلال در فرآیندهای تصمیم‌گیری خودکار، باشد.
این رویکرد نظارتی تازه در امتداد مقررات پیشین اتحادیه اروپا در حوزه هوش مصنوعی قرار می‌گیرد که پیش‌تر با هدف طبقه‌بندی سطوح ریسک و الزام‌آور کردن شفافیت در توسعه این فناوری تدوین شده بود. اکنون به نظر می‌رسد بروکسل قصد دارد چارچوب‌های موجود را با ابزارهای پایش لحظه‌ای و الزامات گزارش‌دهی سخت‌گیرانه‌تر تکمیل کند تا فاصله میان سرعت نوآوری و ظرفیت نظارتی کاهش یابد.
کارشناسان حوزه فناوری معتقدند تشدید نظارت بر مدل‌های هوش مصنوعی می‌تواند هزینه‌های توسعه و عرضه محصولات جدید را برای شرکت‌های فعال در این عرصه افزایش دهد، اما در مقابل، از بروز بحران‌های اعتماد عمومی نسبت به این فناوری جلوگیری خواهد کرد. از این منظر، تعادل میان نوآوری و ایمنی همچنان به یکی از چالش‌های اصلی سیاست‌گذاران فناوری در سراسر جهان تبدیل شده است.
ناظران بازار می‌گویند تصمیم اتحادیه اروپا می‌تواند الگویی برای سایر مناطق جهان باشد و فشار بیشتری بر توسعه‌دهندگان بزرگ هوش مصنوعی برای شفاف‌سازی فرآیندهای درونی مدل‌های خود وارد کند. با این حال، هنوز جزئیات دقیق سازوکارهای اجرایی این طرح نظارتی و زمان‌بندی اجرای آن به‌طور رسمی اعلام نشده و انتظار می‌رود در هفته‌های آینده اطلاعات تکمیلی از سوی نهادهای مسئول در بروکسل منتشر شود.
نظرات کاربران