به گزارش شبکه اطلاع‌رسانی طلا و ارز، ۳ شرکت آنتروپیک، OpenAI و گوگل مذاکراتی را برای تأسیس یک نهاد خودتنظیم‌گر در حوزه هوش مصنوعی آغاز کرده‌اند. بر اساس این طرح، این نهاد وظیفه تدوین استانداردهای ایمنی و ارزیابی مستقل مدل‌های پیشرفته هوش مصنوعی را برعهده می‌گیرد.
این سه شرکت در بازار مدل‌های زبانی بزرگ رقیب مستقیم یکدیگر هستند. با این حال، در موضوع ایمنی هوش مصنوعی به سمت همکاری حرکت کرده‌اند. این همگرایی نشان می‌دهد نگرانی درباره ریسک‌های مدل‌های نسل جدید در داخل خود صنعت نیز افزایش یافته است.
چرا شرکت‌ها خودشان وارد تنظیم‌گری می‌شوند؟
قانون‌گذاری دولتی در بیشتر کشورها هنوز با سرعت توسعه هوش مصنوعی هم‌گام نشده است. اتحادیه اروپا قانون هوش مصنوعی خود را به‌تدریج اجرایی می‌کند و در آمریکا نیز چارچوب فدرال یکپارچه‌ای وجود ندارد. این خلأ باعث شده شرکت‌های سازنده مدل‌ها، پیش از ورود قاطع دولت‌ها، چارچوب داوطلبانه خودشان را پیشنهاد دهند.
نهاد پیشنهادی قرار است گزارش‌های ارزیابی ایمنی مدل‌ها را منتشر کند و معیارهای مشترکی برای سنجش ریسک تعریف کند. چنین معیاری برای کاربر عادی به این معناست که پیش از عرضه عمومی یک مدل جدید، آزمون‌های ایمنی مشخصی بر آن اعمال می‌شود.
پیشینه همکاری این شرکت‌ها
آنتروپیک، OpenAI و گوگل پیش‌تر نیز در کنار مایکروسافت در سال ۲۰۲۳ گروهی به‌نام Frontier Model Forum تشکیل داده بودند. نهاد جدید در صورت شکل‌گیری، می‌تواند گسترش همان مسیر با ساختاری رسمی‌تر و اختیارات ارزیابی مستقل باشد.
منتقدان این رویکرد معتقدند خودتنظیمی صنعتی نمی‌تواند جایگزین نظارت مستقل دولتی شود، زیرا منافع تجاری شرکت‌ها می‌تواند با اهداف ایمنی عمومی در تضاد قرار گیرد. جزئیات نهایی درباره ساختار حقوقی و اختیارات این نهاد هنوز اعلام نشده و مذاکرات ادامه دارد.
نظرات کاربران