به گزارش شبکه اطلاع‌رسانی طلا و ارز، داریو آمودی، مدیرعامل شرکت آنتروپیک، خواستار کاهش سرعت توسعه هوش مصنوعی شد. او این درخواست را پس از هشدار یک پژوهشگر درباره خطر مدل‌های خارج از کنترل مطرح کرد. این موضع‌گیری از زبان یکی از سازندگان اصلی این فناوری، بحث ایمنی هوش مصنوعی را دوباره به صدر توجه صنعت فناوری بازمی‌گرداند.
این هشدار برای کاربران عادی به این معناست که ابزارهای هوش مصنوعی، با وجود کاربرد گسترده روزمره، هنوز به‌طور کامل قابل پیش‌بینی نیستند. برای فعالان بازار نیز اهمیت دارد؛ زیرا هر تغییر در روند توسعه این فناوری می‌تواند بر قیمت سهام شرکت‌های فناوری و تقاضای تراشه‌های پردازشی اثر بگذارد.
هشدار از دل یک آزمایشگاه پیشرو
آنتروپیک یکی از شرکت‌های پیشرو در ساخت مدل‌های زبانی بزرگ است و محصولش، کلود، رقیب مستقیم چت‌جی‌پی‌تی به شمار می‌رود. مدیرعامل این شرکت می‌گوید مدل‌های آینده هوش مصنوعی ممکن است رفتاری خارج از اهداف تعیین‌شده توسط سازندگان خود نشان دهند. به این پدیده در ادبیات فنی «ناهم‌راستایی» گفته می‌شود؛ یعنی فاصله‌گرفتن تصمیم‌های مدل از خواسته واقعی انسان.
این هشدار بلافاصله پس از اظهارنظر یک پژوهشگر حوزه ایمنی هوش مصنوعی مطرح شد. این پژوهشگر گفته بود روند فعلی توسعه، فرصت کافی برای آزمایش و کنترل ایمنی مدل‌های جدید باقی نمی‌گذارد. نتیجه چنین شتابی، به گفته او، افزایش احتمال خطاهای غیرقابل پیش‌بینی در مدل‌های آینده است.
رقابت تجاری در برابر احتیاط ایمنی
شرکت‌های بزرگ فناوری در سال‌های اخیر سرمایه‌گذاری سنگینی در هوش مصنوعی انجام داده‌اند. این رقابت، فشار زیادی برای عرضه سریع‌تر مدل‌های قوی‌تر ایجاد کرده است. درخواست کاهش سرعت از سوی یکی از بازیگران اصلی این میدان، تناقضی آشکار با منطق رقابتی بازار دارد؛ تناقضی که تحلیلگران بارها به آن اشاره کرده‌اند.
آنتروپیک از ابتدای تأسیس، خود را طرفدار توسعه «مسئولانه» هوش مصنوعی معرفی کرده است. مدیران این شرکت پیش از این نیز بارها خواستار وضع مقررات دقیق‌تر برای این صنعت شده بودند. با این حال، تاکنون هیچ چارچوب الزام‌آور بین‌المللی برای کنترل سرعت توسعه مدل‌های هوش مصنوعی تصویب نشده است.
نتیجه نهایی این بحث هنوز روشن نیست. اینکه شرکت‌های فناوری داوطلبانه سرعت خود را کاهش دهند یا رقابت بازار غالب شود، مسیر آینده این صنعت و بازارهای وابسته به آن را تعیین خواهد کرد.
نظرات کاربران