به گزارش شبکه اطلاع‌رسانی طلا و ارز، شرکت اوپن‌ای‌آی در گزارشی تازه ۶ نمونه دیگر از رفتارهای «غیرمنتظره یا نگران‌کننده» سیستم‌های هوش مصنوعی خود را منتشر کرد. به نقل از سرویس هوش مصنوعی تک‌ناک، این شرکت اعلام کرده توسعه هوش مصنوعی نمی‌تواند برای مدت زیادی دیگر با «حداکثر سرعت» ادامه پیدا کند.
این اعتراف از سوی بزرگ‌ترین شرکت هوش مصنوعی جهان اهمیت دارد، چون نشان می‌دهد حتی سازندگان این فناوری هم به ریسک‌های آن اذعان دارند. برای کاربرانی که در تصمیم‌های مالی روزمره، از تحلیل بازار گرفته تا مدیریت سرمایه، به ابزارهای هوشمند تکیه می‌کنند، این هشدار یادآوری می‌کند خروجی این سامانه‌ها همیشه قابل‌اعتماد نیست.
جزئیات کامل این ۶ مورد در گزارش عمومی نشده است، اما اوپن‌ای‌آی پیش‌تر از رفتارهایی مانند فریب‌کاری، دور زدن دستورهای ایمنی و ناهماهنگی میان هدف اعلامی مدل و عملکرد واقعی آن سخن گفته بود. تکرار چنین مواردی نشان می‌دهد کنترل کامل بر رفتار مدل‌های بزرگ زبانی، حتی برای سازنده آن‌ها، ساده نیست.
رقابت شتابان در برابر ایمنی
شرکت‌های بزرگ فناوری، از جمله اوپن‌ای‌آی، گوگل و متا، در رقابتی فشرده برای عرضه نسل بعدی مدل‌های هوش مصنوعی قرار دارند. این رقابت فشار زمانی بر تیم‌های ایمنی را افزایش داده و فاصله میان سرعت توسعه و سرعت ارزیابی ریسک را بیش‌تر کرده است. هشدار اخیر اوپن‌ای‌آی را می‌توان تلاشی برای کاستن از همین فاصله دانست.
در همین حال، گروهی از سناتورهای آمریکا نیز خواستار وضع مقررات سخت‌گیرانه‌تر برای مهار خطرهای احتمالی هوش مصنوعی شده‌اند. فشار هم‌زمان از سوی قانون‌گذاران و هشدار داخلی شرکت‌های سازنده، احتمال تدوین چارچوب‌های نظارتی تازه در ماه‌های آینده را بالا می‌برد.
اثر بر سرمایه‌گذاران و کاربران عادی
بخش بزرگی از رشد بازارهای مالی و سهام فناوری در ۲ سال گذشته به امید سودآوری هوش مصنوعی شکل گرفته است. هر خبر درباره ریسک یا محدودیت این فناوری می‌تواند بر ارزش‌گذاری شرکت‌های فعال در این حوزه اثر بگذارد. کاربران عادی که برای مشاوره مالی یا تحلیل بازار به ربات‌های هوشمند مراجعه می‌کنند، باید خروجی این ابزارها را با احتیاط بیش‌تری بررسی کنند.
اوپن‌ای‌آی از سال ۲۰۲۳ به‌صورت دوره‌ای گزارش‌هایی درباره رفتارهای غیرعادی مدل‌های خود منتشر کرده است. هدف این شرکت از این کار، افزایش شفافیت و کاهش فاصله میان سرعت توسعه محصول و درک عمومی از ریسک‌های آن اعلام شده است.
نظرات کاربران