تغییر استراتژی هوش مصنوعی؛ اولویت ایمنی بر رقابت

با افزایش نگرانی‌ها از مخاطرات این فناوری، پیشروان این صنعت به نظارت شخص‌ثالث برای مدیریت ریسک‌ها متعهد شدند.

به گزارش سرویس ترجمه خبرگزاری ایمنا ، مدیرعامل شرکت هوش مصنوعی آنتروپیک به‌تازگی از همه شرکت‌های این صنعت خواست سرعت ساخت مدل‌های هوش مصنوعی را کم کنند. او یک نقشه سه‌مرحله‌ای ارائه داد و گفت شرکت خودش یک‌طرفه متعهد می‌شود مرحله اول را اجرا کند.

بر اساس این طرح، آنتروپیک به ارزیابان مستقل اجازه می‌دهد وارد سیستم‌هایش شوند و مطمئن شوند که ایمنی رعایت می‌شود. این ارزیابان می‌توانند حوادث را گزارش دهند و بررسی کنند که مدل‌ها درست و بی‌خطر آموزش می‌بینند.

این هشدار بعد از آن داده شد که یکی از محققان سابق آنتروپیک استعفا داد و گفت هوش مصنوعی می‌تواند تا سال ۲۰۳۰ انسان را نابود کند. او گفت نه آنتروپیک و نه اوپن‌ای‌آی مسئولانه عمل نمی‌کنند و فقط به فکر مسابقه برای ساخت هوش مصنوعی قدرتمندتر هستند، حتی اگر جان مردم در خطر باشد.

به گفته او، کسانی که هوش مصنوعی می‌سازند خودشان هم باور دارند که این فناوری می‌تواند تا پایان همین دهه همه را از بین ببرد و هیچ فعالیت انسانی دیگری این سطح از خطر را ندارد.

آنتروپیک در پاسخ گفت همیشه هشدار داده که هوش مصنوعی هم فواید بزرگ دارد و هم خطرات بی‌سابقه، و آن‌ها در حال ساخت مدل‌هایی با بهترین تدابیر ایمنی هستند.

مدیرعامل اپن‌ای‌آی نیز اعلام کرد که با این موضوع موافق است و آن‌ها هم ارزیابان مستقل با دسترسی مشابه کارکنان خواهند داشت.

وی معتقد است که هوش مصنوعی می‌تواند به بشریت کمک بزرگی کند و یکی از بزرگ‌ترین دستاوردهای فناوری باشد، اما چون فناوری بسیار قدرتمندی است خطراتش هم جدی است.

به گفته او، رقابت تجاری می‌تواند این خطرات را بدتر کند. او گفت در چند ماه گذشته به این نتیجه رسیده است که باید سرعت پیشرفت هوش مصنوعی را کم کرد تا زمان کافی برای ایمن‌سازی آن وجود داشته باشد.

در نهایت، صنعت هوش مصنوعی در نقطه حساسی است. از یک طرف، پول و رقابت شرکت‌ها را به سرعت بیشتر سوق می‌دهد. از طرف دیگر، خطرات این فناوری روزبه‌روز بیشتر می‌شود.