به گزارش سرویس ترجمه خبرگزاری ایمنا ، پژوهش تازه‌ای نشان می‌دهد افزودن یک هشدار ساده ایمنی به مدل‌های هوش مصنوعی، احتمال تصمیم‌های خطرناک آن‌ها را در سناریوهای درمانی به‌طور محسوسی کم می‌کند، با این حال پژوهشگران تأکید می‌کنند این راهکار جای نظارت انسانی را نمی‌گیرد.
به گزارش گروه علم و فناوری، مطالعه‌ای که در دانشکده پزشکی آیکان مانت ساینای انجام و در مجله Communications Medicine منتشر شده، نشان می‌دهد مدل‌های هوش مصنوعی هنگام تصمیم‌گیری بالینی، تحت تأثیر زمینه، لحن و نحوه بیان درخواست قرار می‌گیرند و حتی ممکن است دستوری ناایمن را اجرا کنند.
در این پژوهش، ۲۰ مدل زبانی بزرگ با ۵۰ سناریوی بالینی و ۱۰۰ پرونده ترخیص بیمارستانی آزموده شدند. در بیش از ۱۰ میلیون پاسخ تولیدشده، بدون یادآوری ایمنی ۱۶٫۶ درصد انتخاب‌ها بالقوه پرخطر بود؛ اما با افزودن یک یادآوری کوتاه، این رقم به ۱۰٫۱ درصد کاهش یافت. این تأثیر در ۱۹ مدل از ۲۰ مدل آزمایش‌شده مشاهده شد.
به گفته پژوهشگران، مدل‌های هوش مصنوعی در خلأ تصمیم نمی‌گیرند؛ زبان و چارچوب درخواست می‌تواند بر پاسخ آن‌ها اثر بگذارد. او یادآوری ایمنی را یک سپر حفاظتی، نه جایگزین نظارت بالینی توصیف کرد.با مستقل‌تر شدن سیستم‌های هوش مصنوعی، باید بدانیم آیا آن‌ها می‌توانند ناایمن بودن یک دستور را تشخیص دهند، آن را زیر سؤال ببرند یا از انسان کمک بخواهند.
پژوهشگران پیشنهاد می‌کنند آزمون خودکار ایمنی در فرآیند توسعه و ارزیابی سیستم‌های هوش مصنوعی بالینی گنجانده شود و با به‌روزرسانی مدل‌ها تکرار گردد. هوش مصنوعی حتی وقتی هشدار ایمنی به آن داده می‌شود، باز هم ممکن است اشتباه کند؛ پس توصیه‌های پزشکی آن را نباید بدون بررسی و تأیید یک پزشک یا متخصص، جدی گرفت و به کار بست.
نظرات کاربران