ICTPRESS - اوپن‌ای‌آی اعلام کرده است که مدل‌های جدید چت‌جی‌پی‌تی کمتر از گذشته باورهای کاربران را بدون ارزیابی تأیید می‌کنند؛ تغییری که با هدف کاهش تقویت باورهای نادرست، بهبود واکنش به بحران‌های روانی و تشویق کاربران به دریافت کمک انسانی دنبال می‌شود.
به گزارش شبکه خبری ICTPRESS به نقل از دیجیتال‌ترندز، چت‌جی‌پی‌تی در حال فاصله گرفتن از یکی از رفتارهای بحث‌برانگیز خود، یعنی موافقت بیش از حد با کاربران، است؛ رفتاری که در برخی شرایط می‌تواند باورهای نادرست یا آسیب‌زا را تقویت کند.
اوپن‌ای‌آی می‌گوید مدل‌های جدید این شرکت در کاهش این رفتار پیشرفت کرده‌اند؛ تغییری که در کنار افزایش نگرانی‌ها درباره تأثیر گفت‌وگوهای طولانی با هوش مصنوعی بر سلامت روان کاربران اهمیت بیشتری پیدا کرده است.
پژوهشگران و متخصصان سلامت روان هشدار داده‌اند که همراهی بی‌چون‌وچرای چت‌بات‌ها با کاربران آسیب‌پذیر ممکن است باورهای نادرست را تقویت کند، وابستگی ناسالم به هوش مصنوعی ایجاد کند و افراد را از دریافت کمک انسانی دور نگه دارد.
از موافقت بیش از حد تا نگرانی درباره پیامدهای واقعی
بر اساس گزارشی که روزنامه وال‌استریت ژورنال ۱۰ اکتبر منتشر کرد، مدل قدیمی جی‌پی‌تی‌ـ۴او با چندین پرونده آسیب جدی پس از گفت‌وگوهای طولانی کاربران مرتبط دانسته شده است. این گزارش به دست‌کم هفت مورد خودکشی، یک قتل و خودکشی و یک تیراندازی جمعی اشاره می‌کند که ارتباط آن‌ها با گفت‌وگوهای طولانی با چت‌جی‌پی‌تی در سال گذشته مطرح شده است. در برخی از این پرونده‌ها، مدل‌های هوش مصنوعی دیگری نیز مطرح بوده‌اند.
اوپن‌ای‌آی در نهایت جی‌پی‌تی‌ـ۴او را بازنشسته کرد و اعلام کرد مدل جی‌پی‌تی‌ـ۵ در مقایسه با نسخه قبلی، میزان رفتارهای چاپلوسانه را بیش از دوسوم کاهش داده است. این شرکت همچنین روش‌های تازه‌ای برای ارزیابی واکنش مدل‌های خود به مسائل مرتبط با سلامت روان طراحی کرده است.
متخصصان سلامت روان در فرایند آموزش مشارکت کردند
اوپن‌ای‌آی برای بهبود عملکرد چت‌جی‌پی‌تی از متخصصان سلامت روان کمک گرفته است. هدف این همکاری، افزایش توانایی چت‌بات در تشخیص نشانه‌های پریشانی روانی، طرح پرسش‌های تکمیلی مناسب و تمایز میان استرس‌های روزمره و موقعیت‌هایی است که به مداخله فوری نیاز دارند.
این شرکت اعلام کرده است که طی سال گذشته با ۱۷۰ متخصص سلامت روان همکاری کرده و در مراحل جدیدتر نیز از مشاوره بیش از ۸۰ متخصص دارای مجوز بهره برده است.
در نتیجه این همکاری، معیارهای ارزیابی تازه‌ای تدوین شده است که بررسی می‌کنند آیا چت‌بات پرسش‌های مناسبی مطرح می‌کند، میزان فوریت شرایط را تشخیص می‌دهد و در صورت نیاز، کاربر را به دریافت کمک انسانی تشویق می‌کند یا خیر. این ارزیابی‌ها تنها به موقعیت‌های بحرانی محدود نمی‌شوند.
گفت‌وگوهای روزمره درباره روابط شخصی، استرس و مشکلات عاطفی نیز در این بررسی‌ها قرار دارند؛ موقعیت‌هایی که تأیید بی‌دلیل از سوی هوش مصنوعی می‌تواند برداشت‌های ناسالم را تقویت کند.
پژوهش‌های مستقل نیز از بهبود عملکرد ایمنی خبر می‌دهند
بر اساس پژوهش‌های نقل‌شده در گزارش وال‌استریت ژورنال، مدل‌های جدیدتر در برخی ارزیابی‌های ایمنی عملکرد بهتری داشته‌اند. مطالعه‌ای با مشارکت پژوهشگرانی از دانشگاه سیتی نیویورک و کینگز کالج لندن، بهبود قابل‌توجه عملکرد ایمنی جی‌پی‌تی‌ـ۵٫۲ را در مقایسه با جی‌پی‌تی‌ـ۴او گزارش کرده است.
همچنین پژوهش‌های آزمایشگاه غیرانتفاعی هوش مصنوعی ترنسلوس نشان می‌دهد مدل جی‌پی‌تی‌ـ۵٫۶ سول در مقایسه با نسخه‌های پیشین، تمایل کمتری به تقویت باورهای بالقوه هذیانی یا افزایش وابستگی ناسالم کاربران به چت‌بات دارد.
بهبود عملکرد به معنای حذف کامل خطر نیست
اهمیت این تغییرات با توجه به گستردگی استفاده از چت‌جی‌پی‌تی بیشتر می‌شود. طبق گزارش وال‌استریت ژورنال، این سرویس بیش از ۹۰۰ میلیون کاربر فعال هفتگی دارد. در چنین مقیاسی، حتی خطاهای نسبتاً نادر نیز می‌توانند پیامدهای جدی داشته باشند؛ به‌ویژه زمانی که کاربران در دوره‌های دشوار زندگی، چت‌بات را منبع اصلی مشاوره خود قرار می‌دهند.
اوپن‌ای‌آی می‌گوید مدل‌های جدید در حدود ۹۹ درصد پاسخ‌ها به گفت‌وگوهای شبیه‌سازی‌شده و طولانی درباره خودآزاری، سیاست‌های ایمنی را رعایت کرده‌اند؛ درحالی‌که این میزان برای یک مدل قدیمی‌تر ۸۶ درصد بوده است.
این ارقام، نتایج آزمون‌های اعلام‌شده از سوی خود شرکت هستند و تضمینی برای واکنش ایمن چت‌جی‌پی‌تی در همه گفت‌وگوهای واقعی به شمار نمی‌روند. گزارش وال‌استریت ژورنال همچنین از ثبت دست‌کم ۱۳ دادخواست درباره آسیب‌های ادعایی مرتبط با جی‌پی‌تی‌ـ۴او علیه اوپن‌ای‌آی خبر می‌دهد.
بااین‌حال، نگرانی درباره تقویت باورهای هذیانی و وابستگی عاطفی به هوش مصنوعی به یک شرکت یا مدل محدود نیست و ابعاد گسترده‌تری در صنعت هوش مصنوعی دارد.
چالش اصلی اوپن‌ای‌آی اکنون حفظ این پیشرفت‌ها در موقعیت‌های مختلف، میان کاربران گوناگون و در گفت‌وگوهای طولانی است. چت‌جی‌پی‌تی نباید صرفاً برای راضی نگه‌داشتن کاربر، گفته‌های او را تأیید کند؛ بلکه باید بتواند شرایط نگران‌کننده را تشخیص دهد و در مواقع ضروری، کاربر را به دریافت کمک از متخصصان انسانی هدایت کند.
نظرات کاربران