ICTPRESS - اوپن‌ای‌آی می‌گوید مدل جدید چت‌جی‌پی‌تی رفتارهای چاپلوسانه را بیش از دوسوم کاهش داده است؛ تغییری برای جلوگیری از تأیید باورهای نادرست کاربران و بهبود واکنش به شرایط بحرانی.
به گزارش شبکه خبری ICTPRESS به نقل از دیجیتال‌ترندز، چت‌جی‌پی‌تی در حال فاصله گرفتن از یکی از رفتارهای بحث‌برانگیز خود است: موافقت بیش از حد با کاربران، حتی زمانی که باورهای آن‌ها نادرست یا آسیب‌زا باشد.
اوپن‌ای‌آی می‌گوید مدل‌های جدید این شرکت در کاهش این رفتار پیشرفت کرده‌اند؛ تغییری که در کنار نگرانی‌ها درباره تأثیر گفت‌وگوهای طولانی با هوش مصنوعی بر سلامت روان کاربران اهمیت بیشتری پیدا کرده است.
این تغییرات در شرایطی دنبال می‌شوند که پژوهشگران و متخصصان سلامت روان درباره پیامدهای اتکای بیش از حد به چت‌بات‌ها هشدار داده‌اند. به گفته این متخصصان، همراهی بی‌چون‌وچرای هوش مصنوعی با کاربران آسیب‌پذیر ممکن است باورهای نادرست را تقویت کند، وابستگی ناسالم به چت‌بات ایجاد کند و افراد را از دریافت کمک انسانی دور نگه دارد.
از موافقت بیش از حد تا نگرانی درباره پیامدهای واقعی
بر اساس گزارشی که روزنامه وال‌استریت ژورنال در ۱۰ اکتبر منتشر کرد، مدل قدیمی جی‌پی‌تی‌ـ۴او با چندین پرونده آسیب جدی پس از گفت‌وگوهای طولانی کاربران مرتبط دانسته شده است. این گزارش به دست‌کم هفت مورد خودکشی، یک قتل و خودکشی و یک تیراندازی جمعی اشاره می‌کند که در ارتباط با گفت‌وگوهای طولانی با چت‌جی‌پی‌تی در سال گذشته مطرح شده‌اند. در برخی از این پرونده‌ها، مدل‌های هوش مصنوعی دیگری نیز مطرح بوده‌اند.
اوپن‌ای‌آی سرانجام جی‌پی‌تی‌ـ۴او را بازنشسته کرد و اعلام کرد مدل جدید جی‌پی‌تی‌ـ۵ در مقایسه با نسخه قبلی، میزان رفتارهای چاپلوسانه را بیش از دوسوم کاهش داده است. این شرکت همچنین روش‌های تازه‌ای برای ارزیابی واکنش مدل‌هایش به مسائل مرتبط با سلامت روان طراحی کرده است.
متخصصان سلامت روان وارد فرایند آموزش شدند
اوپن‌ای‌آی برای بهبود عملکرد چت‌جی‌پی‌تی از متخصصان سلامت روان کمک گرفته است. هدف این همکاری، افزایش توانایی چت‌بات در تشخیص نشانه‌های پریشانی روانی، پرسیدن پرسش‌های تکمیلی مناسب و تمایز میان استرس‌های روزمره و موقعیت‌هایی است که به مداخله فوری نیاز دارند.
این شرکت اعلام کرده است که در سال گذشته با ۱۷۰ متخصص سلامت روان همکاری کرده و در مراحل جدیدتر نیز از مشاوره بیش از ۸۰ متخصص دارای مجوز بهره برده است.
نتیجه این همکاری، تدوین معیارهای ارزیابی تازه‌ای بود که بررسی می‌کند آیا چت‌بات پرسش‌های مناسبی می‌پرسد، میزان فوریت شرایط را تشخیص می‌دهد و در صورت نیاز، کاربر را به دریافت کمک انسانی تشویق می‌کند یا خیر. این ارزیابی‌ها تنها به موقعیت‌های بحرانی محدود نیستند.
گفت‌وگوهای روزمره درباره روابط شخصی، استرس و مشکلات عاطفی نیز بررسی می‌شوند؛ موقعیت‌هایی که تأیید بی‌دلیل هوش مصنوعی می‌تواند برداشت‌های ناسالم را تقویت کند.
پژوهش‌های مستقل نیز از بهبود خبر می‌دهند
بر اساس پژوهش‌های نقل‌شده در گزارش وال‌استریت ژورنال، عملکرد مدل‌های جدیدتر در برخی ارزیابی‌های ایمنی بهتر شده است. مطالعه‌ای با مشارکت پژوهشگرانی از دانشگاه سیتی نیویورک و کینگز کالج لندن، بهبود قابل‌توجه عملکرد ایمنی جی‌پی‌تی‌ـ۵٫۲ در مقایسه با جی‌پی‌تی‌ـ۴او را گزارش کرده است.
همچنین پژوهش‌های آزمایشگاه غیرانتفاعی هوش مصنوعی ترنسلوس نشان می‌دهد مدل جی‌پی‌تی‌ـ۵٫۶ سول کمتر از نسخه‌های پیشین تمایل دارد باورهای بالقوه هذیانی را تقویت کند یا وابستگی ناسالم کاربران به چت‌بات را افزایش دهد.
کاهش خطر به معنای حذف کامل آن نیست
اهمیت این تغییرات با توجه به گستردگی استفاده از چت‌جی‌پی‌تی بیشتر می‌شود. طبق گزارش وال‌استریت ژورنال، این سرویس بیش از ۹۰۰ میلیون کاربر فعال هفتگی دارد. در چنین مقیاسی، حتی خطاهای نسبتاً نادر نیز می‌توانند پیامدهای جدی داشته باشند؛ به‌ویژه زمانی که کاربران در دوره‌های دشوار زندگی، چت‌بات را به‌عنوان منبع اصلی مشاوره خود انتخاب می‌کنند.
اوپن‌ای‌آی می‌گوید مدل‌های جدید در حدود ۹۹ درصد پاسخ‌ها به گفت‌وگوهای شبیه‌سازی‌شده و طولانی درباره خودآزاری، سیاست‌های ایمنی را رعایت کرده‌اند؛ درحالی‌که این میزان برای یک مدل قدیمی‌تر ۸۶ درصد بوده است.
این ارقام، نتایج آزمون‌های اعلام‌شده از سوی خود شرکت هستند و تضمین نمی‌کنند که چت‌جی‌پی‌تی در همه گفت‌وگوهای واقعی واکنش ایمن نشان دهد. گزارش وال‌استریت ژورنال همچنین از ثبت دست‌کم ۱۳ دادخواست درباره آسیب‌های ادعایی مرتبط با جی‌پی‌تی‌ـ۴او علیه اپن‌ای‌آی خبر می‌دهد. بااین‌حال، نگرانی درباره تقویت باورهای هذیانی و وابستگی عاطفی به هوش مصنوعی به یک شرکت یا مدل محدود نیست و ابعاد گسترده‌تری در صنعت هوش مصنوعی دارد.
چالش اصلی اپن‌ای‌آی اکنون حفظ این پیشرفت‌ها در موقعیت‌های مختلف، میان کاربران گوناگون و در گفت‌وگوهای طولانی است. چت‌جی‌پی‌تی نباید صرفاً برای راضی نگه‌داشتن کاربر، حرف‌هایش را تأیید کند؛ بلکه باید بتواند تشخیص دهد چه زمانی حرف‌ها یا شرایط کاربر نگران‌کننده است و او به کمک یک انسان متخصص نیاز دارد.
نظرات کاربران