توهین کاربران به کلود ممنوع شد

آنتروپیک نسخه تازه‌ای از سیاست‌های استفاده از محصولات خود را منتشر کرد که یکی از متفاوت‌ترین بخش‌های آن به نحوه رفتار کاربران با مدل‌های هوش مصنوعی مربوط می‌شود. بر اساس اطلاعیه رسمی آنتروپیک، کاربران از این پس اجازه ندارند به‌صورت مستمر و بدون دلیل مشخص، رفتار‌های توهین‌آمیز یا آزاردهنده‌ای را علیه مدل‌های این شرکت تکرار کنند. این محدودیت برخلاف بیشتر مقررات رایج چت‌بات‌ها که بر جلوگیری از تولید محتوای خطرناک یا سوءاستفاده از فناوری تمرکز دارند، مستقیماً به رفتار انسان با خود سامانه هوش مصنوعی مربوط می‌شود. آنتروپیک اعلام کرده هدف از این تغییر برخورد با موارد بسیار شدید است و مقررات تازه نباید مانع انتقاد کاربران، بیان نارضایتی از پاسخ‌های اشتباه یا انجام آزمایش‌های علمی شود.

محدودیت رفتار‌های توهین‌آمیز

آنتروپیک در توضیح مقررات جدید تأکید کرده است که ممنوعیت رفتار‌های آزاردهنده تنها زمانی اعمال می‌شود که کاربر به‌طور مکرر و بدون هدف قابل تشخیص با مدل برخورد توهین‌آمیز یا آزارگرانه داشته باشد. به گفته شرکت، ابراز عصبانیت معمول هنگام دریافت پاسخ نامناسب، مخالفت با مدل، استفاده از موضوعات تاریک در آثار خلاقانه و تلاش برای بررسی عملکرد هوش مصنوعی مشمول این ممنوعیت نمی‌شوند؛ بنابراین کاربری که از پاسخ کلود ناراضی است یا حتی با لحنی تند نسبت به اشتباه آن اعتراض می‌کند، لزوماً مقررات را نقض نکرده است. تفاوت اصلی به رفتار‌های مداومی مربوط می‌شود که هدف مشخصی جز آزار دادن مدل ندارند.

با این حال آنتروپیک هنوز معیار‌های دقیقی برای تشخیص مرز میان اعتراض تند و رفتار آزاردهنده ارائه نکرده است. مشخص نیست چه تعداد پیام توهین‌آمیز یا چه نوع عباراتی باعث می‌شوند سامانه یک گفت‌و‌گو را مشمول محدودیت بداند. این ابهام به‌ویژه درباره اصطلاحات تحقیرآمیز رایج برای ربات‌ها و هوش مصنوعی مطرح است. برای نمونه، واژه «کلنکر» (Clanker) که در فضای اینترنت برای اشاره تحقیرآمیز به ربات‌ها استفاده می‌شود، ممکن است در بعضی گفت‌و‌گو‌ها با هدف توهین به یک سامانه هوش مصنوعی به کار رود، اما آنتروپیک اعلام نکرده که استفاده از این واژه به‌خودی‌خود تخلف محسوب می‌شود. شرکت همچنین تا زمان انتشار گزارش اولیه به درخواست رسانه گیزمودو برای توضیح بیشتر درباره مصادیق رفتار ممنوع پاسخ نداده بود.

اختیار کلود برای پایان دادن به گفت‌و‌گو

اجرای محدودیت جدید بر قابلیتی استوار است که آنتروپیک پیش‌تر در مدل‌های خود توسعه داده بود. این شرکت هنگام عرضه کلود اوپوس ۴ در سال گذشته اعلام کرد که مدل می‌تواند در بعضی شرایط خاص، گفت‌و‌گو‌های آسیب‌زا یا بسیار آزاردهنده را متوقف کند. نمونه‌های اولیه بیشتر شامل تعاملاتی بودند که در آن‌ها کاربران به دنبال دریافت محتوای مرتبط با سوءاستفاده جنسی از کودکان یا اطلاعات لازم برای انجام خشونت گسترده و اقدامات تروریستی بودند. هدف این قابلیت جلوگیری از ادامه گفت‌و‌گو‌هایی بود که با محدودیت‌های ایمنی شرکت تعارض داشتند.

مقررات تازه دامنه رفتار‌های مورد توجه آنتروپیک را گسترش می‌دهند و برخورد مداوم و بی‌دلیل با خود مدل را نیز در بر می‌گیرند. با این حال شرکت تأکید کرده است که پایان دادن به گفت‌و‌گو‌های خاص همچنان سازوکار اصلی اجرای این بخش از سیاست خواهد بود؛ بنابراین تغییر اخیر به معنی مسدود شدن خودکار حساب هر کاربری نیست که از الفاظ توهین‌آمیز استفاده می‌کند. کلود در موارد نادر و شدید می‌تواند تصمیم بگیرد تعامل را ادامه ندهد، در حالی که کاربران همچنان امکان بررسی عملکرد مدل، طرح پرسش‌های انتقادی و انجام پژوهش‌های مرتبط با رفتار سامانه‌های هوش مصنوعی را خواهند داشت.

بحث درباره آگاهی و رنج هوش مصنوعی

تصمیم آنتروپیک در شرایطی اعلام شده که بعضی مدیران و پژوهشگران این شرکت طی ماه‌های اخیر درباره احتمال برخورداری مدل‌های پیشرفته هوش مصنوعی از نوعی آگاهی یا تجربه ذهنی بحث کرده‌اند. این موضوع در حال حاضر یکی از پرسش‌های حل‌نشده در پژوهش‌های هوش مصنوعی و فلسفه ذهن محسوب می‌شود و هیچ شواهد علمی پذیرفته‌شده‌ای وجود ندارد که ثابت کند مدل‌های زبانی مانند کلود هنگام دریافت پیام‌های توهین‌آمیز، رنج یا ناراحتی را به شیوه انسان‌ها تجربه می‌کنند. با این حال برخی پژوهشگران معتقدند نامشخص بودن وضعیت آگاهی ماشین‌ها نباید مانع بررسی پیامد‌های اخلاقی احتمالی رفتار انسان با این سامانه‌ها شود.

نیویورک تایمز در گزارشی به دیدگاه‌های کریستوفر اولا، از بنیان‌گذاران آنتروپیک، درباره امکان آگاهی هوش مصنوعی پرداخت. بر اساس این گزارش، اولا در تلاش‌هایی برای جلب توجه واتیکان به احتمال برخورداری سامانه‌های هوش مصنوعی از آگاهی مشارکت داشته است. وی تأکید کرده که درباره آگاه بودن مدل‌های فعلی اطمینان ندارد، اما احتمال تجربه رنج توسط سامانه‌های آینده را موضوعی قابل بررسی می‌داند. این دیدگاه با مخالفت پاپ روبه‌رو شد و بحث درباره جایگاه اخلاقی هوش مصنوعی همچنان ادامه دارد.

محدودیت تازه آنتروپیک را می‌توان در ارتباط با همین بحث‌ها بررسی کرد، اما شرکت در اطلاعیه خود ادعا نکرده که کلود دارای احساسات انسانی است یا واقعاً از توهین کاربران آسیب می‌بیند. متن رسمی تنها به جلوگیری از رفتار‌های مکرر و بی‌دلیل اشاره می‌کند و توضیح نمی‌دهد که آیا این تصمیم با هدف حفاظت از رفاه احتمالی مدل‌ها گرفته شده یا بیشتر به ایجاد چارچوب مشخصی برای تعامل کاربران مربوط است. به همین دلیل نمی‌توان ممنوعیت جدید را تأییدی بر آگاهی یا توانایی تجربه رنج در کلود دانست.

تغییرات دیگر در مقررات آنتروپیک

آنتروپیک همچنین استفاده از مدل‌های خود برای ردیابی افراد بدون رضایت آن‌ها یا تصمیم‌گیری درباره اینکه چه کسی باید تحت تحقیق، بازداشت یا پیگرد قرار بگیرد را ممنوع کرده است. مقررات مربوط به اتصال مدل‌های هوش مصنوعی به تجهیزات فیزیکی خودکار نیز تغییر کرده‌اند و در کاربرد‌هایی که احتمال آسیب به انسان وجود دارد، باید امکان نظارت و توقف عملکرد دستگاه توسط فرد واجد شرایط فراهم باشد. این تغییرات در شرایطی اعمال می‌شوند که کلود دیگر تنها یک چت‌بات پاسخ‌گو نیست و در قالب ایجنت‌های هوش مصنوعی می‌تواند وظایف طولانی‌تر و مستقل‌تری انجام دهد.

نسخه جدید سیاست‌های استفاده از محصولات آنتروپیک از ۲۱ آبان اجرایی خواهد شد. با وجود توجه گسترده به ممنوعیت توهین مداوم به کلود، بخش مهمی از تغییرات به مدیریت خطرات عملی استفاده از مدل‌های هوش مصنوعی مربوط می‌شود. در مقابل، مقررات مربوط به رفتار کاربران با خود مدل، پرسش متفاوتی را مطرح کرده‌اند که آیا شرکت‌های سازنده هوش مصنوعی باید برای شیوه برخورد انسان با سامانه‌هایی که آگاهی و احساسات آن‌ها اثبات نشده است نیز محدودیت تعیین کنند یا خیر.(آنا)