شرکت آنتروپیک با به‌روزرسانی سیاست‌های استفاده از هوش مصنوعی کلود، بدرفتاری مکرر و بی‌دلیل با این مدل را ممنوع کرده است و از ۱۲ نوامبر ۲۰۲۶ این شرکت می‌تواند به گفت‌وگوهای توهین‌آمیز پایان دهد.
به گزارش افتانا ، شرکت آنتروپیک (Anthropic)، توسعه‌دهنده هوش مصنوعی کلود (Claude)، در به‌روزرسانی سیاست‌های استفاده از محصولات خود، بدرفتاری مکرر و بی‌دلیل با مدل‌های هوش مصنوعی را ممنوع کرده است. بر اساس این سیاست، شرکت می‌تواند در صورت مواجهه با رفتارهای توهین‌آمیز و بی‌رحمانه، به گفت‌وگو پایان دهد. این تغییر با هدف تعیین مرزهای روشن‌تر برای تعامل کاربران با هوش مصنوعی انجام شده است. سیاست جدید قرار است از ۱۲ نوامبر اجرایی شود.
آنتروپیک در این چارچوب میان رفتارهای آزاردهنده و انتقادهای معمول کاربران تمایز قائل شده است؛ بنابراین، مخالفت با پاسخ‌های کلود، به چالش کشیدن استدلال‌های آن یا ابراز نارضایتی از عملکرد مدل، به‌خودی‌خود نقض این سیاست محسوب نمی‌شود. همچنین، پرداختن به موضوعات تاریک در آثار خلاقانه یا انجام فعالیت‌های پژوهشی، صرفاً به دلیل محتوای آن‌ها مشمول این ممنوعیت نخواهد بود.
تمرکز اصلی این سیاست بر رفتارهایی است که به‌صورت مکرر و بدون هدف مشخص، با توهین یا بی‌رحمی نسبت به مدل همراه هستند. آنتروپیک پایان دادن به گفت‌وگو را سازوکار اصلی برخورد با چنین مواردی معرفی کرده است؛ بااین‌حال، این اقدام لزوماً به معنای تعلیق یا مسدود شدن حساب کاربری نیست.
سیاست‌های عمومی آنتروپیک امکان تعلیق یا قطع دسترسی کاربران به خدمات این شرکت را در صورت نقض شرایط استفاده فراهم می‌کنند، اما در توضیحات منتشرشده درباره این به‌روزرسانی، مسدودسازی خودکار حساب صرفاً به دلیل توهین به کلود به‌عنوان مجازاتی قطعی اعلام نشده است. ازاین‌رو، نمی‌توان نتیجه گرفت که هرگونه رفتار نامناسب با این مدل الزاماً به قطع دسترسی کاربر منجر خواهد شد.
این تصمیم در شرایطی اتخاذ شده است که با گسترش کاربرد دستیارهای هوش مصنوعی، شرکت‌های توسعه‌دهنده بیش از گذشته در حال تدوین قواعد مربوط به تعامل کاربران با مدل‌های خود هستند. در این میان، نحوه تشخیص رفتار توهین‌آمیز و تمایز آن از انتقاد مشروع، از موضوعات مهم در اجرای چنین سیاست‌هایی به شمار می‌رود.
نظرات کاربران