شرکت آنتروپیک فرایند اضافه کردن واترمارک به متن‌های تولیدشده توسط مدل‌های آینده Claude را آغاز کرده است.
هدف از قابلیت جدید، کمک به تشخیص این موضوع است که آیا یک متن مشخص احتمالاً توسط هوش مصنوعی تولید شده یا نه. این ویژگی برای رعایت قوانین اتحادیه اروپا طراحی شده و قرار است از دید انسان کاملاً نامحسوس باشد؛ بنابراین نباید تغییری در سبک یا کیفیت معمول نوشته‌های Claude ایجاد کند.
آنتروپیک در مطلبی که در وب‌سایت خود منتشر کرده، جزئیات فنی و دلیل توسعه این فناوری را توضیح داده است.
واترمارک Claude چگونه عمل می‌کند؟
به گفته آنتروپیک، این واترمارک از تصمیم‌های کوچک و کم‌اهمیتی استفاده می‌کند که یک مدل زبانی هنگام تولید هر متن بارها بهره می‌برد. Claude معمولاً هنگام انتخاب میان چند گزینه معتبر، از یک فرایند تصادفی استفاده می‌کند؛ اما نسخه مجهز به واترمارک، این انتخاب را بر اساس یک کلید رمزنگاری و متن تولیدشده تا آن لحظه انجام می‌دهد.
به این ترتیب، یک الگوی آماری بسیار ظریف در سراسر پاسخ شکل می‌گیرد که برای خواننده عادی قابل مشاهده نیست، اما فردی که کلید مربوطه را در اختیار دارد می‌تواند آن را شناسایی کند. سپس با بررسی این الگو می‌توان احتمال دخالت Claude در تولید متن را تخمین زد.
آنتروپیک تأکید کرده که این تغییر قرار نیست کیفیت خروجی Claude را کاهش دهد. آزمایش‌های داخلی این شرکت تفاوت قابل‌اندازه‌گیری میان پاسخ‌های دارای واترمارک و پاسخ‌های بدون واترمارک از نظر خلاقیت، دقت یا خوانایی نشان نداده‌اند.
آنتروپیک همچنین اعلام کرده آزمایش این فناوری روی کاربران واقعی، هیچ تغییر آماری معناداری در میزان رضایت کاربران ایجاد نکرده است. از طرف دیگر، واترمارک به توکن اضافی نیاز ندارد؛ بنابراین فعال شدن آن نباید سرعت پاسخ‌گویی Claude را کاهش دهد یا هزینه استفاده از آن را افزایش دهد.
بازنویسی گسترده‌تر می‌تواند واترمارک را به‌طور کامل از بین ببرد. آنتروپیک در همین زمینه اشاره کرده که پس از چنین بازنویسی سنگینی، دیگر می‌توان درباره اینکه متن نهایی تا چه اندازه همچنان محتوای تولیدشده توسط هوش مصنوعی محسوب می‌شود، بحث کرد.
آنتروپیک تأکید کرده که این واترمارک قابلیت ردیابی متن، حساب کاربری یا مکالمه مشخص را ندارد. همچنین وجود واترمارک به‌تنهایی نمی‌تواند مالکیت یا نویسندگی یک محتوا را اثبات کند. این فناوری صرفاً می‌تواند احتمال مشارکت Claude در تولید یا ویرایش متن را در مقطعی از فرایند نشان دهد.
چرا آنتروپیک این قابلیت را توسعه داده است؟
اجرای این فناوری صرفاً یک تصمیم داوطلبانه از سوی آنتروپیک نیست و با قوانین جدید مرتبط است. این شرکت اعلام کرده که در جولای ۲۰۲۶ به همراه حدود ۱۹۰ امضاکننده دیگر، به کد رویه اتحادیه اروپا درباره شفافیت محتوای تولیدشده توسط هوش مصنوعی پیوسته است.
این اقدام پس از اجرایی شدن بخشی از الزامات قانون هوش مصنوعی اتحادیه اروپا در ۲ اوت انجام شد؛ مقرراتی که ارائه‌دهندگان هوش مصنوعی را ملزم می‌کند محتوای تولیدشده توسط سیستم‌های خود را علامت‌گذاری کنند.
از آنجا که آنتروپیک هنوز راه مطمئنی برای فعال کردن واترمارک فقط در کشورهای عضو اتحادیه اروپا پیدا نکرده است، تصمیم گرفته این قابلیت را در سراسر جهان ارائه کند. این شرکت همچنین قصد دارد طی ماه‌های آینده واترمارک را به مدل‌های قدیمی‌تر Claude نیز اضافه کند.
آنتروپیک در نهایت اعلام کرده که به‌زودی یک API جداگانه در اختیار کاربران قرار خواهد داد تا بتوانند بررسی کنند آیا یک متن مشخص دارای واترمارک Claude هست یا خیر.
نظرات کاربران