آنتروپیک از سیستم نشانه‌گذاری پنهان و نامرئی خود برای ردیابی متون تولیدشده با هوش مصنوعی کلاد رونمایی کرد.
آنتروپیک از روش جدیدی برای نشانه‌گذاری پنهان متون تولیدشده با هوش مصنوعی کلاد پرده برداشت تا با قوانین جدید شفافیت هوش مصنوعی در اتحادیه‌ی اروپا همگام شود. این فناوری هیچ‌گونه نشانه‌ی بصری یا نویسه‌ی مخفی به متن اضافه نمی‌کند و خوانندگان عادی متوجه وجود آن نخواهند شد.
سازوکار جدید این فناوری بر پایه ایجاد یک الگوی خاص در متن استوار است که تنها با داشتن کلید مخصوص، رمزگشایی می‌شود. مدل‌های زبانی بزرگ معمولا کلمات را یکی‌یکی و بر اساس احتمال منطقی آن‌ها در متن انتخاب می‌کنند. در سیستم جدید، کلاد به‌جای استفاده از تولیدکننده‌ی اعداد تصادفی برای انتخاب کلمه‌ی بعدی، از یک کلید مشخص برای گزینش واژه‌ها استفاده می‌کند.
روش یادشده در واقع نسخه‌ای بومی‌سازی‌شده از فناوری SynthID-Text متعلق به گوگل دیپ‌مایند است که پیش‌تر در نشریه‌ی نیچر معرفی شده بود. آنتروپیک می‌گوید این فرآیند هیچ تاثیر منفی بر کیفیت خروجی کلاد نمی‌گذارد، سرعت تولید متن را کاهش نمی‌دهد و هزینه‌ای اضافی برای کاربران نخواهد داشت.
ابزار یادشده محدودیت‌هایی دارد و نمی‌تواند تشخیص دهد که کلاد متن را از ابتدا نوشته یا صرفا آن را ویرایش کرده است. این نشانه‌گذاری روی کدهای برنامه‌نویسی به‌دلیل نیاز به خروجی‌های دقیق و بدون جایگزین، کمتر اعمال می‌شود. همچنین تصاویر تولیدی کلاد نیز با افزودن یک یادداشت امضاشده‌ی دیجیتالی در متادیتا نشانه‌گذاری می‌شوند. این تغییرات روی تمامی مدل‌های عرضه‌شده پس از ۱۱ مرداد اعمال شده است و مدل‌های قدیمی‌تر نیز به‌مرور این قابلیت را دریافت می‌کنند.
نظرات کاربران