به گزارش شبکه اطلاع‌رسانی طلا و ارز، اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، راه‌اندازی تدریجی «نهان‌نگاری متنی» را آغاز کرده است. نهان‌نگاری یا واترمارک یعنی قراردادن یک نشانه پنهان در محتوا تا بتوان بعدها منبع آن را شناسایی کرد. به این ترتیب، متن‌هایی که این ابزار می‌نویسد، یک امضای نامرئی خواهند داشت.
اهمیت این تصمیم در گستره استفاده از چت‌جی‌پی‌تی است. امروز بخش بزرگی از ایمیل‌ها، گزارش‌ها، تکالیف دانشجویی و محتوای وب‌سایت‌ها با کمک این ابزار نوشته می‌شود. اگر منشأ متن قابل بررسی شود، مرز میان نوشته انسانی و ماشینی شفاف‌تر می‌شود. این تغییر روی اعتماد به محتوای آنلاین، از جمله تحلیل‌ها و خبرهای مالی، اثر می‌گذارد.
این نشانه‌ها چگونه کار می‌کنند؟
طبق اعلام اوپن‌ای‌آی، این شرکت برای ایجاد واترمارک تغییرات ظریفی در شیوه انتخاب و چینش واژه‌ها می‌دهد. مدل‌های زبانی هنگام نوشتن، در هر گام از میان چند واژه محتمل یکی را برمی‌گزینند. واترمارک این انتخاب‌ها را به‌شکلی جزئی و طبق یک الگوی آماری جهت می‌دهد.
این تغییرات برای خواننده انسانی محسوس نیست و معنای متن را عوض نمی‌کند. اما یک ابزار تشخیص می‌تواند این الگوی آماری را در متنی طولانی بیابد. نتیجه عملی ساده است: متن ظاهری عادی دارد، اما در لایه‌ای پنهان، ردی از منبع تولید خود باقی می‌گذارد.
چه کسانی تأثیر می‌پذیرند؟
دانشگاه‌ها، ناشران و کارفرمایان محتوا نخستین گروه‌هایی هستند که از این امکان سود می‌برند. آن‌ها می‌توانند تشخیص دهند که آیا متنی با چت‌جی‌پی‌تی نوشته شده است یا خیر. برای فریلنسرها و تولیدکنندگان محتوا، این تغییر یعنی شفافیت بیش‌تر در استفاده از ابزارهای هوش مصنوعی.
این موضوع برای فعالان بازارهای مالی هم اهمیت دارد. حجم تحلیل‌ها و پیام‌های تبلیغاتی ماشینی در شبکه‌های اجتماعی رو به افزایش است. ابزاری که منشأ متن را نشان دهد، می‌تواند به شناسایی محتوای انبوه و خودکار کمک کند. با این حال، هنوز روشن نیست این ابزار در دسترس چه کسانی قرار می‌گیرد.
پرسش‌های باز
کارشناسان حوزه هوش مصنوعی پیش‌تر درباره محدودیت‌های این روش هشدار داده‌اند. ترجمه متن به زبان دیگر یا بازنویسی آن با ابزاری دیگر می‌تواند الگوی آماری را تضعیف کند. همچنین واترمارک تنها روی خروجی چت‌جی‌پی‌تی اعمال می‌شود و متن‌های مدل‌های رقیب را پوشش نمی‌دهد. جزئیات زمان‌بندی کامل اجرا و میزان دقت تشخیص هنوز به‌طور کامل منتشر نشده است.
نظرات کاربران