تهدید محتوای هوش‌ساز برای آینده فناوری هوش مصنوعی

بحرانی به گستردگی یک رشته: از ارزیابی تا انتشار

نگرانی از هجوم محتوای تولیدشده توسط مدل‌های زبانی بزرگ (LLMs) در ماه‌های اخیر به حدی رسیده که کنفرانس‌های بزرگ این حوزه، مانند «کنفرانس بین‌المللی بازنمایی‌های یادگیری» (ICLR)، مجبور به وضع مقررات فوری شده‌اند. این مقررات استفاده گسترده از هوش مصنوعی در نگارش و ارزیابی مقالات را محدود می‌کنند و هشدار می‌دهند که عدم افشای استفاده گسترده، منجر به رد مقاله خواهد شد. پژوهش‌گرانی هم که از این ابزارها برای تولید ارزیابی‌های کم‌کیفیت استفاده کنند، با جریمه‌هایی از جمله رد مقالات خود مواجه خواهند شد.
«این قدر شور و شوق برای تأثیرگذاری هوش مصنوعی بر دیگر رشته‌ها وجود دارد، در حالی که در واقعیت، رشته ما خودش به خاطر استفاده گسترده از این فناوری، این تجربه آشوب‌بار را از سر می‌گذراند.» این را «اینیولووا دبورا راجی»، پژوهش‌گر هوش مصنوعی در دانشگاه کالیفرنیا، برکلی می‌گوید.

آمارهای هشداردهنده: حجم غیرطبیعی و خطاهای ساختگی

بررسی‌های اخیر عمق بحران را نشان می‌دهد. مطالعه دانشگاه استنفورد در آگوست نشان داد تا ۲۲٪ مقالات علوم کامپیوتر حاوی ردپای استفاده از مدل‌های زبانی هستند. شرکت «پانگرام» نیز تحلیل کرد که ۲۱٪ از ارزیابی‌های کنفرانس معتبر ICLR در سال ۲۰۲۵ کاملاً توسط هوش مصنوعی تولید شده و بیش از نیمی از آنها شامل استفاده از این ابزارها بوده‌اند. همچنین ۹٪ از مقالات ارسالی به این کنفرانس، بیش از نیمی از محتوایشان توسط هوش مصنوعی تولید شده بود.

مواردی همچون ارزیابی‌کنندگانی که در نوامبر گذشته مقاله‌ای با احتمال بالا در تولید توسط هوش مصنوعی را در بین ۱۷٪ مقالات برتر قرار داده بودند، یا کشف بیش از ۱۰۰ خطای تولیدشده توسط هوش مصنوعی در ۵۰ مقاله کنفرانس «نِی‌اِرآی‌پی‌اِس» (NeurIPS)، زنگ خطر را بلندتر کردند.

ریشه‌یابی: فرهنگ «کمیت به جای کیفیت» و مشوق‌های تجاری 

کارشناسان می‌گویند مشکل عمیق‌تر از یک ابزار است؛ به فرهنگ پژوهش و مشوق‌های موجود برمی‌گردد. حجم مقالات حوزه هوش مصنوعی به شکل چشمگیری افزایش یافته است. کنفرانس NeurIPS در سال ۲۰۲۵ بیش از ۲۱,۵۰۰ مقاله دریافت کرد که نسبت به ۲۰۲۰ بیش از دو برابر شده است. حتی یک نویسنده بیش از ۱۰۰ مقاله در این کنفرانس ارائه داده بود.

این افزایش سرسام‌آور ممکن است ناشی از تعداد بیشتر پژوهش‌گران یا استفاده آسان از مدل‌های زبانی باشد. با این حال، منتقدان استدلال می‌کنند که انگیزه‌های تجاری و فرهنگ تلاش برای انتشار حداکثری مقالات، پژوهش‌گران را به سمت اتخاذ «راه‌های میانبر» سوق داده است. «وقتی ما این لحظات از دموهای باورنکردنی، حقوق‌های بسیار بالا و این شرکت‌های دیوانه‌وار را داریم، این فقط جوی از علاقه بیرونی را به خود جذب می‌کند.» راجی این وضعیت را توضیح می‌دهد.

پیامدهای خطرناک: چرخه معیوب و فروپاشی مدل‌ها

تهدید تنها به اعتبار علمی محدود نمی‌شود؛ یک خطر فنی جدی در کمین است. شرکت‌هایی مانند گوگل، آنتروپیک و اوپن‌ای‌آی مدل‌های خود را به عنوان «هم‌دانشمند» معرفی می‌کنند که می‌توانند تحقیقات را در حوزه‌هایی مانند علوم زیستی شتاب بخشند. این مدل‌ها معمولاً بر اساس مجموعه داده‌های استخراج‌شده از منابع آکادمیک آموزش می‌بینند.

اما اگر این مجموعه داده‌ها حاوی مقادیر فزاینده‌ای از مقالات تولیدشده توسط خود هوش مصنوعی باشند، پیامدهای ناخواسته‌ای مانند «فروپاشی عملکرد مدل» رخ خواهد داد. پژوهش‌های پیشین نشان داده که مدل‌های زبانی در مواجهه با حجم زیادی از داده‌های تولیدشده توسط هوش مصنوعی که با دقت گردآوری نشده‌اند، تمایل به تولید «مهملات» دارند، زیرا تنوع داده‌های آموزشی کاهش می‌یابد.
«هانی فريد»، استاد علوم کامپیوتر دانشگاه برکلی هشدار می‌دهد: «شرکت‌های هوش مصنوعی که بی‌دریغ همه چیز را جمع‌آوری می‌کنند، انگیزه دارند که بدانند این [مقالات] در واقع توسط هوش مصنوعی تولید نشده‌اند.»

راه‌حل و چشمانداز: استفاده مسئولانه و تعریف مرزهای اخلاقی 

کارشناسان بر استفاده مسئولانه از ابزارهای هوش مصنوعی تأکید دارند. «کوین وایل»، رئیس بخش علمی اوپن‌ای‌آی، می‌گوید: «این ابزارها می‌توانند شتاب‌دهنده‌ای عظیم برای کاوش در حوزه‌های جدید باشند. اما شما باید آنها را بررسی کنید. این شما را از دقت و سخت‌گیری معاف نمی‌کند.»

برخی موارد استفاده مشروع و مثبت نیز وجود دارد، مانند کمک به بارش فکری، تصحیح نوشتار و بهبود زبان. «توماس دیتریچ»، استاد بازنشسته علوم کامپیوتر، خاطرنشان می‌کند که کیفیت نگارش مقالات از چین به شکل چشمگیری افزایش یافته و این احتمالاً به دلیل توانایی مدل‌های زبانی در روان‌سازی نگارش انگلیسی است.

اما سؤال اصلی این است: چگونه می‌توان مرز بین کمک مشروع و جایگزینی غیرمسئولانه را تعریف کرد؟

نتیجه‌گیری: آزمونی برای بلوغ علمی 

بحران «محتوای هوش‌ساز نازل»، یک آزمون بلوغ برای کل جامعه علمی است، نه فقط رشته هوش مصنوعی. این بحران نشان می‌دهد که پیشرفت فناوری، همواره با خطر سوءاستفاده، تنبلی فکری و تضعیف پایه‌های اعتماد همراه است.

راه برون‌رفت، نه در طرد فناوری، که در ایجاد چارچوب‌های اخلاقی محکم، شفافیت اجباری در استفاده، و تقویت فرهنگ کیفیت‌محوری به جای کمیت‌گرایی است. آینده هوش مصنوعی به عنوان یک «هم‌دانشمند» مفید، وابسته به توانایی پژوهش‌گران در به‌کارگیری منتقدانه و مسئولانه آن است. اگر جامعه پژوهشی نتواند اعتماد را در خانه خود حفظ کند، چگونه می‌تواند ادعای دگرگونی سایر علوم را داشته باشد؟ پاسخ به این بحران، سنگ بنای اعتماد عمومی به عصر جدید علم خواهد بود.