ابزارهای هوش مصنوعی می‌توانند در چند ثانیه به پرسش‌ها پاسخ دهند، متن‌ها را خلاصه کنند و موضوعات پیچیده را ساده توضیح دهند. اما روان و مطمئن بودن یک پاسخ همیشه به معنای درست بودن آن نیست. گاهی هوش مصنوعی اطلاعات نادرست می‌سازد، به منبعی اشاره می‌کند که وجود ندارد یا در بیان نام‌ها، تاریخ‌ها و آمارها اشتباه می‌کند.
به گزارش خبرگزاری خبرآنلاین، این خطاها هنگام تهیه گزارش، انتشار خبر یا تصمیم‌گیری پزشکی و مالی اهمیت بیشتری پیدا می‌کنند. بنابراین خوب است بدانیم هوش مصنوعی چگونه پاسخ می‌سازد و چطور می‌توان درستی اطلاعات آن را بررسی کرد.
هوش مصنوعی چگونه پاسخ تولید می‌کند؟
بسیاری از دستیارهای متنی از مدل‌های زبانی بزرگ استفاده می‌کنند. این مدل‌ها با بررسی حجم زیادی از متن، الگوهای زبان را می‌آموزند و بر اساس درخواست کاربر، پاسخ تولید می‌کنند.
این فرایند با جست‌وجوی مستقیم در یک دانشنامه یا بررسی خودکار صحت همه ادعاها یکسان نیست. مدل ممکن است پاسخی منسجم درباره یک رویداد تاریخی بنویسد، اما نام فرد، تاریخ رویداد یا ارتباط میان دو اتفاق را اشتباه بیان کند. به همین دلیل، باید میان تولید متن روان و ارائه اطلاعات دقیق و تأییدشده تفاوت گذاشت.
«توهم هوش مصنوعی» یعنی چه؟
«توهم هوش مصنوعی» (AI Hallucination) به حالتی گفته می‌شود که سیستم اطلاعات نادرست یا ساختگی تولید می‌کند و آن را به شکلی ارائه می‌دهد که معتبر به نظر می‌رسد. این خطا ممکن است شامل آمار اشتباه، نقل‌قول ساختگی یا نام مقاله و منبعی باشد که وجود ندارد.
دلایل احتمالی این خطاها عبارت‌اند از:
پرسیدن دوباره همان سؤال از یک ابزار یا درخواست تأیید صحت پاسخ، به‌تنهایی درستی آن را ثابت نمی‌کند. برای اطمینان باید شواهد و منابع را جداگانه بررسی کرد.
کدام پاسخ‌ها به بررسی بیشتری نیاز دارند؟
هرچه پیامد اشتباه جدی‌تر باشد، بررسی پاسخ هم باید دقیق‌تر باشد. به‌ویژه این موارد را با دقت بیشتری راستی‌آزمایی کنید:
در حوزه خبر، انتشار یک ادعای نادرست ممکن است به اعتبار رسانه آسیب بزند و اطلاعات غلط را میان مخاطبان گسترش دهد.
چهار معیار برای ارزیابی اعتبار پاسخ
بررسی کنید منبع معرفی‌شده واقعاً وجود داشته باشد و محتوای آن ادعای موردنظر را تأیید کند. صرفِ آوردن نام یک سازمان یا نشانی اینترنتی، دلیل معتبر بودن پاسخ نیست.
پاسخ را از نظر تناقض‌های درونی و ناسازگاری با اطلاعات دیگر بررسی کنید. البته منسجم بودن پاسخ به‌تنهایی درستی آن را ثابت نمی‌کند.
ادعاهای مهم باید با شواهد قابل پیگیری باشند؛ مانند مقاله پژوهشی، سند اولیه، گزارش رسمی یا اطلاعیه نهاد مسئول.
اطلاعات مربوط به قوانین، آمار و رویدادهای جاری ممکن است تغییر کنند. تاریخ انتشار و به‌روزرسانی منبع را بررسی کنید و مطمئن شوید اطلاعات با زمان موردنظر شما همخوانی دارد.
راهنمای مرحله‌به‌مرحله راستی‌آزمایی پاسخ هوش مصنوعی
مرحله اول: ادعاهای اصلی را جدا کنید
از پاسخ، نام‌ها، تاریخ‌ها، آمارها و نتیجه‌گیری‌های مهم را بیرون بکشید. بررسی ادعاهای مشخص ساده‌تر از ارزیابی یک متن طولانی به‌صورت کلی است.
مرحله دوم: سراغ منابع اولیه بروید
اگر پاسخ به گزارش رسمی اشاره می‌کند، نسخه اصلی گزارش را پیدا کنید. برای بررسی یک پژوهش علمی نیز به مقاله منتشرشده یا وب‌سایت ناشر مراجعه کنید، نه فقط خلاصه یا بازنشر آن.
مرحله سوم: اطلاعات را با منابع مستقل مقایسه کنید
یکسان بودن چند وب‌سایت لزوماً تأیید مستقل محسوب نمی‌شود؛ ممکن است همه آن‌ها خبر را از یک منبع مشترک بازنشر کرده باشند. تا حد امکان، منابعی را پیدا کنید که اطلاعات را جداگانه بررسی یا منتشر کرده‌اند.
مرحله چهارم: از هوش مصنوعی توضیح یا منبع بخواهید، اما بررسی را متوقف نکنید
می‌توانید از ابزار بخواهید مبنای پاسخ یا منابع احتمالی را توضیح دهد. سپس وجود و محتوای هر منبع را خودتان بررسی کنید؛ ابزار ممکن است منبع را نادرست معرفی کند یا ارجاعی بسازد که واقعی نیست.
مرحله پنجم: در نبود شواهد، ادعا را قطعی بیان نکنید
اگر منبع معتبر پیدا نمی‌شود یا شواهد کافی نیست، ادعا را حذف کنید، بررسی را ادامه دهید یا عدم قطعیت را روشن بیان کنید. نبود مدرک برای تأیید یک ادعا را نباید با قطعیت یا لحن مطمئن جبران کرد.
آیا می‌توان به هوش مصنوعی اعتماد کرد؟
میزان اعتماد به نوع کاربرد، کیفیت ابزار و حساسیت موضوع بستگی دارد. برای ایده‌پردازی، تهیه پیش‌نویس یا اصلاح نگارشی، هوش مصنوعی می‌تواند دستیار مفیدی باشد. اما در تشخیص پزشکی، تفسیر قوانین، تحلیل سرمایه‌گذاری یا انتشار خبر، بررسی انسانی و رجوع به منابع معتبر اهمیت بیشتری دارد.
قاعده ساده این است: هرچه پیامد یک اشتباه جدی‌تر باشد، راستی‌آزمایی باید دقیق‌تر باشد.
تفاوت اعتماد به هوش مصنوعی و راستی‌آزمایی پاسخ
اعتماد، میزان اتکایی است که به پاسخ‌های یک ابزار داریم. این اعتماد ممکن است با تجربه استفاده، کیفیت پاسخ‌ها و نوع کاربرد شکل بگیرد. برای نمونه، ممکن است به توانایی ابزاری در خلاصه‌کردن یک متن اعتماد کنیم، اما پاسخ آن درباره قانونی تازه را بدون بررسی نپذیریم.
راستی‌آزمایی، فرایند بررسی درستی یک پاسخ یا ادعای مشخص با استفاده از شواهد و منابع معتبر است. اگر هوش مصنوعی آماری درباره نرخ بیکاری ارائه کند، باید آن را با گزارش رسمی نهاد منتشرکننده مقایسه کرد و عدد، تاریخ و برداشت ارائه‌شده را سنجید.
پس اعتماد یک نگرش است، اما راستی‌آزمایی اقدامی عملی برای ارزیابی صحت اطلاعات محسوب می‌شود. می‌توان به یک ابزار اعتماد نسبی داشت و در عین حال پاسخ‌های مهم آن را بررسی کرد. همچنین ممکن است پاسخی پس از راستی‌آزمایی درست از آب دربیاید، حتی اگر در ابتدا به ابزار تولیدکننده آن اعتماد نداشته باشیم.
هوش مصنوعی دسترسی به پاسخ‌ها و اطلاعات را آسان‌تر کرده، اما لحن مطمئن و متن روان جای شواهد معتبر را نمی‌گیرند. برای بررسی پاسخ‌ها، ادعاهای اصلی را جدا کنید، منابع اولیه را بیابید، اطلاعات را با شواهد مستقل مقایسه کنید و به زمان انتشار منابع توجه داشته باشید.
هدف این نیست که همه پاسخ‌های هوش مصنوعی را بی‌درنگ رد کنیم یا بدون تردید بپذیریم؛ مهم این است که میزان اعتماد را با شواهد و اهمیت موضوع تنظیم کنیم. استفاده مسئولانه از هوش مصنوعی یعنی بهره‌گرفتن از سرعت آن، بدون واگذارکردن داوری نهایی به آن.
اعتماد به پاسخ‌های هوش مصنوعی به زبان ساده؛ چطور اطلاعات راستی‌آزمایی کنیم؟
آخرین اخبار دانش و فناوری
اعتماد به پاسخ‌های هوش مصنوعی به زبان ساده؛ چطور اطلاعات راستی‌آزمایی کنیم؟
بازگشت ۲۰ درصدی وجه به کیف‌پول، اولین هدیه تولد ایرانسل
ورود به تماس صوتی و تصویری واتساپ بدون نیاز به حساب کاربری امکان‌پذیر شد
عکس روز ناسا از مریخ و کندوی عسل زیر شفق قطبی
بدن انسان تا چند وقت پس از مرگ حرکت می‌کند؟
نگرانی از ضبط مخفیانه تصاویر/ چطور بفهمیم کسی در اطرافمان عینک هوشمند به چشم دارد؟
قانون جهش تولید دانش‌بنیان چه حمایتی از صنایع خلاق می‌کند و چرا این حمایت‌ها به نتیجه نمی‌رسند؟
اختیاری: محدودیت‌های اینترنت باید با نگاه علمی و فناورانه حل شود
کمیته متناظر هوش مصنوعی پژوهشگاه ارتباطات، برترین کمیته کشور شد
چطور ال‌نینو در یک نقطه خشکسالی و در نقطه‌ای دیگر سیل ایجاد می‌کند؟
امکان بازگشایی یوتیوب و تلگرام وجود دارد؟ / مراحل رفع فیلتر بر اساس سند ۳۲ بندی شورای عالی فضای مجازی
جمینای 4 آرگون، قدرتمندترین هوش مصنوعی گوگل منتشر شد
رقیب تازه استارلینک قدرت‌نمایی کرد؛ ثبت سرعتی که رقابت اینترنت ماهواره‌ای را داغ‌تر می‌کند
چین با فناوری انقلابی ۴F² جهان را غافلگیر کرد
نظرات کاربران