توصیه نادرست هوش‌مصنوعی؛ محصول یک کشاورز چینی در ۲۵ هکتار از بین رفت

به گزارش شبکه اطلاع‌رسانی طلا و ارز، یک کشاورز ۶۷ ساله در استان هنان چین، پس از دریافت توصیه یک چت‌بات هوش‌مصنوعی درباره نوع و میزان علف‌کش مناسب برای مزرعه کنجد خود، آن را روی محصولش به کار برد. نتیجه این تصمیم، از بین رفتن نزدیک به ۲۵ هکتار از مزرعه او بود؛ رقمی معادل حدود ۳۵ زمین فوتبال.

این ماجرا که در روزهای اخیر در رسانه‌های چینی و شبکه‌های اجتماعی بازتاب گسترده‌ای یافت، بار دیگر پرسش قدیمی را زنده کرد: تا چه اندازه می‌توان به پاسخ‌های هوش‌مصنوعی در تصمیم‌های مالی و کاری واقعی اعتماد کرد؟ کشاورزی که برای صرفه‌جویی در هزینه مشاوره تخصصی به یک چت‌بات رایگان مراجعه کرده بود، اکنون با زیان یک فصل کامل کار خود روبه‌رو است.

بر اساس گزارش‌های منتشرشده، چت‌بات مورد استفاده، نوع علف‌کش پیشنهادی یا دوز مصرف آن را متناسب با گیاه کنجد تشخیص نداده بود. این ماده به‌جای از بین بردن علف‌های هرز، به ریشه و ساقه بوته‌های کنجد آسیب زد و در مدت کوتاهی بخش بزرگی از مزرعه خشک شد.

کارشناسان فناوری این نوع خطا را نمونه‌ای از «توهم هوش‌مصنوعی» می‌دانند؛ اصطلاحی که به پاسخ‌های نادرست اما قاطع و قانع‌کننده مدل‌های زبانی اشاره دارد. در چنین مواردی، چت‌بات بدون دسترسی به داده تخصصی و به‌روز کشاورزی، پاسخی تولید می‌کند که از نظر ظاهری معتبر به نظر می‌رسد اما در عمل نادرست است.

ریسکی که فراتر از یک مزرعه است

این حادثه محدود به یک کشاورز نیست. کاربران در حوزه‌های مختلف، از سلامت گرفته تا سرمایه‌گذاری، هر روز بیشتر به چت‌بات‌های هوش‌مصنوعی برای گرفتن مشاوره سریع و رایگان روی می‌آورند. برخلاف یک مشاور انسانی، این ابزارها هیچ مسئولیت حقوقی یا مالی در برابر خطای خود ندارند و همین موضوع، ریسک تصمیم‌گیری صرفاً بر مبنای پاسخ آن‌ها را افزایش می‌دهد.

چه کسی مسئول جبران خسارت است؟

پس از انتشار این خبر، بحث بر سر مسئولیت جبران خسارت در فضای مجازی چین بالا گرفت. برخی کاربران خواستار الزام شرکت‌های سازنده چت‌بات به درج هشدار روشن درباره محدودیت مشاوره تخصصی شدند. تاکنون مشخص نشده است که شرکت سازنده چت‌بات مورد استفاده این کشاورز، مسئولیتی برای جبران زیان او پذیرفته یا خیر.

رشد سریع کاربرد چت‌بات‌های هوش‌مصنوعی در بخش کشاورزی چین طی ۲ سال گذشته، با هدف کاهش هزینه مشاوره برای کشاورزان خرد صورت گرفته است. با این حال، این حادثه نشان داد دقت این ابزارها در توصیه‌های تخصصی و وابسته به شرایط محلی، هنوز با استانداردهای لازم فاصله دارد.