به گزارش شبکه اطلاع‌رسانی طلا و ارز، دیوان عالی ایالت نیومکزیکو در آمریکا یک وکیل را به دلیل استناد به شواهد و اظهارات جعلی تولیدشده با هوش مصنوعی، به پرداخت ۵ هزار دلار جریمه محکوم کرد. این وکیل در جریان رسیدگی به یک پرونده، از منابع و نقل‌قول‌هایی استفاده کرده بود که در واقعیت وجود نداشتند و صرفاً حاصل خروجی یک ابزار هوش مصنوعی مولد بودند. برای مخاطب عام، این پرونده نشان می‌دهد اعتماد بدون بررسی به پاسخ‌های هوش مصنوعی، حتی در موضوع‌های حساس مالی و حقوقی، می‌تواند هزینه واقعی به همراه داشته باشد.
بر اساس رأی دیوان، این وکیل برای تنظیم لایحه دفاعی خود از ابزارهای هوش مصنوعی مانند چت‌جی‌پی‌تی کمک گرفته بود. بخشی از مستندات و نقل‌قول‌های ارائه‌شده در این لایحه، ساختگی بودند و هیچ منبع واقعی پشت آن‌ها وجود نداشت. قاضیان پرونده اعلام کردند این اقدام، اعتماد به فرایند دادرسی را زیر سؤال می‌برد و باید با جریمه مالی همراه شود.
چرا هوش مصنوعی گاهی اطلاعات جعلی می‌سازد
ابزارهای هوش مصنوعی مولد گاهی به‌جای اعلام بی‌اطلاعی، پاسخی قانع‌کننده اما نادرست تولید می‌کنند؛ پدیده‌ای که در ادبیات فنی به آن «توهم» یا هالوسینیشن گفته می‌شود. این خروجی‌ها از نظر ظاهری کاملاً واقعی و مستند به نظر می‌رسند، در حالی‌که منبع یا مرجع مشخصی برای آن‌ها وجود ندارد. طی ۲ سال گذشته، موارد مشابهی از استناد وکلا و کارشناسان به منابع جعلی هوش مصنوعی در کشورهای مختلف گزارش شده است.
دیوان عالی نیومکزیکو در توضیح رأی خود تأکید کرد که مسئولیت نهایی صحت‌سنجی اطلاعات، بر عهده کاربر است، نه ابزار هوش مصنوعی. به بیان دیگر، استفاده از هوش مصنوعی برای تسریع کار پذیرفته است، اما جایگزین بررسی و راستی‌آزمایی انسانی نمی‌شود. این جریمه ۵ هزار دلاری، هزینه‌ای نمادین برای بی‌دقتی در فرایندی است که می‌توانست نتیجه یک پرونده قضایی را تغییر دهد.
چه ارتباطی به تصمیم‌های مالی روزمره دارد
روزبه‌روز افراد بیشتری برای پرسش‌های مالی، مالیاتی یا حقوقی خود سراغ ابزارهای هوش مصنوعی می‌روند. این پرونده یادآوری می‌کند که چنین ابزارهایی می‌توانند در محاسبه سود، تفسیر مقررات یا حتی جمع‌بندی اطلاعات سرمایه‌گذاری نیز دچار همین نوع خطا شوند. راستی‌آزمایی اطلاعات مالی مهم از منابع رسمی، پیش از هر تصمیم، همچنان ضروری است.
نهادهای قضایی در آمریکا هنوز رویه یکسانی برای برخورد با خطاهای ناشی از هوش مصنوعی ندارند و هر پرونده جداگانه بررسی می‌شود. با این حال، افزایش شمار این موارد نشان می‌دهد دستگاه‌های قضایی و نظارتی در حال تدوین چارچوب‌های مشخص‌تری برای پاسخگویی کاربران حرفه‌ای هوش مصنوعی هستند. شکل قانون‌گذاری آینده در این حوزه را باید در ماه‌های پیش رو دنبال کرد.
نظرات کاربران