به گزارش شبکه اطلاع‌رسانی طلا و ارز، گزارش جدید مدرسه کسب‌وکار وارتون در دانشگاه پنسیلوانیا نشان می‌دهد سازمان‌ها هنوز سازوکار روشنی برای تعیین مسئول خطاهای عامل‌های هوش مصنوعی ندارند. عامل هوش مصنوعی نرم‌افزاری است که فقط پاسخ نمی‌دهد و خودش کار انجام می‌دهد؛ مثلاً سفارش ثبت می‌کند، پرداختی را تأیید می‌کند یا به مشتری جواب می‌دهد. هرچه این ابزارها مستقل‌تر شوند، این پرسش جدی‌تر می‌شود که اشتباه آن‌ها به گردن کیست.
اهمیت این موضوع در همین حالا به سرعت ورود این ابزارها به کار روزمره برمی‌گردد. شرکت‌ها برای افزایش بهره‌وری، بخشی از تصمیم‌های مالی و عملیاتی خود را به این عامل‌ها سپرده‌اند. اگر مسئولیت خطا روشن نباشد، هزینه آن میان سازنده نرم‌افزار، شرکت استفاده‌کننده و در نهایت مشتری بی‌صاحب می‌ماند. برای کاربر عادی، این یعنی احتمال روبه‌رو شدن با تراکنش اشتباه یا خدمات معیوب، بدون نشانی روشن برای پیگیری.
سه طرف، یک خطا
در هر خطای عامل هوش مصنوعی دست‌کم سه طرف حضور دارند: شرکت سازنده مدل، سازمانی که ابزار را به کار گرفته و کارمندی که بر کار آن نظارت داشته است. هر طرف دلیلی برای انداختن بار مسئولیت بر دوش دیگری دارد. سازنده به نحوه استفاده اشاره می‌کند و سازمان به نقص فنی ابزار. گزارش وارتون نشان می‌دهد این کشمکش در بیش‌تر سازمان‌ها هنوز حل نشده است.
مسئله زمانی پیچیده‌تر می‌شود که عامل‌ها بدون تأیید انسان تصمیم بگیرند. در روش‌های قدیمی‌تر، یک انسان آخرین امضا را می‌زد و مسئول هم روشن بود. اکنون زنجیره تصمیم کوتاه‌تر شده و گاهی هیچ فردی پیش از اجرای کار آن را نمی‌بیند. همین فاصله انسان از لحظه تصمیم، تعیین مسئول را دشوار کرده است.
پیامد مالی برای کسب‌وکارها
از نگاه اقتصادی، ابهام در مسئولیت یعنی ریسکی که قیمت‌گذاری نشده است. ریسک قیمت‌گذاری‌نشده هزینه‌ای احتمالی است که در برآورد سود و زیان شرکت دیده نمی‌شود. یک اشتباه در قیمت‌گذاری، پرداخت یا قرارداد می‌تواند در چند ثانیه تکرار شود و به هزاران مشتری برسد. این وضعیت پرسش‌های تازه‌ای پیش روی شرکت‌های بیمه و واحدهای مدیریت ریسک می‌گذارد.
این موضوع به فعالان بازارهای مالی هم مربوط است. بخشی از معاملات الگوریتمی و ابزارهای مشاوره خودکار بر همین فناوری تکیه دارند. معاملات الگوریتمی یعنی خرید و فروشی که رایانه بر پایه دستورهای از پیش تعریف‌شده انجام می‌دهد. خطای چنین ابزاری مستقیماً به سرمایه کاربر برخورد می‌کند و پرسش جبران خسارت را پیش می‌کشد.
بحث مسئولیت هوش مصنوعی تازه نیست، اما تا پیش از این بیش‌تر حول چت‌بات‌ها و تولید محتوا می‌چرخید. با ورود عامل‌هایی که اقدام اجرایی انجام می‌دهند، خطا دیگر به یک پاسخ نادرست محدود نمی‌ماند و به کاری انجام‌شده تبدیل می‌شود. محتمل‌ترین سناریو آن است که شرکت‌ها تا شکل‌گیری قواعد روشن، نظارت انسانی بر تصمیم‌های پرهزینه را حفظ کنند.
نظرات کاربران