نقطه‌ضعف بزرگ خودروهای خودران؛ وقتی هوش مصنوعی نمی‌تواند محیط را درست ببیند

نقطه‌ضعف خودروهای خودران در قابلیت بینایی آن‌ها می‌تواند ایمنی سرنشینان را به خطر بیندازد و چالش‌های جدی برای توسعه فناوری رانندگی خودکار ایجاد کند.

فناوری رانندگی خودران با وعده افزایش ایمنی و کارایی در حمل‌ونقل، به سرعت در حال پیشرفت است. با این حال، تحقیقات اخیر نشان می‌دهد که حتی پیشرفته‌ترین سیستم‌های هوش مصنوعی در خودروهای خودران نیز با مشکل دید در محیط‌های واقعی دست و پنجه نرم می‌کنند. این محدودیت‌ها می‌توانند تبعات خطرناکی برای آینده این صنعت داشته باشند و نیاز به توجه فوری دارند.

چالش دیداری خودروهای خودران با علائم جاده‌ای فرسوده

با وجود پیشرفت‌های چشمگیر در فناوری رانندگی خودران، همچنان رانندگان ایمنی (که Waymo آن‌ها را متخصصان خودران می‌نامد) باید آماده باشند تا در صورت بروز نقص یا به خطر افتادن درک مافوق انسانی سیستم، کنترل خودرو را به دست گیرند. این ضرورت، اهمیت پژوهشی را که CarBuzz کشف کرده است، بیش از پیش نمایان می‌کند؛ پژوهشی که نشان می‌دهد سیستم‌های بینایی خودروهای خودران راه درازی تا آمادگی کامل برای کاربردهای گسترده و بدون راننده انسانی در پیش دارند.

جدیدترین مطالعه در این زمینه توسط دو استاد دانشگاه از کره جنوبی، سئونگ ته کیم از دانشگاه کیونگ هی و هونگ جو لی از دانشگاه علم و فناوری ملی سئول انجام شده است. آن‌ها دریافتند که سیستم‌های بینایی نصب‌شده در وسایل نقلیه خودران اغلب پس از سال‌ها قرار گرفتن در معرض عوامل طبیعی، در خوانش دقیق علائم محدودیت سرعت دچار مشکل می‌شوند. این محققان یک چارچوب برای شبیه‌سازی فرسودگی طبیعی علائم ترافیکی ایجاد کردند تا نشان دهند چگونه این فرسودگی می‌تواند سیستم‌های تشخیص هوش مصنوعی را گمراه کند.

تیم تحقیقاتی یک مدل ترجمه تصویر به تصویر مولد را آموزش داد تا ویژگی‌های بصری علائم ترافیکی آسیب‌دیده و سالم را بیاموزد و بازسازی کند. سپس آن‌ها علائم محدودیت سرعت سالم و آسیب‌دیده را چاپ و از فواصل، زوایای دید و در شرایط داخلی و خارجی مختلف از آن‌ها عکس‌برداری کردند. تصاویر حاصل حتی در شرایط فرسودگی طبیعی، همچنان در گمراه کردن طبقه‌بندی‌کننده علائم ترافیکی مورد استفاده در خودروهای خودران مؤثر بودند. کیم در این باره گفت:

«ساخت هوش مصنوعی قابل اعتماد بیش از بهبود عملکرد متوسط نیاز دارد. این نیازمند شناسایی مداوم نقاط ضعف سیستم‌های هوش مصنوعی، درک دلیل این شکست‌ها و استفاده از این بینش‌ها برای قوی‌تر کردن سیستم‌ها است.»

آسیب‌پذیری در برابر دستکاری هدفمند و نتایج آن

یک مطالعه دیگر از اوایل سال جاری میلادی که توسط محققان دانشگاه جان هاپکینز و دانشگاه کالیفرنیا، سانتا کروز انجام شد، نشان داد که سیستم‌های بینایی خودروهای خودران و پهپادها چگونه به دستکاری عمدی زبان نوشتاری روی علائم واکنش نشان می‌دهند. محققان به وضوح دریافتند که علائم دستکاری‌شده می‌توانند خودروهای خودران و پهپادها را گمراه کنند.

در سناریوهای رانندگی شبیه‌سازی‌شده، یک علامت جاده‌ای تغییر یافته باعث شد خودروی خودران متن دستکاری‌شده را به‌عنوان یک دستورالعمل تفسیر کند و علی‌رغم وجود عابران پیاده به حرکت خود ادامه دهد. این نتیجه نشان می‌دهد که خودروهای خودران هنوز هوش کافی برای پردازش دقیق علائمی که آسیب دیده‌اند یا به عمد تغییر یافته‌اند، ندارند. در صورت تبدیل شدن فرسودگی طبیعی علائم به یک نقطه‌ضعف در خودروهای خودران ، دولت‌های محلی برای تضمین ایمنی جاده‌ها مجبور خواهند بود به دفعات بیشتری برای تعویض علائم هزینه کنند، یا برای شناسایی خرابکاران هوشیار باشند. محققان کره‌ای نیز تاکید کردند که «سوءتعبیر یک علامت ترافیکی می‌تواند به تصمیمات ناایمن منجر شود.» این مطالعه، مشکل اساسی را برجسته می‌کند که همیشه چنین سیستم‌هایی را درگیر خواهد کرد: دشواری در تطابق با ناشناخته‌ها.