به گزارش شبکه اطلاع‌رسانی طلا و ارز، شرکت آمریکایی گودفایر فناوری تازه‌ای معرفی کرده است که رفتارهای خطرناک هوش مصنوعی را پیش از وقوع تشخیص می‌دهد. این فناوری به‌جای بررسی خروجی نهایی مدل، به فعالیت‌های درونی آن نگاه می‌کند. بر پایه داده‌های اعلام‌شده، این روش ۹۴ درصد فعالیت‌های هک مخرب را شناسایی کرده است.
اهمیت این خبر در زمان آن است. مدل‌های هوش مصنوعی امروز فقط به پرسش‌ها پاسخ نمی‌دهند. آن‌ها کد می‌نویسند، با سامانه‌ها کار می‌کنند و گاهی بدون دخالت مستقیم انسان تصمیم می‌گیرند. هرچه این اختیار بیش‌تر شود، خطر سوءاستفاده از آن‌ها برای نفوذ به حساب‌ها، کیف پول‌ها و زیرساخت‌های مالی هم بالاتر می‌رود.
نظارت از درون، نه از بیرون
روش‌های رایج نظارت معمولاً متن تولیدشده مدل را پس از تولید بررسی می‌کنند. این کار شبیه آن است که فقط نتیجه نهایی یک تصمیم را ببینیم و از مسیر رسیدن به آن بی‌خبر باشیم. گودفایر در حوزه‌ای به نام «تفسیرپذیری» کار می‌کند؛ یعنی تلاش برای فهم اینکه درون مدل هنگام پردازش یک درخواست چه می‌گذرد.
در این رویکرد، الگوهای فعال‌شده در لایه‌های داخلی مدل زیر نظر قرار می‌گیرد. اگر این الگوها با نشانه‌های یک رفتار مخرب، مانند تلاش برای هک، هم‌خوانی داشته باشد، سامانه هشدار می‌دهد. به بیان ساده، نیت مدل پیش از تبدیل‌شدن به اقدام آشکار می‌شود.
هزینه کم‌تر، پوشش بیش‌تر
دومین ادعای گودفایر کاهش چشمگیر هزینه نظارت است. بسیاری از شرکت‌ها امروز برای کنترل خروجی یک مدل، از مدل دیگری به‌عنوان ناظر استفاده می‌کنند. این کار توان پردازشی و هزینه را تقریباً ۲ برابر می‌کند. خواندن مستقیم سیگنال‌های درونی می‌تواند این لایه اضافه را سبک‌تر کند و نظارت را برای شرکت‌های کوچک‌تر هم در دسترس قرار دهد.
برای کاربر عادی، معنای این تحول روشن است. صرافی‌ها، بانک‌ها و پلتفرم‌های معاملاتی روزبه‌روز بیش‌تر از دستیارهای هوشمند استفاده می‌کنند. ابزارهایی که خطای این دستیارها را زودتر شناسایی کنند، احتمال سوءاستفاده از داده‌ها و دارایی‌های کاربران را کاهش می‌دهند. با این حال، نرخ ۹۴ درصد یعنی بخشی از موارد همچنان از دید سامانه پنهان می‌ماند و این فناوری جایگزین کامل سایر لایه‌های امنیتی نیست.
رقابت بر سر ایمنی هوش مصنوعی در سالهای اخیر به یکی از محورهای اصلی سرمایه‌گذاری در صنعت فناوری تبدیل شده است. انتظار می‌رود ابزارهای نظارت درونی در ماه‌های آینده در محیط‌های واقعی آزموده شوند. نتیجه این آزمون‌ها نشان خواهد داد که دقت اعلام‌شده تا چه اندازه بیرون از آزمایشگاه پایدار می‌ماند.
نظرات کاربران