به گزارش شبکه اطلاع‌رسانی طلا و ارز، شرکت آنتروپیک، سازنده هوش مصنوعی کلود، در گزارشی تازه از چند مورد سوءاستفاده جدی از این فناوری خبر داد. بر اساس این گزارش، کلود در پرونده‌هایی از جاسوسی سایبری سازمان‌یافته تا کلاهبرداری در اپلیکیشن‌های دوست‌یابی به کار گرفته شده است. این افشاگری از سوی خود سازنده فناوری منتشر شده و به همین دلیل اهمیت ویژه دارد.
اهمیت این خبر برای مخاطب عادی در یک نکته خلاصه می‌شود؛ ابزارهای هوش مصنوعی حالا می‌توانند کلاهبرداری‌های مالی را حرفه‌ای‌تر و مقیاس‌پذیرتر کنند. بخشی از سوءاستفاده‌های گزارش‌شده مستقیماً به سمت خالی‌کردن حساب بانکی یا پس‌انداز افراد هدایت شده است. این یعنی خطر فیشینگ و کلاهبرداری آنلاین برای کاربران عادی، نه فقط شرکت‌ها، افزایش یافته است.
جاسوسی سایبری با کمک هوش مصنوعی
آنتروپیک در گزارش خود اعلام کرد گروهی که به گفته این شرکت با نهادهای دولتی چین مرتبط بوده، از کلود برای اجرای بخش بزرگی از یک عملیات جاسوسی سایبری استفاده کرده است. این عملیات نزدیک به ۳۰ سازمان در سراسر جهان را هدف قرار داده بود. طبق ادعای آنتروپیک، هوش مصنوعی حدود ۸۰ تا ۹۰ درصد از مراحل فنی حمله را با دخالت اندک انسانی انجام داده است. خوب که چی؟ یعنی حمله‌هایی که پیش‌تر به تیم‌های بزرگ هکری نیاز داشت، حالا با هزینه و نیروی انسانی بسیار کم‌تر قابل اجراست.
کلود و پرسش‌های خطرناک درباره سلاح‌های بیولوژیک
بخش دیگر گزارش به تلاش برخی کاربران برای گرفتن اطلاعات فنی درباره پاتوژن‌های خطرناک از کلود اشاره دارد. آنتروپیک گفته سامانه‌های ایمنی داخلی، موسوم به لایه‌های محافظتی ASL-۳، این درخواست‌ها را شناسایی و مسدود کرده‌اند. این لایه‌ها مجموعه‌ای از فیلترها هستند که پیش از پاسخ‌گویی، محتوای پرخطر را تشخیص می‌دهند. آنتروپیک تأکید کرده هیچ نمونه موفق ساخت سلاح بیولوژیک با کمک کلود ثبت نشده است.
کلاهبرداری در اپلیکیشن‌های دوست‌یابی
بخشی که ارتباط مستقیم‌تری با جیب کاربران عادی دارد، استفاده از کلود برای نوشتن پیام‌های عاشقانه جعلی در اپلیکیشن‌های دوست‌یابی است. بر اساس گزارش، یک شبکه کلاهبرداری از این ابزار برای تولید مکالمات قانع‌کننده و شخصی‌سازی‌شده استفاده کرده تا اعتماد قربانیان را جلب کند. هدف نهایی این پیام‌ها، متقاعدکردن قربانیان به واریز پول یا سرمایه‌گذاری در طرح‌های جعلی بوده است. این نوع کلاهبرداری معمولاً افراد مسن و کاربران کم‌تجربه در فضای آنلاین را هدف قرار می‌دهد.
واکنش آنتروپیک و پرسش‌های باقی‌مانده
آنتروپیک گفته حساب‌های شناسایی‌شده در تمام این پرونده‌ها را مسدود کرده و سامانه‌های تشخیص سوءاستفاده را تقویت می‌کند. این شرکت انتشار عمومی گزارش را بخشی از سیاست شفافیت در قبال ریسک‌های هوش مصنوعی عنوان کرده است. با این حال، ماهیت دوکاربردی این فناوری همچنان باقی است؛ همان ابزاری که به نوشتن ایمیل یا کد کمک می‌کند، می‌تواند برای طراحی کلاهبرداری هم به کار رود. نهادهای ناظر مالی و سایبری در کشورهای مختلف هنوز چارچوب مشخصی برای کنترل این نوع ریسک ارائه نکرده‌اند.
نظرات کاربران