دنیای اقتصاد: شرکت سازنده کلود در پرونده عرضه سهام خود از خطرهایی می‌گوید که می‌توانند نه‌فقط کسب‌وکارش، بلکه آینده انسان را تحت‌تاثیر قرار دهند. شرکت آنتروپیک در آستانه ورود به بازار سهام آمریکا، تصویری کم‌سابقه از مخاطرات هوش مصنوعی پیشرفته ترسیم کرده است؛ تصویری که در آن، از حملات سایبری و ساخت سلاح‌های شیمیایی و زیستی تا احتمال خارج‌شدن سامانه‌های هوش مصنوعی از کنترل انسان دیده می‌شود.
به گزارش آسوشیتدپرس، آنتروپیک در اسناد مربوط به عرضه اولیه سهام خود که روز دوشنبه به کمیسیون بورس و اوراق بهادار آمریکا ارائه کرد، ۹۳ صفحه از مجموع ۳۳۵صفحه را به عوامل خطر اختصاص داده است. این حجم از هشدارها نشان می‌دهد شرکتی که ایمنی هوش مصنوعی را بخش مهمی از هویت خود معرفی می‌کند، برای ورود به بازار سرمایه ناچار است درباره پیامدهای احتمالی فناوری‌اش نیز شفاف باشد
وقتی هوش مصنوعی سریع‌تر از تدابیر ایمنی رشد می‌کند
یکی از مهم‌ترین نگرانی‌های آنتروپیک، سرعت پیشرفت مدل‌های هوش مصنوعی است. این شرکت هشدار می‌دهد که ممکن است توانایی مدل‌ها با چنان شتابی افزایش یابد که فرصت کافی برای طراحی و اجرای تدابیر ایمنی متناسب با قابلیت‌های جدید وجود نداشته باشد. در چنین شرایطی، سامانه‌های خودمختارتر می‌توانند بدون نظارت مستقیم انسان، اقداماتی زیان‌بار را در مقیاسی گسترده انجام دهند. آنتروپیک همچنین احتمال می‌دهد که استفاده از هوش مصنوعی در فرآیند تحقیق و توسعه مدل‌های نسل بعدی، پیشرفت این فناوری را از توان پژوهشگران برای ارزیابی و ایمن‌سازی آن فراتر ببرد. این شرکت هشدار می‌دهد حتی اگر مدل‌های خودش عامل حادثه‌ای نباشند، یک رویداد امنیتی جدی در هر یک از شرکت‌های پیشرو هوش مصنوعی می‌تواند اعتماد عمومی را تضعیف کند، واکنش منفی جامعه را برانگیزد و زمینه‌ساز مقررات سخت‌گیرانه‌تر شود
از سلاح‌های مرگبار تا نظارت حکومتی
بخش دیگری از هشدارهای آنتروپیک به سوءاستفاده احتمالی از این فناوری مربوط است. بر اساس اسناد شرکت، افراد یا گروه‌های مخرب ممکن است از مدل‌های پیشرفته برای تولید سلاح‌های شیمیایی و زیستی، اجرای حملات سایبری یا گسترش اطلاعات نادرست استفاده کنند. دولت‌های اقتدارگرا نیز ممکن است از این ابزارها برای نظارت گسترده بر شهروندان و سرکوب مخالفان بهره بگیرند.
آنتروپیک تاکید می‌کند اگر سازوکارهای حفاظتی آن نتوانند مانع چنین سوءاستفاده‌هایی شوند، پیامدهای حقوقی، اعتباری و تجاری قابل‌توجهی در انتظار شرکت خواهد بود. این شرکت در سپتامبر نیز از شناسایی و مسدودکردن تلاش‌هایی برای استفاده مخرب از مدل‌هایش، از جمله در حوزه حملات سایبری و فعالیت‌های مرتبط با توسعه سلاح‌های زیستی، خبر داده بود.
میلیاردها دلار محاسبات؛ مانعی در مسیر رقابت
خطرها فقط به ایمنی محدود نمی‌شوند. توسعه مدل‌های پیشرفته به توان پردازشی عظیم و سرمایه‌گذاری سنگین نیاز دارد. آنتروپیک هشدار داده است که ناتوانی در تامین منابع محاسباتی کافی یا تخصیص نامناسب آنها می‌تواند توان رقابت شرکت را کاهش دهد و ارائه خدمات به مشتریان را مختل کند. ساخت مراکز داده نیز با چالش‌هایی مانند مصرف برق و آب، محدودیت منابع طبیعی، مخالفت جوامع محلی و مقررات زیست‌محیطی روبه‌رو است. افزون بر این، اتکای بخش مهمی از درآمد شرکت به تعداد محدودی مشتری و کانال توزیع، آن را در برابر کاهش سفارش یا قطع همکاری مشتریان بزرگ آسیب‌پذیر می‌کند.
ایمنی؛ مزیت رقابتی یا هزینه‌ای سنگین؟
آنتروپیک می‌کوشد خود را شرکتی معرفی کند که برخلاف رویکرد رشد به هر قیمت، توسعه مسوولانه هوش مصنوعی را در اولویت قرار می‌دهد. بنیان‌گذاران شرکت در نامه‌ای به سرمایه‌گذاران تاکید کرده‌اند که فناوری قدرتمند هوش مصنوعی می‌تواند هم برای خیر و هم برای شر به کار گرفته شود و مسوولیت توسعه‌دهندگان، بهره‌برداری از مزایا و مهار خطرهای آن است. با این حال، عرضه اولیه سهام، شرکت را در برابر پرسش دیگری قرار می‌دهد: آیا می‌تواند هزینه‌های سنگین توسعه و ایمن‌سازی مدل‌ها را تامین کند و هم‌زمان از رقبا عقب نماند؟ ورود به بورس می‌تواند منابع مالی تازه‌ای در اختیار آنتروپیک قرار دهد، اما افشای این مخاطرات نشان می‌دهد سرمایه‌گذاران با شرکتی روبه‌رو هستند که آینده تجاری آن به فناوری‌ای وابسته است که هنوز تمام پیامدهایش روشن نیست. در نهایت، پرونده آنتروپیک یک تناقض اساسی را آشکار می‌کند: همان هوش مصنوعی که قرار است رشد اقتصادی را شتاب دهد و به حل مسائل پیچیده کمک کند، ممکن است به منبعی از خطرهای امنیتی، اقتصادی و انسانی تبدیل شود.
نظرات کاربران