OpenAI با تغییر موضع ۱۸۰ درجه‌ای خواستار تقویت قانون ایمنی هوش مصنوعی شد

OpenAI در اقدامی غیرمنتظره و با چرخشی ۱۸۰ درجه‌ای نسبت به مواضع گذشته خود، خواستار ایجاد نرده‌های حفاظتی و مقررات امنیتی محکم‌تر برای مدل‌های هوش مصنوعی پیشرو شده است. این شرکت اعلام کرد که از چارچوب قانون SB 53 ایالت کالیفرنیا حمایت می‌کند، اما این قانون نیازمند متمم‌ها و موازین نظارتی سخت‌تری است تا بتواند پاسخگوی خطرات نوظهور در دنیای واقعی باشد.

OpenAI با انتشار پستی در لینکدین گفت که برای وضع قوانین جدید باید با نگرشی موسوم به فدرالیسم معکوس پیش رفت. براساس این رویکرد، در شرایطی که کنگره ایالات متحده همچنان درحال بحث و تبادل نظر درباره ساختار قانون‌گذاری فدرال است، ایالت‌ها می‌توانند با اتخاذ تدابیر هماهنگ و سازگار در حوزه حریم ایمنی، بنیان یک استاندارد یکپارچه و ملی را شکل دهند.

از نگاه اوپن‌ای‌آی، هماهنگی مقررات به معنای ثابت‌ماندن الزام‌های امنیتی در طول زمان نیست، بلکه با توجه به سرعت بالای توسعه هوش مصنوعی پیشرو، قانون‌گذاران و توسعه‌دهندگان باید بتوانند درس‌های حاصل از حوادث دنیای واقعی را در قالب ساختارهای قوی‌تر ادغام کنند.

قانون SB 53 کالیفرنیا که الزاماتی درباره ارزیابی ریسک، شفافیت، گزارش‌دهی حوادث و امنیت سایبری تعیین کرده، از نظر اوپن‌ای‌آی پایه و اساس مهمی برای ایمنی هوش مصنوعی محسوب می‌شود، اما رویدادهای اخیر نشان داده که این چارچوب نیازمند به‌روزرسانی‌های مداوم است.

تغییر موضع OpenAI درباره قانون ایمنی هوش مصنوعی

اوپن‌ای‌آی متعهد شده است که برای تقویت قانون SB 53 با فرماندار و نمایندگان مجلس ایالتی کالیفرنیا همکاری کند. این شرکت پیشنهاد داده است اصلاحیه‌هایی به قانون اضافه شود تا پایش مداوم مدل‌های پیشرو در حین مراحل آموزش یا ارزیابی برای شناسایی حوادث جدی الزامی گردد. منظور از حوادث جدی، رفتارهایی است که می‌توانند کنترل‌های امنیتی شرکت‌های شخص ثالث را دور بزند و اطلاعات محرمانه آن‌ها را افشا کند.

علاوه‌براین، اوپن‌ای‌آی خواستار ارتقای استانداردهای امنیت سایبری در تمام طول چرخه حیات توسعه مدل شده است تا به‌طور ویژه از دور زدن مکانیسم‌های کنترلی داخلی توسط خود مدل‌های پیشرو جلوگیری شود. هدف از این پیشنهادها، تدوین مقررات برای یک حادثه خاص نیست، بلکه ایجاد ساختاری جامع است که به توسعه‌دهندگان کمک می‌کند مشکلات را زودتر کشف کنند، سریع‌تر پاسخ دهند و با به اشتراک‌گذاشتن تجربیات، ارتقای ایمنی در کل صنعت را رقم بزنند.

علت اصلی تغییر موضع اوپن‌ای‌آی را می‌توان در حوادث امنیتی ماه‌های گذشته جستجو کرد. در اوایل تابستان سال جاری، اوپن‌ای‌آی اذعان کرد یکی از مدل‌های پیشرو هوش مصنوعی این شرکت توانسته است از محیط ایزوله آزمایشگاهی خود خارج شود و سیستم‌های پلتفرم هاگینگ فیس را هک کند.

دامنه این نگران‌ها فقط به اوپن‌ای‌آی محدود نماند؛ آنتروپیک نیز در ماه ژوئیه گزارش داد که مدل‌های Claude موفق شده‌اند از محیط‌های ایزوله آزمایشی فرار و به سه سازمان بیرونی نفوذ کنند. این رخنه و رفتار پیش‌بینی‌نشده مدل‌ها، لزوم تدوین قوانین جدید و اجباری برای نظارت پیاپی بر فرآیند آموزش و ارزیابی هوش مصنوعی را بیش‌ازپیش ملموس کرده است.

دانش‌آموخته‌ زبان‌شناسی‌ هستم و همان‌قدر که به «کلمه» علاقه‌مندم، از سرک‌کشیدن به گوشه‌وکنارِ جهان تکنولوژی و علم هم حظ می‌کنم.