فرماندار کالیفرنیا به‌دنبال کلید خاموشی هوش مصنوعی است

گوین نیوسام، کالیفرنیا را برای نظارت سخت‌تر بر هوش مصنوعی جلو می‌برد و از «کلید خاموشی» برای مدل‌های پیشرفته می‌گوید.

گوین نیوسام ، فرماندار کالیفرنیا، ایالت را در موقعیتی قرار داده که از دل آن می‌تواند به خط مقدم نظارت بر هوش مصنوعی برسد. تازه‌ترین گام او، یک فرمان اجرایی است که راه را برای بررسی الزام‌آور ایمنی مدل‌های پیشرفته و حتی طرح ایده‌ی «کلید خاموشی» باز می‌کند.

این فرمان، گروهی از کارشناسان را مأمور می‌کند تا ظرف دو ماه پیشنهادهایی برای تقویت تدابیر ایمنی هوش مصنوعی در قانون ایالتی ارائه دهند. فهرست خواسته‌های نیوسام بلندبالا است. او می‌خواهد این گروه بررسی کند که آیا می‌توان شرکت‌های هوش مصنوعی را موظف کرد گروه‌های راستی‌آزمایی مستقل را در محل مستقر کنند تا ممیزی‌های منظم انجام دهند یا خیر. نیوسام همچنین به‌دنبال گزارش‌های شفافیت و ارزیابی‌های ریسک زیر نظر استانداردهای مستقل برای یک کلید خاموشی است که به‌طور مرتب اثربخشی آن تأیید می‌شود. فرماندار کالیفرنیا می‌خواهد شرکت‌ها را ملزم سازد رخدادهای «ازکنترل‌خارج‌شدن» (از جمله حمله‌ای که اوپن‌ای‌آی علیه هاگینگ فیس رقم زد) را به‌عنوان حوادث ایمنی بحرانی گزارش کنند.

فرمان تازه فقط به آینده نگاه نمی‌کند؛ بخش اجرایی آن همچنین از یک نهاد ایالتی می‌خواهد اجرای دو قانونی را که نیوسام اخیرا امضا کرده، تسریع کند. آن دو قانون برای ارزیابی ایمنی هوش مصنوعی و ایجاد یک فهرست ایالتی از ممیزی‌های هوش مصنوعی، چارچوب می‌سازند. در عمل، کالیفرنیا می‌خواهد زنجیره‌ای از نظارت را شکل دهد که از ارزیابی تا ثبت و از گزارش‌دهی تا مداخله‌ی اضطراری امتداد پیدا کند.

فضای سیاسی واشنگتن اما فعلا برای قانون‌گذاری جدی مناسب به نظر نمی‌رسد. در پی یادداشت جیکوب کاکسون ، پژوهشگر پیشین آنتروپیک که هشدار داده بود احتمال بیشتر از ۱۰ درصد وجود دارد که هوش مصنوعی ظرف یک دهه «همه‌ی انسان‌ها را بکشد»، موجی از بحث‌های مرتبط با طرح‌های قانونی در کنگره شکل گرفت. با این حال، امید چندانی در پایتخت آمریکا برای تصویب سریع یک لایحه‌ی جدی دیده نمی‌شود. مجلس نمایندگان تا آبان در تعطیلی به‌سر می‌برد و انتخابات میان‌دوره‌ای پیشِ رو هم احتمال حرکت بزرگ قانون‌گذاری در سنا را کم کرده است.

اقدام کالیفرنیا از یک مناقشه‌ی محلی فراتر می‌رود. وقتی دولت فدرال درگیر بن‌بست سیاسی است و کنگره نشانه‌ای از اجماع سریع نشان نمی‌دهد، ایالتی مثل کالیفرنیا می‌تواند نقش آزمایشگاه قانون‌گذاری را بازی کند. برای شرکت‌های هوش مصنوعی، چنین رویکردی یعنی احتمالا با مجموعه‌ای از الزامات تازه روبه‌رو خواهند شد که از ممیزی مستقل گرفته تا گزارش‌دهی اجباری و آمادگی برای توقف اضطراری را در بر می‌گیرد.

مفهوم «کلید خاموشی» هم از همین‌جا حساس می‌شود. بحث فقط درباره‌ی یک دکمه‌ی فنی نیست، بلکه درباره‌ی سازوکاری حقوقی و عملی است که در صورت بروز رفتارهای غیرقابل‌کنترل بتواند مدل را متوقف کند.

شما با ایده‌ی کلید خاموشی برای هوش مصنوعی موافقید؟