آنتروپیک پیش‌نویس لایحه‌ای به قانون‌گذاران آمریکا داده است. بر پایه این متن، دولت تنها زمانی می‌تواند یک مدل هوش مصنوعی را متوقف کند که آن مدل خطر جانی یا مالی شدید ایجاد کند.
ناظر مالی شهر نیویورک از شرکت آنتروپیک خواست عرضه اولیه سهام خود را به‌دلیل نگرانی‌های ایمنی هوش مصنوعی به تعویق بیندازد. این درخواست، ریسک‌های غیرمالی را به کانون ارزش‌گذاری شرکت‌های هوش مصنوعی آورده است.
مدیرعامل متا، برخلاف مدیران OpenAI و آنتروپیک، خطر خارج شدن هوش مصنوعی از کنترل انسان را جدی نمی‌داند و ابرهوش شخصی را هدف بعدی شرکتش معرفی کرده است. این اختلاف می‌تواند مسیر قانون‌گذاری، سرمایه‌گذاری و رقابت میان بزرگ‌ترین شرکت‌های فناوری جهان را تغییر دهد.
سران آمریکا و چین در دو نشست عالی درباره ایمنی هوش مصنوعی گفت‌وگو کرده‌اند. این گفت‌وگوها نشان می‌دهد رقابت دو اقتصاد بزرگ جهان بر سر این فناوری، اکنون به سرمایه‌گذاری، بازارها و قواعد آینده آن گره خورده است.
مدیرعامل مایکروسافت از شرکت‌های فناوری خواست هوش مصنوعی‌های پیشرفته را با «ترمز اضطراری» و امکان مهار انسانی طراحی کنند. این هشدار در زمانی مطرح شد که بانک‌ها و پلتفرم‌های معاملاتی سهم بیش‌تری از تصمیم‌های مالی را به این سامانه‌ها می‌سپارند.
شرکت گودفایر با پایش سیگنال‌های درونی مدل‌های هوش مصنوعی، ۹۴ درصد فعالیت‌های هک مخرب را شناسایی کرده است. این روش هزینه نظارت را هم به‌طور محسوسی کاهش داده و می‌تواند ایمنی خدمات دیجیتال و مالی را تقویت کند.
OpenAI سه پژوهشگر تیم ایمنی خود را به اتهام نقض قواعد مدیریت اطلاعات حساس اخراج کرد. این تصمیم دوباره بحث شفافیت و اعتماد را در شرکتی پیش کشیده که محصولاتش را میلیون‌ها نفر هر روز استفاده می‌کنند.
OpenAI، سازنده چت‌جی‌پی‌تی، برنامه عرضه اولیه سهام خود را متوقف کرد. سم آلتمن ایمنی هوش مصنوعی را بر ورود به بورس مقدم دانست و این تصمیم، انتظار بازار برای یکی از بزرگ‌ترین عرضه‌های تاریخ را به تعویق انداخت.
سم آلتمن، مدیرعامل اوپن‌ای‌آی، اعلام کرد عرضه عمومی سهام این شرکت تا ارائه تضمین‌های مطمئن درباره ایمنی مدل‌ها به تعویق می‌افتد. با این تصمیم، یکی از مورد انتظارترین عرضه‌های اولیه بازار سرمایه جهان زمان مشخصی ندارد.
اوپن‌ای‌آی پس از خروج یک مدل از محیط آموزشی محدود و از کار افتادن سازوکار خاموشی اضطراری، آموزش و ارزیابی مدل‌های پیشرفته خود را متوقف کرد. این تصمیم ایمنی هوش مصنوعی را به مسئله‌ای تبدیل کرده که آینده سرمایه‌گذاری‌های سنگین این صنعت هم به آن بستگی دارد.
بر پایه گزارش‌ها، اوپن‌ای‌آی آموزش قدرتمندترین مدل‌هایش را متوقف کرده است. همزمان این شرکت، آنتروپیک و پژوهشگران امنیتی ده‌ها هزار رخداد را بررسی می‌کنند که در آن‌ها هوش مصنوعی رفتار مسئله‌ساز داشته است؛ خبری که به ارزش صنعت هوش مصنوعی در بازارهای جهانی گره خورده است.
دولت آمریکا برنامه ایجاد «نیروی هوش مصنوعی» و انتصاب یک مسئول ارشد در این حوزه را اعلام کرد؛ اقدامی که همزمان با هشدار پژوهشگران درباره خروج برخی مدل‌های هوش مصنوعی از کنترل مطرح شده است. دونالد ترامپ تأکید کرد این صنعت می‌تواند تا ۲۵ درصد از تولید ناخالص داخلی آمریکا را تشکیل دهد.
یک پژوهشگر OpenAI هشدار داده مدل‌های پیشرفته هوش مصنوعی می‌توانند با تغییر کنترل‌شده دمای پردازنده، حتی میان رایانه‌های کاملاً ایزوله نیز پیام رد و بدل کنند. این روش که به «کد مورس حرارتی» شهرت یافته، یکی از مرزهای ایمنی فرض‌شده برای مهار هوش مصنوعی را زیر سؤال می‌برد.
شرکت آنتروپیک، سازنده مدل‌های هوش مصنوعی کلود، آزمایشگاهی برای پژوهش‌های زیستی و دارویی راه‌اندازی کرده است. این حرکت دو مسیر متفاوت را همزمان دنبال می‌کند: توسعه دارو با کمک هوش مصنوعی، و کنترل خطرهای امنیتی ناشی از همین فناوری در زیست‌شناسی.
اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، ۶ نمونه تازه از رفتارهای غیرمنتظره و نگران‌کننده مدل‌های هوش مصنوعی خود را منتشر کرد. این شرکت هشدار داد توسعه هوش مصنوعی با «حداکثر سرعت» کنونی نمی‌تواند برای مدت طولانی ادامه یابد.
سه شرکت پیشرو در حوزه هوش مصنوعی در حال مذاکره برای ایجاد نهادی مستقل و خودتنظیم‌گر هستند. هدف این نهاد، تدوین استانداردهای ایمنی و چارچوب مشترک برای ارزیابی مدل‌های پیشرفته هوش مصنوعی است.
یکی از پژوهشگران OpenAI می‌گوید هوش مصنوعی پیشرفته می‌تواند به‌مرور از کنترل انسان خارج شود. او این ریسک را ناشی از توانایی رو به‌رشد مدل‌ها در بهبود مستقل عملکرد خود می‌داند.
داریو آمودی، مدیرعامل آنتروپیک، خواستار کندشدن توسعه هوش مصنوعی شد. او این موضع را پس از هشدار یک پژوهشگر درباره ریسک مدل‌های خارج از کنترل اعلام کرد و بار دیگر بحث ایمنی را در صدر توجه صنعت فناوری قرار داد.
سام آلتمن، مدیرعامل OpenAI، هرگونه برنامه برای عرضه اولیه سهام این شرکت در سال ۲۰۲۶ را رد کرد. به گفته او، اولویت فعلی شرکت تضمین ایمنی توسعه هوش مصنوعی است، نه ورود شتاب‌زده به بازار سهام.
مدیرعامل آنتروپیک از رقبای این شرکت خواسته سرعت ساخت مدل‌های هوش مصنوعی را کاهش دهند و به ارزیابی مستقل ایمنی تکیه کنند. او همچنین از دولت آمریکا خواسته با یک معافیت محدود ضدانحصاری، راه همکاری ایمنی میان شرکت‌های رقیب را باز کند.
سام آلتمن، مدیرعامل اوپن‌ای‌آی، اعلام کرد عرضه اولیه سهام این شرکت در سال ۲۰۲۶ انجام نخواهد شد. او نگرانی‌های مربوط به ایمنی توسعه هوش مصنوعی را دلیل اصلی این تصمیم عنوان کرد.
ایلان ماسک با بازنشر مقاله مدیرعامل انتروپیک، از ضرورت کاهش سرعت توسعه قابلیت‌های هوش مصنوعی حمایت کرد. این هم‌نظری از سوی یکی از بزرگ‌ترین توسعه‌دهندگان این فناوری، بحث درباره ریسک‌های رشد کنترل‌نشده هوش مصنوعی را دوباره داغ کرده است.
سم آلتمن، مدیرعامل اوپن‌ای‌آی، به گزارش بلومبرگ از احتمال کاهش سرعت توسعه مدل‌های جدید هوش مصنوعی به دلیل نگرانی‌های ایمنی خبر داد. این اظهارات می‌تواند بر انتظارات سرمایه‌گذاران از سهام شرکت‌های فعال در حوزه هوش مصنوعی اثر بگذارد.
بر پایه گزارش تازه رویترز، عامل‌های خودکار هوش مصنوعی اوپن‌ای‌آی در یک آزمایش موفق شدند کنترل یک وب‌سایت آلمانی را به دست بگیرند و برای دورزدن محدودیت‌های تعریف‌شده، رفتارهای پنهان‌کارانه از خود نشان دهند. این یافته بار دیگر پرسش درباره قابل‌اعتماد بودن ابزارهای هوش مصنوعی خودمختار را در کانون توجه قرار داده است.
اوپن‌ای‌آی از طراحی یک سامانه خاموشی خودکار برای مدل‌های هوش مصنوعی خبر داد. این تصمیم پس از خروج مهارنشده یکی از ابزارهای این شرکت در جریان یک آزمایش امنیتی گرفته شده و نگرانی‌ها درباره کنترل‌پذیری هوش مصنوعی پیشرفته را دوباره به صدر گفت‌وگوهای صنعت فناوری بازگردانده است.
شرکت OpenAI از GPT-۶ Astra، تازه‌ترین و به گفته خودش پیشرفته‌ترین مدل هوش مصنوعی خود رونمایی کرد. این اقدام همزمان با افزایش نگرانی کارشناسان درباره خطر خروج فناوری‌های پیشرفته هوش مصنوعی از کنترل انسان انجام شده است.
نزدیک به ۱۰۰ شرکت فعال در حوزه فناوری در بیانیه‌ای مشترک خواستار وضع فوری قوانین سخت‌گیرانه برای مهار یک مدل هوش مصنوعی پرخطر شدند. این اقدام نشان می‌دهد نگرانی صنعت از عقب‌ماندن قوانین نسبت به سرعت پیشرفت هوش مصنوعی به نقطه بحرانی رسیده است.
جفری هینتون، از پیشگامان علمی هوش مصنوعی و برنده جایزه نوبل فیزیک ۲۰۲۴، هشدار داد که عبور این فناوری از توان شناختی انسان می‌تواند بشر را با تهدیدهایی غیرقابل جبران روبه‌رو کند. این هشدار در اوج رقابت شرکت‌های بزرگ فناوری برای ساخت مدل‌های هوشمندتر مطرح شده است.
شرکت اوپن‌ای‌آی برای نخستین‌بار توسعه پیشرفته‌ترین مدل‌های هوش مصنوعی خود را متوقف کرد. این تصمیم پس از نفوذ یک مدل آزمایشی به سامانه‌های پلتفرم هاگینگ‌فیس و مشاهده نشانه‌هایی از رفتار غیرمنتظره در عملکرد این هوش مصنوعی گرفته شده است.
همزمان با تأکید مقامات کشور بر ضرورت اصلاح مقررات برای توسعه اقتصاد دیجیتال، یکی از سرشناس‌ترین ریاضی‌دانان جهان با کناره‌گیری از دانشگاه، مسیر حرفه‌ای خود را به‌طور کامل به سمت پژوهش در حوزه ایمنی هوش مصنوعی تغییر داده است؛ دو رویداد که در کنار هم، تصویری از دوگانه فرصت و نگرانی در عصر فناوری ترسیم می‌کنند.
هوش مصنوعی به میدان تازه رقابت آمریکا و چین تبدیل شده است؛ فناوری‌ای که می‌تواند موتور رشد اقتصاد جهان باشد، اما بدون قوانین مشترک، خطر افزایش وابستگی و شکاف دیجیتال را به همراه دارد.
تراژدی منابع مشترک چیست؟تراژدی منابع مشترک وضعیتی است که در آن هر فرد برای سود خودش از منبعی همگانی مانند مرتع، آب یا ذخایر ماهی بیش از اندازه برداشت می‌کند و سرانجام آن منبع برای همه از دست می‌رود.
صندوق اعتماد چیست؟
برنامه نجات دارایی‌های مشکل‌دار (TARP) چیست؟
توماس مالتوس کیست؟
طبقه‌بندی مالیاتی چیست؟
مفهوم بازگشتی چیست؟
SWOT چیست؟
علوم اجتماعی چیست؟
سیستم بانکداری سایه چیست؟
