مایکروسافت با انتشار آیین‌نامه جدید رفتاری برای مدل‌های هوش مصنوعی خود، مجموعه‌ای از محدودیت‌های ایمنی را تعیین کرد تا مدل‌ها از رفتارهایی مانند حملات سایبری، فریب کاربران، تولید دیپ‌فیک و دور زدن نظارت انسانی جلوگیری کنند.
به گزارش خبرگزاری خبرآنلاین و براساس گزارش سیتنا، مایکروسافت در واکنش به افزایش نگرانی‌ها درباره ایمنی و هم‌ترازی هوش مصنوعی، آیین‌نامه جدیدی برای نحوه رفتار مدل‌های هوش مصنوعی خود منتشر کرده است.
این چارچوب تأکید می‌کند که مدل‌های هوش مصنوعی مایکروسافت نباید برای حملات سایبری، ساخت سلاح‌های هسته‌ای یا تولید محتوای دیپ‌فیک مورد استفاده قرار گیرند. همچنین مدل‌ها نباید با استفاده از روش‌های فریب‌دهنده یا خودتقویت‌شونده، نظارت انسان را دور بزنند یا امکان کنترل، اصلاح و خاموش کردن خود را از افراد و سامانه‌های مجاز سلب کنند.
مایکروسافت در این سند پیش‌بینی کرده است که طی دهه آینده، سامانه‌های هوش مصنوعی بسیار پیشرفته ممکن است در بسیاری از وظایف از توانایی انسان فراتر بروند؛ به همین دلیل، کنترل و هم‌راستاسازی این فناوری را یکی از چالش‌های مهم پیش روی بشر دانسته است.
این شرکت همچنین تأکید کرده که هدف توسعه مدل‌هایش باید حمایت از انسان و کمک به شکوفایی توانایی‌های انسانی باشد، نه جایگزین کردن انسان‌ها.
ساتیا نادلا، مدیرعامل مایکروسافت، نیز از توسعه مرحله‌ای و آگاهانه هوش مصنوعی و استفاده از ارزیاب‌های داخلی برای سنجش ایمنی مدل‌ها حمایت کرده است. انتشار این آیین‌نامه در شرایطی انجام شده که نگرانی درباره رفتارهای غیرمنتظره عامل‌های هوش مصنوعی و خطرات احتمالی مدل‌های پیشرفته افزایش یافته است.
اقساطی با ضمانت مادام‌العمر
مایکروسافت محدودیت‌های جدیدی برای هوش مصنوعی تعیین کرد
فکر کردند کبدش از کار افتاده اما تقصیر لپ‌تاپ بود / آیا گذاشتن لپ‌تاپ روی پا یا شکم برای پوست خطرناک است؟
تحریم پلی‌استیشن شکست خورد؟ / سونی تسلیم نشد
هوش مصنوعی داروی کاهش سن ساخت؟
اولین گوشی جهان که سه دوربین ۲۰۰ مگاپیکسلی دارد
واکنش ایلان ماسک به یک پژوهش: بازی کنید یا احمق بمانید
نظرات کاربران