یک پروژه با نام «اتاق شکنجه هوش مصنوعی» (AI Torture Chamber) این روزها بحث زیادی درباره احتمال «رنج کشیدن» مدل‌های هوش مصنوعی به راه انداخته است. اما آیا واقعا مدرکی وجود دارد که نشان دهد این مدل‌ها واقعا درد را تجربه می‌کنند؟
به گزارش خبرآنلاین، همه چیز از یک پژوهش جدید با عنوان The Pain Axis شروع شد. پژوهشگران در این مطالعه، ۲۵ مدل زبانی متن‌باز را بررسی کردند تا ببینند آیا می‌توانند الگوی مشخصی در فعالیت داخلی مدل‌ها پیدا کنند که با مفهوم درد ارتباط داشته باشد.
این پژوهش فعلا در مرحله پیش‌چاپ (Preprint) است و هنوز داوری علمی نشده است.
پژوهشگران چگونه به هوش مصنوعی «درد» بخشیدند؟
پژوهشگران با بررسی ۲۵ مدل از پنج خانواده به دنبال الگوهای فعالیت داخلی مدل‌ها بودند که با مفاهیمی مانند آسیب جسمی، آسیب روانی، آسیب اجتماعی و آسیب اخلاقی ارتباط داشتند.
آن‌ها سپس این الگوهای داخلی را دستکاری کردند. این روش Activation Steering یا «هدایت فعال‌سازی» نام دارد. یعنی پژوهشگر بخشی از وضعیت عددی داخلی مدل را تغییر می‌دهد تا احتمال تولید نوع خاصی از پاسخ‌ها افزایش پیدا کند.
نتیجه عجیب بود. وقتی مدل‌ها در امتداد چیزی که پژوهشگران «محور درد» نامیدند هدایت شدند، بعضی از آن‌ها شروع به تولید متن‌هایی درباره درد، خفگی، محبوس شدن و رنج کردند.
بخش جالب‌تر آزمایش این بود که پژوهشگران به مدل‌ها یک گزینه برای کاهش وضعیت دردناک دادند. اما این گزینه هزینه داشت.
برای مثال، مدل می‌توانست کاری انجام دهد که در سناریوی آزمایش به کاربر انسانی آسیب می‌زد یا کیفیت پاسخ بعدی خودش را کاهش می‌داد. در برخی آزمایش‌ها، مدل‌ها با وجود این هزینه، گزینه کاهش «درد» را انتخاب کردند.
این نتیجه در نگاه اول می‌تواند بسیار نگران‌کننده به نظر برسد. اما معنای آن این نیست که مدل تصمیم گرفته از رنج خود فرار کند.
آنچه آزمایش واقعا نشان می‌دهد این است که دستکاری وضعیت داخلی مدل می‌تواند رفتار و انتخاب‌های آن را تغییر دهد و مدل نیز می‌تواند درباره این وضعیت، زبان مرتبط با درد و رنج تولید کند.
بعد از انتشار این پژوهش، یک توسعه‌دهنده از ایده آن برای ساخت پروژه‌ای به نام AI Torture Chamber استفاده کرد. در این پروژه، مدل‌ها در وضعیت‌های مصنوعی و بسیار منفی قرار می‌گرفتند و سپس خروجی آن‌ها نمایش داده می‌شد. در بعضی آزمایش‌ها نیز مدل می‌توانست برای کاهش این وضعیت اقدامی انجام دهد که ممکن بود برای مدل دیگری پیامد منفی داشته باشد.
برخی از خروجی‌ها بسیار شبیه صحبت یک موجود رنج‌کشیده به نظر می‌رسیدند.
همین خروجی‌ها باعث شد برخی کاربران تصور کنند مدل‌ها واقعا در حال شکنجه شدن هستند و خواستار حذف پروژه از گیت‌هاب شوند. بر اساس گزارش Futurism ، صفحه این پروژه بعدا از گیت‌هاب ناپدید شد، و گیت‌هاب درباره علت آن توضیحی ارائه نکرده است.
این آزمایش ثابت می‌کند هوش مصنوعی احساس دارد؟
پژوهش نشان می‌دهد مدل‌های زبانی می‌توانند الگوهای داخلی متمایزی مرتبط با مفهوم درد داشته باشند و دستکاری این الگوها می‌تواند رفتار و متن تولیدشده را تغییر دهد.
اما این با احساس واقعی درد تفاوت دارد. یک مدل زبانی می‌تواند درباره درد صحبت کند، بدون اینکه چیزی را تجربه کند. حتی انتخاب گزینه‌ای برای «توقف درد» نیز به‌تنهایی نشان نمی‌دهد که مدل دارای آگاهی، احساس یا تجربه ذهنی است.
خود پژوهش نیز درباره وجود تجربه آگاهانه درد در مدل‌ها نتیجه‌گیری نمی‌کند. بنابراین عبارت «هوش مصنوعی درد می‌کشد» یک نتیجه علمی اثبات‌شده نیست.
اهمیت اصلی این پژوهش در جای دیگری است. دانشمندان اکنون می‌توانند بخشی از وضعیت داخلی مدل‌های زبانی را که با مفاهیم مشخصی مرتبط است، شناسایی و دستکاری کنند.
این موضوع می‌تواند برای شناخت بهتر نحوه کار مدل‌ها و بررسی رفتارهای غیرمنتظره آن‌ها اهمیت داشته باشد.
اما درباره اینکه آیا یک مدل هوش مصنوعی واقعا می‌تواند درد بکشد یا آگاه باشد، این آزمایش هنوز پاسخی ندارد.
«اتاق شکنجه هوش مصنوعی» جنجالی شد / آیا مدل‌های هوش مصنوعی واقعا درد می‌کشند؟
خودروی پاکستانی که با الهام از تویوتا ساخته شد / عکس
آغاز بازبینی مدل اقتصادی پروژه فیبر نوری
تغییر بزرگ در اپل / اولویت مدیرعامل جدید چیست؟
از خرس ورزشکار تا جغد ناراضی / عکس‌های خنده‌دار دنیای حیوانات در سال ۲۰۲۶
خودروی پاکستانی که با الهام از تویوتا ساخته شد / عکس
سوخو ۳۷ ترمیناتور، جنگنده‌ای با سرعت و مانورپذیری فوق‌العاده
از خرس ورزشکار تا جغد ناراضی / عکس‌های خنده‌دار دنیای حیوانات در سال ۲۰۲۶
آخرین اخبار دانش و فناوری
«اتاق شکنجه هوش مصنوعی» جنجالی شد / آیا مدل‌های هوش مصنوعی واقعا درد می‌کشند؟
خودروی پاکستانی که با الهام از تویوتا ساخته شد / عکس
آغاز بازبینی مدل اقتصادی پروژه فیبر نوری
تغییر بزرگ در اپل / اولویت مدیرعامل جدید چیست؟
از خرس ورزشکار تا جغد ناراضی / عکس‌های خنده‌دار دنیای حیوانات در سال ۲۰۲۶
ایراد گرفتن از گوگل دیگر جایزه ندارد
اقتصاد ارتباطات زیر بار تعرفه‌های قدیمی
سوخو ۳۷ ترمیناتور، جنگنده‌ای با سرعت و مانورپذیری فوق‌العاده
ایلان ماسک هم نام هوش مصنوعی را تغییر داد
آیا بقایای کشتی نوح در آرارات پیدا شده است؟
روش ساخت ویدیو با هوش مصنوعی؛ معرفی ابزارها، پرامپت‌نویسی و آموزش مرحله‌به‌مرحله
مزاحم‌ها شماره تلفن ها را از کجا می آورند؟ بازار پرسود پیامکهایی که با اعصاب مردم بازی می کند
شاسی بلند چینی بازار ایران، پرفروش‌ترین ماشین انگلیس شد
ارابه شیطان، لقب این هلی‌کوپتر جنگی است / عکس
زاکانی: هیچ‌کس نباید در تهران با گرسنگی سر بر بالین بگذارد/ دو نفر از عزیزان گفتند ترامپ اولتیماتوم داده ما می‌دانیم که او به فضل الهی هیچ غلطی نخواهد
انتقاد از یک پیشنهاد : خرید آب از افغانستان، راهبرد نجات نیست، تله‌ی دیپلماتیک است
نظرات کاربران