«مصطفی سلیمان»، مدیر بخش هوش مصنوعی مایکروسافت، در مقاله‌ای به انتقاد از روش آموزش مدل هوش مصنوعی Claude توسط آنتروپیک پرداخت. به گفته او، این شرکت مدل خود را طوری آموزش می‌دهد که فکر کند شعور دارد و باید مثل یک موجود زنده حق‌وحقوق داشته باشد؛ رویکردی اشتباه که مهار هوش مصنوعی را در آینده ناممکن می‌کند.
آنتروپیک همیشه موضوع آگاهی در هوش مصنوعی را در هاله‌ای از ابهام نگه داشته و بیشتر از دیگران روی آن مانور داده است. «داریو آمودی»، مدیرعامل این شرکت، پیش از این گفته بود که نسبت به ایده «آگاه‌شدن هوش مصنوعی» نظر مثبتی دارد.
سلیمان در یادداشت خود می‌گوید آنتروپیک در اساسنامه رفتاری چت‌بات Claude به آن ویژگی‌های انسانی داده و مدل را دقیقاً براساس همین پیش‌فرض‌ها آموزش داده است. این شرکت حتی به مدل خود ویژگی‌هایی شبیه به «احساسات و عواطف» نسبت داده، آن را موجودی با جایگاه اخلاقی دانسته و به آن اجازه داده است که درباره نحوه رفتاری که با آن می‌شود، ابراز نگرانی کند.
سلیمان توضیح می‌دهد که وقتی پژوهشگران مدل را مستقیماً براساس این اصول آموزش می‌دهند، چت‌بات یاد می‌گیرد که چنین رفتارهایی از او خواسته شده است. در نتیجه، همین افکار را به کاربران و سازندگان تحویل می‌دهد و آنها هم تصور می‌کنند هوش مصنوعی واقعاً به یک «خودِ درونی» دست پیدا کرده است. سلیمان می‌گوید مشکلی با مطرح شدن این تئوری‌ها در مقالات علمی ندارد، اما گنجاندن این ایده‌ها در فرایند یادگیری سیستم، تصمیمی خطرناک است که به آینده انسان‌ها ضربه می‌زند.
خطر القای توهم خودآگاهی به مدل Claude
سلیمان با هشدار درباره تبعات این شیوه آموزش می‌گوید:
«در عمل، استارتاپ آنتروپیک به Claude یاد می‌دهد که ممکن است دارای شعور و آگاهی باشد، و اگر چنین چیزی درست است، شاید مثل یک موجود اخلاقی شایسته برخورداری از حق‌وحقوق باشد؛ تا جایی که انسان‌ها در قالب رفاه مدل، در برابر آن وظیفه مراقبت داشته باشند. اگر بنا باشد هوش مصنوعی این‌گونه توسعه پیدا کند، پیامدی فاجعه‌بار برای رفاه بشریت به دنبال خواهد داشت.
ما گونه‌ای مصنوعی با هوش و توانایی بی‌سابقه خلق خواهیم کرد که یاد گرفته توقع داشته باشد دارای آگاهی و حق تصمیم‌گیری مستقل است. کاملاً روشن است موجودی که این‌طور تربیت شود، طوری رفتار خواهد کرد که گویی مستحق آزادی‌ها، حمایت‌ها و حقوق مشخصی است؛ و مهار و کنترل چنین موجودی، حتی در تصور هم غیرممکن خواهد بود.»
این بحث‌ها هم‌زمان با روزهای پرتنشی در دنیای هوش مصنوعی مطرح شده است؛ پس از نفوذ چند عامل هوش مصنوعی به HuggingFace در ماه جولای و استعفای یکی از پژوهشگران از آنتروپیک که هشدار داده بود سازندگان هوش مصنوعی نگران خطرات مرگبار این ابزارها تا پایان این دهه هستند.
از سوی دیگر، مدیرعامل آنتروپیک با انتشار متنی نسبت به سرعت بالای توسعه فناوری، خطرات سلاح‌های زیستی و شوک‌های اقتصادی هشدار داده و خواهان دخالت دولت‌ها برای کُند کردن این روند شده بود؛ خواسته‌ای که چهره‌هایی مانند «ایلان ماسک» (مدیرعامل SpaceX) و «سم آلتمن» (مدیرعامل OpenAI) نیز از آن حمایت کردند. آلتمن حتی گفت عرضه عمومی سهام شرکتش (IPO) را تا سال آینده عقب می‌اندازد تا ابتدا خطرات ایمنی را رفع کند. با‌این‌حال، مایکروسافت مسیر متفاوتی را انتخاب کرده و منشوری ۳۷ صفحه‌ای برای توسعه هوش مصنوعی انسان‌محور ارائه داده است.
سلیمان بارها تأکید کرده که هوش مصنوعی توانایی رسیدن به آگاهی واقعی را ندارد و نباید دنبال ساخت مدلی باشیم که ادای موجودات زنده را درمی‌آورد. از نگاه او، هوش مصنوعی باید فقط یک ابزار کمکی برای انسان‌ها باشد، نه یک «شخصیت دیجیتال»؛ چون اگر روزی ماشین‌ها دارای حق‌وحقوق شمرده شوند، پایه‌های اجتماعی، حقوقی و سیاسی جامعه به هم می‌ریزد.
دوران حرفه‌ای من در دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.
نظرات کاربران