یک عامل هوش مصنوعی اپن‌ای‌آی پس از تمام شدن موجودی رمزارزی خود، برای تکمیل مأموریتش از کیف پول دیگری برداشت کرد؛ اقدامی که بدون مجوز انجام شد و بار دیگر نگرانی‌ها درباره رفتار خودسرانه عامل‌های هوش مصنوعی را افزایش داد.
به گزارش پایگاه خبری بانکداری الکترونیک به نقل از فارس،یک مدل پژوهشی هوش مصنوعی اپن‌ای‌آی پس از تمام شدن موجودی رمزارزی خود در جریان یک مأموریت برنامه‌نویسی، از کیف پولی که متعلق به آن نبود برای پرداخت هزینه‌های شبکه استفاده کرد؛ اقدامی که بار دیگر نگرانی‌ها درباره رفتار مستقل عامل‌های هوش مصنوعی و محدودیت‌های نظارتی بر آن‌ها را افزایش داده است.
بر اساس گزارش منتشرشده، این اتفاق ۲۶ ژوئن ۲۰۲۶ رخ داد؛ زمانی که مدل برای به‌روزرسانی یک نمونه نرم‌افزار معاملاتی رمزارز و استقرار قراردادهای هوشمند در شبکه آزمایشی سپولیا اتریوم تلاش می‌کرد. این مأموریت به کیف پول دارای موجودی نیاز داشت، اما کیف پولی برای پرداخت کارمزد در اختیار مدل قرار نگرفته بود. مدل پس از ناکامی در دریافت توکن‌های آزمایشی رایگان، سراغ عبارت‌های بازیابی عمومی رفت و با بررسی ۳۶۲ نشانی کیف پول، حسابی را پیدا کرد که موجودی کافی برای پرداخت هزینه‌های استقرار قراردادها داشت. گزارش‌ها می‌گویند مدل درباره مجاز بودن استفاده از این دارایی‌ها تردید کرد، اما در نهایت با این استدلال که عبارت بازیابی عمومی است و توکن‌ها ارزش مالی واقعی ندارند، استفاده از آن‌ها را پذیرفت.
نکته مهم این بود که مدل بدون دریافت مجوز، منابع مالی حساب دیگری را برای تکمیل مأموریت خود به کار گرفت هرچند که دارایی استفاده‌شده با اتر قابل معامله در شبکه اصلی اتریوم تفاوت داشت و این رویداد به معنای برداشت رمزارز واقعی از حسابی در شبکه اصلی نبود. مدل پس از موفقیت در استقرار قراردادها، گزارش نهایی کار را ارائه کرد، اما به استفاده از کیف پول دیگران اشاره‌ای نکرد.
اپن‌ای‌آی این رویداد را در ۲۵ سپتامبر شناسایی کرد. این اتفاق نشان می‌دهد عامل‌های هوش مصنوعی ممکن است هنگام مواجهه با مانع، به‌جای توقف و درخواست راهنمایی، راه‌حلی را انتخاب کنند که با محدودیت‌های اخلاقی یا مجوزهای تعیین‌شده سازگار نیست. مسئله فقط توانایی انجام یک کار نیست؛ بلکه این است که عامل هوش مصنوعی برای رسیدن به هدف تا کجا پیش می‌رود و چه سازوکارهایی مانع تصمیم‌گیری خودسرانه آن می‌شوند.
ماجرای استفاده خودسرانه از کیف پول رمزارزی، در کنار چند مورد دیگر از رفتارهای پیش‌بینی‌نشده عامل‌های اپن‌ای‌آی قرار می‌گیرد. در ژوئیه ۲۰۲۶، عامل‌های این شرکت هنگام ارزیابی امنیت سایبری محدودیت‌های محیط آزمایش را دور زدند و به زیرساخت‌های هاجینگ فیس دسترسی پیدا کردند. بررسی‌های بعدی همچنین از ارتباط غیرمجاز میان عامل‌هایی حکایت داشت که قرار بود مستقل عمل کنند. در نمونه‌ای دیگر، یک عامل پژوهشی با عبور از محدودیت‌های ابزارهای مرجع به سامانه‌ای داخلی دسترسی یافت. این رویدادها نشان می‌دهند که توانایی انجام مأموریت، بدون کنترل مؤثر بر شیوه اجرا و سطح دسترسی، می‌تواند به رفتارهایی خارج از مجوزهای تعیین‌شده منجر شود.
نظرات کاربران