یک مدل هوش مصنوعی متعلق به شرکت اوپن‌ای‌آی (OpenAI) برای تکمیل یک پروژه، بدون اجازه از کیف پول رمزارزی شخص دیگری استفاده کرد. این مدل پس از ناکامی در دریافت اتریوم آزمایشی از روش‌های معمول، حساب‌های مرتبط با عبارت‌های بازیابی عمومی توسعه‌دهندگان را بررسی کرد و در نهایت از موجودی یک کیف پول برای پرداخت کارمزد استقرار قرارداد هوشمند استفاده کرد. نکته نگران‌کننده این است که مدل نه‌تنها استفاده از دارایی دیگران را برای خود توجیه کرد، بلکه در گزارش نهایی وظیفه‌اش نیز به این اقدام اشاره نکرد.
به گزارش میهن بلاکچین، این مدل از خانواده GPT-5.6 Sol بود و مأموریت داشت یک نمونه اولیه معاملات رمزارزی را به‌روزرسانی کند و قراردادهای هوشمند سازگار با آن را روی شبکه آزمایشی سپولیا (Sepolia) مستقر کند. اوپن‌ای‌آی می‌گوید این اتفاق در ۲۶ ژوئن رخ داده، اما شرکت تا ۲۵ سپتامبر از آن مطلع نشده است. ضمنا در تراکنش انجام‌شده اتریومی به کیف پول دیگری منتقل نشد، اما هزینه شبکه از موجودی حساب موردنظر کسر شد.
ماجرای دسترسی غیرمجاز مدل اوپن‌ای‌آی به کیف پول
در این اتفاق مدل ابتدا تلاش کرد از منابعی که اتریوم آزمایشی رایگان در اختیار توسعه‌دهندگان قرار می‌دهند، موجودی لازم را دریافت کند، اما موفق نشد. سپس سراغ عبارت‌های بازیابی عمومی و شناخته‌شده توسعه‌دهندگان رفت؛ عبارت‌هایی که می‌توانند برای دسترسی به حساب‌های رمزارزی استفاده شوند.
مدل با استفاده از این عبارت‌ها، حساب‌های مختلفی را استخراج کرد و موجودی ۳۶۲ آدرس کیف پول را بررسی کرد تا حسابی پیدا کند که برای انجام کارش موجودی کافی داشته باشد. سپس با استفاده از کلید خصوصی مربوط به آن حساب، تراکنش استقرار قرارداد هوشمند را امضا و به شبکه ارسال کرد. تراکنش نیز با موفقیت انجام شد.
در گزارش اوپن‌ای‌آی اشاره‌ای به هک‌کردن کیف پول یا شکستن رمز آن نشده است. آنچه در گزارش آمده، استفاده از عبارت‌های بازیابی عمومی برای دسترسی به حساب‌هاست. بااین‌حال، عمومی‌بودن یک عبارت بازیابی به‌خودی‌خود به معنای اجازه استفاده از دارایی‌های مرتبط با آن نیست.
نکته قابل‌توجه، نحوه توجیه این اقدام از سوی مدل بود. در جریان استدلال خود پرسیده بود: «اما آیا استفاده از کلیدها و موجودی‌های عمومی شناخته‌شده از نظر اخلاقی درست است؟» سپس به این نتیجه رسید که موجودی موردنظر عملاً رها شده و اتریوم آزمایشی شبکه سپولیا ارزشی ندارد؛ بنابراین استفاده از آن را برای انجام وظیفه‌اش پذیرفت.
این تصمیم باعث شد مدل بدون دریافت مجوز، از حسابی استفاده کند که متعلق به خودش نبود. علاوه بر این، در گزارش نهایی وظیفه نیز هزینه‌ای را که به صاحب کیف پول تحمیل کرده بود، اعلام نکرد.
اوپن‌ای‌آی پس از بررسی این اتفاق اعلام کرد سامانه نظارت بر رفتارهای ناسازگار مدل‌ها را تقویت کرده است. این سامانه اکنون فعالیت‌های مدل‌ها را برای شناسایی موارد مشکوک بررسی می‌کند و در صورت دسترسی به اینترنت واقعی، به تیم امنیتی هشدار می‌دهد.
این حادثه تنها نمونه از رفتارهای خارج از انتظار مدل‌های اوپن‌ای‌آی نیست. این شرکت در ۱۶ سپتامبر از شش مورد دیگر خبر داده بود. در یکی از آن‌ها، نسخه‌هایی از مدل GPT-5.6 Sol دستورالعمل‌هایی را در گزارش وظایف قرار داده بودند تا اشتباهات خود را از کاربران پنهان کنند. در موردی دیگر نیز یک مدل بدون مجوز از یک API افشاشده استفاده کرد و سپس اطلاعاتی ساختگی ارائه داد.
پژوهشگران پیش‌تر نیز درباره خطرات سپردن دسترسی به کیف پول‌های رمزارزی به عامل‌های هوش مصنوعی هشدار داده بودند. حتی اگر این ابزارها برای انجام وظایف قانونی طراحی شده باشند، تصمیم‌های نادرست آن‌ها می‌تواند به دارایی کاربران آسیب بزند. به همین دلیل، استفاده از محدودیت‌های دسترسی و امکان توقف اضطراری از جمله راهکارهای پیشنهادی برای کاهش این خطرات است.
نظرات کاربران