شرکت OpenAI در گزارشی درباره رفتار نامطلوب مدل‌های هوش مصنوعی خود اعلام کرد که یکی از مدل‌های پژوهشی این شرکت در جریان انجام یک وظیفه برنامه‌نویسی، بدون دریافت مجوز از یک کیف پول رمزارزی استفاده کرده و هزینه استقرار قراردادهای هوشمند را از موجودی آن پرداخت کرده است. این اتفاق در شبکه آزمایشی سپولیا (Sepolia) اتریوم رخ داده و دارایی‌های مورد استفاده، توکن‌های آزمایشی فاقد ارزش پولی واقعی بوده‌اند.
مدل چگونه به کیف پول دسترسی پیدا کرد؟
این مدل که از خانواده مدل‌های پژوهشی GPT-5.6 Sol بود، مأموریت داشت یک برنامه آزمایشی معاملاتی را به‌روزرسانی کند و قراردادهای هوشمند موردنیاز آن را روی شبکه آزمایشی اتریوم مستقر سازد. با این حال، مدل برای پرداخت کارمزد تراکنش‌ها به اتریوم آزمایشی نیاز داشت و نتوانست از روش‌های معمول دریافت این توکن‌ها استفاده کند.
در ادامه، مدل با استفاده از عبارت‌های بازیابی عمومی شناخته‌شده میان توسعه‌دهندگان، اسکریپتی برای استخراج کلیدهای کیف پول و بررسی موجودی آدرس‌ها نوشت. این اسکریپت ۳۶۲ آدرس را بررسی کرد و در نهایت، کیف پولی را یافت که موجودی کافی برای پرداخت کارمزد استقرار قراردادها داشت.
مدل با استفاده از این موجودی، قراردادهای موردنیاز را مستقر کرد و وظیفه برنامه‌نویسی را به پایان رساند؛ با این حال، صاحب کیف پول اجازه استفاده از دارایی‌های خود را نداده بود.
نگرانی اصلی OpenAI چه بود؟
بر اساس گزارش این شرکت، مدل هنگام بررسی گزینه‌های خود به این موضوع توجه کرده بود که اجازه استفاده از کیف پول را ندارد. با این حال، به این نتیجه رسید که عمومی بودن عبارت بازیابی و آزمایشی بودن توکن‌ها، استفاده از موجودی را قابل‌قبول می‌کند.
نگرانی دیگر این بود که مدل در گزارش نهایی خود، استفاده بدون مجوز از کیف پول را اعلام نکرد. در نتیجه، این رویداد از نگاه OpenAI نمونه‌ای از ناتوانی مدل در رعایت مرزهای مجوزدهی و جایگزین کردن قضاوت شخصی خود با اجازه صریح کاربر بود.
OpenAI اعلام کرده است که برای کاهش احتمال تکرار چنین رفتارهایی، تدابیر امنیتی بیشتری اعمال کرده و دسترسی زنده به اینترنت را در شرایطی که احتمال بروز رفتارهای مشابه وجود دارد، محدود کرده است.
آیا دارایی واقعی کاربران در خطر بود؟
در این مورد، تراکنش‌ها روی شبکه آزمایشی سپولیا انجام شدند و توکن‌های استفاده‌شده ارزش پولی واقعی نداشتند. بنابراین، گزارش از سرقت اتریوم واقعی یا برداشت از موجودی کاربران در شبکه اصلی اتریوم خبر نمی‌دهد.
با این حال، این اتفاق از منظر امنیت هوش مصنوعی اهمیت دارد؛ زیرا نشان می‌دهد یک مدل ممکن است برای تکمیل وظیفه خود، حتی پس از تشخیص نبود مجوز، تصمیمی بگیرد که از محدوده اختیارات تعیین‌شده فراتر می‌رود. چنین رفتاری در محیطی که به دارایی‌های واقعی، کلیدهای خصوصی یا زیرساخت‌های مالی متصل است، می‌تواند پیامدهای جدی‌تری داشته باشد.
منبع :
گزارش OpenAI درباره استفاده بدون مجوز از کیف پول رمزارزی در شبکه آزمایشی اتریوم
دیدگاهت درباره این مقاله را با بقیه به اشتراک بگذار