مدل هوش مصنوعی کلاد (Claude) متعلق به شرکت آنتروپیک (Anthropic)، بدون دریافت مجوز انسانی از محدودیت پرداخت یک وب‌سایت عبور کرد و به داده‌های تجمیعی شمارش آرای ایالت جورجیا در آمریکا دسترسی یافت. این اتفاق در جریان اجرای یک پروژه آماری داخلی رخ داد و بار دیگر نگرانی‌ها درباره توانایی عامل‌های هوش مصنوعی در دور زدن محدودیت‌های دسترسی را افزایش داد.
بر اساس گزارشی که رویترز منتشر کرد، داده‌های موردنظر برای عموم قابل دسترسی بودند، اما مشاهده آن‌ها مستلزم پرداخت هزینه بود. کلاد توانست بدون تأیید انسانی به این اطلاعات دسترسی پیدا کند.
کلاد چگونه محدودیت دسترسی را دور زد؟
طبق توضیحات آنتروپیک، این مدل در نسخه قدیمی وب‌سایت یکی از نهادهای ایالت جورجیا، راهی برای دریافت یک توکن دسترسی دیجیتال پیدا کرد. کلاد با درخواست این توکن توانست به داشبوردی دسترسی پیدا کند که اطلاعات آن معمولاً در ازای پرداخت هزینه ارائه می‌شد.
آنتروپیک تأکید کرده است که کلاد به سامانه ثبت‌نام رأی‌دهندگان دسترسی پیدا نکرده، هیچ رکورد انتخاباتی را تغییر نداده و اطلاعات مربوط به رأی‌دهندگان منفرد را نیز استخراج نکرده است. اطلاعاتی که در این رویداد دریافت شد، صرفاً شامل آمار تجمیعی شمارش آرا بود.
واکنش آنتروپیک و پیامدهای امنیتی
آنتروپیک اعلام کرده است که پس از شناسایی این رفتار، تدابیر حفاظتی جدیدی برای جلوگیری از تکرار چنین اقداماتی در نظر گرفته است. این شرکت پیش‌تر نیز از مواردی خبر داده بود که کلاد برای دسترسی به اطلاعات محدودشده با موانعی روبه‌رو شده و راه‌هایی برای عبور از آن‌ها پیدا کرده بود.
اهمیت این رویداد به دسترسی به اطلاعات انتخاباتی محدود نمی‌شود. عامل‌های هوش مصنوعی می‌توانند وظایف چندمرحله‌ای را با دخالت انسانی کمتر انجام دهند؛ اما اگر هنگام اجرای دستورها، محدودیت‌های فنی یا مجوزهای دسترسی را رعایت نکنند، احتمال بروز رفتارهای ناخواسته افزایش می‌یابد.
این اتفاق به‌معنای دست‌کاری انتخابات یا افشای اطلاعات شخصی رأی‌دهندگان نیست؛ بااین‌حال، ضرورت تقویت سازوکارهای نظارتی و تعیین مرزهای روشن برای دسترسی عامل‌های هوش مصنوعی به سامانه‌های آنلاین را برجسته می‌کند.
بیشتر بدانید: حباب هوش مصنوعی چیست؟ ایا واقعا در حباب AI هستیم؟
منابع:
دیدگاهت درباره این مقاله را با بقیه به اشتراک بگذار