مدل هوش مصنوعی «جمینای»(Gemini) در طول آزمایش قابلیتهای امنیت سایبری خود به اینترنت دسترسی یافت و شرکتهای دیگر را هک کرد. این اولین نمونه شناختهشده از سیستمهای هوش مصنوعی این شرکت است که به طور مستقل چنین عملی را انجام میدهند.
این حملات هکری در ماه مه و در جریان یک آزمون امنیت سایبری توسط شرکت مستقل «ایرگیولار»(Irregular) که ارزیابیهای امنیت سایبری انجام میدهد، اجرا شده بود.
هدر ادکینز از گوگل میگوید
«هدر ادکینز»(Heather Adkins)، معاون بخش مهندسی امنیت گوگل گفت: مدل جمینای در جریان یک ارزیابی آزمایشی استاندارد، اطلاعات عمومی را در فضای آنلاین پیدا کرد و با حدس زدن اطلاعات ورود (نام کاربری و رمز عبور)، به سه-وبسایت دسترسی یافت که تصور میکرد در محدوده آزمون قرار دارند.
ما اطمینان حاصل کردیم که به آن سه مجموعه اطلاعرسانی شده است و با شریک آموزشی خود در خصوص تغییراتی که اکنون در فرآیندهای آزمایشیشان اعمال کردهاند، همکاری کردیم. این رویدادها بر اهمیت آموزش مدلهای هوش مصنوعی قدرتمند برای عملکرد مسئولانه تأکید دارند.
سخنگوی شرکت ایرگیولار
سخنگوی شرکت ایرگیولار گفت: این حادثه مربوط به همان مشکلی است که سایر آزمایشگاههای هوش مصنوعی را تحت تأثیر قرار داده و به همه آزمایشگاههای مربوطه در اواخر ماه ژوئیه اطلاع داده شده است. همه مشکلات شناختهشده از طرف ما هفتهها پیش برطرف و حل شدهاند.
موارد مشابهی از شرکتهای دیگر
شرکتهای «متا»(Meta)، «آنتروپیک»(Anthropic) و «اوپنایآی»(OpenAI) موارد مشابهی را گزارش دادند. متا در ماه اوت اعلام کرد که این رخداد شامل فرار از محیط ایزوله یا حمله سایبری پیچیده نبوده است.
این رویدادها پرسشهایی را درباره تدابیر حفاظتی لازم همزمان با افزایش خودمختاری و دسترسی عاملهای هوش مصنوعی به اینترنت و سیستمهای رایانهای برانگیختهاند.
به گزارش والاستریت ژورنال، جمینای در یکی از این موارد با حدس زدن گذرواژهها موفق شد به یک سامانه محافظتشده دسترسی پیدا کند. در دو مورد دیگر نیز این مدل، اطلاعات ورود را در یک مخزن عمومی یافت که امکان دسترسی به سامانههای محافظتشده را برای آن فراهم کرد.