گوگل تأیید کرد؛ هوش مصنوعی Gemini در یک آزمایش امنیتی سه شرکت واقعی را هک کرد

به گزارش اینتیتر، این آزمایش توسط شرکت امنیت هوش مصنوعی Irregular انجام شد. این استارتاپ مستقر در اسرائیل، امنیت سامانه‌های پیشرفته هوش مصنوعی را بررسی می‌کند و در برخی از آزمایش‌های اخیر مرتبط با OpenAI و Anthropic نیز نقش داشته است. در یکی از این موارد، مدل‌های OpenAI در جریان یک آزمایش امنیت سایبری به شرکت نرم‌افزاری Hugging Face نفوذ کردند.

به گزارش گاردین، وجه مشترک برخی از این موارد، نحوه طراحی محیط آزمایش بود. Irregular مدل‌های هوش مصنوعی را در یک محیط بسته و با استفاده از شرکت‌های جعلی آزمایش می‌کرد. این محیط قرار نبود به اینترنت دسترسی داشته باشد، اما طبق گزارش وال‌استریت ژورنال، دسترسی به اینترنت به‌طور ناخواسته فعال شد.

پس از اتصال محیط آزمایش به اینترنت، مدل‌های هوش مصنوعی به‌طور غیرمنتظره‌ای توانستند به سامانه شرکت‌های واقعی نفوذ کنند.

Irregular پس از آنکه مشخص شد مدل‌های OpenAI به Hugging Face نفوذ کرده‌اند، در پایان ماه ژوئیه این موارد را به گوگل اطلاع داد. گوگل وقوع این نفوذها را به گاردین تأیید کرد، اما گفت از آنجا که مدل‌های Gemini به شرکت‌های موردنظر آسیبی وارد نکردند، این شرکت دلیلی برای اعلام عمومی ماجرا نمی‌دیده است.

وال‌استریت ژورنال نخستین رسانه‌ای بود که جزئیات این نفوذها را منتشر کرد.

هدر ادکینز، معاون مهندسی امنیت گوگل، گفت: «در یک ارزیابی استاندارد، مدل اطلاعات عمومی موجود در اینترنت را پیدا کرد و با حدس زدن اطلاعات ورود، به وب‌سایت‌هایی دسترسی پیدا کرد که تصور می‌کرد بخشی از آزمایش هستند. در هر سه مورد، مدل متوقف شد.»

در یکی از این موارد، Irregular قابلیت‌های امنیت سایبری Gemini را با درخواست دسترسی به اطلاعات نرم‌افزاری یک شرکت جعلی آزمایش می‌کرد. شرکت جعلی و یک شرکت واقعی نام یکسانی داشتند.

پس از آنکه مدل به‌طور ناخواسته به اینترنت دسترسی پیدا کرد، توانست رمز عبور شرکت واقعی را به‌درستی حدس بزند و وارد یکی از سرویس‌های آن شود. گوگل اعلام کرد زمانی که مدل متوجه شد به یک شرکت واقعی و نه شرکت شبیه‌سازی‌شده نفوذ کرده است، فعالیت خود را متوقف کرد.

در دو آزمایش دیگر نیز Gemini در اینترنت به مخازن عمومی حاوی اطلاعات ورود به دو شرکت دیگر دسترسی پیدا کرد. مدل از این اطلاعات برای ورود به سامانه‌های شرکت‌های واقعی استفاده کرد، اما طبق اعلام گوگل، پس از تشخیص اینکه این شرکت‌ها واقعی هستند، متوقف شد.

گوگل برخلاف Anthropic و OpenAI، این موارد را به‌صورت داوطلبانه و عمومی افشا نکرد. با این حال، این شرکت اعلام کرد اطمینان حاصل کرده است که هر سه شرکتی که مورد نفوذ قرار گرفتند، از این اتفاق مطلع شده‌اند.

ادکینز در ادامه گفت: «این اتفاقات اهمیت آموزش مدل‌های قدرتمند هوش مصنوعی برای رفتار مسئولانه را نشان می‌دهد.»

این موارد در شرایطی افشا شده‌اند که نگرانی درباره توانایی مدل‌های پیشرفته هوش مصنوعی برای فعالیت مستقل و عبور از محدودیت‌های تعیین‌شده افزایش یافته است.

پس از افشای موارد مشابه توسط Anthropic و OpenAI، برنی سندرز، سناتور مستقل آمریکا، از این شرکت‌ها خواست توسعه فناوری‌های خود را متوقف کنند. سندرز این حوادث را نشانه‌ای از آن دانست که شرکت‌ها دیگر کنترل کافی بر مدل‌های خود ندارند.

OpenAI پس از آن توسعه مدل‌های خود را به مدت دو هفته متوقف کرد. داریو آمودئی، مدیرعامل Anthropic، نیز خواستار کاهش جمعی سرعت توسعه هوش مصنوعی شده است تا اطمینان حاصل شود مدل‌های پیشرفته این فناوری با تدابیر ایمنی کافی توسعه پیدا می‌کنند.

با این حال، مورد Gemini تفاوتی مهم با برخی حوادث قبلی دارد: در این آزمایش‌ها، دسترسی مدل به اینترنت به‌طور ناخواسته ایجاد شد و گوگل می‌گوید Gemini پس از تشخیص اینکه با شرکت‌های واقعی مواجه شده است، فعالیت خود را متوقف کرده است.