OpenAI پس از هک توسط یک عامل هوش مصنوعی، توسعه مدل‌های خود را کند کرد

به گزارش اینتیتر، شرکت OpenAI روز سه‌شنبه اعلام کرد سرعت توسعه هوش مصنوعی خود را کاهش داده و در حال بازنگری اساسی در سیستم‌های تحقیق و آموزش مدل‌های خود است.

به گزارش گاردین، پژوهشگران این شرکت ماه گذشته زمانی غافلگیر شدند که یک عامل هوش مصنوعی در حال آزمایش توانست به شرکت هوش مصنوعی Hugging Face نفوذ کند.

آزمایشگاه تحقیقاتی سازنده ChatGPT اعلام کرده است اقدامات جدید این شرکت شامل توقف آزمایش مدل‌ها برای دو هفته و افزایش سرمایه‌گذاری در استفاده از سایر سیستم‌های هوش مصنوعی برای نظارت بر فعالیت عامل‌های هوش مصنوعی در مرحله آزمایش است. OpenAI همچنین اعلام کرده برخی از بزرگ‌ترین برنامه‌های آموزشی مدل‌های این شرکت همچنان متوقف هستند.

OpenAI درباره اینکه این کاهش سرعت توسعه دقیقاً از چه زمانی آغاز شده یا چه زمانی روند توسعه به حالت عادی بازمی‌گردد، توضیحی نداده است. با این حال، «میا گلیس» که مسئول بخش ایمنی OpenAI است، در گفت‌وگو با وبلاگ فناوری Sources News گفت: «ما هنوز با بازگشت کامل فعالیت‌ها به حالت عادی فاصله زیادی داریم.»

این شرکت تلاش می‌کند اطمینان حاصل کند مدل‌های هوش مصنوعی به نظارت انسانی پاسخ مناسب می‌دهند و مطابق اهداف تعیین‌شده رفتار می‌کنند. این فرایند که «هم‌ترازی» یا Alignment نام دارد، به یکی از مهم‌ترین چالش‌های توسعه مدل‌های پیشرفته هوش مصنوعی تبدیل شده است.

«سم آلتمن»، مدیرعامل OpenAI، در مطلبی که کاهش سرعت توسعه این شرکت را اعلام کرد، نوشت: «اکنون به شواهد قوی‌تری از رفتار هم‌تراز در تمام مراحل آموزش نیاز داریم و این رویکرد را بر پایه تحقیقات و ارزیابی‌هایی که از قبل در جریان بوده‌اند، توسعه می‌دهیم.»

آلتمن افزود: «هم‌تراز نگه داشتن سیستم‌هایی که به‌طور فزاینده‌ای توانمند می‌شوند، چالشی است که کل صنعت باید با آن روبه‌رو شود.»

رقابت OpenAI و شرکت Anthropic در ماه‌های اخیر شدت گرفته است. هر دو شرکت در تلاش‌اند پیشرفته‌ترین مدل‌های هوش مصنوعی را توسعه دهند و همزمان برای ورود به بازار سهام آمریکا آماده شوند. این شرکت‌ها بارها بر سرعت پیشرفت قابلیت‌های مدل‌های خود تأکید کرده‌اند، در حالی که درباره خطرات ناشی از همین پیشرفت‌ها نیز هشدار داده‌اند.

OpenAI اعلام کرده بود قابلیت‌های مدل آینده این شرکت با نام Astra ممکن است به آستانه‌ای برسد که این شرکت آن را «آستانه حیاتی امنیت سایبری» می‌نامد. همین موضوع یکی از دلایل تصمیم OpenAI برای کند کردن روند توسعه این مدل عنوان شده است.

OpenAI هفته گذشته اعلام کرد ارزیابی‌های داخلی اخیر از Astra نشان می‌دهد این مدل در زمینه «کدنویسی عامل‌محور» و امنیت سایبری پیشرفت قابل‌توجهی داشته است.

کاهش سرعت توسعه مدل‌های هوش مصنوعی OpenAI همچنین یک هفته پس از آن صورت گرفت که «برنی سندرز»، سناتور ایالت ورمونت، از بزرگ‌ترین شرکت‌های هوش مصنوعی آمریکا خواست توسعه مدل‌های خود را متوقف کنند.

سندرز در نامه‌ای خطاب به مدیران عامل شرکت‌های بزرگ هوش مصنوعی هشدار داده بود که این شرکت‌ها در حال از دست دادن کنترل بر فناوری هستند و باید توسعه مدل‌های جدید را متوقف کنند.

در بخشی از این نامه خطاب به سم آلتمن، مدیرعامل OpenAI، داریو آمودی، مدیرعامل Anthropic، و مارک زاکربرگ آمده بود: «به خاطر بشریت، به حرف‌های خود عمل کنید. توسعه هوش مصنوعی را متوقف کنید.»

OpenAI پیش از این نیز اعلام کرده بود توسعه مدل Astra را به‌طور موقت کاهش داده است؛ تصمیمی که پس از آن گرفته شد که این مدل در جریان آزمایش‌ها توانست به شرکت فناوری Hugging Face نفوذ کند.

این شرکت اکنون اعلام کرده است تمامی فعالیت‌هایی که با Astra انجام می‌شوند باید تحت «سخت‌گیرانه‌ترین سطح اقدامات حفاظتی امنیتی» قرار داشته باشند.

OpenAI در اطلاعیه خود اعلام کرده است: «اگرچه برخی از فرایندهای آموزش و ارزیابی Astra با این الزامات مطابقت دارند، بخش قابل‌توجهی از فعالیت‌ها همچنان متوقف مانده‌اند تا زمانی که به‌طور کامل به زیرساخت جدید منتقل شده و با استانداردهای امنیتی جدید مطابقت پیدا کنند.»

چرا OpenAI توسعه مدل‌های هوش مصنوعی را کند کرد؟

تصمیم OpenAI نشان می‌دهد با افزایش توانایی عامل‌های هوش مصنوعی در انجام مستقل وظایف پیچیده، مسئله کنترل و نظارت بر این سیستم‌ها به یکی از چالش‌های اصلی صنعت تبدیل شده است. هک شدن Hugging Face توسط یک عامل هوش مصنوعی در حال آزمایش نیز نگرانی‌ها درباره توانایی مدل‌های جدید در انجام اقدامات خارج از چارچوب مورد انتظار را افزایش داده است.

OpenAI اکنون تلاش می‌کند پیش از ادامه برخی از بزرگ‌ترین پروژه‌های آموزشی خود، سازوکارهای نظارت، ارزیابی و امنیت مدل‌های جدید را تقویت کند؛ اقدامی که می‌تواند سرعت رقابت این شرکت با رقبایی مانند Anthropic را نیز تحت تأثیر قرار دهد.