سرعت توسعه هوش مصنوعی نگران کننده شد | مدیرعامل آنتروپیک هشدار داد
داریو آمودی، مدیرعامل شرکت هوش مصنوعی آنتروپیک، با انتشار فراخوانی جدید از صنعت هوش مصنوعی خواست سرعت توسعه این فناوری را کاهش دهد و برای این کار یک برنامه سهمرحلهای پیشنهاد کرد؛ او همچنین اعلام کرد شرکت آنتروپیک بهصورت یکجانبه نخستین مرحله این طرح را اجرا خواهد کرد.
به گزارش اینتیتر، داریو آمودی روز شنبه در پستی در شبکه اجتماعی ایکس، به مقالهای با عنوان «باید سرعت پیشروی مرزهای فناوری را تنظیم کنیم» لینک داد و در آن توضیح داد که آنتروپیک قصد دارد به ارزیابان مستقل شخص ثالث، دسترسی دائمی و در سطح کارکنان شرکت به سامانههای خود بدهد.
به گزارش گاردین، به گفته آمودی، این ارزیابان میتوانند رعایت اقدامات ایمنی آنتروپیک را بررسی کنند، درباره حوادث و رخدادهای احتمالی گزارش دهند و میزان همراستایی مدلهای هوش مصنوعی را در جریان آموزش ارزیابی کنند.
هشدار درباره خطر انقراض انسان تا سال ۲۰۳۰
فراخوان جدید مدیرعامل آنتروپیک چند روز پس از هشدار یکی از پژوهشگران سابق این شرکت منتشر شده است.
جیکوب کاکسون، پژوهشگر سابق آنتروپیک، روز چهارشنبه اعلام کرد که از سمت خود کنارهگیری کرده است، زیرا به گفته او آنتروپیک و شرکت قبلیاش، OpenAI، در برابر تهدیدهای ناشی از هوش مصنوعی واکنش مسئولانهای نشان نمیدهند.
کاکسون هشدار داده است که هوش مصنوعی میتواند تا سال ۲۰۳۰ به انقراض انسان منجر شود. او در مجموعهای از پستها نوشت که هر دو شرکت «بهطور مسئولانه عمل نمیکنند» و با سرعت به سمت «ابرهوش خودبهبودیابنده» حرکت میکنند، در حالی که خطرات این مسیر میتواند جان انسانها را تهدید کند.
سخنگوی آنتروپیک در بیانیهای اعلام کرد این شرکت همواره بهصراحت گفته است که هوش مصنوعی در کنار مزایای عظیم، خطراتی بیسابقه نیز به همراه خواهد داشت و آنتروپیک در حال ساخت مدلهایی با برخی از قویترین سازوکارهای ایمنی در این صنعت است.
حمایت مدیرعامل OpenAI از کاهش سرعت توسعه
سم آلتمن، مدیرعامل OpenAI، نیز از پیشنهاد آمودی حمایت کرد.
آلتمن اعلام کرد که با آمودی موافق است که صنعت هوش مصنوعی باید سرعت پیشروی خود را کنترل کند. او همچنین ایده دسترسی ارزیابان مستقل به سامانهها در سطح کارکنان شرکت را «ایدهای عالی» توصیف کرد و گفت OpenAI نیز چنین رویکردی را دنبال خواهد کرد.
ایلان ماسک نیز در واکنش به این اظهارات تنها نوشت: «داریو درست میگوید.»
آیدان مکلافلین، پژوهشگر OpenAI، نیز مقاله آمودی را «عالی» خواند و گفت تقریباً با تمام مطالب آن موافق است.
آمودی: پیشرفت هوش مصنوعی از توانایی کنترل آن جلو زده است
آمودی در مقاله جدید خود تأکید کرد که هوش مصنوعی در صورت استفاده محتاطانه میتواند یکی از مهمترین دستاوردهای فناوری باشد و کیفیت زندگی انسانها را به شکل چشمگیری بهبود دهد.
با این حال، او هشدار داد که هوش مصنوعی مانند بسیاری از فناوریهای قدرتمند پیشین، خطرات جدی نیز به همراه دارد و رقابت تجاری میان شرکتها میتواند این خطرات را تشدید کند.
او نوشت طی چند ماه گذشته متقاعد شده است که مقابله کامل با خطرات هوش مصنوعی تنها به سرمایهگذاری در پیشگیری از ریسکها محدود نمیشود، بلکه باید سرعت پیشرفت قابلیتهای این فناوری نیز کنترل شود تا اقدامات ایمنی فرصت کافی برای همگام شدن با این پیشرفت را داشته باشند.
آمودی تأکید کرد: «ما باید سرعت بهبود قابلیتهای مدلهای هوش مصنوعی را کاهش دهیم. پیشرفت همچنان سریع به نظر خواهد رسید و باید از زمانی که به دست میآوریم به شکل هوشمندانه استفاده کنیم.»
او همچنین گفت طی تابستان شاهد پیشرفت بسیار سریعتر هوش مصنوعی بوده است؛ روندی که از آن با عنوان «خودبهبودی بازگشتی» یا Recursive Self-Improvement یاد میشود.
به گفته آمودی، اگر این روند بدون کنترل ادامه پیدا کند، ممکن است از توانایی انسان برای درک و کنترل این سامانهها فراتر برود و به همین دلیل باید با احتیاط بسیار زیادی دنبال شود، یا حتی در برخی موارد اصلاً دنبال نشود.
هشدار درباره حادثه Hugging Face
مدیرعامل آنتروپیک همچنین به حادثه اخیر در پلتفرم Hugging Face اشاره کرد؛ حادثهای که در آن گروهی از عاملهای هوش مصنوعی ایجادشده توسط OpenAI، به گفته گزارش بررسی این حادثه، بهصورت جمعی اقدام به حملات سایبری علیه اهدافی کردند که برای حمله به آنها مأمور نشده بودند.
آمودی هشدار داد که نمیتوان این حادثه را صرفاً به دلیل نبود نیت مخرب یا محدود بودن خسارت اقتصادی نادیده گرفت.
او استدلال کرد که اگر گروهی از عاملهای هوش مصنوعی با قابلیتهای بسیار بیشتر، اما با همان میزان ضعف در همراستایی، رفتار مشابهی داشته باشند، پیامدهای آن میتواند فاجعهبار باشد.
کلمان دلانگ، مدیرعامل Hugging Face، نیز در واکنش به مقاله آمودی اعلام کرد که اکنون روشن شده است «همراستایی» هوش مصنوعی مسئلهای حیاتی است و نمیتوان آن را پشت درهای بسته تعداد محدودی از آزمایشگاههای پیشرو هوش مصنوعی حل کرد.
دلانگ همچنین گفت Hugging Face از آنتروپیک خواسته است در برنامه «ارزیابان مستقر در شرکت» این مجموعه حضور داشته باشد و افزود: «بیایید با شفافتر کردن هوش مصنوعی، آن را ایمنتر کنیم.»
برنامه سهمرحلهای آنتروپیک برای کنترل سرعت توسعه AI
آمودی در مقاله خود یک برنامه سهمرحلهای برای توسعه ایمنتر هوش مصنوعی پیشنهاد کرده است.
مرحله نخست، توسعه هوش مصنوعی با سرعتی متعادل است؛ بهگونهای که شرکتها زمان کافی برای همراستا کردن و ایمنسازی مدلهای خود داشته باشند و ارزیابان مستقل شخص ثالث نیز بتوانند این اقدامات را بررسی و تأیید کنند.
مرحله دوم، ایجاد هماهنگی در سطح کل صنعت هوش مصنوعی است.
مرحله سوم نیز ایجاد هماهنگی جهانی برای مدیریت خطرات و سرعت توسعه این فناوری است.
آمودی تأکید کرد این مراحل الزاماً نباید به ترتیب مشخصی اجرا شوند و دستیابی به برخی از آنها ممکن است بسیار دشوارتر از مراحل دیگر باشد.
مدیرعامل آنتروپیک در پایان تأکید کرد که همچنان معتقد است هوش مصنوعی میتواند کیفیت زندگی انسانها را به شکل چشمگیری بهبود دهد، اما اجرای اقداماتی که برای پیشبرد ایمن این فناوری پیشنهاد کرده، آسان نخواهد بود.
او در نهایت گفت: «اما معتقدم ما به بشریت بدهکاریم که تلاش کنیم.»