پیشنهاد آمریکا و چین برای مهار خطرات هوش مصنوعی

 این پیشنهادها در حالی مطرح شده‌اند که نگرانی‌ها درباره افزایش قدرت و استقلال سامانه‌های هوش مصنوعی بیشتر شده و قرار است در آستانه گفت‌وگوهای جدید آمریکا و چین درباره هوش مصنوعی بررسی شوند.این کارشناسان خواستار تعیین خطوط قرمز مشخص در اطراف سامانه‌های هسته‌ای، حفظ کنترل کامل انسان بر حملات سایبری مهم و ایجاد یک خط ارتباطی اضطراری میان دو کشور برای حوادث مرتبط با هوش مصنوعی شده‌اند. ملانی سیسون از مؤسسه بروکینگز و تیانجیاو جیانگ از دانشگاه فودان که در گفت‌وگوی امنیتی آمریکا و چین درباره هوش مصنوعی مشارکت داشته‌اند، این پیشنهادها را ارائه کرده‌اند. آنها همچنین بر تعریف مشترک «کنترل معنادار انسانی» تأکید دارند تا دو کشور نتوانند از یک عبارت یکسان برای توجیه سطوح متفاوتی از اختیار ماشین‌ها استفاده کنند.

 

جیانگ هشدار داده است که واکنش خودکار سامانه‌های هوش مصنوعی می‌تواند یک چرخه خطرناک ایجاد کند؛ برای مثال، هوش مصنوعی یک کشور ممکن است فعالیت مشکوکی را شناسایی و به‌طور خودکار واکنش نشان دهد و طرف مقابل همین واکنش را حمله تلقی کرده و پیش از آنکه علت واقعی مشخص شود، دست به اقدام متقابل بزند. به همین دلیل، ایجاد خط ارتباطی مستقیم می‌تواند به دو کشور اجازه دهد پیش از تبدیل یک حادثه یا خطای فنی به درگیری، درباره آن توضیح دهند.

 

 با این حال، برخی کارشناسان درباره کارآمدی خط تلفن نظامی موجود میان واشنگتن و پکن تردید دارند و به سابقه پاسخ ندادن مقام‌های چینی به تماس‌های آمریکا در جریان حادثه بالن جاسوسی در سال ۲۰۲۳ اشاره کرده‌اند.هیچ‌یک از دو دولت تاکنون به‌طور رسمی این پیشنهادهای مؤسسه بروکینگز و دانشگاه تسینگ‌هوا را تأیید نکرده‌اند، اما چین موضوع هوش مصنوعی نظامی را وارد ساختارهای مرتبط با کنترل تسلیحات خود کرده است. مقام‌های چینی درباره تأثیر هوش مصنوعی نظامی بر ثبات راهبردی و افزایش خطر محاسبات اشتباه هشدار داده‌اند و بر باقی ماندن کنترل سلاح‌ها در دست انسان تأکید کرده‌اند. در مقابل، هر دو کشور نگران محدودیت‌هایی هستند که ممکن است سرعت پیشرفت فناوری آنها را کاهش دهد؛ واشنگتن بیم دارد محدودیت‌های گسترده به چین مزیت بدهد و پکن نیز برخی کنترل‌های فناوری آمریکا را تلاشی برای حفظ برتری این کشور می‌داند.