این هوش مصنوعی خودش را هک می‌کند!
کد خبر :
۴۰۰۴۱۱
گروهی از محققای دانشگاه UC سن‌دیگو و ویسکانسین یک روش جدید برای هک کردن جمینای پیدا کرده‌اند که در نوع خود جالب و بی‌نظیر است.
به گزارش اینتیتر به نقل از همشهری آنلاین، این روش که به آن "Fun-Tuning" گفته می‌شود، از تکنیکی خاص استفاده می‌کند که باعث می‌شود، جمینای (ابزار هوش مصنوعی گوگل) اطلاعات را لو داده و یا جواب‌های اشتباه بدهد.
در واقع، با یک سری متن‌های بی‌معنی، مدل را دور می‌زند و به جواب‌هایی می‌رسد که نباید تولید شود!
این قضیه زنگ خطری جدی برای امنیت هوش مصنوعی محسوب می‌شود، زیرا نشان می‌دهد که حتی پیشرفته‌ترین مدل‌ها هم می‌توانند فریب بخورند!
