این هوش مصنوعی خودش را هک می‌کند!
کد خبر :
۴۰۰۴۱۱
گروهی از محققای دانشگاه UC سن‌دیگو و ویسکانسین یک روش جدید برای هک کردن جمینای پیدا کرده‌اند که در نوع خود جالب و بی‌نظیر است.
به گزارش اینتیتر به نقل از همشهری آنلاین، این روش که به آن "Fun-Tuning" گفته می‌شود، از تکنیکی خاص استفاده می‌کند که باعث می‌شود، جمینای (ابزار هوش مصنوعی گوگل) اطلاعات را لو داده و یا جواب‌های اشتباه بدهد.
در واقع، با یک سری متن‌های بی‌معنی، مدل را دور می‌زند و به جواب‌هایی می‌رسد که نباید تولید شود!
این قضیه زنگ خطری جدی برای امنیت هوش مصنوعی محسوب می‌شود، زیرا نشان می‌دهد که حتی پیشرفته‌ترین مدل‌ها هم می‌توانند فریب بخورند!
هم اکنون دیگران میخوانند
دعوای داغ
