هوش مصنوعی گروک باز هم کاربران را سردرگم کرد

به گزارش اینتیتر به نقل از تک‌کرانچ، این مشکل ناشی از یک باگ در سیستم گروک بوده که منجر به ارسال پاسخ‌هایی با محتوای نامرتبط به کاربران شده است. به‌طور خاص، چت‌بات گروک حتی در پاسخ به سوالات نامرتبط، اطلاعاتی درباره «نسل‌کشی سفیدپوستان» در آفریقای جنوبی و یک سرود ضد آپارتاید منتشر می‌کرد.

این مشکل زمانی آشکار شد که کاربران هنگام تگ کردن حساب کاربری grok@ در شبکه اجتماعی ایکس، با پاسخ‌های تولید شده توسط هوش مصنوعی مواجه می‌شدند که اغلب شامل مطالب حساس و جنجالی بود. در یکی از موارد، یک کاربر درباره دستمزد سالانه یک بازیکن حرفه‌ای بیسبال سوال پرسید، اما گروک به جای پاسخ صحیح، به موضوع «نسل‌کشی سفیدپوستان» اشاره کرد.

این رفتارهای غیرعادی نشان می‌دهد که چت‌بات‌های هوش مصنوعی هنوز به تکامل کافی نرسیده‌اند و در برخی موارد می‌توانند اطلاعات نادرست یا گمراه‌کننده ارائه دهند. این مسئله چالشی جدی برای توسعه‌دهندگان این فناوری محسوب می‌شود که باید برای بهبود دقت و کنترل بر محتوای تولید شده توسط چت‌بات‌ها تلاش بیشتری انجام دهند.

این نخستین بار نیست که چت‌بات‌های هوش مصنوعی با مشکلات مشابه مواجه می‌شوند.

شرکت اپن‌ای‌آی نیز اخیراً به دلیل بروز تعصب در پاسخ‌های چت‌جی‌پی‌تی، ناچار به انتشار یک به‌روزرسانی و سپس لغو آن شد. همچنین، چت‌بات جمینای گوگل نیز به دلیل ارائه اطلاعات نادرست در موضوعات حساس، انتقادات گسترده‌ای را به همراه داشته است.