هشدار جدی: خلاصههای هوش مصنوعی گوگل با اطلاعات غلط پزشکی، جان مردم را به خطر میاندازد
تحقیقات روزنامه گاردین نشان میدهد که خلاصههای هوش مصنوعی گوگل (AI Overviews) که در بالای نتایج جستجو ظاهر میشوند، در موارد متعددی اطلاعات نادرست و گمراهکننده درباره مسائل پزشکی ارائه میدهند و میتوانند سلامت و حتی جان افراد را به خطر بیندازند.
به گزارش اینتیتر، تحقیقات روزنامه گاردین نشان میدهد که خلاصههای هوش مصنوعی گوگل (AI Overviews) که در بالای نتایج جستجو ظاهر میشوند، در موارد متعددی اطلاعات نادرست و گمراهکننده درباره مسائل پزشکی ارائه میدهند و میتوانند سلامت و حتی جان افراد را به خطر بیندازند.
به گزارش گاردین، گوگل این ابزار را «مفید» و «قابل اعتماد» توصیف کرده، اما بررسیها نشان میدهد که برخی از این خلاصهها اطلاعات کاملاً اشتباه و خطرناکی درباره بیماریهای جدی ارائه میکنند.
در یکی از موارد که کارشناسان آن را «واقعاً خطرناک» خواندهاند، گوگل به بیماران مبتلا به سرطان لوزالمعده توصیه کرده بود که از مصرف غذاهای پرچرب پرهیز کنند. این توصیه دقیقاً برعکس آنچه متخصصان توصیه میکنند است؛ زیرا بیماران مبتلا به این سرطان نیاز به دریافت کالری و چربی بالا دارند تا وزن خود را حفظ کنند و بتوانند درمانهایی مانند شیمیدرمانی یا جراحی را تحمل کنند. متخصصان هشدار دادهاند که پیروی از این توصیه غلط میتواند شانس زنده ماندن بیماران را به شدت کاهش دهد.
در نمونه دیگری که «هشداردهنده» توصیف شده، گوگل اطلاعات نادرستی درباره محدوده نرمال آزمایشهای عملکرد کبد ارائه داد. این اطلاعات بدون در نظر گرفتن تفاوتهای جنسیتی، سنی، نژادی و ملیتی بود و میتوانست باعث شود افراد مبتلا به بیماریهای جدی کبد، نتیجه آزمایش خود را «نرمال» تصور کنند و پیگیری پزشکی را رها کنند.
همچنین در جستجوهای مربوط به علائم و آزمایشهای سرطان واژن، هوش مصنوعی گوگل به اشتباه تست پاپاسمیر را به عنوان آزمایشی برای تشخیص سرطان واژن معرفی کرده بود؛ در حالی که این تست برای تشخیص سرطان دهانه رحم است و ربطی به سرطان واژن ندارد. کارشناسان هشدار دادهاند که این اشتباه میتواند باعث شود زنان علائم واقعی سرطان واژن را نادیده بگیرند و به دلیل نتیجه «نرمال» تست پاپاسمیر، به پزشک مراجعه نکنند.
علاوه بر این، خلاصههای هوش مصنوعی گوگل درباره اختلالات روانی مانند سایکوز و اختلالات خوردن نیز توصیههای «بسیار خطرناک» و نادرستی ارائه دادهاند که میتواند افراد را از جستجوی کمک حرفهای بازدارد یا آنها را به سمت منابع نامناسب هدایت کند.
آنا جوئل از بنیاد سرطان لوزالمعده بریتانیا گفت: «توصیه به پرهیز از غذاهای چرب برای این بیماران کاملاً اشتباه است و میتواند شانس درمان و بقای آنها را به خطر بیندازد.»
پاملا هیلی از بنیاد کبد بریتانیا نیز این نتایج را «هشداردهنده» خواند و گفت: «بسیاری از بیماران کبدی تا مراحل پیشرفته هیچ علامتی ندارند؛ اطلاعات غلط درباره محدوده نرمال میتواند مانع پیگیری بهموقع شود.»
آتن لامنیسوس از خیریه سرطان زنان «ایو اپیل» نیز تأکید کرد: «این اطلاعات کاملاً غلط است و میتواند زنان را در خطر قرار دهد. بدتر اینکه حتی جستجوی یکسان در زمانهای مختلف، پاسخهای متفاوت و متناقضی میدهد.»
گوگل در پاسخ به این انتقادها گفته است که «اکثریت قریب به اتفاق» خلاصههای هوش مصنوعی دقیق و مفید هستند، این ابزارها را مدام بهبود میبخشد و در صورت اشتباه، اقدامات لازم را انجام میدهد. شرکت همچنین مدعی است که دقت این خلاصهها مشابه «اسنیپتهای ویژه» قدیمی جستجوی گوگل است.
با این حال، کارشناسان و سازمانهای بهداشتی تأکید دارند که در موضوعات حساس مانند سلامت، حتی یک اشتباه هم میتواند عواقب جبرانناپذیری داشته باشد و مردم نباید بدون مشورت پزشک به این اطلاعات اکتفا کنند.
