به الگوریتم اعتماد کنیم یا به حس درونی خود؟

به گزارش اینتیتر، تصور کنید یکی از حدود ۵۵ درصد آمریکایی‌هایی هستید که برای مدیریت امور مالی، انتخاب سبد سرمایه‌گذاری یا تنظیم برنامه مالی خود از هوش مصنوعی کمک می‌گیرند. یا مدیر منابع انسانی هستید و برای سرعت بخشیدن به فرایند استخدام، به یک الگوریتم هوش مصنوعی اجازه می‌دهید نامزدهای شغلی را رتبه‌بندی کند.

به گزارش سایکولوژی تودی، در هر دو حالت احتمالاً زمان زیادی صرفه‌جویی می‌کنید، اما این صرفه‌جویی چه هزینه‌ای دارد؟ مهم‌تر از آن، آیا به ماشین اعتماد می‌کنید که برنامه مالی شما را تنظیم کند یا فرد جدیدی را برای استخدام انتخاب کند، یا به حس درونی خودتان اعتماد دارید؟

با ادامه گسترش هوش مصنوعی و رسیدن استفاده از آن در میان مصرف‌کنندگان و شرکت‌ها به سطوح بی‌سابقه، این موضوع به یکی از پرسش‌های مهم اما کمتر بررسی‌شده در علم تصمیم‌گیری تبدیل شده است.

مسئله نه کاملاً شهودی است و نه کاملاً منطقی.

نظریه «خودِ شناختی-تجربی» سیمور اپستین توضیح می‌دهد که دو نظام در نحوه دریافت اطلاعات و واکنش ما به آنها نقش دارند. نخست، نظامی صریح و استدلالی است که عمدتاً در سطح آگاهانه و با استفاده از زبان عمل می‌کند. این همان رویکرد کاملاً منطقی است.

نظام دوم، ضمنی و واکنشی است و در طول زمان و بر اساس تجربه شکل می‌گیرد، نه صرفاً تحلیل. این همان بخش شهودی تصمیم‌گیری است که به حس درونی و قضاوت شخصی متکی است.

اما بین این دو، یک عامل واسطه قرار دارد: چیزی که ظاهراً عینی و بی‌طرف به نظر می‌رسد، اما همیشه درست نیست.

خطاهای تصمیم‌گیری در مواجهه با هوش مصنوعی

تصمیم‌گیری در هنگام استفاده از هوش مصنوعی می‌تواند با چند نوع خطا همراه باشد.

یکی از آنها «گریز از الگوریتم» است. در این حالت، فرد پس از اینکه یک بار از خطای هوش مصنوعی آسیب دیده یا نتیجه نامناسبی گرفته است، به شکل واکنشی اعتماد خود را به توصیه‌های بعدی الگوریتم از دست می‌دهد.

پژوهش‌های دیتورست و همکارانش در سال ۲۰۱۵ نشان داد افراد پس از مشاهده یک اشتباه مشابه، اعتماد خود را به الگوریتم سریع‌تر از یک انسان از دست می‌دهند.

در عمل، حتی با وجود اینکه الگوریتم‌های مبتنی بر شواهد در بسیاری از موارد می‌توانند نتایج را دقیق‌تر از پیش‌بینی‌کنندگان انسانی پیش‌بینی کنند، افراد هنگام انتخاب میان این دو، اغلب انسان را ترجیح می‌دهند.

خطای دیگر، «سوگیری اتوماسیون» است. این اتفاق زمانی رخ می‌دهد که فرد بیش از حد به خروجی هوش مصنوعی اعتماد می‌کند، زیرا آن را عینی‌تر و مبتنی بر داده‌های بیشتر می‌داند.

این تصور رایج وجود دارد که سامانه‌های هوش مصنوعی به دلیل تکیه بر مدل‌های زبانی بزرگ و حجم عظیمی از داده‌ها، ذاتاً دقیق‌تر هستند. این اتفاق حتی زمانی رخ می‌دهد که انسان اطلاعات زمینه‌ای بیشتری نسبت به مدل در اختیار داشته باشد.

این دو خطا را می‌توان دو سر یک طیف در نظر گرفت. با این حال، بیشتر افراد اعتماد خود را به‌صورت متناسب با عملکرد واقعی هوش مصنوعی تنظیم نمی‌کنند. آنها معمولاً یکی از این دو رویکرد را انتخاب می‌کنند و صرف‌نظر از سابقه واقعی الگوریتم، به همان پایبند می‌مانند.

شکاف اعتماد به هوش مصنوعی

تفاوت روان‌شناختی مهم در اینجا چیست؟

وقتی از یک انسان توصیه می‌گیریم، به‌طور ناخودآگاه تخصص، انگیزه‌ها و سابقه قابل‌اعتماد بودن او را ارزیابی می‌کنیم.

اما هنگام دریافت توصیه از الگوریتم یا هوش مصنوعی عامل‌محور، این سازوکار ارزیابی اغلب فعال نمی‌شود. توصیه ارائه می‌شود، بدون اینکه منبع انسانی مشخصی داشته باشد که بتوانیم درباره دلیل تصمیم آن قضاوت کنیم یا اعتبارش را بسنجیم.

این مسئله فراتر از مشکل «جعبه سیاه» است؛ یعنی وضعیتی که نمی‌توانیم فرایند استدلال یا منطق پشت یک تصمیم را ببینیم و مانند نظر یک همکار، درباره آن بحث کنیم.

در نتیجه، افراد به جای ارزیابی دقیق، به میانبرهای ذهنی یا «ابتکارهای شناختی» متوسل می‌شوند. برای مثال، ممکن است به‌طور کامل به الگوریتم اعتماد کنند یا کاملاً آن را کنار بگذارند.

این سوگیری‌ها در حوزه‌هایی که اشتباه در تصمیم‌گیری هزینه زیادی دارد، پیامدهای واقعی ایجاد می‌کنند.

هوش مصنوعی در حوزه سلامت

در حوزه سلامت، پژوهشی که کیارا لونگونی، آندره‌آ بونتزی و کری موروج در سال ۲۰۱۹ انجام دادند، نشان داد بیماران در مقایسه با دریافت همان خدمات از یک ارائه‌دهنده انسانی، تمایل کمتری به استفاده از خدمات ارائه‌شده توسط هوش مصنوعی دارند، ارزش مالی کمتری برای آن قائل می‌شوند و احساسات منفی بیشتری نسبت به آن دارند.

یکی از دلایل اصلی این مسئله چیزی است که پژوهشگران آن را «نادیده گرفتن منحصربه‌فرد بودن» می‌نامند؛ یعنی این باور که یک الگوریتم نمی‌تواند ویژگی‌های خاص پرونده یک فرد را که او را از دیگران متمایز می‌کند، در نظر بگیرد، حتی اگر دقت هوش مصنوعی برابر یا بیشتر از یک انسان باشد.

هوش مصنوعی در استخدام

در استخدام و منابع انسانی، گریز از الگوریتم می‌تواند به شکل متفاوتی ظاهر شود.

سازمان‌ها گاهی بیش از حد به ابزارهای خودکار غربالگری اعتماد می‌کنند، زیرا این ابزارها در مقایسه با ارزیابی انسانی «عینی‌تر» به نظر می‌رسند.

اما الگوریتم‌ها نیز می‌توانند سوگیری‌های موجود در فرایند استخدام را در خود بازتولید کنند؛ از جمله سوگیری‌هایی مرتبط با جنسیت یا نژاد.

هوش مصنوعی در امور مالی

در امور مالی نیز مشاوران سرمایه‌گذاری خودکار یا «روبو-ادوایزرها» با شکاف مشابهی در اعتبار مواجه‌اند.

مشتریان در بسیاری از موارد به توصیه یک سامانه خودکار برای انتخاب سبد سرمایه‌گذاری کمتر از توصیه مشابه یک مشاور انسانی اعتماد می‌کنند؛ حتی زمانی که سابقه عملکرد الگوریتم بهتر بوده است.

یک اشتباه قابل مشاهده ممکن است زمانی که از یک ماشین سر می‌زند، آسیب بیشتری به اعتماد فرد وارد کند.

وجه مشترک همه این حوزه‌ها، «بار عاطفی» تصمیم است؛ یعنی اینکه یک تصمیم تا چه اندازه شخصی، پرریسک یا مرتبط با هویت فرد احساس می‌شود.

همین عامل تعیین می‌کند افراد بیش از حد یا کمتر از حد به الگوریتم اعتماد کنند، حتی زمانی که دقت واقعی آن تغییر نکرده باشد.

به همین دلیل، در موقعیت‌هایی که پیامد تصمیم اهمیت زیادی دارد، مسئله اصلی نه اعتماد مطلق و نه بدبینی مطلق، بلکه تنظیم و کالیبره کردن اعتماد است.

تمرکز بر تنظیم اعتماد در تصمیم‌گیری

این موضوع به معنای آن نیست که باید نسبت به هر توصیه الگوریتمی بدبین باشیم یا هر چیزی را بدون بررسی بپذیریم.

هدف، ایجاد همان نوع اعتماد سنجیده‌ای است که در برابر هر منبع جدید توصیه به کار می‌بریم. اعتماد باید بر اساس شواهد به دست بیاید، نه اینکه از ابتدا به‌طور کامل اعطا یا رد شود.

برای این کار چند نکته اهمیت دارد:

۱. بپرسید ابزار برای چه چیزی بهینه شده است، نه فقط اینکه چه پیشنهادی می‌دهد. الگوریتمی که برای افزایش میزان تعامل کاربر یا سرعت تأیید درخواست طراحی شده، لزوماً همان الگوریتمی نیست که بهترین نتیجه را برای شما دنبال می‌کند. باید بدانید از چه ابزاری استفاده می‌کنید و هدف اصلی آن چیست.

۲. عملکرد ابزار را در مورد خودتان دنبال کنید. به جای اعتماد یا بی‌اعتمادی مطلق، ثبت کنید که ابزار در موقعیت‌های مربوط به شما چه زمانی درست یا اشتباه عمل کرده است؛ درست مانند زمانی که عملکرد یک مشاور مالی جدید را پس از چند جلسه ارزیابی می‌کنید.

۳. اختلاف نظر را فرصتی برای توضیح بدانید، نه یک حکم نهایی. اگر توصیه الگوریتم با حس درونی شما تضاد دارد، از خودتان بپرسید چرا احساس می‌کنید این توصیه درست نیست. گاهی این کار یک سوگیری در استدلال خودتان را آشکار می‌کند و گاهی نشان می‌دهد مدل اطلاعات مهمی را در نظر نگرفته است.

۴. تصمیم را از واگذاری اختیار جدا کنید. استفاده از نظر هوش مصنوعی به معنای واگذار کردن کامل تصمیم نیست. هدف، تصمیم‌گیری آگاهانه است، نه اینکه ابزار به‌طور پیش‌فرض به جای شما تصمیم بگیرد.

بازتعریف تصمیم‌گیری با کمک هوش مصنوعی

با توجه به سرعت گسترش هوش مصنوعی، بهتر است از پرسش «آیا باید به هوش مصنوعی اعتماد کنیم؟» عبور کنیم و به جای آن بپرسیم چگونه باید میزان اعتماد خود به چت‌بات یا ابزار هوش مصنوعی را تنظیم کنیم.

نشخوار فکری نیز می‌تواند باعث شود افراد بیشتر درباره تصمیم‌هایی که گرفته‌اند احساس پشیمانی کنند؛ نه لزوماً به دلیل نتیجه تصمیم، بلکه به این دلیل که هرگز نسبت به نحوه تصمیم‌گیری خود اطمینان پیدا نکرده‌اند.

تصمیم‌هایی که با کمک هوش مصنوعی گرفته می‌شوند، به‌ویژه در معرض این مشکل هستند، زیرا افراد معمولاً زمانی که بخشی از تصمیم را به یک ابزار واگذار کرده‌اند، احساس مالکیت کمتری نسبت به نتیجه دارند.

جمع‌بندی

با ورود ابزارهای هوش مصنوعی به بخش بیشتری از تصمیم‌های روزمره، توانایی ایجاد «اعتماد سنجیده» ممکن است به اندازه خود ابزار اهمیت پیدا کند.

دفعه بعد که یک الگوریتم به شما توصیه‌ای ارائه کرد، فقط به نتیجه نگاه نکنید. توجه کنید که واکنش پیش‌فرض شما چیست: بیش از حد به آن اعتماد می‌کنید یا صرفاً به دلیل یک اشتباه، همه توصیه‌هایش را کنار می‌گذارید؟

شناخت همین الگوی رفتاری می‌تواند نخستین گام برای تصمیم‌گیری متعادل‌تر و تنظیم دقیق‌تر اعتماد به هوش مصنوعی باشد.