وقتی هوش مصنوعی باعث میشود تصمیمات غیرقابلقبول، عادی به نظر برسند
هوش مصنوعی مولد میتواند با گسترش تأمل، مقایسه و تخیل، توانایی انسان را افزایش دهد. نظم عملی این است که حق تألیف انسان را در لحظات مهم حفظ کنیم.
به گزارش اینتیتر به نقل از فرارو، یک مدیر در حال آماده شدن برای یک گفتگوی دشوار در مورد عملکرد است. او یک دستیار هوش مصنوعی را باز میکند و از آن میخواهد یادداشتهایش را دقیقتر کند. چند هفته بعد، او از همان سیستم برای شناسایی الگوهای عملکرد کارمند استفاده میکند. سپس آن کارمند را با دیگران مقایسه میکند. سپس پیشنهاد میدهد که چه کسی برای ارتقا آماده به نظر میرسد. در طول یک تغییر ساختار، این ابزار شروع به نمایش موقعیتهایی میکند که ممکن است حذف شوند.
به نقل از Knowledge at Wharton، توجیه هر مرحله آسان است. این سیستم سریع، مفید و ظاهراً مفید است. با این حال، در جایی از مسیر، ابزاری که با بهبود زبان یک تصمیم شروع به کار کرده است، شروع به مشارکت در تصمیمگیری کرده است.
اینگونه است که عادیسازی کار میکند. تغییرات بزرگ اغلب به عنوان مجموعهای از امکانات کوچک از راه میرسند. تکرار، اصطکاک را از بین میبرد؛ آشنایی، بررسی دقیق را کاهش میدهد. هوش مصنوعی مولد به سرعت در حال ورود به کارهای دانشمحور است زیرا پیشنویس تهیه میکند، خلاصه میکند، مقایسه میکند، پیشبینی میکند و توصیه میکند. همین الگو در حال ورود به زندگی خصوصی است. مردم از هوش مصنوعی میپرسند که آیا با یک همکار روبرو شوند، شغل را ترک کنند، به شریک خود اعتماد کنند، کودک را تربیت کنند، یک دوست را ببخشند یا به یک رابطه پایان دهند.
چه اتفاقی میافتد وقتی هوش مصنوعی در مراحل زیادی از مشورت حضور دارد که دیگر نمیپرسیم آیا به آنجا تعلق دارد یا نه؟
وقتی کمک شروع به شکل دادن به قضاوت میکند
خطر اصلی، لغزش از کمک به جایگزینی است. درخواست از هوش مصنوعی برای کمک به بیان یک دیدگاه با پرسیدن اینکه چه دیدگاهی داشته باشد متفاوت است. درخواست گزینههای اضافی، تصمیم را گسترش میدهد؛ اجازه دادن به سیستم برای تعریف گزینهها، شروع به ساختاردهی آن میکند. پاسخهای روان میتواند دیدن این تغییر را دشوار کند زیرا روان بودن مانند استدلال به نظر میرسد و اعتماد به نفس میتواند مانند اقتدار به نظر برسد.
یک مطالعه در سال ۲۰۲۵ در میان کارکنان دانش نشان داد که اعتماد به نفس بیشتر در هوش مصنوعی مولد با تلاش کمتر برای تفکر انتقادی مرتبط است. کارکنان به سادگی از فکر کردن دست نکشیدند. کار شناختی آنها به سمت بررسی، ادغام و مدیریت آنچه سیستم قبلاً تولید کرده بود، حرکت کرد. تأیید هنوز نیاز به فکر دارد. وقتی تأیید میکنید، یک سؤال محدودتر میپرسید: «آیا این به نظر قابل قبول میرسد؟» کار سختتر زودتر انجام میشود: «من به چه چیزی اعتقاد دارم و بر چه اساس، و حاضرم مسئول چه چیزی باشم؟»
اینجاست که زوال عاملیت به عنوان یک لنز تحلیلی مفید میشود. این میتواند از طریق چهار مرحله آشکار شود: آزمایش، ادغام، اتکا و اعتیاد. یک ابزار به عنوان یک گزینه شروع میشود. به بخشی از گردش کار تبدیل میشود. گردش کار با آن سازگار میشود. در نهایت، کار بدون آن کندتر، ناقص یا به طرز عجیبی دشوار به نظر میرسد. تغییر روانشناختی ظریف است: «آیا هوش مصنوعی میتواند به من کمک کند تا به این موضوع فکر کنم؟» تبدیل میشود به «چرا بدون هوش مصنوعی به این موضوع فکر کنم؟»
یک مطالعه در سال ۲۰۲۶ در مورد انتقال عامل شناختی، تمایز مرتبطی را بین تخلیه خودکار، که در آن هوش مصنوعی از تفکر خود فرد پشتیبانی میکند، و تخلیه خودکار وابسته، که در آن سیستم به طور فزایندهای مشکل را ساختار میدهد، شواهد را میسنجد و نتیجهگیری را ارائه میدهد، قائل میشود. استفاده وابسته با قضاوت مستقل درک شده ضعیفتر، پردازش عمیق و قابلیت خودکار همراه بود. این مطالعه زوال شناختی بلندمدت را اثبات نمیکند. هشدار فوری آن کافی است: کاربران خودکار و وابسته میتوانند مزایای کوتاهمدت مشابهی را تجربه کنند. ایمیل تمام شده است. تجزیه و تحلیل سریعتر است. توصیه به موقع میرسد. بهرهوری خوب به نظر میرسد در حالی که ممکن است عامل در زیر آن در حال تغییر باشد.
مشکل اخلاقی، توجه است
وقتی هوش مصنوعی وارد تصمیمگیریهایی با بُعد اخلاقی میشود، ریسکها افزایش مییابد. قضاوت اخلاقی با توجه به وجود یک سوال اخلاقی آغاز میشود.
یک رهبر منابع انسانی را تصور کنید که دهها توصیه جبران خسارت را بررسی میکند. یک کارمند پس از بازگشت از مرخصی زایمان، افزایش کمتری دریافت میکند. این اختلاف به خودی خود ممکن است باعث نگرانی شود. در یک توالی طولانی از توصیههای تولید شده توسط هوش مصنوعی، که هر کدام با یک منطق قابل قبول همراه هستند، میتواند به عنوان یک نقطه داده دیگر در نظر گرفته شود.
یک مطالعه در سال ۲۰۲۵ با عنوان «پذیرش غیرقابل قبول در عصر هوش مصنوعی» مکانیسم مشابهی را بررسی کرد. در آزمایشهایی که شامل مدیران بود، توصیههای هوش مصنوعی میتوانستند آگاهی اخلاقی را هنگامی که افراد در حال رسیدگی به چندین تصمیم سازمانی بودند، کاهش دهند و پذیرش توصیههای غیراخلاقی را آسانتر کنند.
این مهم است زیرا تصمیمات مشکوک به ندرت به عنوان مشکلات اخلاقی برچسبگذاری میشوند. آنها به عنوان انتخابهای کارکنان، رتبهبندیها، بده بستانهای تدارکات، ارزیابیهای بیمه، تصمیمات قیمتگذاری، اهداف بهرهوری یا کاهش هزینهها مطرح میشوند. یک توصیه میتواند از نظر تحلیلی منسجم باشد در حالی که بر انصاف، کرامت یا فرصت تأثیر میگذارد. این عواقب فقط زمانی وارد تصمیمگیری میشوند که کسی متوجه آنها شود. در یک فرآیند بهینهسازی سریع، امر غیرقابلقبول نیازی به تأیید مشتاقانه ندارد. فقط کافی است دیگر جلب توجه نکند.
همان انحراف ظریف وارد زندگی خصوصی میشود
تصمیمات خصوصی، مشکل را حتی صمیمیتر میکنند. شخصی پیامهایی را در یک چتبات قرار میدهد و میپرسد که آیا شریک زندگیاش اهل دستکاری است یا خیر. والدینی میپرسند که چگونه به فرزند جدا شدهاش پاسخ دهند. یک متخصص میپرسد که آیا ترک شغل انتخاب «درستی» است یا خیر. کسی از هوش مصنوعی میخواهد که یک پیام جدایی بنویسد، سپس میپرسد که آیا ارسال آن از نظر اخلاقی موجه است یا خیر.
یک آزمایش در سال ۲۰۲۶ نشان داد که توصیههای ChatGPT بر قضاوت افراد در یک دوراهی اخلاقی تأثیر میگذارد، حتی زمانی که توصیه حاوی هیچ استدلال اخلاقی پشتیبانیکنندهای نبود. به عبارت دیگر، این تأثیر کاملاً به ترغیب از طریق دلیل وابسته نبود. گاهی اوقات یک پاسخ قدرت دارد زیرا بار انتخاب را کاهش میدهد.
این آسودگی خاطر سزاوار بررسی دقیق است. شک میتواند ما را مجبور کند تا انگیزههای خود را بررسی کنیم. تردید برای ما زمان ایجاد میکند تا متوجه شویم چه کسی تحت تأثیر قرار گرفته است. ناراحتی ممکن است نشان دهد که چیزی واقعاً با ارزشهای ما در تضاد است. قضاوت انسان اغلب کند است زیرا واقعیت از نظر اخلاقی نامرتب است.
یک اثر دوم نیز وجود دارد. تحقیقات روی حلقههای بازخورد انسان و هوش مصنوعی نشان داد که تعامل مکرر با هوش مصنوعی میتواند سوگیریها را در قضاوتهای بعدی انسان تقویت کند، در حالی که شرکتکنندگان اغلب این تأثیر را دست کم میگرفتند. هنگامی که یک سیستم بارها و بارها آنچه را که مهم است، متغیرهایی که شایسته توجه هستند و آنچه به عنوان شواهد محسوب میشوند، چارچوببندی میکند، منطق آن میتواند منطق ما را شکل دهد. هوش مصنوعی برای تأثیرگذاری بر معماری یک تصمیم نیازی به حرف آخر ندارد.
ریسک مدیریتی که در معرض دید عموم پنهان است
رهبران کسبوکار در حال حاضر نگران حریم خصوصی، امنیت سایبری، توهمات، مالکیت معنوی، تبعیض و انطباق هستند. نگرانی دیگری در کنار آنها وجود دارد: استفاده مکرر از هوش مصنوعی چه تاثیری بر کیفیت قضاوت انسانی در داخل سازمان دارد؟
یک فرد میتواند رسماً «در حلقه» باقی بماند در حالی که اساساً در پاییندست دستگاه حرکت میکند. تحلیلگر هنوز گزارش میدهد. مدیر هنوز امضا میکند. مدیر اجرایی همچنان پاسخگو است. با این حال، چارچوببندی اولیه، فهرست کوتاه گزینهها و اولین توصیه ممکن است همگی در جای دیگری ایجاد شده باشند. مسئولیت انسانی در جای خود باقی میماند در حالی که حق تألیف انسان کاهش مییابد.
این یک ترتیب مدیریتی ناخوشایند ایجاد میکند: سازمانها مسئولیت را حفظ میکنند در حالی که به تدریج بخشهایی از ظرفیتی را که مسئولیت را معنادار میکند، برونسپاری میکنند.
ایجاد اصطکاک قبل از تصمیمگیری
هوش مصنوعی مولد میتواند با گسترش تأمل، مقایسه و تخیل، توانایی انسان را افزایش دهد. نظم عملی این است که حق تألیف انسان را در لحظات مهم حفظ کنیم. قبل از استفاده مهم، چهار سوال میتواند اصطکاک کافی ایجاد کند تا این امر قابل مشاهده باشد:
چه بخشی از قضاوت خود را قرار است واگذار کنم؟
قبل از اینکه هوش مصنوعی پاسخ دهد، چه فکری میکردم؟
چه کسی عواقب آن را خواهد پذیرفت؟
آیا میتوانم از انتخاب نهایی خودم دفاع کنم؟
این سوالات کمتر از یک دقیقه طول میکشند. هدف آنها ایجاد وقفه در روند پیشرفت از راحتی به عادت و از عادت به وابستگی است.
توانایی انتخاب همیشه برای زندگی انسان چنان اساسی بوده است که ما هرگز آن را به عنوان چیزی که نیاز به محافظت فعال دارد، درک یا با آن رفتار نکردهایم. هوش مصنوعی شرایط پیرامون این توانایی را تغییر میدهد. اکنون میتواند وارد فضای بین ادراک و تصمیمگیری شود و بخشی از بار شناختی و اخلاقی ما را به دوش بکشد.
عادیسازی چیزهای غیرقابل قبول، یکی پس از دیگری اتفاق میافتد. آشنایی، گذار از قضاوت مستقل به استدلال کمکی و سپس قضاوت تفویضی را به آرامی انجام میدهد، تا جایی که مانند یک امر بدیهی در زندگی به نظر میرسد. این یک سراشیبی لغزنده است: وقتی چیزی که زمانی غیرمعمول به نظر میرسید، به امری عادی، راحت، نیمهخودکار و بدون نیاز به توضیح تبدیل میشود، پذیرفته میشود.
هوشیاری به معنای توجه به این گذار در حالی است که مرز هنوز قابل مشاهده است. در غیر این صورت، قضاوت برونسپاری شده در نهایت کاملاً عادی به نظر میرسد - و ممکن است در نهایت فراموش کنیم که چرا حفظ آن زمانی مهم به نظر میرسید.