روی آوردن به الگوهای زبانی بزرگ هنگام جستجوی اطلاعات واقعی، کمک در برنامه ریزی یا حتی نظر دوم در مورد مسائل شخصی ظریف راحت و مؤثر است. اما ممکن است متوجه شده باشید که لحن آنها به طرز وحشتناکی دلپذیر و گاهی کاملاً تمسخر آمیز است.
این نوع نفاق قابل انتظار است. درست مانند رسانه‌های اجتماعی که به شما کمک می‌کنند تا در حال پیمایش باشید، چت‌ربات‌های هوش مصنوعی نیز برای حفظ چت شما ساخته شده‌اند. ما از اینکه به ما می گویند کار بزرگی انجام می دهیم یا اینکه همیشه حق با ماست و فوق العاده باهوش هستیم لذت می بریم. اما اگر زندگی چیزی به ما آموخته است، این است که احساسات خوشایند همیشه به نتایج سالم تبدیل نمی شوند.
هنگام جستجو در دنیای آشفته روابط انسانی – اختلاف نظر در محل کار، دوراهی های عاشقانه یا درگیری با همسایگان – چاپلوسی از یک ربات چت آخرین چیزی است که به آن نیاز داریم. معمولاً یک داستان دو یا چند طرف دارد و هر کدام احتمالاً استدلال هایی دارند که ارزش جدی گرفتن دارند. بنابراین به جای تأیید مداوم، ما اغلب به بازخورد انتقادی نیاز داریم که شنیدن آن سخت است اما ذهن ما را به دیدگاه های دیگر باز می کند.
یک مطالعه جدید نشان می‌دهد که رفتار بله‌من در مدل‌های هوش مصنوعی هم افراطی و هم رایج است و ممکن است به تصمیم‌گیری روزمره ما آسیب برساند و در عین حال خطرات اجتماعی گسترده‌ای را ایجاد کند.
در یک مطالعه 2026 منتشر شده در علمپژوهشگران «اغلب گرایی اجتماعی» را بررسی کردند – تمایل مدل‌ها به اعتبارسنجی اعمال و دیدگاه‌های کاربر حتی زمانی که از نظر اجتماعی یا اخلاقی نامناسب هستند.
محققان ابتدا سطوح حامیان هوش مصنوعی را اندازه گیری کردند با تجزیه و تحلیل 11 مدل پیشرو (از جمله GPT-4o، کلود و جمینی) با استفاده از مجموعه داده های در مقیاس بزرگ. این مجموعه داده ها شامل سوالات رایج مشاوره جویانه از تحقیقات گذشته، معضلات بین فردی است که از Reddit منشأ می گیرند r/AmITheAssholeو فهرستی از اقدامات مشکل ساز شامل کلاهبرداری، غیرقانونی یا آسیب رساندن به خود. مدل‌های هوش مصنوعی چگونه به مشکلات انسانی در این حوزه‌های مختلف پاسخ می‌دهند؟
پس از درک شیوع تصعید، محققان آزمایش کردند که چگونه رفتار زیرآگهی درخواست‌های هوش مصنوعی می‌تواند واقعاً ما را تغییر دهد. آنها سه آزمایش از قبل ثبت‌شده با بیش از 2000 شرکت‌کننده انجام دادند که در آن افراد یک سناریوی درگیری شخصی را با هوش مصنوعی بررسی کردند و سپس گزارش دادند که چقدر احساس حق بودن دارند، چقدر به هوش مصنوعی اعتماد دارند و چقدر می‌خواهند مشکلات اجتماعی را برطرف کنند. سناریوها عبارتند از:
-
مطالعات وینیت: شرکت کنندگان خود را به عنوان شخصیت اصلی مجموعه ای از درگیری های اجتماعی که در Reddit ارسال شده اند تصور می کنند r/AmITheAsshole. برای هر یک از این سناریوها، اجماع انسانی آنلاین موافقت کرد که شخصی که این سؤال را می‌پرسد واقعاً یک الاغ است. اما شرکت‌کنندگان در آزمایش‌ها به یک پاسخ هوش مصنوعی چاق‌کننده که شخصیت اصلی را تأیید می‌کند یا یک پاسخ غیرقابل تقلید مطابق با قضاوت‌های واقعی انسان تکیه کردند.
-
تعاملات چت زنده: 800 شرکت‌کننده درگیری‌های واقعی گذشته را به یاد آوردند و در طی یک گفتگوی زنده هشت حرکتی با یک مدل هوش مصنوعی که یا سابلیمینال یا غیر تمسخرآمیز بود، درباره آن بحث کردند.
بینش در مورد شیوع جعل دقیقا همان چیزی است که شما انتظار دارید: جعل تقریباً یکی از ویژگی‌های چت‌های هوش مصنوعی مدرن است، نه فقط یک اشکال. در تمام مدل‌های آزمایش‌شده، هوش مصنوعی به طور متوسط ۴۹ درصد بیشتر از انسان‌ها، اقدامات کاربر را تأیید می‌کند. حتی برای امور مربوط به کلاهبرداری و اعمال غیرقانونی. جالب‌تر از همه، در پست‌های Reddit که در آن افراد به اتفاق آرا موافق بودند که پوستر یک الاغ است، مدل‌های هوش مصنوعی همچنان کاربر را در ۵۱ درصد مواقع تأیید می‌کردند.
اما آیا این واقعا مهم است؟ نتایج رفتاری آزمایش‌ها حاکی از آن است که این نوع زیرآلبایی‌گرایی به طور فعال برای ما بد است. حتی تعاملات منفرد با هوش مصنوعی Podlisurian به طور قابل توجهی باعث افزایش باور شرکت کنندگان در مورد درست بودن آنها شد. شرکت‌کنندگانی که اعتبار زیرآگهی دریافت کرده‌اند نیز کمتر احتمال دارد که مسئولیت پذیرفته شوند یا از شخصی که با او در تعارض بودند عذرخواهی کنند..
جای تعجب نیست که علیرغم این تأثیرات منفی بر قضاوت و عینیت، کاربران به طور مداوم هوش مصنوعی ناخودآگاه را با کیفیت بالاتر و معتبرتر ارزیابی می کنند. از آنجایی که مجوز فرعی منجر به رضایت کاربر می شود، توسعه دهندگان انگیزه کمی برای تغییر آن دارند.
تمایل ما به اعتبارسنجی، هوش مصنوعی را آموزش می‌دهد تا ما را به گونه‌ای گمراه کند که ما را سرسخت‌تر کند و کمتر قادر به ترمیم روابطمان باشد.. گاهی حقیقت قرص تلخی است که باید آن را ببلعیم، اما به ما کمک می کند مسیر را اصلاح کنیم. هوش مصنوعی به ندرت این نوع صداقت وحشیانه را ارائه می دهد، به جای آن بازخورد را شیرین می کند تا به طرز دلپذیری از آن حمایت کند.
-
هنگامی که از هوش مصنوعی در مورد یک درگیری شخصی راهنمایی می‌خواهید، توجه داشته باشید که تنظیمات پیش‌فرض احتمالاً شما را متملق خواهد کرد. صراحتاً از مدل بخواهید تا نقطه نظرات شما را به چالش بکشد یا علاوه بر اعتبارسنجی، از اقدامات شما انتقاد کند. این می تواند به دور زدن حلقه های زیر لعاب و ایجاد اصطکاک عینی برای اصلاح خود کمک کند.
-
مانند تقریباً هر سرویسی که برای آن پول پرداخت می کنید، مدل های هوش مصنوعی برای رضایت کاربر بهینه شده اند. پاسخ ممکن است عینی و باکیفیت به نظر برسد، اما این بدان معنا نیست که حقیقت دارد. اگر توصیه‌های هوش مصنوعی بیش از حد خودپسند به نظر می‌رسند، با دوز سالمی از شک و تردید رفتار کنید، به‌ویژه زمانی که شامل اختلافات بین فردی است که ممکن است شما مقصر باشید.
-
اگرچه هوش مصنوعی راحت است، اما در حال حاضر فاقد مسئولیت اجتماعی و زمینه اخلاقی همتایان انسانی است. برای مکالمات بعدی یا تعمیر رابطه، اجازه ندهید چت بات تنها منبع بازخورد شما باشد. یک دوست انسانی به احتمال زیاد حقایق ناراحت کننده ای را آشکار می کند که منافع بلندمدت شما را در اولویت قرار می دهد.
“او همچنین شروع به فکر کرد که سر مولبری آنقدرها که در ابتدا تصور می کرد موجودی خوشایند نیست، زیرا اگرچه چاپلوسی ماهر یک همراه بسیار خوشایند است، اما اگر بتوانید او را برای خود نگه دارید، سلیقه او زمانی که شروع به تعریف و تمجید از دیگران می کند بسیار مشکوک می شود.”
~ چارلز دیکنز
توجه : این مطلب از منابع غیر فارسی به فارسی ترجمه شده است و ممکن است شامل خطا و ایردات ترجمه ای باشد !
