هوش مصنوعی مولد اکنون در یادگیری، کار و سرگرمی معمولی یافت می‌شود، اما هنوز هم پاسخ‌هایی می‌دهد که مطمئن به نظر می‌رسند و اشتباه به نظر می‌رسند. در چین که بیش از 600 میلیون نفر از این ابزارها استفاده می کنند، این خطر دیگر یک شگفتی نادر نیست. کاربران جوان متوجه آن می‌شوند، آن را توضیح می‌دهند و به جای دور شدن، به کار با این فناوری ادامه می‌دهند.
مطالعه منتشر شده در مجله بین المللی تعامل انسان و کامپیوتر به این موضوع می پردازد که چگونه مصرف کنندگان جوان چینی توهمات هوش مصنوعی را تشخیص می دهند و در مرحله بعد چه کاری انجام می دهند. محققان مطالعه گسترده رسانه های اجتماعی را با مصاحبه ترکیب کردند. این کار از ژانویه 2023 تا آگوست 2025 را در بر می گرفت، زمانی که مدل هایی مانند DeepSeek، Doubao و Kimi به طور گسترده بدون اشتراک پولی در دسترس بودند.
محققان پست‌ها و نظراتی را از Douyin، Weibo و Xiaohongshu جمع‌آوری کردند، سپس 8576 ورودی را ذخیره کردند که به وضوح به هوش مصنوعی و توهم مربوط می‌شد. آنها همچنین با 21 کاربر، 11 زن و 10 مرد، 19 تا 34 ساله، در جولای و آگوست 2025 مصاحبه کردند. هر مکالمه 50 تا 90 دقیقه طول کشید. حدود نیمی از علوم انسانی و اجتماعی و حدود نیمی از رشته های علمی و فنی هستند.
مردم از سه طریق متوجه مشکلات می شوند. برخی استدلال بیان شده مدل و صفحاتی که به آن استناد می کند را می خوانند. دیگران به دانش خود اعتماد کردند و نام گمشده یا خطی از کد را که اجرا نشد، پیدا کردند. وقتی موضوع ناآشنا بود، سایت‌ها و پایگاه‌های اطلاعاتی رسمی را بررسی می‌کردند یا نتیجه را در یک کار واقعی آزمایش می‌کردند. تشخیص خطاهای متنی سخت‌تر از خطاهای آشکار در تصاویر بود و با بهبود مدل‌ها، نقل‌قول‌های داستانی قانع‌کننده‌تر شدند.
نگرش ها با کار تغییر کرد. در کارهای خلاقانه یا کم ریسک، برخی پاسخ‌های عجیب و غریب را به عنوان ماده خام تلقی می‌کردند یا وقتی ضرب‌الاجل به پایان رسید، اشتباه کوچکی را از دست دادند. در کارهای آکادمیک و حرفه ای، آنها سریعتر نتیجه را به چالش کشیدند. بیشتر آنها قبل از تغییر ابزارها یا تکمیل کار خود، یک سیستم را فقط چند بار تنظیم می کنند. دسترسی رایگان این سوئیچ را آسان کرده است.
مصاحبه ها چهار توضیح روزمره را به دست دادند که به عنوان نظریه های عامیانه الگوریتمی توصیف شدند. یکی می گوید که توهمات از تفاوت بین معنای یک شخص و آنچه که یک اعلان مختصر یا مبهم به سیستم اجازه می دهد استنتاج کند ناشی می شود. دومی آنها را به عنوان مدرکی در نظر می گیرد که مدل های فعلی هنوز نمی توانند حقیقت را به طور قابل اعتماد تخمین بزنند. سومی داده های آموزشی ضعیف، اشتباهات حاشیه نویسی یا آلودگی بعدی از طریق داده های ورودی گمراه کننده را مقصر می داند. چهارمی به قوانین شرکت، احتیاط سیاسی، صرفه جویی در هزینه برای خدمات رایگان و طرحی اشاره می کند که ترجیح می دهد پاسخ دهد تا اینکه قبول کند نمی داند.
این توضیحات عادات را شکل دادند. افراد اعلان‌های واضح‌تری نوشتند، نقشی را برای سیستم تعیین کردند و زمینه را اضافه کردند. آنها از چت بات درخواست نکردند تا یک قطعه کامل را تولید کند و از آن برای کارهای باریکتر مانند پرداخت استفاده کردند. برخی جستجوی وب را حذف کردند، مدل را به اسنادی که ارائه کردند محدود کردند و نتیجه را با منابع اصلی بررسی کردند. دیگران کارهای بزرگ را به مراحل کوچکتر تقسیم کردند یا زمانی که پاسخ ها شروع به تکرار و حواس پرتی کردند، یک چت جدید باز کردند.
کاربران عادی و کاربران فنی به توضیحات کلی مشابهی رسیدند، اما نه به یک شکل. افراد بدون آموزش تخصصی از استفاده روزمره و رسانه های اجتماعی استفاده می کنند و اغلب دستورالعمل های نامشخص را سرزنش می کنند. کاربران فنی از دوره ها، مقالات و مواد صنعتی استفاده می کردند و اغلب داده های آموزشی، احتمالات و طراحی سیستم را مقصر می دانستند. آنها تمایل داشتند که توصیه‌های مربوط به پلتفرم‌های سبک زندگی را کنار بگذارند، در حالی که کاربران عادی از این بحث‌ها استفاده کردند تا یاد بگیرند که یک مرجع جعلی یک محدودیت شناخته شده است، نه یک شکست شخصی.
محیط چینی جزئیات را شکل داده است. دسترسی باز، تقاضای بالا و قوانین ملی برای سنتز عمیق، خدمات مولد هوش مصنوعی و برچسب‌های محتوای مصنوعی به افراد دلایل خاصی داده است تا خطاها را با کنترل هزینه و پاسخ‌های محدود مرتبط کنند. چهار نظریه می توانند سفر کنند. دلایلی که مردم به آن دست می یابند به مدل ها و مقررات کسب و کار محلی مربوط می شود.
نمونه جوان و عمدتا تحصیل کرده دانشگاه بود و جستجوی رسانه های اجتماعی از عبارت فنی توهم هوش مصنوعی استفاده می کرد، بنابراین شکایات ساده تر ممکن است کمتر ارائه شوند. با این حال، الگوی واضح است. مردم منتظر یک سیستم بی عیب نیستند. آنها قوانین کاری را برای ابزاری می سازند که در عین حال مفید و غیرقابل اعتماد باقی می ماند.
توجه : این مطلب از منابع غیر فارسی به فارسی ترجمه شده است و ممکن است شامل خطا و ایردات ترجمه ای باشد !
