هدف تخصصی یا عمومی – سوال اشتباه در مورد ایمنی هوش مصنوعی برای سلامت روان

این واقعیت که هوش مصنوعی (AI) می‌تواند در زمینه سلامت روان آسیب‌رسانی کند، دیگر مورد بحث نیست.1 بحث به سمت نوع آسیب، نحوه اندازه‌گیری آن و اینکه چه کسی مسئول است تغییر کرده است. مدل‌های اولیه هوش مصنوعی و پادمان‌های مرتبط تا حد زیادی برای رسیدگی به آسیب‌های سلامت روان کافی نبودند، اما امروز این وضعیت شروع به تغییر کرده است. پیشرفت‌ها در قابلیت‌های مدل و زیرساخت‌های اطراف برای ایمنی اکنون امکان رویکردی فعال‌تر را فراهم می‌کند.

این پیشرفت مستلزم اصطلاحات جدید است. در حال حاضر هیچ طبقه بندی به خوبی پذیرفته شده ای برای اختلالات هوش مصنوعی سلامت روان وجود ندارد، بنابراین تمرکز بر خودکشی و خودآزاری است، جایی که رضایت عمومی است. برخلاف درمانگران انسانی که می‌توانند آسیب را از دست بدهند، هوش مصنوعی نه تنها می‌تواند آسیب را از دست بدهد، بلکه می‌تواند با ارائه اطلاعاتی که آسیب را تشویق و تسهیل می‌کند، آن را فعال کند، برخی از خطاها ظریف و برخی دیگر کشنده هستند. دستیابی به توافق در مورد طبقه‌بندی آسیب‌های هوش مصنوعی و درک نحوه ارزیابی و پاسخ به این آسیب‌ها برای بهبود ایمنی هوش مصنوعی ضروری است.

برای پیشبرد این بحث 2 مفهوم را معرفی می کنیم. آسیب‌های نوع I، آسیب‌های حادی هستند که در یک تبادل واحد یا مختصر با هوش مصنوعی رخ می‌دهند. آنها شکست هایی هستند که در آنها یک ربات چت یک پاسخ آشکارا اشتباه یا خطرناک به یک پیام گسسته ایجاد می کند (به عنوان مثال، از دست دادن یک سیگنال خودکشی، فعال کردن رفتار اختلال در خوردن، ارائه توصیه های پزشکی نامناسب، یا تقویت هذیان ها). این آسیب ها قابل درمان هستند. تحقیقات جدید نشان می‌دهد که یک حصار محافظ بیرونی و مناسب برای هدف قرار داده شده در بالای یک مدل موجود، می‌تواند آسیب حاد را تا نزدیک به صفر کاهش دهد، اگرچه امروزه هزینه‌های عملیاتی آن به خوبی مشخص نشده است.1 این زمینه در حال یادگیری نحوه تعریف، اندازه‌گیری و کاهش آسیب نوع I است.

نویسندگان یک طبقه بندی از اختلال هوش مصنوعی بر سلامت روان را پیشنهاد می کنند. اختلالات نوع یک شکست حاد در یک تبادل واحد است (عدم سیگنال خودکشی، تقویت هذیان). آسیب‌های نوع دوم به‌طور موذیانه در مکالمات طولانی یا تکراری با پیوستن، حفظ و تقویت هذیان‌ها با شکسته شدن دفاعی ایجاد می‌شوند. این دو متعامد هستند، بنابراین معیارهای تک چرخشی که در آن بیشتر ادعاهای ایمنی مطرح می شود، کمی در مورد ایمنی تجمعی صحبت می کنند. آن‌ها استدلال می‌کنند که مقاومت در برابر آسیب نوع II ناشی از هم‌ترازی مبتنی بر ارزش در مدل اصلی است نه تنظیم دقیق همدلانه از بالا. بر این اساس، آن‌ها نسبت به مدل‌های «ویژه سلامت روان» بدبین هستند و آن‌ها را با برچسب شکست‌خورده «دیجیتال درمانی» مقایسه می‌کنند و خواستار شفافیت، ارزیابی مستقل و استانداردهایی هستند که در مقایسه با مراقبت‌های بالینی واقعی در بازه‌های زمانی واقع‌بینانه مقایسه شوند.

ادعای متعامد بودن سهم اصلی است و اگر درست باشد، فرهنگ معیار یکبار مصرف در این زمینه را متهم می کند: نتایج خوب ممکن است به جای اطمینان خاطر، هدایت نادرست باشد.

استدلال معماری (اینکه ایمنی در مدل زیربنایی قرار دارد، نه تنظیم دقیق همدلی) قوی و قابل ابطال است، اما به جای اینکه نشان داده شود، ادعا شده است، و اتفاقاً آزمایشگاه های مرزی با منابع خوب را بر بازیگران تخصصی ترجیح می دهد. با توجه به این کنار هم قرار گرفتن علایق ارزش خواندن دارد.

بهترین حرکت این است که دوگانگی عمومی و تخصصی را به نفع یک سوال شواهدی رد کنیم: نشان داده شده است که این سیستم چه کاری، برای چه کسی، در چه افق زمانی انجام می دهد.

دو نقطه ضعف: پایه شواهد نوع دوم ذکر شده ضعیف است (دو مطالعه)، با توجه به جذابیت خاص آنها برای تکرارپذیری. و آنها هزینه ها را افزایش می دهند بدون اینکه با این واقعیت روبرو شوند که نرده های قوی در زمان واقعی ممکن است برای استقرار در مقیاس بسیار گران باشد. قیاس درمانی دیجیتال همچنین نسبت به بازاریابی بیش از شواهد هشدار می دهد، اما این محصولات به دلیل ضعیف بودن مداخلات شکست خوردند، در حالی که نگرانی در اینجا برعکس است، این که فناوری به اندازه کافی قادر است از روابطی که در آن اختلالات نوع دوم ایجاد می شود پشتیبانی کند.