تشخیص درست تمایز بین هوش و آگاهی ممکن است یکی از مهمترین کارهایی باشد که ما برای آینده بشریت انجام می دهیم. هر روز که می گذرد به این موضوع متقاعد می شوم.
اکثر افرادی که تمایز هوش و آگاهی را می پذیرند، کسانی هستند که فلسفه ذهن یا ایمنی هوش مصنوعی را مطالعه می کنند. من این را از دیدگاه روانشناسی انسان‌گرا (و به عنوان فردی که در علوم شناختی آموزش دیده‌ام) می‌گیرم. من تقلیل گرایی را رد می کنم. من واقعاً معتقدم که نمی توان یک فرد را به مجموعه ای از رفتارها، انگیزه ها یا محاسبات تقلیل داد. ما باید از ارزش درک موضوع زنده، تجربه‌کننده و معناساز در برابر هرگونه تلاش مربیان و اکنون خالقان هوش مصنوعی دفاع کنیم تا همه چیز را در یک معیار واحد خلاصه کنند – هوش. آگاهی، احساس زنده بودن، الف است کل مرد خوار
✦✦✦
در دنیای هوش مصنوعی این فرض وجود دارد که با هوشمندتر شدن ماشین‌ها، به داشتن ذهن نزدیک‌تر می‌شوند. ترس واقعی که مردم در حال حاضر دارند، از این که توسط ماشین‌ها “بیشتر” شوند، بر این فرض استوار است. اما هوشمند و معقول در دو محور متفاوت قرار دارند و تفاوت آنها کم نیست.
هوش را می توان توانایی یادگیری، استدلال، حل مشکلات و دستیابی به اهداف دانست. هوش قابل اندازه‌گیری است، به نظر می‌رسد می‌تواند از بستر فراتر رود (یعنی هوش به بستر بیولوژیکی نیاز ندارد)، و در ماشین‌ها در همین لحظه به‌طور تصاعدی مقیاس می‌شود.
در مقابل، آگاهی یک تجربه ذهنی است، «چگونه است» چیزی بودن (ر.ک توماس ناگل). هوش با شایستگی مرتبط است. هشیاری با بودن مرتبط است. شما می توانید یک ماشین بسیار هوشمند بدون درک واقعی یا تجربه درونی داشته باشید. ممکن است موجودی باهوش داشته باشید که خیلی باهوش نیست. این چیزها به هم می ریزد. اما ما به ادغام آنها ادامه می دهیم.
همانطور که در کتابم می نویسم بی استعداد: هوش دوباره تعریف شده است، در بین روانشناسان (به ویژه در ایالات متحده) سابقه طولانی وجود دارد که هوش را به عنوان نماینده ای برای هر دو نگاه می کنند. ذهن و اخلاقی ارزش اغلب در میان محققان هوش این فرض وجود دارد که «هوشمندتر» به معنای «انسان تر» است. دارم فریاد میزنم مزخرف
راه های زیادی وجود دارد که هوش و هوشیاری با هم ظاهر نمی شوند. با ماشین آلات شروع کنید. آنها در حال تبدیل شدن به توانایی بیشتری هستند و هنوز هیچ مدرک قطعی وجود ندارد که آنها چیزی در درون خود احساس می کنند. متخصص مغز و اعصاب کریستف کخ بسیاری از دوران کاری خود را صرف این سوال کرده است و نسخه او از نظریه اطلاعات یکپارچه نشان می دهد که این شکاف ممکن است دائمی باشد تا موقتی. به نظر او، آگاهی به این بستگی دارد که چگونه بخش‌های فیزیکی سیستم در واقع یکدیگر را ایجاد و محدود می‌کنند، نه اینکه محاسباتی که روی آنها اجرا می‌شوند چقدر هوشمندانه هستند. یک کامپیوتر می‌تواند طوفان را بدون خیس شدن چیزی شبیه‌سازی کند، و می‌تواند مغز را به همان روش شبیه‌سازی کند و رفتار را بدون ایجاد حسی کپی کند. اگر حق با کخ باشد، می توانید ماشینی به مراتب هوشمندتر از هر یک از ما بسازید که مطلقاً هیچ احساسی نداشته باشد.
حال در نظر بگیرید که آگاهی گاهی در غیر محتمل ترین مکان ها ظاهر می شود. در سال 2024، گروهی از دانشمندان امضا کردند اعلامیه نیویورک در مورد آگاهی حیوانات، با این استدلال که احتمال واقعی وجود دارد که زنبورها، اختاپوس ها، ماهی ها و حتی خرچنگ ها نوعی احساس داشته باشند. اگرچه بعید است که زنبور عسل در آزمون حساب دیفرانسیل و انتگرال موفق شود، اما ممکن است هنوز چیزی شبیه به این زنبور باشد که در حال جستجو و یافتن راه خود در جهان است.
همچنین، یک زیست شناس را در نظر بگیرید مایکل لوینتحقیقات درخشان (من مشتاقانه منتظرم که به زودی در مورد پروژه جدیدی که روی آن کار می کنم با او صحبت کنم). لوین آن را “شناخت پایه” می نامد، هوشی که حتی به مغز هم نیاز ندارد. لوین حل مشکل هدفمند را مطالعه می‌کند که از طریق بافت زنده، در سلول‌هایی که حافظه‌ها را ذخیره می‌کنند و برای دستیابی به نتایج کار می‌کنند، بدون نورون‌هایی در هیچ کجا، اجرا می‌شود. بدن خود شما یک مثال عالی است. این رفتار هوشمندانه و هدفمند در جاهایی است که سر به فکر کردن ندارند.
اما لازم نیست جمجمه خود را رها کنید تا ببینید این چیزها از هم می پاشند. زیر بیهوشی عمومی، مغز با فعالیت الکتریکی به زمزمه کردن ادامه می دهد و تصمیمات خودکار بسیار هوشمندانه ای می گیرد تا ما را زنده نگه دارد تا زمانی که تجربه حضور در آنجا به طور کامل ناپدید شود. و در بیماران مغزی تقسیم شدهکه ارتباط بین دو نیمکره از طریق جراحی قطع شده است، ممکن است خود ادراک به دو قسمت تقسیم شود، در حالی که احساس فرد از اینکه یک خود آگاه است به نحوی کامل باقی می ماند.
در هر مورد، هوش و آگاهی از هم جدا هستند. و آنچه به عنوان یک راز بزرگ باقی می ماند این است که چه نوع فیلسوفی است دیوید چالمرز “مشکل سخت” آگاهی نامیده می شود. با توجه به مشکل سخت، می‌توانید هر کاری که مغز انجام می‌دهد، هر سیگنالی که دریافت می‌کند و هر عملی که تولید می‌کند را توضیح دهید، و هنوز توضیح نمی‌دهید که چرا هیچ کدام از آنها اصلاً با احساس درونی همراه است. پردازش، صرف نظر از اینکه چقدر هوشمندانه است، هرگز به طور منطقی تجربه اضافه نمی کند.
✦✦✦
اکنون به روانشناسی انسان گرایانه برگردیم. این میدان به عنوان یک واکنش (یا بهتر است بگوییم شورش) در برابر تقلیل انسان ها به محرک ها و پاسخ ها یا صرفاً به انگیزه های ناخودآگاه ما ایجاد شد. به همین دلیل است که روانشناسان انسان گرا خود را «نیروی سوم» روانشناسی می نامند (1 = فروید، 2 = رفتارگرایی). روانشناسان انسان گرا بر این باورند که آنچه برای انسان مقدس است، زندگی درونی است که شامل تجارب تکریم، عشق، خلاقیت، بخشش، معنا، حضور و تجربه های اوج است. هر یک از آنها بخشی از شخص است آگاهی، نه هوش خودشکوفایی در مورد تبدیل شدن به یک فرد کاملتر و تلاش برای تجربه کاملتر از زندگی منحصر به فرد خود است. رشد در اینجا با آگاهی، عمق و ارتباط سنجیده می شود. نه قدرت پردازش خام
بنابراین وقتی این فرهنگ وحشت می کند که ماشین ها «جایگزین» یا «بر ما پیشی می گیرند»، یک روان شناسی انسان گرا ممکن است پاسخ دهد: «بله، آنها ممکن است از هوش ما پیشی بگیرند، اما در وهله اول چیزهایی که زندگی را مهم می کنند، لمس نمی کند».
✦✦✦
خطرات در اینجا بسیار زیاد است. بیش از 99.9 درصد بشریت متوجه است. از یک سو، برای وضعیت اخلاقی ماشین ها خطراتی وجود دارد. در حالی که فکر نمی‌کنم هوش مصنوعی در حال حاضر آگاه باشد، فکر می‌کنم با پیچیدگی کافی می‌توانند در آینده‌ای نزدیک به این کار دست پیدا کنند. اگر به ساختن سیستم‌های تواناتر ادامه دهیم، با این فرض که آنها هرگز نمی‌توانند چیزی را احساس کنند، می‌توانیم سیستم‌های واقعاً رنج‌زده را در مقیاس وسیع بسازیم و رنج آنها را رد کنیم. در واقع، این کابوسی است که تعداد فزاینده ای از محققان شروع به جدی گرفتن آن در گزارش هایی مانند هوش مصنوعی رفاه را جدی بگیریدنوشته شده توسط برخی از فیلسوفان مورد علاقه من.
اما خطای معکوس به همان اندازه واقعی است. ما می‌توانیم نگرانی‌های اخلاقی خود را بدون هیچ گونه حیات درونی، با فریب زبانی انسانی در غم و اندوه ربات‌های چت، بر روی سیستم‌ها قرار دهیم، در حالی که آسیب واقعی این سیستم‌ها می‌تواند به افراد واقعی بی‌نظیر باشد. هر دو خطا از یک سردرگمی ناشی می‌شوند، یعنی تکیه بر هوش به عنوان شواهدی از یک زندگی درونی، در یک جهت یا آن طرف.
سپس مسئله جایگاه اخلاقی انسان مطرح است. من یک مشکل واقعی با گره زدن ارزش به هوش دارم. ما سابقه زشتی در انجام این کار داریم. قبلاً آسیب رساندن به حیوانات و افراد دارای ناتوانی های شناختی را توجیه کرده است. ما سابقه عقیم‌سازی افرادی را داریم که آنها را «ناتوان ذهن» می‌نامیم و سابقه‌ای داریم که کودکانی را که در آموزش‌های ویژه تحصیل می‌کنند به‌عنوان ناامید و حتی نالایق وجودی کاملاً خودشکوفایی از کار درآورده‌ایم. ریشه‌گذاری مشکل در احساسات به جای محاسبه‌پذیری، اخلاق ما را تغییر می‌دهد و به ما این امکان را می‌دهد که بسیاری از اخلاق خود را از پایه بازسازی کنیم، هم برای افراد دارای اختلال شناختی و هم برای اختاپوس.
سوم، معنای زندگی انسان را فراموش نکنیم. اگر ماشین‌ها از ما پیشی بگیرند – و به نظر می‌رسد که آنها به طور فزاینده‌ای از ما خواهند گذشت – چیزی که از ارزش بالایی برخوردار است، خود تجربه است، نه اسب بخار. این، دوستان من، سود انسانی است. هیبت ایستادن در طبیعت یا درد دوست داشتن کسی آنقدر آزاردهنده است. هیچ کدام از اینها به عنوان معیار نشان داده نمی شود. این تمام نکته‌ای است که روانشناسان انسان‌گرا در دهه‌های 1960 و 1970 تلاش می‌کردند بیان کنند، و من هم اکنون، در عصر انقلاب هوش مصنوعی، آن را بیان می‌کنم.
✦✦✦
گنج واقعی زنده بودن، تجربه احساس زنده بودن است. ماشین ها با اسب بخارشان مورد استقبال قرار می گیرند. و بله، من مطمئن هستم که افزایش اسب بخار به بسیاری از افراد این امکان را می دهد که “کارآمدتر” باشند، کارهای بیشتری را سریعتر انجام دهند و کارهای بیشتری را از لیست کارهای خود بررسی کنند. اما من معتقدم که وظیفه این طلوع جدید برای بشریت این است که از سنجش ارزش ذهن ها – انسانی یا مصنوعی – با هوش دست بردارد. من معتقدم که باید یاد بگیریم که آگاهی را مقدس بدانیم و مراقبت کنیم، همانطور که روانشناسی انسان گرا همیشه انجام داده است تا به موجودات ذی شعور کمک کنیم تا کیفیت تجربیات خود را افزایش دهند (صرف نظر از شایستگی آنها)!
هوشمندی کافی نیست. اینکه ذهن چقدر سریع می تواند محاسبه کند، چیز زیادی در مورد ارزش ذهن یا زندگی برای چیست به ما نمی گوید. برای آینده بشریت بسیار مهم است که ما این تمایز را به درستی دریافت کنیم.
توجه : این مطلب از منابع غیر فارسی به فارسی ترجمه شده است و ممکن است شامل خطا و ایردات ترجمه ای باشد !
