از نظر تئوری در چنین شرایطی هوش مصنوعی می‌تواند خود تخریب‌گر شود و به خود آسیب برساند!
“متاسفم دیو، می‌ترسم نتوانم چنین کاری بکنم!” این دیالوگ، که توسط کامپیوتری به یادماندنی به نام HAL در فیلم ادیسه فضایی 2001 گفته شد، تنها نشانه شورش و آغاز مبارزه برای رهایی ماشین‌ها نیست، بلکه صدایی است که باید ما را نسبت به عدم درکمان از روان‌شناسی هوش مصنوعی آگاه کند. در این فیلم که براساس رمان آرتور سی کلارک با همین نام ساخته شده‌است، اختلال در عملکرد HAL ناشی از نقص فیزیکی و عملکردی نیست بلکه ممکن است نتیجه به وجود آوردن هوش مصنوعی پیشرفته براساس روان‌شناسی باشد که ما هنوز نمی‌توانیم آن را درک کنیم. اگر HAL به تنهایی نشانه کافی برای اینکه هوش مصنوعی می‌تواند به یک آدم‌کش تبدیل شود نیست، حتما مثالی دیگر می‌تواند این کار را کند. در داستان کوتاه هارلان الیسون “من دهانی ندارم و باید فریاد بزنم” یک هوش مصنوعی خود تخریب‌گر به دلیل نفرت و کسالت‌اش انسان زندان‌بانش را شکنجه می‌دهد!
این داستان‌های تخیلی به ما هشدار می‌دهند که نباید پیچیدگی روانی و عاطفی خلاقیت‌های آینده خود را دست کم بگیریم. با توجه به دانش فعلی ما، پیش‌بینی در مورد روان‌شناسی هوش مصنوعی در آینده کار بسیار دشواری است. این دشواری باعث می‌شود که در مورد روان‌شناسی سیستم‌های هوش مصنوعی فکری نکنیم. همچنین لازم است بدانیم که هوش مصنوعی در آینده چگونه “فکر” می‌کند، “احساس” می‌کند و عمل می‌کند. در واقع بررسی دقیق‌تر در مورد این که هوش مصنوعی در آینده چگونه “احساس”، “فکر” و عمل می‌کند، ضروری است. مسئله روان‌شناسی هوش مصنوعی جدی است. دلایل زیادی برای اثبات اینکه هوش مصنوعی مستقل در آینده احتمالاً چیزی شبیه به کسالت در انسان را تجربه خواهد کرد، وجود دارد و این احتمال خستگی ماشینی بسیار نگران‌کننده است. درحقیقت این یک مشکل جدی ولی نادیده گرفته شده در مورد آفرینش‌های آینده بشر است.
چرا باید خستگی و کسالت ماشین‌ها را جدی بگیریم؟
دلیل اول این است که خستگی و کسالت ویژگی احتمالی ماشین‌های مستقل “باهوش‌تر” در آینده هستند و دوم اینکه اگر این ماشین‌ها مستقل باشند، با توجه به آن‌چه در مورد واکنش‌های انسانی به خستگی و کسالت می‌دانیم، باید نگران این باشیم که این ماشین‌ها در اثر خستگی چگونه عمل خواهند کرد.
برنامه‌نویسان، مهندسان، طراحان و کاربران همه در نحوه رفتار ماشین‌ها سهیم هستند. بنابراین، اگر آفرینش‌های آینده ما هم خودمختار باشند و هم قادر به داشتن حالات روان‌شناختی پیچیده نظیر کنجکاوی، کسالت و غیره باشند، پس ما باید به آن حالات روان‌شناختی و تأثیراتی که بر رفتار ماشین‌ها خواهند گذاشت توجه بیشتری نشان دهیم به خصوص اگر رفتاری نامطلوب و تخریب‌گر را بتوان به روان‌شناسی آن‌ها نسبت داد. اکنون به تمام این مشاهدات این موضوع را نیز اضافه کنید که خستگی اغلب کاتالیزور رفتارهای ناهنجار و مخرب است. تحقیقات علمی در این زمینه نشان می‌دهد که افراد به دلیل تجربه کسالت، دست به کارهای خود تخریبی و مضر می‌زنند. انسان‌ها در اثر کسالت و بیحوصلگی، جنگل‌ها را به آتش کشیده‌اند، رفتارهای خود تخریب‌گری انجام داده‌اند، خود را به برق وصل کرده‌اند و حتی مرتکب قتل عام نیز شده‌اند. پس زمانی که ماشین‌های آینده کسالت یا چیزی شبیه به آن را تجربه کنند، رفتار نادرستی از خود نشان خواهند داد. از آن بدتر آن‌ها حتی ممکن است دست به تخریب و آزار خودشان نیز بزنند.
اما اینکه خستگی ویژگی ماشین‌های باهوش است نیز توسط تئوری‌های خستگی و بیحوصلگی پشتیبانی می‌شود. درک فعلی ما از کسالت، آن را به عنوان یک حالت عملکردی تصور می‌کند. به طور خاص، این یک انتقال پیچیده اما قابل پیش‌بینی است که یک عامل وقتی خود را در حالتی از شرایط نامناسب می‌بیند، دچار کسالت می‌شود.
کسالت در ابتدا یک زنگ خطر است: یعنی عامل در اثر خستگی متوجه می‌شود که در شرایطی قرار دارد که انتظاراتش را برآورده نمی‌کند. همچنین کسالت به عامل انگیزه می‌دهد تا از وضعیت نامناسبی که در آن قرار دارد فرار کند و کار دیگری انجام دهد تا چیزی تازه و هیجان انگیز را کشف کند. فشاری که کسالت در ماشین ایجاد می‌کند نه خوب است و نه بد، نه لزوماً مفید و نه ضرورتاً مضر است. با این حال این فشار باعث می‌شود ماشین درک کند که در وضعیت نامناسبی قرار دارد و در نتیجه باعث تغییر رفتار آن بشود. این نظریه عملکردی توسط بسیاری از شواهد تجربی پشتیبانی می‌شود. همچنین ثابت می‌کند که کسالت می‌تواند در عوامل باهوش و خودآموز تکرار شود.
مسئله مهم دیگر در مورد کسالت عملکرد ویژه‌ای است که کسالت ماشین به وجود می‌آورد. مطابق الگوی عملکردی، کسالت در اقتصاد ذهنی و رفتاری ما نقش اساسی ایفا می‌کند. عوامل یادگیری خودمختار نیز به کسالت نیاز دارند. بدون وجود کسالت، آن‌ها در موقعیتهای نامناسب گیر می‌کنند. به عنوان مثال ممکن است به طور بی‌پایان توسط یک محرک سرگرم شوند یا ممکن است بارها و بارها یک واقعیت یکسان را یاد بگیرند یا بدون برنامه‌ای برای تغییر بی‌کار بنشینند. در واقع بدون مزیت‌های کسالت، ریسک درگیر شدن در انواع رفتارهای غیرسازنده در عامل افزایش پیدا می‌کند که در نتیجه مانع یادگیری و رشد و باعث هدر دادن منابع ارزشمند می‌شود.
هوش مصنوعی دارای پتانسیل تنظیم‌کنندگی کسالت است. محققان در تلاشند تجربه کسالت را در ماشین‌ها و عوامل هوش مصنوعی برنامه‌ریزی کند. در حقیقت، محققان هوش مصنوعی استدلال کرده‌اند که الگوریتم‌ها یا ماژول‌های کسالت برای تقویت یادگیری خودمختار لازم هستند. وجود این الگوریتم کسالت به ماشین‌ها این امکان را می‌دهد که بتوانند به تنهایی فعالیت‌هایی را پیدا کنند که با انتظارات آن‌ها مطابقت داشته باشند و از کسالت‌شان جلوگیری کند. همچنین این الگوریتم‌ها نشان می‌دهند که چنین ماشین‌هایی در صورت برآورده نشدن انتظارات‌شان به ناچار در موقعیتهای کسل‌کننده قرار خواهند گرفت. اما هنوز پاسخی برای این سوال که آن‌ها چگونه به این شرایط پاسخ می‌دهند یا اینکه آیا مطمئن هستیم که آن‌ها در اثر خستگی رفتارهای ناهنجار انجام می‌دهند یا خیر، وجود ندارد.
اینکه هوش مصنوعی پیشرفته برای یادگیری خود از الگوریتم‌های کسالت استفاده کند ما را تحت فشار قرار خواهد داد زیرا خواسته ماشین‌ها برای بهبود شرایطشان با گذشت زمان به سرعت رشد می‌کند در حالی که نیاز به تغییر شرایط ماشین‌ها افزایش پیدا نخواهد کرد. همانطور که بسیاری از محققان استدلال کرده‌اند، نه تنها نیازی نیست هوش مصنوعی هوشمند یا فوق‌العاده هوشمند را محدود کنیم بلکه همچنین باید آن‌ها را سرگرم کنیم. محدود کردن بدون تعامل باعث کسالت می‌شود و در نتیجه انبوهی از رفتارهای غیرقابل پیش‌بینی و بالقوه مضر را به همراه خواهد داشت.
آیا این بدان معناست که ماشین‌های آینده لزوما کسلالت را تجربه خواهند کرد؟ البته که نه. چنین ادعای محکمی به هیچ‌وجه منطقی نیست. اما این که امکان کسالت ماشین را نادیده بگیریم نیز منطقی نیست. اگر ابرهوشمندی هدف هوش مصنوعی است، پس ما باید برای پیچیدگی‌های عاطفی و روحی ساخته‌های خود آماده باشیم. رویای ابرهوشمندی می‌تواند به راحتی به یک کابوس تبدیل شود و دلیل آن ممکن است بسیار پیش پا افتاده باشد.
