اگر هوش مصنوعی کسل شود، چه اتفاقی می‌افتد؟!

از نظر تئوری در چنین شرایطی هوش مصنوعی می‌­تواند خود تخریب‌­گر شود و به خود آسیب برساند!

“متاسفم دیو، می‌­ترسم نتوانم چنین کاری بکنم!” این دیالوگ، که توسط کامپیوتری به یادماندنی به نام HAL در فیلم ادیسه فضایی 2001 گفته شد، تنها نشانه شورش و آغاز مبارزه برای رهایی ماشین­‌ها نیست، بلکه صدایی است که باید ما را نسبت به عدم درک­مان از روان‌شناسی هوش مصنوعی آگاه کند. در این فیلم که براساس رمان آرتور سی کلارک با همین نام ساخته شده­‌است، اختلال در عملکرد HAL ناشی از نقص فیزیکی و عملکردی نیست بلکه ممکن است نتیجه به وجود آوردن هوش مصنوعی پیشرفته براساس روان‌شناسی باشد که ما هنوز نمی‌­توانیم آن را درک کنیم. اگر HAL به تنهایی نشانه کافی برای اینکه هوش مصنوعی می‌­تواند به یک آدم‌کش تبدیل شود نیست، حتما مثالی دیگر می‌­تواند این کار را کند. در داستان کوتاه هارلان الیسون “من دهانی ندارم و باید فریاد بزنم” یک هوش مصنوعی خود تخریب‌­گر به دلیل نفرت و کسالت‌­اش انسان زندان‌بانش را شکنجه می‌دهد!

این داستان‌های تخیلی به ما هشدار می‌­دهند که نباید پیچیدگی روانی و عاطفی خلاقیت‌­های آینده خود را دست کم بگیریم. با توجه به دانش فعلی ما، پیش‌بینی در مورد روان‌شناسی هوش مصنوعی در آینده کار بسیار دشواری است. این دشواری باعث می‌شود که در مورد روان‌شناسی سیستم­‌های هوش مصنوعی فکری نکنیم. همچنین لازم است بدانیم که هوش مصنوعی در آینده چگونه “فکر” می‌­کند، “احساس” می­‌کند و عمل می‌کند. در واقع بررسی دقیق‌تر در مورد این که هوش مصنوعی در آینده چگونه “احساس”، “فکر” و عمل می‌کند، ضروری است. مسئله روان‌شناسی هوش مصنوعی جدی است. دلایل زیادی برای اثبات اینکه هوش مصنوعی مستقل در آینده احتمالاً چیزی شبیه به کسالت در انسان را تجربه خواهد کرد، وجود دارد و این احتمال خستگی ماشینی بسیار نگران­‌کننده است. درحقیقت این یک مشکل جدی ولی نادیده گرفته شده در مورد آفرینش­‌های آینده بشر است.

چرا باید خستگی و کسالت ماشین­‌ها را جدی بگیریم؟

دلیل اول این است که خستگی و کسالت ویژگی احتمالی ماشین‌های مستقل “باهوش‌تر” در آینده هستند و دوم اینکه اگر این ماشین‌ها مستقل باشند، با توجه به آن‌چه در مورد واکنش‌های انسانی به خستگی و کسالت می‌دانیم، باید نگران این باشیم که این ماشین‌ها در اثر خستگی چگونه عمل خواهند کرد.

برنامه‌نویسان، مهندسان، طراحان و کاربران همه در نحوه رفتار ماشین­‌ها سهیم هستند. بنابراین، اگر آفرینش­‌های آینده ما هم خودمختار باشند و هم قادر به داشتن حالات روان‌شناختی پیچیده نظیر کنجکاوی، کسالت و غیره باشند، پس ما باید به آن حالات روان‌شناختی و تأثیراتی که بر رفتار ماشین‌­ها خواهند گذاشت توجه بیشتری نشان دهیم به خصوص اگر رفتاری نامطلوب و تخریب‌گر را بتوان به روان‌شناسی آن‌ها نسبت داد. اکنون به تمام این مشاهدات این موضوع را نیز اضافه کنید که خستگی اغلب کاتالیزور رفتارهای ناهنجار و مخرب است. تحقیقات علمی در این زمینه نشان می­‌دهد که افراد به دلیل تجربه کسالت، دست به کارهای خود تخریبی و مضر می­‌زنند. انسان­‌ها در اثر کسالت و بی‌­حوصلگی، جنگل­‌ها را به آتش کشیده­‌اند، رفتارهای خود تخریب‌گری انجام داده­‌اند، خود را به برق وصل کرده­‌اند و حتی مرتکب قتل عام نیز شده­‌اند. پس زمانی که ماشین‌­های آینده کسالت یا چیزی شبیه به آن را تجربه کنند، رفتار نادرستی از خود نشان خواهند داد. از آن بدتر آن‌ها حتی ممکن است دست به تخریب و آزار خودشان نیز بزنند.

اما این‌که خستگی ویژگی ماشین­‌های باهوش است نیز توسط تئوری­‌های خستگی و بیحوصلگی پشتیبانی می­‌شود. درک فعلی ما از کسالت، آن را به عنوان یک حالت عملکردی تصور می‌­کند. به طور خاص، این یک انتقال پیچیده اما قابل پیش­‌بینی است که یک عامل وقتی خود را در حالتی از شرایط نامناسب می­‌بیند، دچار کسالت می‌­شود.

کسالت در ابتدا یک زنگ خطر است: یعنی عامل در اثر خستگی متوجه می­‌شود که در شرایطی قرار دارد که انتظاراتش را برآورده نم­ی‌کند. همچنین کسالت به عامل انگیزه می‌­دهد تا از وضعیت نامناسبی که در آن قرار دارد فرار کند و کار دیگری انجام دهد تا چیزی تازه و هیجان انگیز را کشف کند. فشاری که کسالت در ماشین ایجاد می‌­کند نه خوب است و نه بد، نه لزوماً مفید و نه ضرورتاً مضر است. با این حال این فشار باعث می‌­شود ماشین درک کند که در وضعیت نامناسبی قرار دارد و در نتیجه باعث تغییر رفتار آن بشود. این نظریه عملکردی توسط بسیاری از شواهد تجربی پشتیبانی می‌­شود. همچنین ثابت می‌­کند که کسالت می­‌تواند در عوامل باهوش و خودآموز تکرار شود.

مسئله مهم دیگر در مورد کسالت عملکرد ویژه‌­ای است که کسالت ماشین به وجود می‌­آورد. مطابق الگوی عملکردی، کسالت در اقتصاد ذهنی و رفتاری ما نقش اساسی ایفا می‌­کند. عوامل یادگیری خودمختار نیز به کسالت نیاز دارند. بدون وجود کسالت، آن‌ها در موقعیت­های نامناسب گیر می­‌کنند. به عنوان مثال ممکن است به طور بی­‌پایان توسط یک محرک سرگرم شوند یا ممکن است بارها و بارها یک واقعیت یکسان را یاد بگیرند یا بدون برنامه‌­ای برای تغییر بی‌کار بنشینند. در واقع بدون مزیت­‌های کسالت، ریسک درگیر شدن در انواع رفتارهای غیرسازنده در عامل افزایش پیدا می‌­کند که در نتیجه مانع یادگیری و رشد و باعث هدر دادن منابع ارزشمند می‌شود.

هوش مصنوعی دارای پتانسیل تنظیم‌­کنندگی کسالت است. محققان در تلاشند تجربه کسالت را در ماشین‌­ها و عوامل هوش مصنوعی برنامه­‌ریزی کند. در حقیقت، محققان هوش مصنوعی استدلال کرده­‌اند که الگوریتم­‌ها یا ماژول‌­های کسالت برای تقویت یادگیری خودمختار لازم هستند. وجود این الگوریتم کسالت به ماشین‌­ها این امکان را می­‌دهد که بتوانند به تنهایی فعالیت‌هایی را پیدا کنند که با انتظارات آن‌ها مطابقت داشته باشند و از کسالت‌شان جلوگیری کند. همچنین این الگوریتم­‌ها نشان می‌­دهند که چنین ماشین­‌هایی در صورت برآورده نشدن انتظارات‌شان به ناچار در موقعیت‌­های کسل‌کننده قرار خواهند گرفت. اما هنوز پاسخی برای این سوال که آن‌ها چگونه به این شرایط پاسخ می‌­دهند یا اینکه آیا مطمئن هستیم که آن‌ها در اثر خستگی رفتارهای ناهنجار انجام می‌­دهند یا خیر، وجود ندارد.

اینکه هوش مصنوعی پیشرفته برای یادگیری خود از الگوریتم­‌های کسالت استفاده کند ما را تحت فشار قرار خواهد داد زیرا خواسته ماشین­‌ها برای بهبود شرایطشان با گذشت زمان به سرعت رشد می­‌کند در حالی که نیاز به تغییر شرایط ماشین­‌ها افزایش پیدا نخواهد کرد. همانطور که بسیاری از محققان استدلال کرده­‌اند، نه تنها نیازی نیست هوش مصنوعی هوشمند یا فوق‌­العاده هوشمند را محدود کنیم بلکه همچنین باید آن‌ها را سرگرم کنیم. محدود کردن بدون تعامل باعث کسالت می­‌شود و در نتیجه انبوهی از رفتارهای غیرقابل پیش‌بینی و بالقوه مضر را به همراه خواهد داشت.

آیا این بدان معناست که ماشین‌­های آینده لزوما کسلالت را تجربه خواهند کرد؟ البته که نه. چنین ادعای محکمی به هیچ‌وجه منطقی نیست. اما این که امکان کسالت ماشین را نادیده بگیریم نیز منطقی نیست. اگر ابرهوشمندی هدف هوش مصنوعی است، پس ما باید برای پیچیدگی‌های عاطفی و روحی ساخته‌­های خود آماده باشیم. رویای ابر­هوشمندی می‌­تواند به راحتی به یک کابوس تبدیل شود و دلیل آن ممکن است بسیار پیش پا افتاده باشد.

 

 

لینک کوتاه شده : https://amerandish.com/j7UG5

به اشتراک بگذارید

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

_ مطالب مرتبط _

درخواست شما با موفقیت ارسال شد.

ضمن تشکر بابت ارسال پیام، در سریع‌ترین زمان ممکن کارشناسان شرکت عامراندیش درخواست شما را بررسی خواهند نمود.