-
رویای خطرناک هوش مصنوعی
رویای خطرناک هوش مصنوعی
طرفداران سابق هوش مصنوعی، آرام‌آرام به خطرهای وحشتناک این فناوری جدید پی می‌برند
نوئل شارکلی، متخصص علم روباتیک، سابق بر این از طرفداران هوش مصنوعی بود و به آن اعتقاد داشت. اما مدتی است که هوش مصنوعی را افسانه‌ای خطرناک می‌داند که می‌تواند آینده وحشتناکی را با روبات‌های مراقب و سربازان بدون هوش و احساس رقم بزند.
خبرنگار نیوساینتیست در گفتگو با شارکلی، سعی در یافتن پاسخ این پرسش دارد.
وقتی درباره هوش مصنوعی صحبت می‌کنید، منظورتان چیست؟
من تعریف ماروین مینسکی، از پیشگامان این علم را دوست دارم که می‌گوید هوش مصنوعی علم ساختن ماشین‌هایی است که بتوانند کارهایی را انجام دهند که اگر قرار باشد انسان‌ها انجام دهند، باید از هوششان استفاده کنند. با این حال برخی از زیرکانه‌ترین اعمال انسان‌ها هم می‌توانند بدون نیاز به هوش توسط ماشین‌ها انجام شوند. . انسان حافظه محدودی دارد، برای همین شطرنج یک بازشناسی شناختی الگوی دشوار است که به هوش نیاز دارد. اما رایانه‌ای مثل دیپ‌بلو می‌تواند بدون فکر، با جستجوی سریع میان نتایج میلیون‌ها حرکت، بازی را ببرد. مثل این است که با یک بازوی حفاری مکانیکی مچ بیاندازی! من تعریف مینسکی را این طور تصحیح می‌کنم: علم ساختن ماشین‌هایی که کارهایی را انجام می‌دهند که باعث می‌شود ما خیال کنیم آن‌ها باهوشند.
آیا ماشین‌ها اصلا قابلیت داشتن هوش را دارند؟
اگر هوش را به معنای حیوانی آن با رشد و تحولاتش در نظر بگیریم، باید بگویم نه. برای من، هوش مصنوعی زمینه برجسته‌ای از دستاوردهای مهندسی است که به ما در مدل‌سازی سیستم‌های زندگی کمک می‌کند، نه این که جای آن‌ها را بگیرد. در حقیقت، کسی که برنامه‌ها و الگوریتم‌ها را می‌نویسد دارای هوش است، نه خود ماشین.
آیا ما به ساخت ماشین‌هایی که بتوانیم آن‌ها را بااحساس بخوانیم، نزدیکیم؟
من فردی تجربی‌ام و می‌دانم در این راه هیچ قدم علمی وجود ندارد. ما اغلب فراموش می‌کنیم که محاسباتی در نظر گرفتن مغز یا ذهن فقط و فقط یک فرض است، نه واقعیت. وقتی من این نکته را به معتقدین نظریه محاسباتی ذهن تذکر دادم، برخی بحث‌هایشان در حقیقت بوی مذهب داشت. آن‌ها می‌گویند: پس چه چیز دیگری می‌تواند باشد؟ فکر می‌کنید ذهن فراطبیعی باشد؟ اما پذیرش مغز به عنوان یک موجودیت فیزیکی به ما نمی‌گوید چه جور موجودیت فیزیکی است. می‌تواند یک سیستم فیزیکی باشد که نمی‌توان با رایانه بازتولیدش کرد.
پس چرا پیش‌گویی درباره غلبه روبات‌ها به جهان این همه فراگیر شده است؟
به دلیل مشکل مردم در درک تحولات سریع، همیشه ترس از فناوری‌های تازه وجود داشته است. من فیلم‌های علمی تخیلی را دوست دارم و آن‌ها را تاثیرگذار می‌دانم، اما به نظر من تنها یک افسانه است. مصنوعات فناوری دارای اراده یا میل نیستند، پس چرا باید بخواهند به دنیا غلبه کنند؟ آیزاک آسیموف می‌گفت وقتی نوشتن در مورد روبات‌ها را شروع کرد، شهر پر شده بوده از داستان‌هایی درباره روبات‌هایی که دنیا را به تسخیر خود در می‌آورند. کسی نمی‌خواهد داستان را جور دیگری ببیند. زمانی من عادت کرده بودم به این که روزنامه‌نگارها برای مصاحبه بیایند و من بگویم باور ندارم روبات‌ها یا هوش مصنوعی دنیا را تسخیر کند و آن‌ها تشکر کنند و بروند و هرگز هم مصاحبه مرا چاپ نکنند.
پس شما هوش مصنوعی را به عنوان علم توهمات تعریف می‌کنید
بحث من این است که مردم از هوش مصنوعی و به طور خاص روباتیک، خدا ساخته‌اند. ما می‌خواهیم روبات‌ها مانند حیوانات و انسان‌ها ظاهر شوند و افسانه‌های فرهنگی در مورد هوش مصنوعی در ترکیبی از بی‌اعتقادی به این باور کمک می‌کند. اگر به زمان اولین سازنده روبات قابل برنامه‌ریزی، ای.دی 60، در زمان قهرمان الکساندریا برگردیم، می‌بینیم که به کارشان به عنوان یک جادوی طبیعی نگاه می‌کردند، با استفاده از حقه و خطاهای حسی کاری می‌کردند که مردم خیال کنند ماشینی که ساخته‌اند زنده است. روباتیک مدرن هم با ماشین‌هایی که می‌توانند هیجان‌ها را شناسایی کنند و چهره‌های سیلیکونی‌شان را تغییر دهند تا همدردی نشان دهند، این سنت را حفظ نموده‌اند. در هوش مصنوعی برنامه‌های زبانی وجود دارند که پایگاه‌های داده را جستجو می‌کنند تا جملات مناسب مکالمه را پیدا کنند. اگر کسانی که در این حوزه کار می‌کنند، دست از حقه‌بازی بردارند و واقعا در این مورد صادق باشند، خیلی سریع‌تر پیشرفت می‌کنیم.
اما این نقطه نظرها کاملا مخالف نظر بسیاری از همگنان شما در زمینه روباتیک است
بله. هانس موراوک، متخصص روباتیک معتقد است سرعت پردازش رایانه در نهایت باعث می‌شود آن‌ها بر مغز بشر چیره شوند و فرمانروایان ما گردند. ریل کرزویل مخترع می‌گوید که انسان‌ها با ماشین‌ها ادغام می‌شوند و از سال 2045 / 1424 برای همیشه با هم زندگی خواهند کرد. برای من این‌ها یک مشت قصه پریان است. من هیچ نشانه‌ای برای چنین رویدادهایی نمی‌بینم. این ایده‌ها تنها بر اساس این فرض ارائه می‌شوند که هوش محاسباتی است. ممکن است باشد، اما به همان اندازه هم ممکن است نباشد. کار من با مشکلات فوری در حوزه هوش مصنوعی است و هیچ مدرک و شاهدی وجود ندارد که نشان بدهد ماشین‌ها بر ما غلبه خواهند کرد یا این که به حواس دست خواهند یافت.
و شما فکر می‌کنید اگر این افسانه‌ها را در مورد هوش مصنوعی باور کنیم و در واقع از خودمان یک احمق بسازیم، خطرناک خواهد بود......
ممکن است باعث شود سریع‌تر به سمت دنیایی برویم که جنگ، پلیس و مراقبت از افراد آسیب‌پذیر را به ماشین‌هایی بسپاریم که به هیچ عنوان امکان داشتن همدلی، رحم، دلسوزی و فهم را ندارند.
درباره روباتی که در دوران کهنسالی از شما مراقبت کند چه احساسی دارید؟
در کشور ژاپن، مراقبت از سالمندان توسط روبات‌ها به سرعت در حال افزایش است. در دوران کهنسالی، برای دور نگه داشتن ما از خانه‌های سالمندان، روبات‌ها می‌توانند خیلی مفید باشند، بسیاری وظایف کسالت‌بار را انجام دهند و در کارهایی که حافظه رو به زوالمان یاری نمی‌دهد، به ما کمک کنند. اما این یک رابطه جایگزینی است. نگرانی عمده من از زمانی است که روبات‌ها امتحان‌شده باشند، آن وقت ممکن است کاملا در مراقبت آن‌ها بمانیم.مثل همه انسان‌ها، پیرها هم به محبت و روابط انسانی نیاز دارند، که تنها می‌توانند از کسانی بگیرند که برای دیدنشان می‌آیند. یک روبات هرگز نمی‌تواند این نیاز را در من برآورده کند.
شما در مورد روبات‌های ارتش هم نگرانید
هزاران روبات در هوا و روی زمین به معنای امتیازی فوق‌العاده برای ارتش است. به همین دلیل حداقل 43 کشور برنامه‌های پیشرفت برای خودشان در این حوزه دارند. هیچ کس نمی‌تواند فایده آن‌ها را در انفجار بمب و عملیات نظارت، برای حفظ جان سربازان انکار کند. من از استفاده از روبات‌های مسلح می‌ترسم. حمله‌های هواپیماهای بدون خلبان اغلب به هوش غیرقابل اعتمادی وابسته است. درست مثل ویتنام که آمریکا در نهایت کسانی را هدف گرفت که خبرچینانشان سر قمار به آن‌ها بدهکار بودند. با چنین خطاهایی در فناوری، بسیاری از مردم بی‌گناه کشته می‌شوند. فایل‌های برنامه‌های اخیر آمریکا حاکی از آنند که گرایشی به سمت تولید ماشین‌های کشتار خودمختار وجود دارد. اصلا امکان ندارد که یک سیستم مصنوعی بتواند یک نظامی را از یک بی‌گناه تشخیص دهد. اظهاراتی مبنی بر این که به زودی چنین سیستمی تولید خواهد شد، غیرقابل حمایت و غیرمسئولانه است.
به همین دلیل است که شما به دنبال راهنماهای اخلاقی و قوانینی برای کنترل استفاده از روبات‌ها هستید؟
در حوزه‌های اخلاقی مربوط به روبات‌ها که نوشته‌ام، مراقبت از کودک، پلیس، ارتش، مراقبت از سالمند و حوزه پزشکی، زمان بسیاری را صرف نگاه کردن به قوانین فعلی موجود در سراسر دنیا کردم و چیزی پیدا نکردم. من فکر می‌کنم به بحث‌های فوری بین افرادی با تخصص‌های گوناگون، شهروندان و سیاست‌گذاران نیاز داریم که تا هنوز وقت هست، بتوانند تصمیم بگیرند. این تحولات ممکن است به همان سرعتی در زندگی ما جریان یابد که اینترنت یافت و ما آماده نیستیم . ترس من از این است که خیلی دیر شود.
سازمان‌دهندگان مسابقات روبوکاپ روبات فوتبالیست، می‌خواهند یک تیم خودمختار از روبات‌های فوتبالیست بسازند که بتواند تا سال 2050 / 1429 یک تیم انسانی را شکست بدهد. شانس موفقیت آن‌ها را چه قدر می‌بینید؟
فوتبال به نوع خاصی از هوش نیاز دارد. کسی مثل دیوید بکهام می‌تواند به حرکات بازیکن مقابل نگاه کند، پیش‌بینی کند که توپ ممکن است کجا برود و خودش را در جای مناسب بگذارد. روبات‌های فوتبالیست می‌توانند سریع حرکت کنند، به شدت به توپ ضربه بزنند و آن را دقیقا درون دروازه شوت کنند، اما نمی‌توانند به الگوی بازی نگاه کنند و حدس بزنند در نهایت توپ کجا خواهد بود. به نظر من روبات‌ها نمی‌توانند در استراتژی فوتبال با انسان مسابقه بدهند. اما در دهه 1960 / 1340 هم تقریبا همه مطمئن بودند که هوش مصنوعی هرگز نمی‌تواند مسابقات قهرمانی شطرنج را ببرد، خب چه کسی می‌دانست؟ مثل بازی‌های شطرنج، روبات‌های فوتبالیست هم ممکن است بدون فکر کردن ببرند. با این حال من فکر نمی‌کنم بتوانند خطاهای مصنوعی را خیلی خوب دربیاورند.
