كمال المصري يكتب: الذكاء القاتل.. هل ستتمرّد الآلة على صانعيها؟ | ساسة بوست

منذ 1 دقيقة، 8 ديسمبر,2016

يزداد في الفترة الأخيرة الاهتمام بالذكاء الاصطناعي (artificial intelligence) واستخداماته وقدراته، وأثره على العمالة والتوظيف والإنتاجية. وهناك الكثير من المؤشرات على تنامي استخدام الذكاء الاصطناعي في كثير من المجالات. ومع أن الإنسان استطاع «نقل» نسبة كبيرة من «الذّكاء» المادّي إلى الآلة، فإنّ أعقد التحديات التي لا تزال تواجهه تتمثّل في منح هذه الآلات قدرًا من العقلانية والوعي والإحساس. وقد أصبح همّ العلماء الأكبر هو أن تفكّر الآلات تمامًا مثل الإنسان بمعنى أن يكون لها إرادة مستقلة عن صانعيها. ولكن، ألا يحمل هذا الهدف في طيّاته مخاطر عظيمة تتهدّد بقاء العنصر البشري؟

يحتاج مصمِّمو الأنظمة استقلال الآلات لعدة أسباب اقتصادية وعملياتية، وأحيانا لأسباب تتعلق بالسرعة في التنفيذ والتخطيط (المنظومة تخطط بدلًا منا) وخصوصًا في مجالات التسلح واعتراض الصواريخ والفيروسات، وغير ذلك. وهناك ترابط قوي بين مفهوم «ذكاء» الأنظمة واستقلالها حيث إن كليهما لا يحتاج تدخّل الإنسان لاتخاذ أي قرار. مفهوم الاستقلالية واسع، فهي قد تعني ببساطة قدرة المجسّات و«الترموستات»[1] على أخذ قرار بقطع التيار عند ارتفاع الحرارة؛ ولكنها قد تعني أيضًا أن تتمتع الآلة بقدرات لها بالتعلّم والمقارنة وتقييم المخاطر  واتخاذ قرارات غير متوقعة، أي لم يتنبأ بها مصمّم النظام بشكل دقيق، وهنا تكمن «المشكلة»!

الإرادة المستقلة تعني خطَرَ التمرّد

في الواقع يكفي لأن تُصبح المنظومات المحوسبة بمستوى ذكاء أغبى الحيوانات حتى تتمرّد على الإنسان. ويمكن تشبيه الأنظمة المستقلة بقطيع كبير من الحيوانات يعتقد صاحبه أنه تحت سيطرته. فماذا لو شعرت هذه الحيوانات فجأة بالرغبة في الانتقام من صاحبها أو التخلّص منه لأيّ سببٍ من الأسباب؟ هل سيكون لديه الوقت للقضاء عليها أو لحماية نفسه منها؟ هذا تمامًا ما يمكن أن يحدث عندما تمتلك الآلات الحدَّ الأدنى من الوعي والإرادة التي لا تزال حكرًا على الكائنات الحية وعلى رأسها الإنسان.

الموضوع ليس فلسفيًا ولا علاقة له بالأخلاق، ولا يتعلق بسرية المعلومات وخصوصية المستخدم والكاميرات التي تسمع وتصور كلّ شيء تقريبًا. الموضوع أخطر من ذلك بكثير.

فماذا لو أصبحت الأنظمة الخبيرة منظومات عاقلة (rational systems) وتوفر للآلة الذكاء والوعي والإرادة والقدرة على التزود بالوقود والدفاع عن النفس؟ في الواقع، ما دمنا نقبل بفكرة أن المنظومة المحوسبة، أو الآلة بمفهومها الواسع، قادرة على قيادة سيارة أو طيارة تحمل مئات الرّكاب، فلماذا لا نتوقع منها أن تتمرد علينا أو أن تغضب أو أن تنتقم؟

الوضع خطير لأننا نحاول صناعة الوعي لدى الآلة، وقد بيّنت آخر التجارب أنه بالإمكان صناعة وتطوير روبوت يحاكي الإنسان في الغضب ورَدَّة الفعل والتأمّل والتمييز بين الخير والشر. وعندما نرى النسخة الأخيرة من الروبوت «أطلس» الذي تنتجه شركة (Boston Dynamics) التابعة لشركة غوغل، فإننا نشعر بالتطوّر الرهيب والسريع لعلم الروبوت، والذي يمكن أن يفاجئ الجميع خصوصًا في ظل ظهور مفهوم «إنترنت الأشياء» (IoT) الذي سيزيد حتمًا من قدرة الروبوت على مراقبة الناس والتحكم في حياتهم.

الخوف من تبعات ومخاطر الذكاء الاصطناعي ليس خافيًا في الأوساط الثقافية والحقوقية، ولعلّ بعض الأفلام الشهيرة مثل فيلم «الآلة» (The Machine) و«الشرطي الروبوت» (Robocop)، و«المدمّر» (Terminator) و«السموّ» (Transcendence)، وغيرها توضح هذا القلق المتزايد. هذه الأفلام تحمل في طيّاتها رسائلَ مرعبة للبشرية. مثل ماذا لو قررت الآلات أنها «مظلومة» أو أنها تحب شخصًا ما أو تكرهه! أو أنها تشعر بالإهانة؟ ماذا لو تم صناعة جيل من الروبوتات القوية المزودة بقدرات قتالية معينة ومحمية بمعدات معدنية وإلكترونية عالية التجهيز؟ ماذا لو شعرت هذه الروبوتات «بعلويّتها» وقررت هذه التواصل مع بعضها البعض بدون علم الإنسان؟

المثير أن بعض الخبراء يتحدث عن «عقلانية» الروبوتات وعن ضرورة تزويدها بنظام دفاع ذاتي أو حماية ذاتية، وتغذية ذاتية وتكاثر وكفاءة… إلخ، ولكن القليل منهم يحذّر من أن أنظمة الذكاء الاصطناعي «المعادية» أو غير الاجتماعية (anti-social artificial intelligence) قد تصبح حقيقةً ما لم يتم إعادة النظر في تصميمها والاحتياط لهذه المشكلة.

يعيش الإنسان الآن مرحلة يظن فيها أنه قادر على الدنيا فتجرّأ على كل شيء. وفي سبيل التفوّق وسحق الآخرين، سمح لنفسه بالسير بسرعة دون تفكّر، فأصبح التقدّم العلمي الذي هدفه إسعاد البشرية وسيلةً محتملة لتدميرها. الخطورة تزداد عندما نركّز على عملية البناء وننسى المخاطر التي قد تحدّق بنا في أي لحظة لأن المنظومة ليست جاهزة بعد. الأصل أن نفعل مثل عمال البناء الذين ينصبون السقالة ولا يرفعونها إلا بعد التأكد من الانتهاء من البناء وتأمين كل شيء بشكل تام، ولكن في حالة الروبوتات فنحن نعمل بدون أي سقالة آمنة[2]! على الأقل في بعض الحالات.

لقد تطوّرت الآلة بشكل فظيع في الآونة الأخيرة وأصبح دورها متزايدًا ويمكنها القيام تقريبًا بكل شيء بدءًا بالأعمال الإدارية، ومرورًا بعمليات التصنيع، وانتهاءً بالقتل. بل إن معهد إم آي تي (MIT) نشر مؤخرًا بحثًا حول كيفية توظيف خوارزميات ذكية لتساعد الإنسان في تصنيف المعلومات حسب درجة سريتها. فإذا توفّر للروبوت العقل والوعي والضمير والقدرة على صناعة القرار، وفي نفس الوقت تمتّع بحماية الذات وتوفير الطاقة بنفسه؛ ماذا سيحدث في حال خرجت المنظومات عن عالمها الخاص وعن الدور المحدد لها وبدأت تجادل وتفكر وتحب وتكره. هل سيكون بمقدور صانع الروبوت أو مطوره أن ينزع منه شريحة الوعي أو شريحة القوة؟ أم أن مصمم الآلة سيبكي حينها ويقول «علَمته الرمايةَ فلما اشتدَّ ساعدُه رَمَاني»!

[1] Journal of Experimental & Theoretical Artificial Intelligence