Image

لا يجب على الروبوتات أن تخفي عنا ماذا يدور في رأسها

الوضوح والشفافية هما الحل

Bread assortment بماذا تفكر عزيزي الروبوت؟

كل يوم يقوم مستخدمو فيسبوك بتسجيل الدخول إلى موقع التواصل الاجتماعي الأشهر للتفاعل مع باقي المستخدمين والاطلاع على آخر أخبارهم. وقد دأب فايسبوك على استقبال مستخدميه بالسؤال الشهير : بماذا تفكر؟ وهو سؤال محفز يشجع الأشخاص على النشر وعلى التفاعل مع الموقع. لكن هل يمكن أن يكون هذا السؤال إلزامي؟ فهل من الممكن إلزام أحدهم بالتعبير عن الآلية التي يفكر بها؟ بتفاصيلها؟ بالتأكيد لن يكون الأمر كذلك بالنسبة للبشر، لكن بالنسبة لمجتمع الروبوتات الذي يتطور ويتوسع شيئاً فشيئاً فالأمر مختلف.

صناديق سود

ربما كان مصطلح الصندوق الأسود شائعاً لمتابعي نشرات الأخبار اليومية، فالكل يعلم أن هذا الصندوق مرتبط بحوادث تحطم الطائرات ويكون هو المطلب الأول لمن يحقق بالحادثة. لكن في عالم الهندسة والعلوم  والبرمجيات، يطلق مصطلح الصندوق الأسود على أي عملية لا يعلم منها إلا مدخلاتها ومخرجاتها، مع التعتيم على العمليات التي تؤدي إلى الحصول على هذه المخرجات. وفي مجال الذكاء الاصطناعي لا يعتبر الكشف عن التعليمات البرمجية الخاصة بالآلة من الأمور المحبذة, لكن ورقة بحثية نشرت بمجلة ساينس روبوتيكس Science Robotics في 31 مايو بتوقيع الباحثين ساندرا واتشتر من جامعة أوكسفورد، برنت ميتلستاد من معهد آلان تورينغ ولوتشيانو فلوريدي من لندن كوليدج، وقد طرح بحثهم مقاربة مختلفة لهذه القضية.

الشفافية كضرورة

يرى الباحثون أنه على الرغم من أن اتباع نهج الشفافية عند برمجة الروبوتات يعتبر أمراً مكلفاً خاصة إذا كان المطلوب وضع تعليمات برمجية يمكن للإنسان قراءتها وفهمها، فإنه عند تصميم روبوتات على تماس مباشر مع البشر فإنه لا يمكن لطريقة تفكير هذه الروبوتات أن تبقى طي الكتمان. فقد يكون هذا الروبوت مبرمج على أساس عرقي أو طائفي أو أي شكل آخر من الانحيازات غير المقبولة. كما أنه من الضروري معرفة آلية تصرف هذه الآلات في المواقف الحرجة.

المثال الأشهر على القرارات المصيرية التي قد تكون بيد الذكاء الاصطناعي هو السيارة ذاتية القيادة، والتي قد تتعرض لأشخاص يقطعون الطريق وهي تسير بسرعة كبيرة، عندها ما الذي ستفعله؟ هل ستصدم المارة وتحافظ على سلامة ركابها أم أنها ستتجنبهم وتصطدم بحافة الطريق مما يعني تعريض حياة الركاب للخطر؟ سيرغب أي شخص بمعرفة الإجابة على هذا السؤال قبل ركوب هذا النوع من السيارات.

نحو قانون للروبوت

تأتي هذه الورقة البحثية لتساهم بخلق آلية واضحة تخص وضع التشريعات المتعلقة بالروبوتات أصحاب القرارات التي تمس البشر، وفي طليعتهم الروبوتات المنخرطة بسلك الشرطة. ويرى الباحثون أن هذه التشريعات يجب أن تضمن كل من العدالة، الشفافية، الوضوح والمساواة. بغض النظر عن النقاشات التي تدور حالياً في الأوساط التشريعية والتي تميز بين الروبوتات بوصفها عتاد صلب وهندسة، والذكاء الاصطناعي بوصفه برمجيات وآلية برمجة. فالقوانين يجب أن تضمن الشفافية مهما كان المزيج الهندسي والبرمجي والتقني الذي تتناوله.

هل سنشهد بالمستقبل جلسات محاكمة المتهم فيها هو روبوت؟ هل سيكون مبرمجاً لاستدرار عطف القضاة؟ ربما، فلا شيء مستحيل في عالم التكنولوجيا.

error: Content is protected !!