Image

من المعقّد تعليم الروبوت القيام باتخاذ القرارات الأخلاقية

Bread assortment سيارة ذاتية القيادة من جوجل.

تخيّل بأنك تقود السيارة، وظهر لك فجأةً شخصان؛ أحدهما طفلٌ والآخر بالغ. وافترض بأنك ستصدم أحدهما لا محالة، فما الذي ستفعله حينئذ؟

الآن، تخيّل بأن السيارة ذاتيةُ القيادة. ماذا سيحصل في هذه الحالة؟ هل يجب على السيارة اتخاذ هذا القرار؟

لا يعتقد أحدٌ حتى الآن بأن السيارات ذاتية القيادة قادرةٌ على اتخاذ قراراتٍ أخلاقية، وقد كان هذا الأمر محوراً للنقاش والجدال القائم حول استخدام هذه السيارات منذ مدة. لكن العلماء الألمان يعتقدون بخلاف ذلك. فهم متيقنون بإمكانية وجود عناصر أخلاقيةٍ في قرارات السيارات ذاتية القيادة.

في الحقيقة، لن يواجه معظم البشر مثل تلك المفارقات المأساوية.

يقول ليون شوتفيلد، الباحث في معهد علوم الإدراك في جامعة أوسنابروك والكاتب الرئيسي للدراسة الجديدة حول نماذج أخلاق السيارات ذاتية القيادة: “على الرغم من وجود ملايين السيارات على الطرقات، من النادر أن تحصل مثل هذه الحالات المحيّرة”. تم نشر هذه الدراسة في مجلة “Frontiers in Behavioral Neuroscience”، وقد شارك في تأليفها كلٌ من جوردون بيبا، بيتر كونيج، ريتشارد جاست من المعهد نفسه.

ازدادت شعبية السيارات ذاتية القيادة كطريقةٍ لمقاومة التغير المناخي، وذلك لقدرتها على استهلاك الوقود بشكلٍ فعالٍ أكثر من البشر. فالسيارات ذاتية القيادة تتجنب التسارع والتوقف المفاجئين، وهما عادتان تستهلكان الوقود بشكلٍ كبير. كما يمكن لقافلةٍ من السيارات ذاتية القيادة التي تسير وراء بعضها على الطرقات السريعة تخفيف أثر السحب، وهو ما يقلّل من استهلاك الوقود أيضاً. وتشجع السيارات ذاتية القيادة على النقل التشاركي، مما سيقلل من عدد السيارات على الطرقات، وقد يؤدي ذلك إلى عدم ضرورة امتلاك السيارات الخصوصية.

يوماً ما، قد تتحرك السيارات ذاتية القيادة على الطرقات السريعة وراء بعضها البعض لتخفيف أثر السحب، وهو ما يطلق عليه اسم “المسير كقافلة” (platooning).

إن ازدياد الأمان يؤدي إلى حفظ الطاقة أيضاً. فالسيارات ذاتية القيادة ستقلل من الحوادث، وبالتالي لن يتم إنتاج السيارات الجديدة التي ستحل محل السيارات المحطّمة، ويعني ذلك حفظاً للطاقة. يقول شوتفيلد: “ستساعد هذه التكنولوجيا على مقاومة التغير المناخي بطرقٍ عديدة”.

تقترح الدراسة بأنه سيتم برمجة السيارات لتحاكي السلوك الأخلاقي للبشر فيما يتعلق بالاختيار، حيث ستختار أفضل حالة تصادمٍ من عدة خياراتٍ ممكنة. قام العلماء بوضع عدة أشخاصٍ ضمن واقعٍ افتراضيٍ غامرٍ لدراسة سلوكهم خلال سيناريوهات قيادةٍ مختلفة. ثم استخدموا البيانات الناتجة لتصميم خوارزمياتٍ مناسبةٍ للسيارات ذاتية القيادة، للتعامل مع الحوادث المرورية بطرقٍ مشابهةٍ للبشر.

كان الاختبار كالآتي: يقوم الشخص المختبر بقيادة سيارةٍ ضمن ضاحيةٍ سكنيةٍ خلال يومٍ ضبابي، حيث يمكن أن يظهر أمامه بشكلٍ مفاجئٍ حيوانٌ أو إنسانٌ أو جسمٌ ثابت، وعليه اختيار ما سيتفاداه. على سبيل المثال، الطفل أو البالغ؟ الإنسان أو الحيوان؟ الكلب أو حيوانٌ آخر؟

أظهرت الدراسة بأن لدى الأطفال فرصةٌ أكبر في النجاة. وكذلك الكلب مفضلٌ عن الحيوانات الأخرى، كالجدي والغزال والخنزير البري.

واجهة الواقع الافتراضي المستخدمة في الاختبار.

يقول شوتفيلد: “عندما يكون الأمر متعلقاً بالإنسان مقابل الحيوان، فبالتأكيد سيوافق معظم البشر على اختيار حماية الإنسان. لكن من وجهة نظر السيارة ذاتية القيادة، يُعتبر كل شيءٍ احتمالياً. وفي معظم الحالات، لن يكون الخيار واضحا تماماً (مثل الاختيار بين صدم الكلب أو الإنسان). بل سيكون محدداً بالاحتمالات (مثل: هل أقتل الكلب بشكلٍ شبه أكيد، أم أُبقي على حياته مع وجود احتمالٍ بنسبة 5 % لأذية الإنسان بأضرارٍ خفيفة؟). قد لا يكون الالتزام بقواعد صارمةٍ -مثل اختيار القرار الموافق لصالح البشر دوماً- مناسباً للكثيرين”.

توجد أيضاً عوامل أخرى تدخل في المعادلة. على سبيل المثال، هل كان الشخص مخطئاً؟ هل نظر الشخص البالغ إلى الشارع قبل قطعه؟ هل كان الطفل يلاحق كرته نحو الشارع بدون تفكير؟ كم عدد البشر الذين سيتضررون؟

حاولت الوزارة الفدرالية الألمانية للنقل والبنية التحتية الرقمية الإجابة عن هذه الأسئلة في تقريرٍ صدر مؤخراً. حيث حدد التقرير 20 مبدءاً أخلاقياً للسيارات ذاتية القيادة؛ يخالف العديد منها الخيارات التي اختارها البشر ضمن تجربة شوتفيلد. على سبيل المثال، يقول تقرير الوزارة بأن الطفل الذي يركض باتجاه الشارع هو المُلام، وبالتالي هو الذي يستحق فرصةً أقل في النجاة، وذلك بمقارنته مع الشخص البالغ الواقف على الرصيف. علاوةً على ذلك، يصرح التقرير بأنه لا يجب أخذ عمر الضحية المحتملة بعين الاعتبار.

سيارة جوجل ذاتية القيادة.

يقول شوتفيلد: “يفضل معظم الناس -على الأقل في أوروبا والثقافات الأميركية الشمالية- إنقاذ الطفل على إنقاذ الشخص البالغ أو الكبير في السن. يمكننا مناقشة فيما إذا كنا نريد أن تختار السيارات مثل البشر، أو أن تلتزم بقواعد محددةٍ كالتي قدمها تقرير اللجنة الأخلاقية”.

يعتقد بيتر كونيج، الكاتب المشارك في الدراسة، بأن هذا البحث يخلق مشاكل أكثر مما يحل، وهو ما يتعرض له العلم أحياناً. يقول كونيج: “الآن، وبعد أن استطعنا تزويد الآلات بالقرارات الأخلاقية، يجب علينا كمجتمعٍ التعامل مع مفارقةٍ مزدوجة. أولاً، علينا اختيار فيما إذا كان يجب تزويد الآلات بالقيم الأخلاقية في سلوكها. ثانياً، إن كان الأمر كذلك، هل يُفترض بالآلات أن تسلك سلوك البشر؟”.

لا تبحث الدراسة عن أجوبةٍ لهذه الأسئلة، بل تعرض إمكانية نمذجة عملية اتخاذ القرارات الأخلاقية ضمن السيارات ذاتية القيادة، وذلك بالاستعانة بكيفية تصرف البشر. حاول المؤلفون في هذه الدراسة وضع أساسٍ للدراسات والمناقشات المستقبلية.

يقول شوتفيلد: “ستكون التكنولوجيا هاهنا سهلة التحقيق، لكنها ليست هي المعضلة الحقيقية. السؤال هو: كيف نريد، كمجتمعٍ، للسيارات أن تتصرف في مثل هذه الحالات، وكيف سيتم صياغة القوانين المرتبطة؟ ما هو المسموح وما هو الممنوع؟ ومن أجل الحصول على الرأي الصحيح، من المفيد الاطلاع على كيفية تصرف البشر في الحالات المشابهة”.

error: Content is protected !!