Reading Time: 3 minutes

يصف الفيلم القصير «الروبوتات القاتلة» مستقبلاً قريباً تقتل فيه أسراب من الطائرات بدون طيار آلاف الأشخاص بسبب توجهاتهم السياسية. صدر الفيلم في نوفمبر/ تشرين الثاني 2017 عن مؤسسة «ذا فيوتشر أوف لايف»، وانتشر بسرعة كبيرة كتحذير من مخاطر الذكاء الاصطناعي المتقدم؛ حيث حصل على أكثر من 3 ملايين مشاهدة لهذا التاريخ. ساعد هذا الفيلم على إثارة نقاشات حول مستقبل الأسلحة ذاتية التحكّم، كما ساعد في الضغط على الدبلوماسيين في مؤتمر الأمم المتحدة حول الأسلحة التقليدية.

لكن هذا النوع من سرد القصص الخيالية العلمية التخميني ليس مفيداً في جذب الانتباه فقط، إذ يمكن لمصممي التكنولوجيا المتقدمة استخدام القصص الخيالية لأخذ عواقب عملهم المحتملة بعين الاعتبار، والتأكد من أن اختراعاتهم ستُستخدم من أجل تحسين الحياة، والأغراض الخيّرة. نعتقد أن النماذج الأولية للخيال العلمي أو «الخيال التصميمي» يمكن أن يساعد في منع التحيّزات البشرية من شق طريقها نحو التكنولوجيا التي يمكن أن تسبب زيادة في ترسيخ التعصب والظلم في المجتمعات.

يمكن أن يؤدي التحيز إلى التفضيل التعسفي لبعض الفئات (من النتائج، أو الأشخاص أو الأفكار) على فئات أخرى. فعلى سبيل المثال، قد يكون بعض الناس منحازين ضد توظيف النساء في الوظائف التنفيذية، سواء كانوا يعون لذلك أم لا.

يمكن أن تؤدي التكنولوجيا المصممة بناء على البيانات التي توثّق مثل هذا التحيزات إلى تكرار المشكلة التي قد تكون طوّرت لحلّها. على سبيل المثال، يمكن برمجة برمجيات التوظيف -التي تُصمّم لانتقاء أفضل سيرة ذاتية لوظيفة معينة- من أجل البحث على صفات محددة تعكس انحيازاً غير واع تجاه الرجال. وفي هذه الحالة، فستفضّل الخوارزمية في النهاية السير الذاتية الخاصة بالرجال. هذا الأمر ليس نظرياً، بل حدث في شركة أمازون.

تحاول بعض شركات التكنولوجيا وبعض الباحثين أيضاً معالجة هذه القضية. على سبيل المثال، وضعت جوجل مجموعة من المبادئ الأخلاقية لتوجيه تطوير الذكاء الاصطناعي. وأطلق أكاديميون بريطانيون مبادرة تهدف إلى تشجيع قدر أكبر من الإنصاف والعدالة في تصميم واستخدام التكنولوجيا.

تكمن المشكلة في أن الشركات تميل علناً إلى تقديم رؤى إيجابية فقط للعواقب المحتملة لتكنولوجيا المستقبل القريب. على سبيل المثال، غالبًا ما تُصوّر السيارات ذاتية القيادة على أنها تحل جميع مشكلات التنقل، من التكلفة إلى الأمان، ويتم تجاهل الأخطار المتزايدة للهجمات الإلكترونية التي قد تتعرض لها أنظمتها، أو حقيقة أنها يمكن أن تُبعد الناس عن المشي، أو ركوب الدراجات الهوائية.

إن صعوبة فهم كيفية عمل التكنولوجيا الرقمية -خاصة تلك التي تعتمد على خوارزميات غامضة- تجعل من الصعب على الأشخاص تشكيل نظرة معقدة وشاملة للقضايا المختلفة. ينتج عن هذه الحالة تفاوتاً بين الأفكار الإيجابية والمطمئنة التي تروجها الشركات، والشكوك الغامضة بأن التحيزات هي جزء لا يتجزأ من التكنولوجيا الموجودة حولنا. وفي هذا السياق، فنحن نعتقد أن سرد القصص من خلال الخيال التصميمي يمكن أن يلعب دوراً مهماً

كتابة القصص هي طريقة تساعد في التفكير في الاحتمالات الممكنة، والمواقف المعقدة بشكل طبيعي. من ناحية أخرى، يمكن أن يساعدنا الخيال العلمي على التكهن بتأثير تكنولوجيا المستقبل القريب على المجتمع، كما يفعل فيلم الروبوتات القاتلة.

الكشف عن المستقبل «المحتمل»

تقدّم قصص الخيال التصميمي طريقة جديدة للمصممين والمهندسين و«المستقبليين»، وغيرهم في التفكير في آثار التكنولوجيا من وجهة نظر بشرية، ثم ربط هذه الآثار بالحاجات المستقبلية المحتملة. وباستخدام مزيج من المنطق والمخيّلة، يمكن للخيال العلمي أن يكشف جوانب أخرى لكيفية استخدام التكنولوجيا، ويثير نقاشات حول تبعاتها المستقبلية.

على سبيل المثال، تستكشف القصة القصيرة «كشف الجرائم» ما يمكن أن يحدث إذا استخدم الذكاء الاصطناعي معلومات التعهيد الجماعي (مصدر جماهيري)، وقاعدة بيانات إجرامية للتنبؤ باحتمالية ارتكاب أحدهم جريمة قتل. وجد الباحثون أنه نظراً لأن قاعدة البيانات كانت مليئة بالأشخاص المنتمين إلى أقليات عرقية، والذين كانوا لأسباب اجتماعية أكثر عرضة احصائياً لأن يرتكبوا جرائم عدة مرات؛ كان نموذج «مصادر الجريمة» أكثر ميلاً للاشتباه في الأفراد من الأقليات مقارنة بالأشخاص البيض.

لا تحتاج أن تكون كاتباً موهوباً أو تصنع فيلماً جيداً كي تنتج الخيال التصميمي. استُخدمت أنشطة العصف الذهني التي تتضمن البطاقات والقصص المصوّرة لتطوير الخيال التصميمي، وعملية سرد القصص. كذلك إقامة العديد من ورش العمل التي تستخدم هذه الأدوات ستمكن المهندسين والرياديين وصانعي القرار من استخدام نهج التقييم هذا. كما سيساعد نشر النتائج للعامة في الكشف عن الانحيازات المحتملة في التطبيقات التكنولوجية قبل أن تؤثر على المجتمع.

إن تشجيع المصممين على خلق ومشاركة المزيد من القصص على هذا النحو؛ سيضمن أن المفاهيم التي ستستند إليها التكنولوجيا الجديدة لن تقدّم صوراً إيجابية فحسب، ولا صوراً سلبية أو سوداوية للغاية. بدلاً من ذلك، سيكون بوسع الأشخاص تقدير منافع ومساوئ التكنولوجيا المستقبلية على حد سواء.