من عمليات البيع والبحث عبر الإنترنت إلى استلاف الأموال، مرورا بالعروض السينمائية.. تسيطر أنظمة الحلول الحسابية على حياتنا اليومية، غير أن الأشخاص المعنيين لا يكونون على علم بالأمر في كثير من الأحيان.
وأشارت الاختصاصية في تحليل البيانات كايثي أونيل، وهي مؤلفة كتاب يحمل عنوان «أسلحة الدمار الحسابية»، تندد فيه بالاستخدام المعمم والغامض لأنظمة الحلول الحسابية، إلى أن هذه الأنظمة «ليست بالضرورة عادلة، لأن تحديد طريقة عملها ونتائجها يعود للشخص الذي يبرمج النظام».
وخلال منتدى عُقد أخيرا في مركز «نيو أميركا» للفكر، حذرت أونيل من «الثقة العمياء» الموضوعة في الأنظمة الحسابية للحصول على نتائج موضوعية.
ويبقى أشهر الأنظمة الحسابية ــ بلا شك ــ هو ذلك الذي فرضت «غوغل» نفسها من خلاله في مجال محركات البحث، والذي يتم تغييره باستمرار لتقديم النتيجة الأقرب لما يبحث عنه مستخدم الإنترنت. والأمر سيان لدى «فيسبوك» التي تحلل كل بيانات مستخدميها لمساعدتهم على إيجاد أصدقاء جدد وتقديم المحتوى الأكثر ملاءمة لهم.
غير أن الأنظمة الحسابية تستخدم أيضا في رصد الإصابات بأمراض سرطانية جلدية وإعداد تقارير بالاستناد إلى بيانات خام. وهذه الأنظمة تشمل حتى السياسة؛ إذ إن حملة الرئيس الأميركي دونالد ترامب استعانت ببيانات من شركات متخصصة في التسويق عبر استخدام نظام حلول حسابية، يستطيع تحديد المواقع التي تضم أكبر نسب من المقترعين الذين قد يقتنعون بالخطاب الذي ينتهجه المرشح.
تبعات سلبية
وعددت كايثي أونيل أمثلة عدة كانت فيها لأنظمة الحلول الحسابية تبعات سلبية. فقد استغنت مدارس عامة في واشنطن في عام 2010 عن أكثر من مئتي مدرس، بعضهم يحظون بتقدير كبير، على قاعدة تقييم لأدائهم مستند إلى نظام حلول حسابية.
كذلك، قامت سلطات محلية بعملية توزيع للموارد بالاستناد إلى «نقاط ساخنة» يتم اختيارها بواسطة إحدى هذه المنظومات الحسابية. غير أن الطريقة التي يتم فيها إدخال البيانات قد تؤثر في النتيجة، وتنشئ حلقة مفرغة للفئات التي تعاني أصلا أكبر قدر من الحرمان.
وفي المجال المالي، تتخذ قرارات في مجال القروض والتأمين أيضا، بالاستناد إلى أنظمة حسابية، ما قد يزيد تهميش الأشخاص الأكثر تضررا في هذا المجال.
وحذر تقرير، أصدره البيت الأبيض العام الماضي أيضا من الأنظمة الحسابية التي تلحق من خلال إلغاء كل مفاعيل التدخل البشري «أذى منهجيا ببعض المجموعات». وذكرت الأستاذة في جامعة كارولاينا الشمالية زينب توفقجي المتخصصة في مجال التقنيات الحديثة بأن قرارات تتخذ تلقائيا، تستند في كثير من الأحيان إلى بيانات، يتم جمعها في شأن أشخاص حتى من دون إعلامهم بذلك.
فتات المعلوماتية
ولفتت خلال أحد مؤتمرات «تيد» الأخيرة، وهي هيئة غير ربحية تنظم جلسات نقاش فكري حول العالم، إلى أن «أنظمة المعلوماتية هذه قادرة على استنتاج كميات من الأمور، بالاستناد إلى فتات بياناتكم المعلوماتية حتى في حال تكلفتم عناء عدم كشف أي شيء».
وقالت «هي قادرة على استنتاج ميولكم الجنسية وخصائص شخصيتكم وآرائكم السياسية. هي تتمتع بقدرة توقع يمكن أن تظهر دقة مذهلة».
وأضافت «نطرح أسئلة على أنظمة معلوماتية، ليس لها في كثير من الأحيان جواب موحد. هذه الأسئلة ليست موضوعية، وهي مشحونة بالمعاني الضمنية التي تستند إليها الشركات لتحديد الأشخاص التي ستوظفهم أو لاختيار أي رسالة من صديق يجب تسليط الضوء عليها أو لمعرفة ما إذا كان شخص منحرف قد يكرر جرائمه».
وأكد أستاذ الحقوق في جامعة ميريلاند فرانك باسكوالي من ناحيته أن الاستخدامات غير العادلة للأنظمة الحسابية يمكن تصحيح أثرها، من خلال قوانين حماية المستهلكين.
ولفت في هذا المجال إلى أن القوانين المعمول بها في الاتحاد الأوروبي في شأن حماية البيانات و«الحق في التفسير» عندما يقع شخص ما ضحية قرار اتخذ بالاستناد إلى نظام حسابي، تستحق الدرس.
وقال «هذا الأمر سيرغم على التحلي بشفافية، وسيمنع استخدام الأنظمة الحسابية في بعض المجالات». لكن بحسب إليثيا لانغ المحللة في مركز الديموقراطية والتكنولوجيا، أي نموذج كهذا ينطوي على إيجابيات، لكنه «ثقيل جدا» ومن المستبعد أن يعمل بسبب التطور المستمر في الأنظمة الحسابية.
وقالت إن التعليم والحوار أهم من التشريعات في هذا المجال.
ولفت دانيال كاسترو نائب رئيس مؤسسة الابتكار وتكنولوجيا المعلومات إلى ضرورة عدم اختيار الأنظمة الحسابية كبش فداء بسبب مكامن الخلل الاجتماعي.
واعتبر أن اتخاذ قرارات تلقائية على أساس منظومات حسابية يسمح باعتماد «خطوات أكثر سرعة وفعالية للمستهلكين والشركات والحكومات»، لافتا إلى وجود تجاوزات تحصل أيضا «في العالم غير المتصل بالأنظمة الحسابية». (واشنطن ــــ أ.ف.ب)
قم بكتابة اول تعليق