في بداية التعلم عن القوى الفيزيائية في المدرسة، جرت العادة بأن يُرسم مربع على منحنى وفي كل اتجاهٍ منه تنطلق السهام، كل سهمٍ يشير إلى قوة تسحبه أو تدفعه، ولتسهيل فهم معادلة القوى يُفترض بأن الاحتكاك يساوي صفر. هذا المربع الصغير هو نموذج، وهذا المثال هو نموذج عن نموذج، وفي كتابها "أسلحة الدمار الرياضية" تبدأ عالمة الرياضيات كاثي أونيل بشرح ماهية النموذج عبر إعطاء ٣ أمثلة، أولها عن البيسبول، الثاني متخيل عن تحضير الطعام والأخير خطير. وتتحدث عن الانتكاسة الاقتصادية في ٢٠٠٨ التي خيبت أملها في الخبراء الذين زخرفوا البيانات لترضي خطط أصحاب البنوك بعروض قروض افتراسية، مما دفعها للتمحيص في المخاطر التي تحفّ استخدام النماذج في شتى المجالات. وعنوان الكتاب يفصح عن خلاصة بحثها، هنالك نماذج رياضية تعمل مثل أسلحة الدمار الشامل، وهذا لا يحصل تلقائياً عند استخدام أو ابتكار أي نموذج، وإنما عندما تضطرب الخصائص التالية: الشفافية[1]، الحجم والأثر.
أعراض جانبية ومركزية
تعتري الخوارزميات والنماذج الرياضية المخاطر لأنها تنسى، أو ربما تتقصد نسيان، الواقع البشري على الجانب المقابل للأرقام المجرّدة. يسير الكتاب ليغطي نواحٍ مختلفة من حياة المواطن، مع أخذ المواطن الأمريكي نموذجاً. مثلاً، توضح أونيل أثر ترتيب الجامعات وفقاً لخوارزمية ما، وكيف سعت بعض الجامعات للتلاعب بالأرقام كي ترتقي في رتبتها أو تتفوق مصادفةً بسبب منطق الترتيب. في عام 2014، تفوقت جامعة الملك عبد العزيز السعودية على جامعاتٍ مثل كامبريدج في مجال الرياضيات، جامعةٌ عمرها سنتان صارت تنافس هارفرد! ومع أن ذلك قد يحصل حقاً مع الجد والتمويل، إلا أن الرتبة، كما اكتشف بروفيسور في جامعة بيركلي البريطانية، ارتفعت بسبب دعوة الجامعة لبعض المدرسين لمدة ثلاثة أسابيع ممولة بشكل كلي، وذلك بشرط أن يسجلوا أسماءهم كما لو أنهم في كلية الجامعة، مما جعل الخوارزمية تظن أن أبحاثهم هي أبحاث للجامعة.
يمكننا استبعاد مشكلة الغش أو الصدفة عن مشكلة النماذج وتصنيفها عرضاً جانبياً، ومن ثم التركيز على الخطأ والضرر الذي قد ينتج عن النموذج نفسه. يمكن تلخيص الخطأ الآتي الذي أرادت أونيل توضيحه بأنه خطأ "المعايير النيابية"، تضرب مثل شركة تسعى لتوظيف مسؤول عن مواقع التواصل الاجتماعي، وبما أن المهتمين سوف يرسلون مئات من سيرهم الذاتية ويتحدثون عن الحملات الإعلامية المظفرة التي رفعوا رايتها، سيصعب على الموظّف تتبع كل قصص النجاح، وقد يختار لاختصار الوقت معياراً ينوب عن تلك السيرة والمسيرة، ويكون النائب هو عدد المتابعين لحسابات المتقدمين. وفقاً لأونيل، لو أدرك المتقدمون ما هو المعيار الجديد لسوف يركز بعضهم على تنمية حساباتهم الشخصية على حساب النجاح الفعلي، مما يؤثر على الكفاءة المرجوة من السرعة في تقليم العدد.
ويمكننا القول إن المعيار النائب هذا قد لا يصح في التعبير عما ناب عنه، ربما لا يحب بعض المتقدمين مشاركة حياتهم الشخصية مع عدد هائل من المتابعين. وبدلاً من أن نعلق في هذا المثال يمكننا أخذ نظرة أشمل لمشكلة مجبولة في النموذج، وهي درجة التبسيط، ببساطة يمكن القول إن مهمة النماذج الأساسية هي تقليل التعقيد في العالم حولنا لغاية استيعابه، مما يعني أن النماذج بصورتها الحالية مجبورة على أخذ بعض الطرق المختصرة والمعايير النيابية لتقليل الاحتكاك، ولذا مع انتشار النماذج في صنع القرارات وتشكيل الآراء العامة والخاصة، سنسقط مراراً وتكراراً في فخ النواب الفشلة في التعبير عن المعايير.
النماذج ومشتقاتها وانحيازاتها
هنالك ظاهرة من تكاثر النماذج، مثلاً بعد ترتيب الجامعات يتطلع الطلبة للانضمام إلى من تربع منها أعلى القائمة، وينتهز تلك الفرصة من بعدهم بتدريبٍ مميزٍ ليقبلوا في جامعة معينة، ولفعل ذلك يستخدم نموذجاً مصغراً تغذيه بيانات الطالب ويعطيه ما نقص من المقومات. بعد التخرج، يقدم الطلبة على الوظائف الشاغرة، وهناك تتلقف سيرهم الذاتية أيدٍ آلية تغربل معظمها قبل أن تبصرها أي عين في قسم الموارد البشرية، وهنا أيضاً تتولد خدمات تحسين السير الذاتية لتخطي حواجز النماذج، وقد يضطر الباحث عن العمل دفع ثمنها مما يخفف من وزن محفظته كما تخففها البطالة. هذا التشعب ليس سيئاً بالضرورة[2]، فالتقدم التكنولوجي سوف يغير طبيعة الحياة، ولكن الضرر يكمن في أن أي خطأ في النموذج الأصلي، مثلاً في فكرة ترتيب السير الذاتية وسبب إقصاء معظمها في لمحة بصر رقمية، قد يتضاعف مع كل النماذج المشتقة.
لكن لا يفل النموذج إلا النموذج. عندما حاولت الحكومة الأمريكية إعادة ترتيب الجامعات لكبح جماح ازدياد ديون الطلاب، وأخذت معايير مختلفة في عين الاعتبار، اعترض رؤساء الجامعات لأكثر من سبب، فهم بذلوا الجهد في تطوير الجامعات وفقاً للترتيب المعتمد مسبقاً، كما انتقدوا نمط الترتيب المستحدث، والحل أخيراً كان في ضخ البيانات كلها كما هي، والسماح للطلاب بمعرفة المعلومات الأكثر أهمية لهم شخصياً بدلاً من الترتيب العام وما يحمله من نيابة عن المعايير. أثناء قراءة الكتاب بدأ اعتراضٌ بسيط ينمو من هذه اللحظة، وهو على استعمال كلمة النموذج لوصف ما يفعله ذلك الموقع من ترتيب الإجابة للطلاب. عند تقليص المشكلة لمسألة ترتيب بيانات، لا أظن أن المشكلة ما زالت في نطاق النماذج.
وأظن أن شبيهاً لهذا الخلطِ في منطق الكاتبة يمتد إلى فصل لاحق تتحدث فيه عن النماذج التي استخدمتها بعض مراكز الشرطة في الولايات المتحدة، إذ ربط أحد النماذج نسبة الجريمة بالمواقع الجغرافية، لكن هذا كما رأينا في مراجعة كتاب مشكلة التوافق، مع مسألة اللغة وما يستتر فيها من انحيازات، يستر انحيازات عنصرية بسبب التجانس العرقي في بعض الأحياء الفقيرة. وهنا ترتسم حلقة شرسة تبدأ مع تركيز الشرطة على بعض الأماكن، مما يقود إلى ارتفاع نسبة الاعتقالات على جرائم ليست بتلك الخطورة. وتتحرك الحلقة مع صعوبة عودة المسجون إلى الحياة الطبيعية بعد السجن، ناهيك عن الأثر السلبي أثناء مدة الحكم، ومع ذلك تكتمل حلقة البيانات التي تخبر النموذج بالعودة إلى نقطة البداية، وتملي على الشرطة التركيز على تلك المواقع أو الأعراق بصورة مستترة.
قوة حجتها في نظري هو عندما تذكر بأن مثل تلك الجرائم الصغيرة التي لا تصل حد الجنايات تحصل في الكثير من الأحياء، بينما ينجوا الأثرياء من تلك الاعتقالات ويعاني الفقراء من الدائرة الشرسة المذكورة. الخلط الذي أتحدث عنه هو أنها تعزو ذلك لمشكلة في النماذج، بينما هي مشكلة على أرض الواقع اقتنعت النماذج بمنطقها.
إحدى الانحيازات تنطلق من اعتماد الحاسوب بطبيعة الأمر على آثارٍ رقمية، المثال هنا هو نموذج يبحث عن أفضل الموظفين في ابتكار الأفكار وعلى المساهمين في بث تلك الأفكار، تقول أونيل إن ذلك قد لا ينصف الموظفين الذين يتناقلون الأفكار شفهياً دون توثيقها رقمياً. وإن عانت شركة تعتمد مثل هذا النموذج معياراً من العجز وأزمعت على تسريح الموظفين، ستأخذ مثل هذا المعيار بعين الاعتبار، وتطرد من وصمهم هذا النموذج بمن قلّت حيلتهم الابتكارية.
تتحدث أونيل أيضاً عن الخوارزميات في مواقع التواصل الاجتماعي، وعن الدراسات التي تُجرى على روادها دون علمهم، من التلاعب بمزاجاتهم إلى تحفيزهم على التصويت. توضح أونيل أنها لا تتهم هذه المواقع بأنها تستخدم الخوارزميات كأسلحة دمار، لكن بما أننا لا نعلم ما الذي يحصل وراء الكواليس البيانية، (مثلاً نحن لا ندري كيف تنتشر منشوراتنا وما إن كنا فئران تجارب)، فلا يمكنها الجزم بأنها أسلحة دمار في هذا السياق، لكنها تنبّه إلى تلك المخاطر. ومن تلك النقطة تنتقل إلى اعتماد الأحزاب السياسية على تقنيات طورتها شركات لاستهداف المصوتين وما يحف ذلك من مساوئ[3].
الديمقراطية ذاتها لا تنجو من إساءة استخدام النماذج، فالاستهداف المجهري للمصوتين يسمح للمرشح بحياكة دعايات انتخابية مخصصة لجذبهم، المثال المطروح هو ما فعله المرشح الانتخابي تيد كروز في ٢٠١٥، عندما بث دعايات يدعم فيها الكيان الإسرائيلي في فندق ضم اجتماعاً لجماعة يهودية، وبثها حصرياً لهم. وقياساً على ذلك، تعبث الخوارزميات في توجهات الناخبين، كما أن شارع التأثير والدفع يسير في اتجاهين، فأصحاب الحملات أنفسهم يستعينون بالشركات التي توفر البيانات المرجوة والخوارزميات الفعالة، وقد يجنون بدورهم أموالاً طائلة مقابل وعود بنمذجة الناخبين وحياكة ما يناسب كل شريحة منهم.
رأي العبد الفقير في الكتاب
يتحرك الكتاب بسلاسة ليغطي دورة حياة الفرد، وكيف تقنصه هذه الأسلحة في كل مرحلة؛ من الظلم الذي قد يلحق الطلاب في المدارس وأساتذتهم أثناء التقييم، ثم أثناء التقديم على جامعة وبعدها على الوظيفة. في الوظيفة قد تجبرك النماذج على العمل في ظروف أصعب بسبب دقتها العالية في تحسين الكفاءة على حساب راحة الموظفين، ثم عند طلب قرض أو محاولة تأمين نفسك صحياً، وحتى عند الاحتكاك مع القانون، سواء بسبب جريمة بسيطة أو إذا أراد المحكوم أن يتوب بعد جناية، والتضييق على من لا جرم لهم سوى شبهة إحصائية ترتبط باسمهم أو عرقهم أو ديانتهم. وإن تجنبت النماذج التدقيق على هذه الخصائص بشكل بواح، فإن تفاصيل بسيطة قد توشي عنك الكثير. هناك دعايات تستهدف من تعثّر حظه الاقتصادي. عبر قراءة البيانات الدالة على الوضع الحرج للشخص، يمكن لبعض الشركات والجامعات والبنوك استهداف المتصفحين بوعود كاذبة. وأثناء كل تلك المراحل سوف تتبع الشركات نقراتك على الإنترنت كي تزجّ الإعلانات في وجهك أو تتاجر بمعلوماتك بشكل أو بآخر.
في مواضع مختلفة، تسرد أونيل قصصاً إيجابية عن استخدام النماذج وكيف تساعد على كسر بعض الأفكار الخاطئة. بالتأكيد هذا الكتاب يشير إلى العيوب في استخدام النماذج لكن الكاتبة لا تعاديها بشكل كامل، ولا تدعو لتركها البتة. بل تقول إن النماذج المسيئة قد تستخدم للخير إذا كانت غايتها خيرة، مثلاً الاستهداف المجهري لشرائح المصوتين قد تعمل بدلاً من الخداع على فهم مطالبهم والسعي إلى حل مشاكلهم.
وينتهي الكتاب بعرض بعض الحلول، مثل زيادة الشفافية عن طريق المدققين، وأن يهتم الخبراء بالجوانب الأخلاقية كما لو أنهم يقسمون قسم أبقراط الطبي، بالإضافة إلى احترام خصوصية المعلومات لكل مواطن كما تنص على ذلك القوانين الأوروبية المانعة لبيع البيانات أو إعادة استخدامها لغايات مختلفة، كما يتاح للشخص حرية الموافقة أو الرفض لأن تُجمع بياناته. كما تشير إلى احتمالية أن الشركات قد تذعن لنماذج منصفة أكثر إذا صب ذلك في سيولتها، وأظن أن هذا الاقتراح هو مجدٍ أكثر نظراً لصعوبة زيادة الشفافية من الناحية التقنية، خصوصاً مع الذكاء الاصطناعي وشبكاته العصبونية. كل هذا قد ينقلب مع ابتكارٍ برمجي، ولكن إلى أن يحصل علينا اللعب بالأوراق المتاحة[4].
الخلاصة نجدها في في جملة معترضة تصف أونيل الخوارزمية ببلاغة بأنها رأيٌ شخصي مصاغ بلغة الحاسوب. النماذج وفقاً لأونيل قد تتحول لأسلحة شاملة عند اختفاء الشفافية، وعندما تُستخدم على نطاق واسع وبطريقة تسبب الأذى. انعدام الشفافية يمنع المصابين من دراية ما أصابهم من تمييز، ولمَ أصابهم بالتحديد. وما استخلَصتُه من الأمثلة العديدة التي طرحتَها هي أن الضرر من النماذج قد يأتي بسبب النيابة المعيارية، أو من التحديق بمعامل واحد دون غيره، أو قراءة مساحة رقمية محصورة، أو بانعدام التغذية الراجعة التي تصحح مسار النموذج، وما يمكن تسميته أيضاً بنبوءات محققة لذاتها، أو بسبب جمود الخوارزميات، إذ يتركها المبرمج كما هي على عكس آلية اتخاذ القرارات عند البشر، وما تتضمنه من تصويب تلقائي عند اكتشاف الضرر. هناك أيضاً مشاكل تطلقها طبيعة النماذج كمرآة تعكس خللاً في المجتمع أو الشركة، ودون تصويبٍ يتضاعف الخلل عبر نشر النموذج على مساحة أوسع.
المأخذ الأساسي على الكتاب النافع هو أن الأمثلة التي تضربها في الكثير من الأحيان لا تشير إلى سوء النماذج وإنما لسوء استخدامها، وذلك إما بسبب قصر نظر الخوارزميات أو سبق الإصرار على استخدام مسيء أو الغش للتلاعب بالنماذج. هناك الكثير من المشاكل الموجودة أصلاً وذنب النماذج هو تضخيمها. كما أن التعريف الدقيق للنموذج يتفاوت بين مثالٍ وآخر، يمكن استبدال كلمة النموذج في الكثير من المواضع بكلمة برنامج، كما يمكن المحاججة بأن الضرر ينبع من اختراق الخصوصية أكثر من كونه مشكلة في استخدام النماذج الرياضية. والمأخذ الثانوي هو أن الكتاب يفترض بالقارئ التسليم لبعض الوجهات السياسية التي تعتنقها الكاتبة.
على الرغم من ذلك، تسلّط أونيل الضوء على أحد المخاطر التي تحدق بالإنسان المعاصر، ويستحسن كشف ذلك كي يسعى المبرمجون وصناع القرار لتحسين النماذج والبرامج والاستفادة من قدرتها على استيعاب البيانات بصورة تفوق أي قدرة بشرية، وفي المقابل لعل الأنماط المستترة ستتكشف لنا مما يتيح لنا القدرة على نقد ذاتنا وتحسين شؤوننا بصورة غير مسبوقة.
هوامش:
[1]: في الكتاب تستخدم كلمة opacity والتي قد تترجم للعتمة أو الغموض، لكنني فضّلت انتقاء كلمة الشفافية وعكس الجملة لتشير إلى انعدام الشفافية، لأن الكلمة في العربية تحمل الايحاءات الأقرب للمقصود في الإنجليزية بينما الغموض أو العتمة لا يقترنان بالتجربة السياسية أو الشؤون العامة عادةً.
[2]: من وجهة نظر ثانية هذا الخطر قائم بالضرورة، فالباحث عن العمل يعلق في شبكة من الخوارزميات التي يجب أن ينال رضاها قبل أن يُنظر إليه بعيون بشرية. مما يعني أننا ما زلنا تحت رحمة الخوارزميات مهما تحسنت، وهنا تكمن جل المشكلة في رأيي، إذ أن الحل المرجو في تنقيح الخوارزميات لتعمل بعدالة لا يعني أننا أفلتنا من نير التكنولوجيا، وإنما سخرناها بصورة مميزة تختلف عن تسخير ما نعتبره أدواتٍ دونها. وهذا مفتاح لنقاش عن درجة اعتمادنا على التكنولوجيا وهي معضلة أوسع من هذه المقالة نوعا وكما لكن لا بد من التنويه.
[3]: يغطي آدم كيرتس امتزاج أساليب الشركات بعالم السياسة وبعض النظريات النفسية في وثائقي The Century of the Self، وإذا رغبت في الاطلاع على نبذة منه يمكنك قراءة هذه المقالة.
[4]: للمزيد من المعلومات عن شفافية الذكاء الاصطناعي يمكنك القراءة عن مفهوم العتمة المعرفية في ورقة بول همفري.