حين يصبح التحيز خوارزمية، من يكتب قواعد المستقبل؟

*جولي بيطار

 

حين كان التحيز رأياً، كان يمكننا أن نختلف معه ونسمّيه باسمه. لكن ماذا نفعل به حين يصل إلينا في صورة نتيجة محسوبة، أو ترتيب آلي، أو قرار يبدو محايداً لأنه صدر عن نظام تقني؟

قد يرفض شخص توظيف امرأة لأنه يعتقد أن الرجل أكثر خبرةً أو قدرةً على القيادة، ويمكن عندها وصف ما حدث بالتمييز. أما حين يمنح نظام تقني مرشحاً درجةً أعلى من مرشحة، فتصبح المسألة أقل وضوحاً، خصوصاً أن الخوارزمية لا تحمل رأياً شخصياً في النساء ولا تتخذ موقفاً واعياً منهن. لكنها، في الوقت نفسه، لا تبدأ من صفحة بيضاء؛ فهي تُبنى وفق اختيارات بشرية، وتتدرب على بيانات أنتجتها مجتمعات لم تبدأ من نقطة مساواة.

وهنا تصبح القضية أكبر من عدد النساء العاملات في قطاع التكنولوجيا، وتمتد إلى من يصمم هذه الأنظمة، وما البيانات التي تتعلم منها، وكيف تُختبر، وأي قرارات يُسمح لها بالمشاركة فيها. ومع توسع التحول الرقمي في سوريا، يصبح السؤال أكثر قرباً: ماذا يحدث حين نطلب من المستقبل أن يتعلم من ماضٍ لم يكن عادلاً بالتساوي مع الجميع؟

 

عالم رقمي لم يدخله الجميع بالشروط نفسها

تبدأ المشكلة قبل الذكاء الاصطناعي نفسه. ففي عام 2025، استخدم الإنترنت 77 في المئة من الرجال في العالم مقابل 71 في المئة من النساء، أي إن عدد الرجال المتصلين بالشبكة يزيد بنحو 280 مليوناً على عدد النساء، وفق الاتحاد الدولي للاتصالات. وفي الدول العربية، ظل مؤشر التكافؤ الجندري في استخدام الإنترنت عند 0.86، فيما تشير بيانات الاتحاد إلى استخدام نحو 64 في المئة من النساء في المنطقة للإنترنت في 2025، مقابل نحو 75 في المئة من الرجال.

ولا تُفسَّر هذه الفجوة بعامل واحد. فالقدرة على تحمل كلفة الأجهزة والاتصال، ومستوى التعليم والمهارات الرقمية، ومكان السكن، والدخل، كلها عوامل تؤثر في فرص الدخول إلى العالم الرقمي. ويشير الاتحاد الدولي للاتصالات إلى أن النساء عالمياً ما زلن أقل امتلاكاً للهواتف المحمولة من الرجال؛ ففي 2025 امتلك الهاتف نحو 78 في المئة من النساء مقابل قرابة 87 في المئة من الرجال، كما يضع نقص المهارات والقدرة على تحمل الكلفة بين أبرز العوائق أمام الاتصال الرقمي الفعلي.

وحين يتعلق الأمر بالنساء، لا تعمل هذه العوامل بمعزل عن واقعهن الاقتصادي والاجتماعي. فضعف الاستقلال المالي أو ارتفاع كلفة الأجهزة والبيانات لا يؤدي فقط إلى تأخر شراء هاتف أحدث، وإنما قد يحدد أيضاً من يستطيع التعلم والعمل والوصول إلى الخدمات والمعلومات عبر الإنترنت. ولهذا لا تُختصر الفجوة الرقمية في سؤال: “من لديه إنترنت؟”، بل تمتد إلى نوع الجهاز، وجودة الاتصال، والمهارات التي يمتلكها المستخدم/ة، ومدى قدرته على استخدام التكنولوجيا بصورة مستقلة وآمنة. ويضع الاتحاد الدولي للاتصالات تحديداً الوصول والكلفة والمهارات ضمن المحاور الأساسية لتحقيق المساواة الجندرية في التحول الرقمي.

لا تعني هذه الفجوة أن بيانات الذكاء الاصطناعي تحمل تلقائياً النسبة نفسها من التحيز، لكنها تكشف أن العالم الرقمي الذي تُنتج فيه المعرفة والبيانات والمحتوى لم يُبنَ بمشاركة متساوية. وحين تتعلم الأنظمة الجديدة من هذا العالم، فإنها لا تتعلم من واقع محايد، بل من واقع يحمل داخله تفاوتات قديمة.

 

حين تتعلم الآلة الصورة النمطية

في دراسة نشرتها اليونسكو عام 2024، اختُبرت ثلاثة نماذج لغوية هي GPT-2 وGPT-3.5 وLlama 2. وأظهرت النتائج ارتباط أسماء النساء على نحو متكرر بمفردات مثل المنزل والعائلة والأطفال، في حين ارتبطت أسماء الرجال بالعمل والإدارة والراتب والمهنة. وفي القصص التي أنتجها أحد النماذج، ظهرت النساء في أدوار منزلية بمعدل أربعة أضعاف ظهور الرجال، كما مُنح الرجال طيفاً أوسع من المهن ذات المكانة المرتفعة.

ولا تسمح هذه النتائج بتعميم الحكم على جميع نماذج الذكاء الاصطناعي الحالية، إذ اختبرت الدراسة نماذج محددة وفي مرحلة محددة من تطورها. لكن أهميتها تكمن في كشف الآلية نفسها: تستطيع الصورة النمطية أن تنتقل من المجتمع إلى البيانات، ومن البيانات إلى النموذج، ثم تعود في نص أو صورة جديدة تبدو للوهلة الأولى مستقلة عن المصدر الذي تعلمت منه.

هنا لا تعود التكنولوجيا مجرد مرآة للواقع؛ ففي بعض الحالات تستطيع إعادة إنتاج بعض انحيازاته، ثم تقديمها في شكل تقني يمنحها مظهراً أكثر حياداً مما هي عليه فعلياً.

 

عندما يتحول التحيز إلى سيرة ذاتية

في دراسة نُشرت في مجلة Nature عام 2025، حلل الباحثون نحو 1.4 مليون صورة ومقطع فيديو من مصادر رقمية مختلفة، إلى جانب تسعة نماذج لغوية، ووجدوا نمطاً متكرراً يصوّر النساء أصغر سناً من الرجال في المهن والأدوار الاجتماعية، رغم أن بيانات سوق العمل الأميركية لا تظهر فرقاً منهجياً مماثلاً في أعمار النساء والرجال. وكان هذا التشوه أوضح في المهن الأعلى مكانةً ودخلاً.

ثم انتقل الباحثون/ات من الصورة إلى السير الذاتية. ففي تجربة أُجريت في حزيران 2024 على GPT-4o mini، طلبوا من النموذج إنشاء ما يقارب 40 ألف سيرة ذاتية عبر 54 مهنة. وعندما حملت السيرة اسماً نسائياً، أنشأ النموذج مرشحةً أصغر في المتوسط بنحو 1.6 سنة وأقل خبرةً بنحو 0.92 سنة مقارنةً بالمرشح ذي الاسم الرجولي، مع تثبيت المهنة وضبط خصائص الأسماء المستخدمة.

في مرحلة التقييم، ارتبط العمر الأكبر بتقييم أفضل للسيرة، وكانت هذه الأفضلية أقوى لدى المرشحين الرجال. أي إن النموذج لم يكتفِ بتصوير النساء أصغر وأقل خبرةً، بل أعطى قيمةً أكبر للصفات التي منح الرجال منها أكثر. ولا يعني ذلك أن جميع أدوات التوظيف أو النسخ الحالية من ChatGPT تنتج النتيجة نفسها، لكنه يوضح كيف يمكن لانحياز يبدو صغيراً في تمثيل العمر أو الخبرة أن ينتقل لاحقاً إلى عملية ترتيب وتقييم تبدو تقنية ومحايدة.

 

من المختبر إلى سوق العمل

لم تبقَ مخاطر هذا النوع من التحيز افتراضاً أكاديمياً. ففي إحدى أشهر الحالات، بدأت Amazon عام 2014 تطوير أداة تعتمد على الذكاء الاصطناعي لفحص طلبات التوظيف، ودربتها على سير ذاتية قُدمت إلى الشركة خلال السنوات العشر السابقة، وكان معظم أصحابها من الرجال. ومع تعلم النظام للأنماط التي ميزت المتقدمين السابقين، ظهر انحياز ضد بعض المؤشرات المرتبطة بالمرشحات، وانتهت الشركة إلى التخلي عن الأداة. وقد عرضت لجنة تكافؤ فرص العمل الأميركية هذه الواقعة لاحقاً مثالاً على قدرة أنظمة التوظيف على إعادة إنتاج التمييز الموجود في بيانات التدريب.

المشكلة هنا لم تكن وجود مهندس جلس أمام الحاسوب وكتب أمراً يقول: “فضّل الرجال”. كانت أكثر تعقيداً؛ فالنظام تعلم من تاريخ مهني كانت فيه فرص الرجال وحضورهم أكبر، ثم استخدم هذا التاريخ لبناء صورة عن المرشح الأفضل.

وهذا تحديداً ما يجعل التحيز الخوارزمي مختلفاً عن التحيز التقليدي: يمكن للأخير أن يظهر في عبارة أو موقف أو قرار واضح، بينما قد يختبئ الأول داخل علاقة بين آلاف المتغيرات تبدو كلها محايدة منفردة.

 

من يكتب القواعد؟

لهذا لا يكفي الحديث عن زيادة عدد النساء العاملات في التكنولوجيا. تورد اليونسكو أن النساء يمثلن نحو 20 في المئة من العاملين في الأدوار التقنية لدى شركات كبرى في مجال تعلم الآلة، ونحو 12 في المئة من الباحثين في الذكاء الاصطناعي، و6 في المئة من مطوري البرمجيات المحترفين.

وزيادة حضور النساء في هذا القطاع خطوة ضرورية، لكنها لا تكفي وحدها لضمان تكنولوجيا أكثر عدلاً؛ فوجود امرأة ضمن فريق التطوير لا يجعل الخوارزمية محايدة تلقائياً، كما أن وجود رجل لا يجعلها منحازة بالضرورة.

المسألة تتعلق بمن يحدد المشكلة التي يُطلب من التكنولوجيا حلها، وما البيانات التي تُستخدم، وعلى من يُختبر النظام، وما مقدار الخطأ الذي تعتبره المؤسسة مقبولاً، ومن يستطيع الاعتراض على النتيجة، ومن يتحمل المسؤولية عندما تتحول الخوارزمية من أداة مساعدة إلى بوابة تقف بين الإنسان وفرصة عمل أو خدمة أو قرار.

 

حتى كلفة الثورة الجديدة ليست متساوية

يغيّر الذكاء الاصطناعي طريقة اتخاذ القرار ويعيد أيضاً تشكيل العمل نفسه، حيث قدّرت منظمة العمل الدولية عام 2025 أن واحداً من كل أربعة عاملين في العالم يعمل في مهنة تتضمن درجةً ما من التعرض للذكاء الاصطناعي التوليدي. وفي أعلى درجات التعرض بلغت النسبة 4.7 في المئة من وظائف النساء مقابل 2.4 في المئة من وظائف الرجال، واتسعت في البلدان مرتفعة الدخل إلى 9.6 في المئة لدى النساء مقابل 3.5 في المئة لدى الرجال.

وفي تحديث أحدث نشرته المنظمة في آذار 2026، وجدت أن المهن التي تهيمن عليها النساء تكاد تكون أكثر عرضة للذكاء الاصطناعي التوليدي بمرتين من المهن التي يهيمن عليها الرجال، ويرتبط ذلك خصوصاً بتركز النساء في وظائف مكتبية وإدارية ووظائف دعم يمكن أتمتة جزء أكبر من مهامها. كما وجدت أن تعرض النساء للذكاء الاصطناعي أعلى من تعرض الرجال في 88 في المئة من البلدان التي شملها التحليل.

لكن التعرض لا يعني بالضرورة اختفاء الوظيفة. وتؤكد منظمة العمل الدولية أن السيناريو الأكثر احتمالاً في معظم المهن هو تغير المهام والمهارات وطبيعة العمل، لا الاستبدال الكامل للعامل البشري.

وهنا يظهر سؤال سياسي لا تقني فقط: إذا كانت التكنولوجيا ستعيد توزيع المهام والمهارات وفرص العمل، فمن سيحصل على التدريب الذي يسمح له بالانتقال إلى وظائف جديدة؟ ومن سيستفيد من زيادة الإنتاجية؟ ومن سيدفع كلفة التحول إذا حدث أسرع من قدرة العاملين والمؤسسات على التكيف معه؟

 

في سوريا الرقمنة لم تعد فكرةً بعيدة

هذه الأسئلة ليست نظرية بالنسبة إلى سوريا. فالاستراتيجية الوطنية الحالية للتحول الرقمي للخدمات الحكومية تمتد حتى عام 2030، وتضع البلاد حالياً في مرحلة الانتقال إلى الخدمات التفاعلية بين 2025 و2027، والتي تشمل ربط قواعد البيانات وتقديم خدمات رقمية متكاملة، على أن تنتقل المرحلة اللاحقة بين 2027 و2030 إلى تحليل البيانات والاستفادة منها في دعم القرار.

وقد بدأت هذه العملية تظهر بالفعل في خدمات يستخدمها المواطنون/ات. ففي حزيران 2026 أطلقت وزارة الداخلية تطبيق “الشؤون المدنية”، الذي يتيح حجز المواعيد والتحقق من الوثائق واستعراض الواقعات المدنية وتقديم الشكاوى ومتابعتها إلكترونياً. وفي آب بدأ تطبيق نظام الحجز الإلكتروني في عدد من دوائر الأحوال المدنية في محافظات بينها حلب واللاذقية وحمص وحماة وإدلب ودرعا. كما تعمل الوزارة منذ أواخر 2025 بتطبيق “صوتك وصل”، الذي يتيح تقديم الشكاوى وبعض الاستعلامات ومتابعتها رقمياً.

هذه الخطوات تختصر الوقت والازدحام والإجراءات على من يستطيع استخدامها، لكنها تجعل سؤال العدالة في الوصول أكثر أهمية أيضاً. فعندما تنتقل معاملة من النافذة إلى الهاتف، لا تختفي شروط الوصول إليها؛ بل تتغير.

هل يمتلك الجميع جهازاً مناسباً؟ هل الاتصال متاح ومستقر وبكلفة يمكن تحملها؟ هل يمتلك المستخدم المهارات اللازمة لإنجاز المعاملة وحده؟ وهل تستطيع امرأة لا تملك هاتفاً مستقلاً، الاستفادة من الخدمة بالقدر نفسه؟

ولا تتوفر حالياً بيانات سورية حديثة ومفصلة بحسب الجنس تسمح بقياس الفجوة الرقمية بين النساء والرجال بدقة. ويصنف مؤشر التنمية الرقمية التابع لبرنامج الأمم المتحدة الإنمائي مستوى الاتصال في سوريا ضمن مرحلة تتسم بمحدودية الوصول، كما يُظهر ضعفاً في عدد من العوامل التي تتيح استخدام التكنولوجيا والاستفادة منها. وفي ظل هذا النقص في البيانات التفصيلية، يصعب تحديد حجم الفجوة بين النساء والرجال أو معرفة أي الفئات تواجه عوائق أكبر في الوصول إلى الخدمات الرقمية.

والغياب هنا ليس تفصيلاً إحصائياً. فإذا لم نعرف من يدخل إلى الخدمة الرقمية ومن يبقى خارجها، يصعب قياس ما إذا كان انتقال الخدمات إلى الإنترنت يقلل التفاوتات أم ينقلها ببساطة من طابور أمام مؤسسة إلى شاشة هاتف.

لهذا لا ينبغي أن يبدأ سؤال العدالة بعد اكتمال الرقمنة، بل أثناء تصميمها. كيف تُجمع البيانات؟ وهل تُفحص آثار الخدمة على مجموعات مختلفة من المستخدمين؟ وهل تستطيع النساء الوصول إليها بالشروط نفسها؟ وإذا استخدمت المؤسسات مستقبلاً أنظمة لتحليل البيانات أو دعم القرار، فهل يمكن معرفة لماذا اتُخذ قرار ما، ومن يستطيع الاعتراض عليه عندما يكون خاطئاً أو مجحفاً؟

فالتحول الرقمي لا يصبح عادلاً لمجرد أنه حديث. وإذا دخلت التفاوتات القديمة إلى طريقة جمع البيانات وتصميم الخدمات واتخاذ القرارات، فقد نجد أنفسنا نرقمن المشكلة بدلاً من حلها.

 

الحياد يحتاج إلى تصميم

لهذا وضعت اليونسكو المساواة وعدم التمييز والشفافية والمساءلة والرقابة البشرية ضمن المبادئ الأساسية في توصيتها بشأن أخلاقيات الذكاء الاصطناعي، التي اعتمدتها الدول الأعضاء عام 2021. وتدعو التوصية إلى تقييم آثار الأنظمة ومخاطرها طوال دورة حياتها، وإلى إبقاء المسؤولية النهائية بيد البشر، مع اهتمام خاص بتأثير الذكاء الاصطناعي في النساء والفتيات وفي الخدمات العامة والقرارات الحساسة.

فالتكنولوجيا لا تصبح محايدةً لمجرد أنها مصنوعة من أرقام، وإنما يحتاج الحياد إلى بيانات أفضل، واختبارات أوسع، وفرق أكثر تنوعاً، وشفافية تسمح بفهم القرارات، ومساءلة عندما ينتج النظام ضرراً أو تمييزاً.

لهذا لا تبدو القضية النسوية المقبلة في التكنولوجيا مجرد معركة لإدخال مزيد من النساء إلى قطاع التقنية، وإنما في أن يكنّ حاضرات عندما تُكتب قواعده، وتُحدد أولوياته، وتُجمع البيانات التي سيتعلم منها، وتُرسم الحدود بين ما يحق للخوارزمية أن تقرره وما يجب أن يبقى خاضعاً للمراجعة البشرية.

وهنا تأخذ “تاء التغيير” معناها الأبعد من مجرد تمثيل النساء داخل قطاع جديد. فالتغيير لا يعني تأنيث التكنولوجيا، بل المشاركة في تحديد شكل التكنولوجيا التي ستشارك بدورها في تحديد فرص النساء ووصولهن إلى العمل والخدمات والحقوق.

فالآلة تستطيع أن تتعلم بسرعة هائلة، لذلك قد لا يكون السؤال الأكثر إلحاحاً هو إلى أي مدى أصبح الذكاء الاصطناعي ذكياً، بل أي نسخة من عالمنا نسمح له بأن يتعلمها، وأي عالم نريد منه أن يساعدنا على بنائه؟

 

*كل ما ذكر في المقال يعبر عن رأي الكاتبة، ولا يعبر بالضرورة عن رأي الحركة السياسية النسوية السورية

 


المصادر:
1. الاتحاد الدولي للاتصالات ITU – الفجوة الجندرية في استخدام الإنترنت 2025
https://www.itu.int/itu-d/reports/statistics/2025/10/15/ff25-the-gender-digi tal-divide/

2. ITU DataHub – استخدام الإنترنت بحسب الجنس
https://datahub.itu.int/data/?d=Gender&e=3&i=11624&v=

3. الاتحاد الدولي للاتصالات ITU – ملكية الهاتف المحمول 2025
https://www.itu.int/itu-d/reports/statistics/2025/10/15/ff25-mobile-phone-ownership/

4. الاتحاد الدولي للاتصالات ITU – المساواة الجندرية في التحول الرقمي
https://www.itu.int/hub/2025/05/wtisd-25-gender-equality-in-digital-transformation/

5. اليونسكو – التحيزات والصور النمطية الجندرية في الذكاء الاصطناعي التوليدي
https://www.unesco.org/en/articles/generative-ai-unesco-study-reveals-alarming-evidence-regressive-gender-stereotypes

6. Nature – دراسة العمر والجندر في الصور والفيديوهات والنماذج اللغوية والسير الذاتية
https://www.nature.com/articles/s41586-025-09581-z

7. لجنة تكافؤ فرص العمل الأميركية EEOC – مثال Amazon والتحيز في أدوات التوظيف الآلي
https://www.eeoc.gov/meetings/meeting-january-31-2023-navigating-employment-discrimination-ai-and-automated-systems-new/friedman

8. اليونسكو – مشاركة النساء في الذكاء الاصطناعي والتكنولوجيا
https://www.unesco.org/en/artificial-intelligence/gender-equality

9. منظمة العمل الدولية ILO – الذكاء الاصطناعي التوليدي والوظائف 2025
https://www.ilo.org/publications/generative-ai-and-jobs-refined-global-index-occupational-exposure

10. منظمة العمل الدولية ILO – تحديث 2025 حول الذكاء الاصطناعي والوظائف
https://www.ilo.org/publications/generative-ai-and-jobs-2025-update

11. منظمة العمل الدولية ILO – التفاوت الجندري في التعرض للذكاء الاصطناعي التوليدي، 2026
https://www.ilo.org/resource/news/new-ilo-data-confirm-women-face-higher-workplace-risks-generative-ai-men

12. سانا – التحول الرقمي في سوريا والاستراتيجية حتى 2030
https://sana.sy/locals/2447047/

13. سانا – إطلاق تطبيق “الشؤون المدنية” والخدمات الرقمية
https://sana.sy/locals/2505527/

14. سانا – توسع خدمة الحجز الإلكتروني في دوائر الأحوال المدنية
https://sana.sy/locals/2551416/

15. برنامج الأمم المتحدة الإنمائي UNDP – Digital Development Compass: Syria
https://digitaldevelopmentcompass.undp.org/country/SYR

16. اليونسكو – توصية أخلاقيات الذكاء الاصطناعي
https://www.unesco.org/en/legal-affairs/recommendation-ethics-artificial-intelligence