خوارزميات ذكية تجهل العربية.. وثائق تكشف انحيازات فيسبوك

أسماء مندور

كشفت وكالة أسوشيتد برس الأمريكية أن الثغرات والانحيازات اللغوية لـ فيسبوك أدت إلى انقسامات طائفية وعرقية وميل لصالح الحكومات ضد الأقليات في الكثير من البلدان، لا سيما في كثير من أنحاء العالم العربي، حيث تسبب عدم فهم خوارزميات الذكاء الاصطناعي للغة العربية في الكثير من المعلومات الكاذبة ورد فعل إعلامي عنيف، وفقًا لوثائق حصلت عليها الوكالة.

بداية الأزمة

مع احتدام حرب غزة وتصاعد التوترات في جميع أنحاء الشرق الأوسط في مايو الماضي، حظر إنستجرام لفترة وجيزة هاشتاج الأقصى، في إشارة إلى المسجد الأقصى في البلدة القديمة بالقدس، وهو نقطة اشتعال الصراع.

نرشح لك: بريطانيا تشترط مراجعة ملفات مواقع التواصل الاجتماعي لمنح تراخيص الأسلحة

واعتذر موقع فيسبوك، الذي يملك إنستجرام، في وقت لاحق، موضحًا أن خوارزمياته أخطأت في أن ثالث أقدس موقع في الإسلام هو جماعة كتائب شهداء الأقصى، وهي فرع من حركة فتح.

بالنسبة للعديد من المستخدمين الناطقين بالعربية، كان هذا مجرد أحدث مثال قوي على كيفية قيام فيسبوك بتكميم الخطاب السياسي في المنطقة، حيث تعد اللغة العربية من أكثر اللغات شيوعًا على منصات فيسبوك، وتصدر الشركة اعتذارات عامة متكررة بعد عمليات إزالة محتوى فاشلة مماثلة.

في بلدان مثل أفغانستان وميانمار، على سبيل المثال، سمحت هذه الثغرات للغة التحريضية بالازدهار على المنصة، بينما في سوريا والأراضي الفلسطينية، يقوم فيسبوك بقمع الكلام العادي، وفرض حظر شامل على الكلمات الشائعة.

مشاكل أكثر منهجية

الآن، تُظهر وثائق الشركة الداخلية من فرانسيس هوجن، مديرة الإنتاج السابقة في فيسبوك، أن المشاكل أكثر منهجية بكثير من مجرد أخطاء بسيطة قليلة، وأن فيسبوك قد فهم عمق هذه الإخفاقات لسنوات بينما لم يفعل شيئًا يُذكر حيال ذلك.

مثل هذه الأخطاء لا تقتصر على اللغة العربية، حيث كشفت الملفات أنه في بعض المناطق الأكثر تقلبًا في العالم، ينتشر المحتوى الإرهابي وخطاب الكراهية لأن الشركة لا تزال تفتقر إلى الوسطاء الذين يتحدثون اللغات المحلية ويفهمون السياقات الثقافية، وفشلت منصاتها في تطوير حلول ذكاء اصطناعي يمكنها اكتشاف المحتوى الضار بلغات مختلفة.

تحدي اللغة العربية لـ فيسبوك

بحسب ما ورد في وثائق أسوشيتد برس، تشكل اللغة العربية تحديات خاصة لأنظمة فيسبوك الآلية والمشرفين البشريين، حيث يكافح كل منهم من أجل فهم اللهجات المنطوقة الفريدة لكل بلد ومنطقة، وصبغة مفرداتها بتأثيرات تاريخية وسياقات ثقافية مختلفة.

تشمل اللغة العربية العامية المغربية، على سبيل المثال، الكلمات الفرنسية والبربرية، ويتم التحدث بها بحروف متحركة قصيرة، بينما تشمل العربية المصرية، من ناحية أخرى، بعض التركية من الفتح العثماني، ولهجات أخرى أقرب إلى الرواية “الرسمية” الموجودة في القرآن الكريم، وفي بعض الحالات، لا يمكن فهم هذه اللهجات بشكل متبادل، ولا توجد طريقة معيارية لكتابة العامية العربية.

في هذا الصدد، طور موقع فيسبوك لأول مرة عددًا هائلاً من المتابعين في الشرق الأوسط خلال انتفاضات الربيع العربي عام 2011، ونسب المستخدمون للمنصة فرصة نادرة للتعبير الحر ومصدرًا مهمًا للأخبار في منطقة تمارس فيها الحكومات ضوابط صارمة على كليهما، لكن هذه السمعة تغيرت في السنوات الأخيرة.

وقد تم حذف حسابات العشرات من الصحفيين والنشطاء الفلسطينيين، واختفت أرشيفات الحرب الأهلية السورية، وأصبحت المفردات الهائلة للكلمات اليومية محظورة على المتحدثين باللغة العربية، وهي ثالث أكثر اللغات شيوعًا على فيسبوك مع ملايين المستخدمين حول العالم.

فهم تركيبة اللغة

بحسب ما ورد، تكمن المشكلة الأساسية في أن المنصة لم تُبنى أبدًا بقصد أن تتوسط يومًا ما في الخطاب السياسي لكل شخص في العالم، ولكن بالنسبة لمقدار الأهمية السياسية والموارد التي يمتلكها فيسبوك، فإن الاعتدال هو مشروع يفتقر إلى الموارد بشكل محير.

في سياق متصل، قال متحدث باسم فيسبوك إنه على مدار العامين الماضيين، استثمرت الشركة في تعيين المزيد من الموظفين ذوي الخبرة المحلية والموضوعات لتعزيز قدرتها على المراجعة في جميع أنحاء العالم، مضيفًا أنه عندما يتعلق الأمر بتعديل المحتوى العربي، فإنه لا يزال أمامهم المزيد من العمل للقيام به، مؤكدًا أن الشركة تقوم بإجراء بحث لفهم هذا التعقيد بشكل أفضل وتحديد كيف يمكن تحسينه”.

رداً على استفسار من وكالة أسوشيتد برس، قال فيسبوك إنه يستشير خبراء مستقلين لتطوير سياسات الاعتدال الخاصة به ويبذل كل الجهد لضمان أنهم محايدون للدين أو المنطقة أو النظرة السياسية أو الأيديولوجية.