Facebook تحارب المعلومات المضللة عن (COVID-19) باستخدام الذكاء الصنعي
المعلوماتية >>>> الذكاء الصنعي
Image: SYR-RES
لذلك، تبرز أهمية التصدي لهذه المعلومات والتي قد تُشكل خطراً كبيراً على حياة الكثيرين حول العالم، وبما أن وسائل التواصل الاجتماعي هي إحدى الوسائل التي يستخدمها مروجو الإشاعات والمعلومات الزائفة فقد أصبح لزاماً على هذه المواقع إيجاد طرائق لمنع انتشار المعلومات المضللة عبر منصاتها.
في ظل انتشار جائحة Covid-19، نُشِرَ خمسون مليون منشور مليء بالأكاذيب عن الفيروس التاجي على Facebook في شهر نيسان وحده، وأُزيل أكثر من 2.5 مليون محتوى إعلاني لبيع الأقنعة ومعقمات اليدين ومناديل تعقيم الأسطح ومجموعات اختبار Covid-19 (1,2).
ولكن هذه ليست سوى أجزاء من المحتوى المتعلق بالجائحة* التي حُدِّدت على أنها إشكالية وأُبلغ عنها أو أُزيلت بواسطة Facebook خلال هذه الفترة، مثل نظريات المؤامرة عن أصل الفيروس والأخبار المزيفة عن العلاج. لكن تدفق المعلومات الخاطئة أكبر بالتأكيد؛ إذ لا يمكن اكتشاف كل منشور مزيف أو استغلالي بسهولة (1).
استجابةً لهذا الوضع؛ عملت Facebook بالاعتماد على أكثر من 60 منظمة للتحقق من الحقائق Fact-Checking Organization حول العالم لمراجعة المحتوى بأكثر من 50 لغة. ولكن التدخل البشري بطيء ولا يكفي لحجم المعلومات الهائل الذي يُنشَر (2).
هنا يبرز دور الذكاء الصنعي بوصفه أداة حاسمة لمواجهة هذه التحديات ومنع انتشار المعلومات الخاطئة، لأنها تتيح لـ Facebook الاستفادة من عمل مدققي الحقائق المستقلين الذين يراجعون المحتوى ويوسعون نطاقه.
حظر المحتوى المضلل تلقائيًّا وفوريًّا
منذ بداية الوباء، استخدمت Facebook أنظمة ذكاء صنعي موجودة سابقًا وابتكرت أنظمة جديدة لحذف المواد ذات الصلة بـ COVID-19 التي أبلغت عنها إحدى منظمات التحقق من الحقائق على أنها معلومات خاطئة ثم اكتشاف النسخ من هذه المعلومة عندما يحاول شخص ما مشاركتها (1).
عند تصنيف جزء من المحتوى على أنه كاذب من قبل شركاء Facebook المستقلين في التحقق من الحقائق، يخفض Facebook انتشار هذه المعلومة وعرض لافتات تحذيرية على المنشور. تعد لافتات التحذير أداة فعالة للتعامل مع المعلومات الخاطئة. عندما تُعرَض ملصقات تحذير من أن جزءًا من المحتوى يحتوي على معلومات خاطئة، فإن 95٪ من المستخدمين لم يستمروا في مشاهدة هذا المحتوى (1).
يواجه استخدام الذكاء الصنعي بدوره عدة صعوبات، فمثلاً يمكن أن تظهر أجزاء المعلومات الخاطئة نفسها بأشكال مختلفة قليلاً، مثل صورة معدلة ببضع وحدات بكسل أو تطبيق فلتر عليها. وقد تكون هذه الاختلافات غير مقصودة أو نتيجة محاولة متعمدة لشخص لتجنب كشف التزييف. علاوة على ذلك، من المهم أيضًا تجنب تصنيف المحتوى العادي على أنه معلومات خاطئة، لأنه قد يمنع الأشخاص من القدرة على التعبير عن أنفسهم (1).
Image: https://ai.facebook.com/blog/using-ai-to-detect-covid-19-misinformation-and-exploitative-content/
Image: https://ai.facebook.com/blog/using-ai-to-detect-covid-19-misinformation-and-exploitative-content/
(تُظهر هذه الأمثلة نسخًا شبه دقيقة لصور من المعلومات المضللة، و الصورة 2 عبارة عن لقطة شاشة للصورة 1) (1)
يمكن لأي شخص أن يقول بسهولة أن هذه الصور متطابقة تقريبًا. في الواقع، قد يكون من الصعب رؤية الاختلافات. يمكن لنظم الرؤية الحاسوبية Computer Vision أيضًا أن تكافح للكشف عن هذه التطابقات على نحو مؤكد؛ لأنه في حين أن المحتوى متطابق، فإن البكسلات ليست كذلك. من المهم للغاية أن تكون أنظمة كشف التشابه دقيقة قدر الإمكان، لأن الخطأ يمكن أن يعني اتخاذ إجراء بشأن المحتوى الذي لا ينتهك سياسات Facebook بالفعل. يوضح المثال أدناه إصدارًا مشابهًا جدًا لا يجب تصنيفه على أنه معلومات مضللة (1).
Image: https://ai.facebook.com/blog/using-ai-to-detect-covid-19-misinformation-and-exploitative-content/
(هذه الصورة تشبه إلى حد كبير تلك الموجودة أعلاه، ولكنها لا تحتوي على معلومات خاطئة حول الفيروس) (1)
من ضمن الإجراءات المتبعة هي عملية كشف المحتوى شبه المتطابق للمعلومة الخاطئة أو الكاذبة، ولاكتشاف هذا التطابق يُستخدم الذكاء الصنعي وهذا ما يسمح لشركاء التحقق من الحقائق لدى Facebook من التركيز على اكتشاف حالات جديدة من المعلومات الخاطئة بدلاً من الاختلافات شبه المتطابقة للمحتوى الذي شاهدوه بالفعل (1).
لهذا الغرض أنشأت Facebook نموذج ذكاء صنعي يدعى SimSearchNet، وهو نموذج يعتمد على شبكة عصبونية تلافيفية Convolutional Neural Network مصممة خاصةً للكشف عن التكرارات شبه الدقيقة في المحتوى، وهو يساعد على إجراء هذا العمل على نحو فعال أكثر. بمجرد أن يحدد مدققو الحقائق صورة على أنها مضللة يكشف SimSearchNet -بوصفه جزءًا من نظام الفهرسة والمطابقة الخاص بالصور لدى Facebook- عن كل الصور المشابهة لإظهار اللافتات التحذيرية عليها (1).
Image: https://ai.facebook.com/blog/using-ai-to-detect-covid-19-misinformation-and-exploitative-content/
(دورة حياة الصور أثناء مطابقتها مع قاعدة بيانات المعلومات الخاطئة المعتمدة) (1)
يعمل هذا النظام على كل صورة تُحمَّل على Instagram وFacebook. وهذا يمثل مليارات الصور التي تُفحَص يوميًا، باستعمال قواعد البيانات التي أُعِدَت لاكتشاف المعلومات الخاطئة COVID-19(1).
للأسف، لا يقتصر التضليل على المعلومات الكاذبة فقط على وسائل التواصل الاجتماعي بل يتعداه لاستغلال هذه الجائحة لأغراض تجارية وتسمح منصة Facebook عن طريق ميزة التسوق بإظهار المنتجات للبيع ولكن ليس مع منتجات COVID-19(1).
إيقاف بيع منتجات COVID-19 حتى عندما يحاول الناس تجنب الكشف
تعمل Facebook على حماية الناس من أولئك الذين يحاولون استغلال هذه الحالة الطارئة لتحقيق مكاسب مالية. نشرت Facebook نظاما يستخدم الميزات على مستوى الصورة للعثور على الإعلانات المعدلة للمساعدة على اكتشاف إعلانات المنتجات وإزالتها مثل أقنعة الوجه الطبية، ومعقم اليدين، ومناديل تعقيم الأسطح، ومجموعات اختبار COVID-19. تساعد هذه الطريقة على منع المعلنين الذين يحاولون التحايل على المنصة على نحو استباقي من خلال تجاوز نظام الفحص القائم على الذكاء الصنعي (1).
يعمل هذا النظام عن طريق استعمال قاعدة بيانات على مستوى الكائن (object-level) مستخرجة من الإعلانات ذات الصلة بـ COVID-19 التي تنتهك سياسات Facebook، ثم استخدام المطابقة للتحقق من الصور في الإعلانات الجديدة. يتيح هذا الحل اكتشاف الإعلانات التي يُتلاعب بها على نحو أفضل، مما يجعلها أكثر قوة في كشف أساليب التعديل الشائعة مثل الاقتصاص Cropping، والتدوير Rotation، والإغلاق Occlusion (إخفاء غرض جزئيًا خلف غرض آخر)، وتعديل الضوضاء Noise. يعمل النظام القائم على كشف التكرار تلقائيا على رفض الإعلانات حاليًا (1).
ظهر لـ Facebook تحدٍ جديد وهو عندما يبيع الأشخاص الأشياء من خلال ميزة السوق Marketplace على Facebook، ويستخدمون الصور بخلفيات، وزوايا الكاميرا وتفاصيل مختلفة تمامًا. ويجعل هذا من الصعب على نماذج الرؤية الحاسوبية التعرف على العناصر من الصور الموجودة في كتالوج الصور التي التقطها مصور محترف باستخدام الخلفيات العادية، على سبيل المثال.
ولمثل هذه الحالة استثمر Facebook على مر السنين في بناء منصة مبنية باستخدام PyTorch، التي تسمح بتدريب المصنفات/الكاشفات ونشرها (Classifiers/Detectors) بسرعة عند الطلب لأصناف جديدة من الصور ومقاطع الفيديو، وتعزز هذه المنصة عمل الذكاء الصنعي في Facebook AI للعمل على تصنيف مليارات الصور ذات الرموز الدلالية (Hashtagged). بعد أن بدأت أزمة COVID-19، استخدم Facebook هذه المنصة لتدريب المصنفات ونشرها لأقنعة الوجه الطبية، ومعقم اليدين، ومناديل تعقيم الأسطح.
إذ :
بعد التدريب والتقييم في وضع عدم الاتصال، يعمَّم هذا النظام على الصور في ميزة Marketplace وهذه النماذج تعمل الآن على مستوى العالم (1).
وبعد هذه التحديثات على أنظمة الذكاء الصنعي صرحت Facebook أن 88.8٪ من كل خطاب الكراهية الذي أزالته في الربع الأول لعام 2020 اكتشفه الذكاء الصنعي، بارتفاع قدره 80.2٪ عن الربع السابق (3).
ختامًا، يرى العاملون في Facebook أنه يجب بذل المزيد من الجهد لمحاربة المعلومات الخاطئة ولهذا الغرض أجرت Facebook استثمارات طويلة الأمد لتطوير تقنيات التعلم العميق وأنظمة الذكاء الصنعي، ويشير العاملون في Facebook إلى أهمية البحث والتطوير: "لقد رأينا كيف أن الأبحاث المتطورة منذ بضع سنوات تساعدنا بالفعل على تحقيق أداء أفضل في الإنتاج اليوم. نحن واثقون من أنه يمكننا اعتماد تقنيات وأدوات بحثية جديدة لحماية أفضل للأشخاص على منصتنا" (1).
هامش:
*المنشورات التي يتم تحديدها من قبل أصحابها على أنها متعلقة بجائحة Covid-19.
Image: Facebook
المصادر:
Perry T. How Facebook Is Using AI to Fight COVID-19 Misinformation [Internet]. IEEE Spectrum: Technology, Engineering, and Science News. 2020 [cited 17 July 2020]. Available from: هنا
6. Hao K. Facebook’s AI is still largely baffled by covid misinformation [Internet]. MIT Technology Review. 2020 [cited 17 July 2020]. Available from: هنا
