البرمجيات «الذكيّة» يمكن أن تقعَ بالفخ وترى ما لاوجود له!

ترى البرمجيات بعض الصّور بشكلٍ مختلف عما يراه الإنسان، وهذا من عيوب الإنجازات الأخيرة في تعليم الآلة (machine learning).

مكنت غوغل وشركات أخرى تقنية تسمى التعلم العميق (deep learning) لتحقق بذلك خرق معرفي بمجال "فهم أجهزة الكمبيوتر لمحتوى الصّور".

يعملُ الآن الباحثون في جامعة كورنيل (Cornell) وجامعة وايومنغ (Wyoming) على جعل الصّور تخدع البرمجيات الّتي تستخدم هذه التّقنية وتجعلها ترى أشياء غير موجودة.

يمكنُ للباحثين خلق صور تظهر للإنسان كما لو أنّها نماذج هندسيّة بسيطة أو حتّى هراء ليس له معنى، ولكن البرمجيات السّابقة الذّكر تحدد فيها شيء ما، حافلة مدرسية مثلًا! وهذا مايدعى بالصّور الخادعة (trick images). تقدّمُ الصّور الخادعة رؤيةً جديدة في الاختلافات بين العقول البشرية من جهة والمحاكاة البسيطة للخلايا العصبيّة (الشّبكات العصبيّة الاصطناعيّة) من جهة أخرى، وذلك في كيفية معالجة الصّور بعملية التّعلّم العميق.

تم انشاء صور مثل هذه لخداع خوارزميات تعلم الالة. فالبرنامج سيرى في كل نموذج احد الارقام من ١ الى ٥

عادةً، يدرب الباحثون برمجياتِ التّعلم العميق أن تتعرف على شيء ما -وليكن الغيتار- من خلال إظهار ملايين من صور الغيتارات، في كل مرة نقول للكمبيوتر "هذا هو الغيتار". بعد فترة من الوقت، يمكن للبرنامج تحديد الغيتارات في صور لم يشاهدها أبداً من قبل، ويزود إجابته بنسبة الدّقة (إلى أي مدى هو واثق من إجابته).فمثلاً، صورة الغيتار لوحده على خلفية بيضاء سوف يتعرف عليها بسهولة وسيكون متأكداً من إجابته بنسبة دقّة عالية، أمّا عندما تكون الخلفية فوضوية من حيث الأشكال أو الألوان ستكون نسبة الدّقة أقل (“10 Breakthrough Technologies 2013: Deep Learning”) هنا .

هذا النّهج له تطبيقات قيمة مثل التّعرف على الوجوه، أو استخدام برامج الأمن أو لقطات كاميرا المرور، على سبيل المثال مراقبة حركة المرور في بقعة نشاط مشبوه.

على الرغم من استخدم توابع رياضية لإنشاء شبكة عصبية اصطناعية كل منها مفهوم لوحده، إلا أن كيفية عملها معاً على فك الصّور غير معروفة. "نحن نفهم أنهم يعملون، لكن ليس كيفية عملهم"، يقول "Jeff Clune"، وهو أستاذ مساعد في علوم الكمبيوتر في جامعة وايومنغ. وأضاف: "إنها يمكن أن تتعلم أن تفعل الأشياء التي لا يمكننا نحن أن نتعلّم حتى كيف نفعلها".

هذه الصور تبدو مجردة للبشر و لكن خوارزميات التعرف على الصور ستخدع بها وسوف ترى اشياء معينة في كل صورة.

لتسليط الضّوء على كيفية عمل هذه الشّبكات، استخدمت مجموعة Clune شبكة عصبية تسمى "AlexNet" حققت نتائجَ باهرة في التّعرف على الصّور.

قاموا بتجربتها بطريقة معاكسة، حيث طلبوا نسخة من البرنامج ليس لديها معرفة بالغيتارات وذلك لخلق صورة غيتار عن طريق توليد بكسلات عشوائية.

طلب الباحثون نسخة ثانية من البرنامج تم تدريبه للتّعرف على الغيتارات، لتقييم الصّور الّتي خلقها البرنامج الأوّل. واستخدمت نسبة الدّقّة الّتي قدمهاالبرنامج الثّاني لتحسين المحاولة القادمة لخلق صورة الغيتار من قبل البرنامج الأول. بعد آلاف المحاولات بين البرنامجين (الأوّل يخلق صورة والثّاني يتعرف عليها ويعطي نسبة دقّة، الأول يعيد خلق الصّورة ويحاول تحسينها باستخدام النّسبة، الثّاني يتعرف عليها ويعطي نسبة جديدة … إلخ )، تمكن البرنامج الأول من خلق صورة تعرف عليها البرنامج الثاني وقال بأنّه غيتار بنسبة دقة 99%. ومع ذلك بدت صورة «الغيتار» تلك كنموذج بسيط بالنّسبة لإنسان.

يقول Clune أنّ هذا يدل على أن البرنامج ليس مهتماً في تفكيك التّفاصيل الّتي تحاول أنت كإنسان تحديد ما قد تكون. بدلاً من ذلك، يبدو أن البرنامج يبحثُ عن مسافات محددة أو علاقات لونية بين البكسلات، أو اللون العام والتّلاحم، وهذا يقدم رؤيةً جديدة في كيفية عمل الشّبكات العصبيّة الاصطناعيّة، ولكن مازال هناك حاجة إلى مزيد من البحث.

يقول "Ryan Adams"، وهو أستاذ مساعد في علوم الكمبيوتر في جامعة هارفارد، "النتائج ليست مفاجئة تماماً. ربما تنبع حقيقة أن مناطق واسعة من الصّور الخادعة تبدو وكأنها بحار من طريقة الشبكات العصبية الاصطناعية بتغذية التّدريب على الصور. فالعنصر المهم عادة ليس سوى جزء صغير من الصّورة، والباقي غير مهم." يشير Adams أيضاً إلى أنّ أبحاث Clune تظهر أنه يوجد بعض الأشياء المشتركة بين البشر والشّبكات العصبيّة الاصطناعيّة، فالبشر لآلاف السنين ظنوا أنهم يرون أشياء من الحياة اليومية في نماذج عشوائية مثل النجوم.

يقول Clune أنه سيكون من الممكن استخدام تقنيته لخداع خوارزميات التّعرف على الصّورة عندما توضع للعمل في خدمات الويب وغيرها من المنتجات. ومع ذلك، فإنه سيكون من الصّعب جداً إنجازها. على سبيل المثال، غوغل تملك خوارزميات تصفي المواد الإباحية من نتائج خدمة البحث عن الصور و لخلق صور يمكنها خداع ذلك، فإن المخادع في حاجة لمعرفة تفاصيل مهمّة حول كيفية تصميم برنامج غوغل.

المصدر هنا