في هذا الشيفرة البرمجية، يظهر أنك تستخدم خوارزمية الانحدار العشوائي المتسلسل (Stochastic Gradient Descent – SGD) كمحسن للنموذج الخاص بك، وقد قمت بتحديد معدل تعلم بقيمة 0.01 وتراجع بنسبة 0.1. ومع ذلك، يظهر أن معدل التعلم لا يتغير بالفعل بين الحلقات.
هنا هناك احتمالات عدة لهذا السلوك. قد يكون هناك خطأ في تنفيذ الرمز أو قد يكون هناك تدخل آخر يؤثر على تغيير معدل التعلم.
أولاً، يمكن أن يكون هناك خطأ في تعريفك لصف الطباعة الخاص بك (LearningRatePrinter). تأكد من أن دالة init تتم بشكل صحيح باستخدام __init__، وتأكد أيضاً من أن on_epoch_begin تقوم بطباعة القيمة الصحيحة لمعدل التعلم. يمكنك أيضاً تجربة طباعة المزيد من المعلومات داخل on_epoch_begin لفحص قيم أخرى تتغير أم لا.
ثانياً، تحقق من نسخة مكتبة Keras التي تستخدمها، قد تكون هناك مشكلة مع إصدار معين.
ثالثاً، يمكنك محاولة استخدام معدل تعلم ثابت بدلاً من التراجع للتحقق مما إذا كان هناك تأثير. يمكنك تعيين decay إلى صفر ورؤية ما إذا كانت قيمة معدل التعلم تتغير.
رابعًا، تحقق من البيانات الخاصة بالتدريب والاختبار وتأكد من أنها تحتوي على البيانات الصحيحة وأن النموذج يتعلم بشكل جيد.
أخيرًا، قم بتحليل الرسائل التي تظهر أثناء التدريب، فقد يكون هناك تحذير أو خطأ يظهر يساعدك في تحديد المشكلة.
المزيد من المعلومات
في هذا الشيفرة البرمجية، يظهر أنك تقوم ببناء نموذج باستخدام مكتبة Keras باستخدام TensorFlow كمحرك خلفي. النموذج الذي قمت ببنائه هو نموذج شبكة عصبية متسلسل (Sequential) يتألف من طبقة Flatten كطبقة إدخال، تليها طبقة Dense بوحدات 200 ووظيفة تنشيط tanh، تليها طبقة Dropout بنسبة 0.5 لتجنب الفيضان، وبعد ذلك طبقة Dense أخرى بوحدات 20 ووظيفة تنشيط tanh، وأخيرًا طبقة Dense خرج بوحدات 10 ووظيفة تنشيط softmax لمشكلة تصنيف الفئات.
ثم تقوم بتحديد خوارزمية الانحدار العشوائي المتسلسل (SGD) كمحسن للنموذج، حيث قمت بتعيين معدل التعلم بقيمة 0.01 وتراجع بنسبة 0.1، وزخم بقيمة 0.9، واستخدمت خاصية Nesterov لتحسين الأداء. يتم تجميع النموذج باستخدام خسارة التصنيف الصليبي الفئوي (Categorical Crossentropy) كدالة خسارة.
على الرغم من ذلك، يظهر أن معدل التعلم لا يتغير بين الحلقات، وهو أمر غير متوقع مع وجود معدل تراجع محدد. يتعين عليك التحقق من عدة جوانب لتحديد السبب، منها تحليل صحة تنفيذ صف الطباعة الخاص بك، والتأكد من استخدام إصدار صحيح من مكتبة Keras و TensorFlow، ومتابعة الرسائل والتحذيرات أثناء التدريب. كما يمكن تجربة استخدام معدل تعلم ثابت لتحديد ما إذا كان هناك تأثير من تراجع معدل التعلم أم لا.
