هو اي الRegularization ؟

ال Regularization هو مفهوم في مجال تعلم الآلة يستخدم لتقليل مشكلة overfitting، أي عندما يكون النموذج مدربا بشكل زائد على بيانات التدريب بحيث يصبح أداؤه ضعيفا على البيانات الجديدة، حيث عندما تقوم ببناء نموذج معقد للغاية مثل نموذج ذو عدد كبير من المعاملات أو الشبكات العصبية العميقة، قد يتعلم النموذج التعرف على الضوضاء الموجودة في بيانات التدريب بدلا من الأنماط العامة، و يأتي هنا دور  Regularization حيث يساعد في تقليل هذا التعقيد وضمان أن النموذج يركز على الأنماط المهمة فقط.

وعليكم السلام ورحمة الله،

الضبط أو ال Regularization  هو أحد الطرق المستخدمة لحل مشكلة فرط التخصيص أو ال Overfitting، بحيث يقوم بتقليل تأثير معاملات المتغيرات وهذا بدوره سوف يؤدي إلى تقليل نسبة تعقيد النموذج وبعبارة أخرى يمكن أن نصف عمل الضبط كالمقايضة بين الحصول على نموذج جيد مقابل تصغير قيم معاملات المتغيرات وهذه الصورة توضح الفرق:

كما أنه يوجد العديد من أنواع الضبط، ومن أشهرها Ridge وLasso، بالإضافة إلى نوع آخر يعتبر دمج بين هذين النوعين السابقين وهو Elastic-net، وسوف نرى كيف يعمل كل نوع على حدة يمكنك الاطلاع أكثر عليهما أكثر من خلال الإجابات التالية:

بتاريخ 10 دقائق مضت قال Ali Ahmed55:

السلام عليكم

هو اي الRegularization ؟

وعليكم السلام ورحمة الله وبركاته

Regularization: أسلوب يُستخدم في (Machine Learning) لتحسين أداء النماذج وتقليل احتمال حدوث الـمشاكل مثل: Overfitting.

الفكرة الأساسية:

عندما تُدرِّب نموذجاً على بيانات تدريبية، قد يتعلم النموذج أنماطاً حتى في الضوضاء الموجودة في البيانات، مما يؤدي إلى أداء ضعيف على البيانات الجديدة (بيانات الاختبار).

فنقوم باستخدام الـ Regularization، حيث يساعد على تبسيط النموذج وجعله أكثر عمومية.

و تستخدم عن طريق إضافة عقوبة (Penalty) إلى دالة الخسارة (Loss Function) في التدريب. هذه العقوبة تُثبِّط معاملات النموذج (weights) وتمنعها من أن تصبح كبيرة جداً.

هيا بنا ناخذ مثالا فى الحياة العملية:

تخيل أن لديك نموذجًا بسيطًا لتوقع أسعار المنازل بناءً على عدة مميزات مثل مساحة المنزل و عدد الادوار ولون الجدران و غيرها.

إذا استخدمت Regularization، سيحاول النموذج تجاهل المميزات غير المهمة (مثل لون الجدران) والتركيز على المميزات الأكثر تأثيرًا (مثل مساحة المنزل).

و فائدتها:

• يقلل من التعقيد (complexity) الزائد للنموذج.
• يحسن التعميم (Generalization) على بيانات جديدة.
• يعزز الأداء في حالة وجود ضوضاء أو مميزات غير مهمة.

بالتوفيق.

بتاريخ 9 دقائق مضت قال ياسر مسكين:

وعليكم السلام ورحمة الله،

الضبط أو ال Regularization  هو أحد الطرق المستخدمة لحل مشكلة فرط التخصيص أو ال Overfitting، بحيث يقوم بتقليل تأثير معاملات المتغيرات وهذا بدوره سوف يؤدي إلى تقليل نسبة تعقيد النموذج وبعبارة أخرى يمكن أن نصف عمل الضبط كالمقايضة بين الحصول على نموذج جيد مقابل تصغير قيم معاملات المتغيرات وهذه الصورة توضح الفرق:

كما أنه يوجد العديد من أنواع الضبط، ومن أشهرها Ridge وLasso، بالإضافة إلى نوع آخر يعتبر دمج بين هذين النوعين السابقين وهو Elastic-net، وسوف نرى كيف يعمل كل نوع على حدة يمكنك الاطلاع أكثر عليهما أكثر من خلال الإجابات التالية:

يعني انا ممكن ان استخدم الLasso Regression او Ridge Regression او حتي Elastic-net regression مع التعلم العميق والا بس خورزميات التعلم الاله التقلدي ؟

بس مش كده ممكن يحصل تحيز اثناء التدريب النموذج ؟