Rehab Saab نشر 1 مارس 2022 أرسل تقرير نشر 1 مارس 2022 (معدل) ما هو الفرق بين تنعيم L1 و L2، ومتى نستخدم كل منهما؟ What is the difference between L1 and L2 regularaization and when to use each one? تم التعديل في 1 مارس 2022 بواسطة Ali Haidar Ahmad ترجمة السؤال، وتوضيح العنوان 1 اقتباس
0 Ali Haidar Ahmad نشر 1 مارس 2022 أرسل تقرير نشر 1 مارس 2022 كلاهما يستخدم لمحاربة (أو معالجة) مشكلة الضبط الزائد Overfitting. L1 ( L1 lasso or norm): يقوم بمحاربة ال OF عن طريق تصغير قيم الأوزان المرتبطة بالميزات feature الأقل أهمية باتجاه ال 0، مما يجعل تأثير بعض ال feature مهمل لأنه يجعل قيم بعض الأوزان صفرية تماماً، ويمكن اعتبار ذلك نوعاً من أنواع اختيار الميزات feature selection، ويعتمد على إضافة حد جديد الى تابع الكلفة (يُسمى معاقبة penalty) يمثل مجموع القيم المطلقة للأوزان مضروباً بمعامل تحكم لمدا (زيادتها تؤدي إلى زيادة تأثير هذه العملية وتصغيرها يؤدي إلى العكس، وهي قيمة بين ال 0 وال 1 وتعتبر من المعاملات العليا HyperParameter التي يجب ضبطها). المعادلة المعبرة عنه: أي أنها تعتمد على إضافة مجموع القيم المطلقة للأوزان مضروباً بمعامل تحكم (لمدا)، إلى تابع الكلفة المستخدم. L2 (L2 ridge): يقوم بمحاربة ال OF عن طريق تصغير قيم الأوزان ولكن لا يجعلها صفرية، ويعتمد على إضافة حد جديد إلى تابع الكلفة يمثل مجموع مربعات الاوزان مضروبا بمعامل تحكم لمدا. المعادلة المعبرة عنه: أي أنها تعتمد على إضافة مجموع مربعات للأوزان مضروباً بمعامل تحكم (لمدا)، إلى تابع الكلفة المستخدم. هناك فروق أخرى يمكن استنتاجها من هذا الكلام ،مثل أن L1 أكثر متانة من L2 بسبب قدرته على التعامل مع القيم الشاذة، في حين أن L2 يعاني من مشكلة القيم الشاذة (أو المتطرفة). أيضاً L1 يقوم ضمنيّاً بعملية feature selection، وهذا قد يكون له أثر سلبي لبعض المهام، بينما L2 لا يقوم بذلك أبداً. يعتبر أيضاً L1 تمثيل متناثر Sparse لأن عدد الأصفار يزداد نتيجة تصفير بعض الأوزان على عكس L2 الذي يعتبر كثيف Dense. 1 اقتباس
السؤال
Rehab Saab
ما هو الفرق بين تنعيم L1 و L2، ومتى نستخدم كل منهما؟
تم التعديل في بواسطة Ali Haidar AhmadWhat is the difference between L1 and L2 regularaization and when to use each one?
ترجمة السؤال، وتوضيح العنوان
1 جواب على هذا السؤال
Recommended Posts
انضم إلى النقاش
يمكنك أن تنشر الآن وتسجل لاحقًا. إذا كان لديك حساب، فسجل الدخول الآن لتنشر باسم حسابك.