الشبكات العصبونية المتكررة

الشبكة العصبية المتكررة (RNN) هي نوع من الشبكات العصبية حيث يتم تغذية الإخراج من الخطوة السابقة كمدخل إلى الخطوة الحالية. في الشبكات العصبية التقليدية ، تكون جميع المدخلات والمخرجات مستقلة عن بعضها البعض ، ولكن في حالات مثل عندما يكون مطلوبًا للتنبؤ بالكلمة التالية من الجملة ، تكون الكلمات السابقة مطلوبة وبالتالي هناك حاجة لتذكر الكلمات السابقة. وهكذا ظهرت RNN إلى حيز الوجود ، والتي حلت هذه المشكلة بمساعدة الطبقة المخفية. الميزة الرئيسية والأكثر أهمية لـ RNN هي Hidden state ، والتي تتذكر بعض المعلومات حول تسلسل البيانات.

تمتلك RNN "ذاكرة" تتذكر جميع المعلومات حول ما تم حسابه. يستخدم نفس الاوزان لكل إدخال لأنه يؤدي نفس المهمة على جميع المدخلات أو الطبقات المخفية لإنتاج المخرجات. هذا يقلل من تعقيد الاوزان وحجمها ، على عكس الشبكات العصبية الأخرى.

تدريب RNN

• يتم توفير خطوة زمنية واحدة للإدخال للشبكة.
• ثم احسب حالتها الحالية باستخدام مجموعة من المدخلات الحالية والحالة السابقة.
• يتم ادخال الحالة الجديدة كمدخل للحالة التالية.
• بمجرد اكتمال جميع الخطوات الزمنية ، يتم استخدام الحالة الحالية النهائية لحساب الإخراج.
• ثم تتم مقارنة المخرجات بالمخرجات الفعلية ، أي الناتج المستهدف ويتم حساب الخطأ.
• ثم يتم إعادة نشر الخطأ إلى الشبكة لتحديث الأوزان وبالتالي يتم تدريب الشبكة (RNN).

مزايا الشبكة العصبية المتكررة RNN

• تتذكر RNN كل المعلومات طول فترة التدريب وهذا مفيد في توقع السلاسل الزمنية فقط بسبب ميزة تذكر المدخلات السابقة أيضًا. وهذا ما يسمى بالذاكرة طويلة المدى. لذلك تستخدم في تحليل اللغات الطبيعية.

عيوب الشبكة العصبية المتكررة RNN

• تدريب RNN صعبة للغاية وتاخذ وقتا طويلا.
• لا يمكن معالجة التسلسلات الطويلة جدًا إذا كنت تستخدم tanh أو relu كدالة تنشيط.