استفسار عن طريقة تدريب النموذج على بيانات من عندي

وعليكم السلام ورحمة الله ،

بالنسبة لسؤالك حول إنشاء نموذج لتصفية الرسائل وتلخيصها فهناك عدة خطوات يمكنك اتباعها:

• أولاً قم بالبحث عن نموذج قريب من النموذج المطلوب ومن ثم ننتقل لاعادة تدريبه ، هذه النماذج ستساعدك في الأمر :
  • BERT
  • GPT
  • T5
  • Pegasus
• بالنسبة لكيف يمكنك تدريب النموذج :
  • قم بجمع البيانات وتحضيرها وتأكد من أن بياناتك تحتوي على النصوص الأصلية والنصوص المفلترة أو الملخصة.
  • بعدها قم بإعادة تدريب النموذج الذي اخترته Fine-Tuning ( ويمكنك استخدام مكتبات مثل Hugging Face Transformers التي تسهل التعامل مع النماذج)
  • بعدها يمكنك اختبار النموذج والتأكد من عمله ، ويمكنك أيضاً استخدام مقاييس تقييم مثل ROUGE أو BLEU لقياس جودة التلخيص.

بالنسبة لسؤالك حول كفاية البيانات: (هل 300 صف كافية؟)

إذا كنت تقوم بإعادة تدريب نموذج مسبق (Fine-Tuning)، فإن 300 صف قد تكون كافية كبداية، خصوصاً إذا كانت بياناتك منظمة ومناسبة للمهمة. النماذج مثل BERT وGPT غالباً ما تعمل بشكل جيد حتى مع مجموعات بيانات صغيرة.

أما إذا كنت تنوي إنشاء نموذج من الصفر ، فهذه الكمية غير كافية ، بل ستحتاج إلى إلى آلاف أو ملايين من البيانات تقريباً.