عن دراسة الLLMs

اعتقد أنك تقصد المسار تطبيقات عملية على النماذج النصية الكبيرة LLMs وبالفعل في هذا المسار يتم التعرف على النماذج الكبيرة فقط بدون شرح للأساسيات إطلاقاً ولذلك الأفضل هو عدم التوقف الآن لدراسة الرياضيات أو أساسيات بالذكاء الإصطناعي بشكل منفصل، بل  المتابعة بالدورة حيث بالممسارات تعلم الآلة (Machine Learning) والتعلم العميق (Deep Learning) سيتم شرح الأساسيات التي تتسائل عنها حالياً بالتفصيل.

أخيراً يمكنك في أي وقت السؤال عن أي جزء غير مفهوم بالنسبة لك وسيتم شرحه جيداً

جزء كبير جداً من الغموض سيزول، ولكن لن تصل إلى الفهم الرياضي البحت إلا إذا عالجت الأساسيات، أنت تستخدم مكتبات HuggingFace و Unsloth التي تخفي التعقيد الرياضي خلف أوامر برمجية بسيطة.

عندما تطبق LoRA، أنت في الحقيقة تقوم بعملية تحليل مصفوفات Matrix Decomposition لتقليل عدد المعاملات القابلة للتدريب، وعندما تقوم بعمل Fine-tuning، الخوارزمية في الخلفية تستخدم التفاضل  وتحديداً قاعدة السلسلة Chain Rule لتحديث الأوزان، وعدم رؤيتك لهذه المعادلات يجعلك تشعر أن هناك فجوة في فهمك.

ستتعلم خلال الدورة كيف تعمل الخوارزميات مثل الانحدار الخطي وكيف يتم تحسينها بواسطة Gradient Descent، ووفي وحدة الـ DL ستتعلم الشبكات العصبية، وابحث أيضاً عن الانتشار الأمامي Forward Propagation والخلفي Backpropagation.

لا تدرس الجبر الخطي كاملاً، بل ابحث وتعلم المفاهيم المحددة التي تسمعها في وحدات الـ DL والـ ML، مثلاً:

• ما هو الـ Dot Product وكيف يعمل ضرب المصفوفات؟
• ما هو الـ Gradient Descent بصرياً ورياضياً بسيطة؟
• ما هو الـ Jacobian و الـ Chain Rule ولماذا نستخدمهم في التحديث (Backpropagation)؟

أنصحك بقضاء يومين أو ثلاثة أيام فقط في مشاهدة سلسلة فيديوهات قصيرة على يوتيوب لقناة 3Blue1Brown، سلسلة Essence of Linear Algebra ستعطيك نظرة جيدة حول ماذا يحدث للمصفوفات وكيف تتحكم في البيانات.

سلسلة Essence of Calculus ستستوعب منها كيف يعمل التفاضل وكيف نستخدمه لإيجاد أدنى نقطة Loss Minimization، وهي مصممة خصيصاً لمن يريد الفهم العميق دون تعقيدات الرياضيات الأكاديمية.

نعم، الغموض سيبقى في جزء منه إن اكتفيت بالانتظار، لكنه لن يزول بدراسة الرياضيات كاملة الآن أيضا والحل الأنسب هو الجمع بين الأمرين أي أن تتابع الدورة، وفي الوقت نفسه  أن تدرس من الرياضيات ما تحتاجه فقط لفهم ما تتساءل عنه.

أنصحك أن لا تبدأ بالجبر الخطي والتفاضل والتكامل كمقررات كاملة، فهذا مسار طويل قد يشتتك، بل ركّز على أربعة مفاهيم كضرب المصفوفات والمشتقة والمشتقات الجزئية، وقاعدة السلسلة (Chain Rule)، والانحدار التدريجي (Gradient Descent). هذه هي أساس فهم التدريب والانتشار العكسي (Backpropagation). أما فهم LoRA تحديدًا فيكفيك له مفهوم رتبة المصفوفة (Rank) وتحليلها إلى مصفوفتين أصغر، وهذا يُتعلم في أيام قليلة. وعندما تصل إلى وحدتي ML وDeep Learning ستجد الأساسيات مشروحة، فيكون ما درسته مسبقًا تمهيدًا يجعل الشرح أوضح أكثر.