اي هي مكتبة المحولات Transformers ؟

و عليكم السلام،

مكتبة المحولات هي مكتبة متخصصة في التعامل مع المحولات كما هو مذكور في الاسم الخاص بها، و هي تتبع ل Hugging Face التي توفر بشكل عام نماذج اللغات الكبيرة LLMs، مثل GPT و غيرها.

بشكل عام المحولات هي عبارة عن نماذج متقدمة و قد استعمالها في البداية فقط في مجال اللغات الطبيعية و لكن لاحقًا تم تطوير نسخة منها لمجال الرؤية الحاسوبية.

تعتمد هذه النماذج بشكل كبير على ما يدعى ب "تقنية الانتباه" Attention و هي تشبه في مخططها الشبكة العصبية البسيطة الخطية و لكن تختلف عنها في أن الأوزان الخاصة بها ديناميكية تتغير بتغير الدخل. و لذلك جاء اسمها كذلك، فهي تقوم بالتركيز على جزء من الدخل أكثر من غيره.

بالطبع هذا شرح بسيط عنها، ستتعلم هذه التقنية في مراحل متقدمة، فهي تحتاج إلى معرفة بالكثير من أساسيات التعلم العميق حتى يمكن فهمها، خاصة أن النسخة التي شرحتها هي النسخة الأساسية فقط، و قد تم تطويرها و إضافة الكثير من الأمور الأخرى إليها في السنوات القليلة السابقة.

تحياتي.

بتاريخ 2 دقائق مضت قال Kais Hasan:

و عليكم السلام،

مكتبة المحولات هي مكتبة متخصصة في التعامل مع المحولات كما هو مذكور في الاسم الخاص بها، و هي تتبع ل Hugging Face التي توفر بشكل عام نماذج اللغات الكبيرة LLMs، مثل GPT و غيرها.

بشكل عام المحولات هي عبارة عن نماذج متقدمة و قد استعمالها في البداية فقط في مجال اللغات الطبيعية و لكن لاحقًا تم تطوير نسخة منها لمجال الرؤية الحاسوبية.

تعتمد هذه النماذج بشكل كبير على ما يدعى ب "تقنية الانتباه" Attention و هي تشبه في مخططها الشبكة العصبية البسيطة الخطية و لكن تختلف عنها في أن الأوزان الخاصة بها ديناميكية تتغير بتغير الدخل. و لذلك جاء اسمها كذلك، فهي تقوم بالتركيز على جزء من الدخل أكثر من غيره.

بالطبع هذا شرح بسيط عنها، ستتعلم هذه التقنية في مراحل متقدمة، فهي تحتاج إلى معرفة بالكثير من أساسيات التعلم العميق حتى يمكن فهمها، خاصة أن النسخة التي شرحتها هي النسخة الأساسية فقط، و قد تم تطويرها و إضافة الكثير من الأمور الأخرى إليها في السنوات القليلة السابقة.

تحياتي.

اتمام شكراا لحضراك جدا