فهم عمارة المحولات بلغة بسيطة

لقد أحدثت المحولات ثورة في مجال الذكاء الاصطناعي، وخاصة في معالجة اللغة الطبيعية. إذا كنت قد تساءلت يومًا عن كيفية تمكن نماذج الذكاء الاصطناعي مثل ChatGPT من إنتاج نصوص متماسكة وذات صلة بالسياق، فإن فهم عمارة المحولات هو المفتاح. يهدف هذا المقال إلى تبسيط تعقيدات المحولات إلى تفسيرات بسيطة وسهلة الفهم.

ما هي المحولات؟

في مجال الذكاء الاصطناعي، يُعتبر المحول نوعًا من عمارة الشبكات العصبية التي تم تقديمها في الورقة "Attention is All You Need" من قبل فاسواني وآخرين في عام 2017. على عكس النماذج السابقة التي كانت تعالج البيانات بشكل تسلسلي، تستخدم المحولات آلية تسمى الانتباه الذاتي، مما يمكنها من وزن أهمية الكلمات المختلفة في الجملة، بغض النظر عن مواقعها. وهذا يسمح بفهم أفضل للسياق والعلاقات داخل البيانات.

الميزات الرئيسية للمحولات:

• آلية الانتباه الذاتي: تسمح هذه الآلية للنموذج بالتركيز على أجزاء مختلفة من بيانات الإدخال في وقت واحد.
• التوازي: على عكس الشبكات العصبية المتكررة (RNNs)، يمكن للمحولات معالجة البيانات بشكل متوازي، مما يؤدي إلى أوقات تدريب أسرع.
• القابلية للتوسع: يمكن توسيع المحولات من خلال زيادة عدد الطبقات أو حجم النموذج، مما يعزز قدرتها على التعلم من مجموعات بيانات كبيرة.

مكونات هيكل المحول

يتكون هيكل المحول من مشفر ومفكك، كل منهما يتكون من عدة طبقات مكدسة فوق بعضها. دعونا نوضح هذه المكونات:

1. المشفر

الدور الأساسي للمشفر هو معالجة بيانات الإدخال وتحويلها إلى تنسيق يمكن أن يستخدمه المفكك. فإنه يتكون من عدة طبقات، كل منها يحتوي على مكونين فرعيين رئيسيين:

• طبقة الانتباه الذاتي: تقوم هذه الطبقة بحساب درجات الانتباه لكل كلمة في تسلسل الإدخال، مما يسمح للنموذج بوزن أهميتها.
• شبكة عصبية تغذية أمامية: بعد طبقة الانتباه الذاتي، تمر البيانات عبر شبكة تغذية أمامية لمزيد من المعالجة.

تشمل كل طبقة في المشفر أيضًا ارتباطات تنظيم وارتباطات متبقية تساعد في استقرار عملية التدريب.

2. المفكك

يؤدي المفكك الوظيفة المعاكسة للمشفر. مهمته هي توليد التسلسل الناتج، كلمة بكلمة. يتكون المفكك أيضًا من عدة طبقات، لكن كل طبقة تشمل مكونًا إضافيًا مقارنة بالمشفر: