Zero & One، الوحدة 7: تعلّم الآلة والذكاء الاصطناعي

النماذج اللغوية الكبيرة والذكاء الاصطناعي التوليدي

Large Language Models (LLM) and Generative AI
حل 15 سؤال على الدرس
هدفك من الدرس:

Language model وتوقع الكلمة التالية

نموذج اتدرّب على نصوص كتير عشان يتوقع الكلمة اللي هتيجي بعد كده. توليد النص = تكرار التوقع كلمة كلمة: "Today's weather is" ← "sunny" ← "and" ← "warm"...

لكل كلمة مرشحة بيحسب احتمال إنها تيجي بعدين ويختار على أساسه. الاحتمالات دي جاية من الأنماط اللي اتعلمها.

ليه Hallucination؟

لأن النموذج بيختار الكلمة المحتملة إحصائياً مش الكلمة الصحيحة بالضرورة. فممكن يطلّع رد مقنع بس مخالف للحقائق. الخلاصة: الطلاقة ≠ الحقيقة، فلازم نراجع.

LLM (Large Language Model)

نموذج لغة مبني على شبكة عصبية ضخمة جداً اتدرّبت على نصوص هائلة من الإنترنت. "Large" يعني حجمين:

قدرات جديدة (Emergent) وأمثلة

لما عدد parameters أو حجم البيانات يتخطى حجماً معيناً بتظهر قدرات جديدة نوعياً: استدلال معقد، تلخيص، ترجمة، كتابة كود. أمثلة: ChatGPT وClaude وGemini.

RLHF

مجرد التعلم من نصوص هائلة ما بيضمنش ردود مناسبة للبشر (ممكن ما يفهمش قصد السؤال أو يطلّع محتوى مش مناسب). حل شائع: RLHF (Reinforcement Learning from Human Feedback):

Multimodality

قدرة نموذج واحد على التعامل مع أنواع بيانات متعددة (modalities): نص، صور، صوت، فيديو. مثال: يشوف صورة ويوصفها، يسمع صوت ويحوله لنص، ياخد تعليمات نصية ويولّد صورة.

ده ممكن لأن الشبكات العصبية بتحوّل أنواع البيانات لـ تمثيل رقمي مشترك.

مصطلحات الدرس

Language modelنموذج يتوقع الكلمة التالية
Hallucinationرد مقنع لكنه مخالف للحقيقة
LLMنموذج لغة ضخم مدرَّب على نصوص هائلة
Parameterقيمة (وزن) في الشبكة؛ العدد بالمليارات
RLHFضبط النموذج بتقييمات بشر كمكافآت
Multimodalityنموذج واحد يتعامل مع نص وصور وصوت
Modalityنوع بيانات واحد (نص/صورة/صوت)
ابدأ التدريب على الدرس

تطبيق تعليمي مستقل وغير تابع لوزارة التربية والتعليم. الكتاب المدرسي هو المرجع الأساسي. سياسة الخصوصية