الذكاء الاصطناعي
مقالات عملية مرتبة حسب المجال والمستوى، اختر المجال المناسب واقرأ من مستوى مبتدئ إلى محترف.
التكميم (Quantization): شغّل نموذج 70B على كارت شاشة واحد
تكميم النموذج بينزّل ذاكرة الأوزان من 16 بت لـ 4 بت، فيوفّر ~4 أضعاف VRAM مقابل فرق دقة صغير. شرح للمحترف بمثال مبسّط ثم علميًا، مع كود bitsandbytes وllama.cpp شغّال، أرقام مقاسة، trade-offs، ومتى لا تستخدمه، مع مصادر رسمية.
فك التشفير التخميني: إزاي تسرّع استدلال الـ LLM 2 إلى 3 أضعاف بدون تغيير الموديل
تقدر تخفّض زمن توليد كل توكن في نموذج اللغة الكبير 2 إلى 3 أضعاف بموديل صغير بيخمّن قدّام والنموذج الكبير بيتحقق دفعة واحدة، بنفس المخرجات بالظبط. شرح للمحترف بمثال واضح ثم علميًا، مع كود vLLM وTransformers شغّال، أرقام مقاسة، الـ trade-offs، ومتى لا تستخدمه، بمصادر رسمية.
