الذكاء الاصطناعي
مقالات عملية مرتبة حسب المجال والمستوى، اختر المجال المناسب واقرأ من مستوى مبتدئ إلى محترف.
الـ KV Cache: ليه أول توكن بطيء وباقي التوكنات بتطير
لو أول توكن من نموذجك تقيل وباقي التوكنات بتطلع بسرعة، ده الـ KV Cache. المقال للمحترف يشرح ليه، بمثال بسيط ثم علميًا بمرحلتي Prefill وDecode، مع كود PyTorch يقيس الفرق، أرقام O(n²) مقابل O(n)، معادلة تكلفة الذاكرة، ومتى لا تشغل بالك، مع مصادر رسمية.
بحث المتجهات في الملايين: كيف يجعل HNSW أقرب جار أسرع 100 ضعفًا
لو بحثك الدلالي على مليون متجه بياخد مئات المللي ثانية، المشكلة مش في السيرفر بل في البحث الشامل O(n). المقال للمحترف يشرح HNSW بمثال ثم علميًا، مع كود Python يقيس الفرق بالأرقام، معاملات الضبط M وef، الـ trade-offs، ومتى لا تستخدمه، مع مصادر رسمية.
حقن الأوامر (Prompt Injection): إزاي جملة واحدة تكسر تعليمات نموذجك
جملة واحدة من مستخدم تقدر تلغي تعليمات نظام كاملة في تطبيقك المبني على LLM. المقال يشرح حقن الأوامر بمثال مقرِّب ثم علميًا، مع كود Python للثغرة والدفاع، حادثة Bing/Sydney الحقيقية، الـ trade-offs، ومتى لا تقلق، مع مصادر رسمية (OWASP وNIST).
التكميم (Quantization): شغّل نموذج 70B على كارت شاشة واحد
تكميم النموذج بينزّل ذاكرة الأوزان من 16 بت لـ 4 بت، فيوفّر ~4 أضعاف VRAM مقابل فرق دقة صغير. شرح للمحترف بمثال مبسّط ثم علميًا، مع كود bitsandbytes وllama.cpp شغّال، أرقام مقاسة، trade-offs، ومتى لا تستخدمه، مع مصادر رسمية.
فك التشفير التخميني: إزاي تسرّع استدلال الـ LLM 2 إلى 3 أضعاف بدون تغيير الموديل
تقدر تخفّض زمن توليد كل توكن في نموذج اللغة الكبير 2 إلى 3 أضعاف بموديل صغير بيخمّن قدّام والنموذج الكبير بيتحقق دفعة واحدة، بنفس المخرجات بالظبط. شرح للمحترف بمثال واضح ثم علميًا، مع كود vLLM وTransformers شغّال، أرقام مقاسة، الـ trade-offs، ومتى لا تستخدمه، بمصادر رسمية.
الـ KV Cache وPagedAttention: ليه سيرفر الـ LLM بيخنق عند 10 مستخدمين
سيرفر نموذج اللغة بتاعك بيوقف عند 10 مستخدمين رغم إن كرت الشاشة نصه فاضي؟ المشكلة مش في القوة، المشكلة إن الـ KV Cache بيهدر 60–80% من الذاكرة على تجزئة وحجز مبكر. المقال للمحترف يشرح السبب بمثال بسيط ثم علميًا، مع إعداد vLLM قابل للنسخ، أرقام مقاسة (إنتاجية 2–24 ضعفًا)، الـ trade-offs، ومتى لا تستخدمه، بمصادر رسمية.
فك التشفير التخميني: ضاعف سرعة استدلال LLM بلا خسارة في الجودة
فك التشفير التخميني بيخلّي نموذج مسوّدة صغير يقترح والنموذج الكبير يتحقق بالتوازي، فتكسب سرعة 2×–3× بنفس المخرجات بالظبط. شرح المبدأ، إعداد vLLM قابل للنسخ، معدّل القبول، والمقايضات، ومتى متستخدموش.
PagedAttention في vLLM: ليه خدمة الـ LLM بتهدر 80% من ذاكرة الـ GPU وإزاي توصل throughput أعلى 24×
معظم سيرفرات الـ LLM بتهدر 60–80% من ذاكرة الـ GPU بسبب طريقة حجز الـ KV cache. PagedAttention في vLLM بتنزّل التهدير لأقل من 4% وترفع الإنتاجية حتى 24× على نفس العتاد. شرح للمحترف بكود vLLM وأرقام مقاسة وtrade-offs ومتى متستخدمهوش، مع مصادر.
Mixture of Experts للمحترف: سعة 671 مليار باراميتر بحساب 37 مليار فقط
MoE بيخلّيك تبني نموذج بسعة 671 مليار باراميتر وتدفع تكلفة حساب 37 مليار فقط لكل توكن. شرح للمحترف بمثال العيادة، كود PyTorch لطبقة top-2 gating، أرقام DeepSeek-V3 وMixtral، وموازنة المكاسب مقابل تكلفة الذاكرة، ومتى لا تستخدم MoE، مع مصادر.