Ollama للمبتدئ: شغّل Llama 3.3 محليًا على لابتوبك في 15 دقيقة

النموذج هيردّ في 5 لـ 8 ثواني على M1 Mac بـ 16GB RAM، أو 12 لـ 18 ثانية على لابتوب فيه Intel i7 الجيل العاشر بدون GPU. لو عندك GPU من NVIDIA بـ 8GB VRAM (زي RTX 3060)، الزمن بينزل لـ 1 لـ 2 ثانية للجملة الواحدة، وده الفرق اللي بيخلّي التجربة تحس إنها instant.

استدعاء Ollama من Python في 8 سطور

لو عايز تبني تطبيق فوقه (chatbot داخلي، أداة تحليل نصوص، RAG محلي على وثائق شركتك)، الكود بسيط:

الـ endpoint ده متوافق جزئيًا مع OpenAI API، يعني لو عندك كود قديم بيكلّم gpt-4، تقدر تغيّر فقط الـ base URL لـ http://localhost:11434/v1 ويشتغل على Ollama بدون تعديل في المنطق نفسه.

الـ Trade-offs اللي محدش بيقولهالك

الموضوع مش وردي. هتكسب الخصوصية وتوفير الفلوس، بس هتدفع تمن في 4 نقاط حقيقية:

• الجودة: Llama 3.3 8B بيجيب حوالي 68% على benchmark MMLU، مقابل أرقام أعلى بكثير لنماذج زي GPT-4 و Claude Sonnet. للمهام البسيطة (تلخيص، تصنيف، استخراج كيانات) الفرق مش محسوس عمليًا. للاستدلال الرياضي والمنطقي المعقّد، الفرق بيبان.
• السرعة بدون GPU: على لابتوب CPU-only، تجربة المستخدم بتبقى أبطأ بـ 10-15 مرة من الـ cloud APIs. لو شغلك chatbot بيتفاعل مع مستخدمين، ده هيبقى مشكلة.
• استهلاك البطارية: النموذج وهو شغّال بيستهلك ما بين 30 و 70 وات (حسب الـ hardware). بطارية اللابتوب بتنزل أسرع 2 لـ 3 مرات من المعتاد.
• الذاكرة: نسخة الـ 8B بتاخد 5GB RAM وهي شغّالة. نسخة 70B محتاجة 48GB. مفيش وسط — لو ذاكرتك أقل من 16GB، ابدأ بـ 8B وخلاص.

متى لا تستخدم Ollama

لو شغلك chatbot production بيخدم آلاف المستخدمين بالتوازي، Ollama على لابتوب مش الحل — هتحتاج سيرفر فيه GPU زي A100 أو H100 و serving framework متخصص زي vLLM علشان throughput محترم. لو دقة الإجابة حرجة (تطبيقات طبية، قانونية، مالية)، الفرق في الدقة بين النموذج المحلي الصغير والنموذج الـ frontier السحابي بيبقى فرق حقيقي بين قرار صح وقرار غلط بيكلّفك. ولو محتاج multimodality (صور وصوت)، النماذج المحلية لسه ورا في النقطة دي.

الخطوة التالية

افتح الـ terminal دلوقتي، نفّذ السطرين الأول والتاني فوق، واسأل النموذج عن أصعب موضوع تقني بتشتغل عليه دلوقتي. لو الإجابة كويسة كفاية لاستخدامك اليومي، انت وفّرت اشتراك سنوي بـ $240. لو لأ، عرفت بدقة قبل ما تبني تطبيق إن المحلي مش هيقطع عندك، وممكن تروح للـ cloud وانت مرتاح. الاتنين ربح.

المصادر

• توثيق Ollama الرسمي ومكتبة النماذج: ollama.com/library/llama3.3
• مكتبة llama.cpp على GitHub (المحرّك الفعلي تحت Ollama): github.com/ggerganov/llama.cpp
• ورقة Llama 3 — The Llama 3 Herd of Models، Meta AI 2024: arxiv.org/abs/2407.21783
• توثيق صيغة GGUF على GitHub: github.com/ggml-org/ggml/docs/gguf.md
• توثيق REST API لـ Ollama: github.com/ollama/ollama/docs/api.md
• توثيق MMLU benchmark — Hendrycks et al. 2021: arxiv.org/abs/2009.03300