Gemini 3.1 Flash-Lite أسرع 2.5×: متى تبدّل من Flash الكامل

Google طلّع Gemini 3.1 Flash-Lite بسرعة استجابة 2.5× وتوليد توكنز أسرع 45%. القرار العملي مش "بدّل كل شغلك"، القرار هو تحديد أي endpoint بالظبط يستحق الترحيل.

المشكلة باختصار

لما بتشتغل على منتج فيه AI، فاتورة الـ latency والتكلفة بتتضرب في آلاف الطلبات. Flash الكامل محترم، لكن فيه فئة طلبات بسيطة بتاخد منه وقت وتوكنز من غير داعي. Flash-Lite جاء للفئة دي بالظبط، لكنه مش بديل شامل.

الفرق العملي بين Flash و Flash-Lite

Flash-Lite مبني على نفس عائلة Gemini 3.1 لكن بأوزان أصغر وتحسينات inference. الأرقام المُعلنة من Google:

• زمن الاستجابة الأول (TTFT) أسرع 2.5× مقارنة بـ Gemini 3.1 Flash في نفس الـ region.
• سرعة توليد التوكنز أعلى 45%، وده بيظهر فعلاً في الـ streaming responses.
• جودة الاستدلال المعقّد أقل من Flash الكامل، خصوصًا في chains طويلة أو reasoning متداخل.

بمعنى تاني: لو طلباتك classification أو extraction أو rewriting أو تلخيص قصير، Flash-Lite كفاية. لو طلباتك multi-step reasoning أو code generation طويل، فضّل Flash أو Pro.

قاعدة القرار: 3 أسئلة قبل الترحيل

قبل ما تهاجر endpoint كامل لـ Flash-Lite، جاوب على التلاتة دول بصراحة:

1. متوسط طول المخرج أقل من 500 توكن؟ لو آه، Flash-Lite مرشّح قوي.
2. الطلب محتاج chain of thought طويل؟ لو آه، متبدّلش.
3. التكلفة أو الـ p95 latency هما الـ bottleneck فعلاً؟ لو لا، سيب الموضوع، مش كل تحسين يستاهل ضجّة الترحيل.

مثال تنفيذي: router بسيط بين الموديلين

بدل ما تحوّل كل شغلك لـ Flash-Lite، اعمل routing على أساس نوع الطلب. ده سكربت Python قصير باستخدام Google AI SDK:

from google import genai

client = genai.Client()

LITE_TASKS = {"classify", "extract", "rewrite", "short_summary"}

def pick_model(task_type: str, expected_output_tokens: int) -> str:
    if task_type in LITE_TASKS and expected_output_tokens <= 500:
        return "gemini-3.1-flash-lite"
    return "gemini-3.1-flash"

def run(prompt: str, task_type: str, expected_output_tokens: int):
    model = pick_model(task_type, expected_output_tokens)
    resp = client.models.generate_content(
        model=model,
        contents=prompt,
    )
    return resp.text, model

text, used = run(
    "لخّص الفقرة التالية في 3 أسطر: ...",
    task_type="short_summary",
    expected_output_tokens=150,
)
print(used, "→", text)

السيناريو الواقعي: لو عندك SaaS بيعالج 200 ألف طلب يوميًا، و60% منهم تصنيف أو استخراج قصير، ترحيل الفئة دي وحدها ممكن يقطع من فاتورة الـ inference حوالي 35–45%، بدون تأثير ملموس على الـ quality KPI.