المستوى: مبتدئ — مناسب لأي حد بيستخدم ChatGPT أو Claude ومش لازم يكون مبرمج.
Context Window للمبتدئ: ليه الذكاء الاصطناعي بينسى أول كلامك في المحادثة الطويلة
بعد ما تخلّص المقال ده هتعرف بالظبط ليه النموذج بينسى أول الكلام في محادثة طويلة، وهتعرف 3 طرق عملية تمنع النسيان ده قبل ما يبوّظلك الإجابة.
المشكلة باختصار
تخيّل الموقف ده: قلت لـ ChatGPT في أول الكلام "اسمي أحمد وأنا بشتغل في التجارة الإلكترونية". قعدت تتكلم معاه نص ساعة في تفاصيل مشروعك. وفجأة سألته سؤال، فرد عليك وهو ناسي اسمك وناسي إنك في التجارة الإلكترونية أصلاً.
ده مش عطل، ومش النموذج بيتريّق عليك. ده حد تقني اسمه Context Window أو نافذة السياق. وفهمك ليه بيفرّق بين محادثة بتديك إجابات دقيقة، ومحادثة بتلف في دواير.
يعني إيه Context Window؟ خلّينا نبدأ بمثال
تخيّل مدرّس واقف قدام سبورة واحدة، والسبورة دي حجمها ثابت. كل سؤال بتسأله، بيكتبه على السبورة. وكل إجابة بيردها، بيكتبها كمان. السبورة دي هي كل اللي قدام عينيه وهو بيفكر.
المشكلة إن السبورة ليها آخر. لما تتملى، علشان يكتب كلام جديد لازم يمسح كلام قديم. وبيبدأ بالمسح من أول حاجة اتكتبت — يعني اسمك اللي قلته في البداية.
فالمدرّس مش "نسي" إنك أحمد. هو ببساطة مسح الجملة دي من السبورة علشان يفضّل مكان للكلام الجديد. لو سألته "أنا اسمي إيه؟"، هيبص على السبورة ومش هيلاقي الاسم مكتوب، فهيقولك معرفش أو هيخمّن.
السبورة دي هي بالظبط الـ Context Window. والمساحة المحدودة بتاعتها هي سبب النسيان.
التفسير العلمي بدقة
النموذج اللغوي (زي GPT أو Claude) ملوش "ذاكرة" بالمعنى اللي إحنا فاهمينه. كل مرة بتبعتله رسالة، بيتبعتله معاها المحادثة كلها من الأول كنص واحد. والنموذج بيقرأ النص ده ويتنبّأ بالرد المناسب.
لكن النموذج ميقدرش يقرأ نص بأي طول. فيه حد أقصى لعدد التوكنز اللي يقدر يستوعبها في المرة الواحدة. التوكن ده قطعة صغيرة من النص (كلمة، جزء من كلمة، أو علامة). المحادثة كلها + سؤالك الجديد + رده، كله لازم يتحشر جوّه الحد ده. الحد ده اسمه نافذة السياق.
لما المحادثة تتخطّى الحد ده، الأدوات (زي واجهة ChatGPT) بتقص الجزء الأقدم تلقائياً علشان تفضّل مكان. فبيختفي أول الكلام — بالظبط زي ما المدرّس مسح أول السبورة.
وفيه تفصيلة تانية أخطر اسمها "الضياع في المنتصف" (Lost in the Middle). حتى لو الكلام لسه جوّه النافذة، أبحاث Liu وزملائه سنة 2023 لقت إن النموذج بيركّز على أول النص وآخره، وبيتجاهل المعلومات اللي في النص ساعات. يعني المعلومة ممكن تكون موجودة قدامه ومع ذلك يعديها.
ليه بالظبط الأول بيختفي؟ الموضوع حساب بسيط
كل نموذج ليه رقم ثابت لحجم نافذته. وكل حرف بتكتبه بياخد جزء من الرقم ده. نخلّيها أرقام: