لماذا يهلوس الذكاء الاصطناعي؟ وكيف تقلّل اختراعه للمعلومات

لماذا يهلوس الذكاء الاصطناعي؟ الفرق بين "يبدو صحيحًا" و"صحيح فعلًا"

هذا المقال يتطلب مستوى: مبتدئ. هتفهم بعد قراءته ليه النموذج بيرد بثقة على سؤال إجابته الحقيقية "مش عارف"، وهتاخد طريقة عملية تقلّل الهلوسة قبل ما توصل للمستخدم.

لو سألت ChatGPT أو Claude عن كتاب مش موجود، وردّ عليك بملخّص كامل واسم مؤلف ورقم طبعة، ده مش عطل. ده سلوك متوقّع اسمه "الهلوسة". النموذج مبنيّ عشان يكمّل كلام يبدو صحيحًا، مش عشان يقول الحقيقة.

المشكلة باختصار

تخيّل صاحبك بيلعب معاك لعبة: تديله بداية جملة، وهو لازم يكمّلها بأي كلمة "منطقية" بسرعة، من غير ما يفتح كتاب. لو قلت له "مؤلف نظرية النسبية هو..."، هيقول "أينشتاين" على طول. لكن لو قلت له "مؤلف كتاب الظلال الرقمية هو..."، صاحبك مش عايز يحرج نفسه بـ"مش عارف"، فهيخترع اسم يبدو معقول. اللي بيحصل في النموذج بالظبط زي كده.

علميًا: النموذج اللغوي الكبير (LLM) بيتدرّب على مهمة واحدة أساسية، وهي توقّع "التوكن" التالي (كلمة أو جزء كلمة) بناءً على اللي قبله. هو بيتعلّم توزيع احتمالات، مش قاعدة بيانات حقائق. فلما ييجي سؤال، بيختار السلسلة الأعلى احتمالًا لغويًا، حتى لو كانت غلط في الواقع.

السبب: النموذج بيقيس "المعقولية" مش "الصحة"

ركّز في النقطة دي. لما تسأل عن حقيقة مشهورة ومتكررة في بيانات التدريب (زي مؤلف النسبية)، الاحتمال بيتركّز بقوة على الإجابة الصح. لكن لما تسأل عن حاجة نادرة أو مش موجودة أصلًا، الاحتمالات بتبقى موزّعة ومتقاربة، فالنموذج "بيسحب" أقرب نمط شكله صح: اسم عربي، عنوان كتاب، رقم DOI بالصيغة المعتادة. الشكل مضبوط، المحتوى مخترع.

الافتراض هنا مهم: النموذج بلا أدوات خارجية (بحث أو قاعدة بيانات) بيجاوب من "ذاكرته" الإحصائية وقت التدريب. فأي معلومة حديثة أو نادرة أو دقيقة رقميًا بتبقى منطقة خطر.

مثال تنفيذي: خلّي النموذج يهلوس، وبعدين أوقفه

جرّب الكود ده بنفسك. أول نداء بيدعو النموذج للاختراع، والتاني بيديله مخرج آمن يقوله "مش عارف".

import anthropic

client = anthropic.Anthropic()  # محتاج ANTHROPIC_API_KEY

def ask(prompt, temperature=1.0):
    msg = client.messages.create(
        model="claude-sonnet-5",
        max_tokens=300,
        temperature=temperature,
        messages=[{"role": "user", "content": prompt}],
    )
    return msg.content[0].text

# 1) سؤال عن كتاب غير موجود -> غالبًا هيخترع ملخصًا بثقة
print(ask("لخّص كتاب 'نظرية الظلال الرقمية' للكاتب سامي الهاشمي في 3 نقاط"))

# 2) نفس السؤال + مخرج آمن -> بيقلّل الاختراع
print(ask(
    "لخّص كتاب 'نظرية الظلال الرقمية'. "
    "لو مش متأكد إن الكتاب موجود فعلًا، قُل بوضوح: "
    "'لا أملك معلومات موثوقة عن هذا الكتاب' بدل ما تخمّن أي تفاصيل."
))

الفرق بين النداءين إن التاني بيدّي النموذج "مخرج طوارئ" مقبول لغويًا (جملة الاعتراف بعدم المعرفة)، فاحتمال اختيارها بيعلى بدل اختراع تفاصيل.

أرقام تخلّيك تاخد الموضوع بجدية

الهلوسة مش نادرة. حسب لوحة Vectara لقياس الهلوسة في تلخيص النصوص، أفضل النماذج بتوصل لنسبة هلوسة حوالي 1.5% إلى 2%، لكن نماذج أضعف بتقفز لـ 15% إلى 25% على نفس المهمة. يعني واحد من كل 5 ملخصات ممكن يحتوي معلومة مش موجودة في النص الأصلي.

وفي الواقع العملي: سنة 2023، محامي في قضية Mata ضد Avianca قدّم للمحكمة 6 أحكام قضائية اخترعها ChatGPT بالكامل بأسماء وأرقام تبدو حقيقية، واتغرّم هو وشريكه 5000 دولار. لو عندك تطبيق بيخدم 10 آلاف مستخدم يوميًا ونسبة الهلوسة 3% بس، ده حرفيًا 300 رد فيه خطأ محتمل كل يوم بيوصل لناس بتثق فيه.

الحل والـ trade-offs: مفيش زر سحري

الطريقة الشائعة الغلط إنك تنزّل درجة الحرارة (temperature) لصفر وتفتكر خلصت المشكلة. ده بيقلّل العشوائية، لكنه مبيمنعش الهلوسة: لو الإجابة الأعلى احتمالًا نفسها غلط، النموذج هيكرّرها بثبات. اللي بيقلّل الهلوسة فعلًا حاجتين:

• التأريض (Grounding / RAG): تدّي النموذج المصدر لحظة السؤال ويجاوب منه. بتكسب دقة أعلى بكتير، بتخسر زمن استجابة إضافي (استدعاء بحث + قاعدة متجهات) وتكلفة تشغيل أعلى.
• مخرج "مش عارف": تصريح واضح في التعليمات إن الاعتراف بعدم المعرفة مقبول ومطلوب. بتكسب أمان، بتخسر شوية "جرأة" في الردود اللي بعض المستخدمين بيحبّوها.

متى لا تشغل بالك بالهلوسة

مش كل استخدام بيحتاج نفس الصرامة. لو بتستخدم النموذج في عصف ذهني، أو صياغة إيميل، أو اقتراح عناوين، أو كتابة مسودّة إبداعية، فالهلوسة هنا مش كارثة، بل أحيانًا مفيدة. الصرامة بقى ضرورية في: الطب، القانون، الأرقام المالية، والمصادر والاقتباسات. القاعدة البسيطة: لو المخرج هيتحوّل لقرار أو هيتنشر باسمك، تحقّق منه.

الخطوة التالية

خُد أهم feature في تطبيقك بيعتمد على النموذج، وضيف في التعليمات جملة صريحة: "لو مش متأكد من معلومة، قُل إنك غير متأكد ولا تخترع تفاصيل". بعدها اعمل 20 سؤال فيهم أسئلة عن حاجات وهمية، وعُدّ كام مرة النموذج اخترع إجابة قبل التعديل وبعده. لو الرقم نزل، أنت في الطريق الصح؛ لو مانزلش، محتاج تأريض حقيقي (RAG) مش مجرد تعليمات.

المصادر

• Ji et al. (2023), "Survey of Hallucination in Natural Language Generation", ACM Computing Surveys — التعريف والأسباب.
• Vectara Hallucination Leaderboard (HHEM) — نسب الهلوسة في تلخيص النصوص عبر النماذج.
• OpenAI Help Center, "Why does ChatGPT sometimes give wrong answers?" — شرح توقّع التوكن التالي.
• Anthropic Docs, "Reduce hallucinations" — إتاحة مخرج "لا أعرف" والتأريض بالمصادر.
• قضية Mata v. Avianca, Inc. (S.D.N.Y. 2023) — واقعة الأحكام القضائية المختلقة والغرامة.