الهلوسة في الذكاء الاصطناعي: ليه بيخترع مصادر وأسماء مش موجودة؟

هذا المقال يتطلب مستوى: مبتدئ

لو النموذج ردّ عليك باسم كتاب أو مرجع أو حكم قضائي وهو واثق تمامًا، وبعدين اكتشفت إنه مش موجود أصلًا، إنت شفت الهلوسة. بعد الخمس دقائق دي هتعرف ليه بتحصل، وتقدر تقلّلها بخطوة عملية واحدة بدل ما تثق في كل كلمة يقولها النموذج.

الهلوسة في الذكاء الاصطناعي: ليه بيخترع معلومات بثقة؟

المشكلة باختصار

نماذج اللغة زي ChatGPT وClaude وGemini بتديك إجابة سليمة الشكل حتى لو المعلومة غلط. المشكلة مش إنها بتكذب عن قصد. المشكلة إنها مصمّمة تكمّل الكلام بأكثر صيغة محتملة، مش تتأكد إن الكلام حقيقي. ده اسمه الهلوسة (Hallucination): نص طليق ومقنع، لكنه مخترع.

المفهوم بمثال بسيط الأول

تخيّل صاحبك اللي عمره ما بيقول "مش عارف". تسأله عن مطعم في حي مش رايحه، يرد على طول: "آه، مطعم الأصيل، تالت شارع على اليمين، بيفتح 9 الصبح". بثقة كاملة. المشكلة إن المطعم ده ممكن يكون مش موجود. صاحبك مش بيكذب، هو بس بيملأ الفراغ بأكثر إجابة "بتشبه" الإجابة الصح، عشان محرج يقول مش عارف.

النموذج بيعمل نفس الحاجة بالظبط. لما تطلب منه مرجع أو رقم مش متأكد منه، هو بيولّد كلام "شكله" مرجع: اسم مؤلف معقول، سنة معقولة، عنوان معقول. كله معقول، وكله ممكن يكون مخترع.

الشرح العلمي بعد المثال

النموذج بيشتغل بمبدأ واحد: توقّع الكلمة (التوكن) التالية الأكثر احتمالًا بناءً على الكلام اللي قبلها. هو مادرسش قاعدة بيانات حقيقة وقت الإجابة، وماعندوش زر "تأكّد من المصدر". لو أكثر تسلسل محتمل بعد كلمة "المرجع:" هو اسم بيبان علمي، هيكتبه، سواء كان موجود أو لأ.

الافتراض المهم هنا: النموذج بيحسّن "احتمالية النص"، مش "صحة النص". الاتنين بيتقابلوا كتير، فبيبان دقيق. لكن لما يفترقوا، بتطلع الهلوسة.

سيناريو واقعي بالأرقام

في 2023، محامي في نيويورك قدّم للمحكمة مذكرة فيها 6 أحكام قضائية طلبها من ChatGPT. الأحكام الستة كانت مخترعة بالكامل: أسماء قضايا وأرقام واقتباسات مش موجودة. القاضي غرّم المحامي وشريكه 5000 دولار. ده مش خيال، ده حكم موثّق (قضية Mata ضد Avianca).

وعلى مستوى القياس: لوحة Vectara لقياس الهلوسة بتحطّ أفضل النماذج في تلخيص النصوص عند نسبة هلوسة حوالي 1.5% إلى 3%، وبعض النماذج الأضعف بتعدّي 15%. يعني حتى الأحسن مش صفر. الرقم ده بيقولك حاجة عملية: عامل كل إجابة على إنها "احتمال"، مش "حقيقة".

خطوة عملية تقلّل الهلوسة (كود شغّال)

أبسط تحسين بيجيب نتيجة فورية: نزّل درجة الحرارة لصفر، واطلب صراحةً إن النموذج يقول "لا أعرف" بدل ما يخمّن، وامنعه يخترع مصادر. جرّب الكود ده:

from openai import OpenAI

client = OpenAI()  # محتاج مفتاح API

SYSTEM = (
    "أجب فقط من معلومات متأكد منها. "
    "لو مش متأكد أو المعلومة مش عندك، قل صراحة: لا أعرف. "
    "ممنوع اختراع مصادر أو أرقام أو أسماء. "
    "لو ذكرت مرجعًا، اذكر فقط ما تتأكد أنه حقيقي."
)

resp = client.chat.completions.create(
    model="gpt-4o-mini",
    temperature=0,               # يقلّل العشوائية = تخمين أقل
    messages=[
        {"role": "system", "content": SYSTEM},
        {"role": "user", "content": "اذكر لي مرجعًا أكاديميًا عن موضوع نادر جدًا."},
    ],
)
print(resp.choices[0].message.content)

لو النموذج قبل كده كان بيخترع مرجع، دلوقتي غالبًا هيرد بـ"لا أعرف". ده مش سحر، ده بس إنك خفّضت العشوائية ووضّحت له إن الاعتراف بالجهل مقبول.

الـ trade-off والافتراضات

الحل الأقوى هو الـ RAG: تحقن مصادرك الحقيقية في البرومبت قبل ما النموذج يجاوب، فيرد من نص أمامه بدل ذاكرته. بتكسب دقّة أعلى ومصادر تقدر تراجعها. بتخسر بساطة: محتاج تبني قاعدة بحث، وكل طلب بياخد وقت أطول (زمن استرجاع + توليد). الافتراض إنك عندك مصادر موثوقة تحقنها؛ من غيرها الـ RAG مش هيفرق.

وخفض الحرارة لصفر كمان له ثمن: إجابات أقل تنوّعًا وإبداعًا. مقبول في الأسئلة الحقيقية، مش مناسب في الكتابة الإبداعية.

متى متشغلش بالك من الهلوسة

لو بتستخدم النموذج في العصف الذهني، كتابة مسودّة، اقتراح أفكار، أو صياغة إيميل، الهلوسة مش مشكلة، بل أحيانًا مفيدة. المشكلة بتبقى خطيرة بس في الحقائق: أرقام، مراجع، أحكام قانونية، جرعات دوائية، أكواد أمان. القاعدة: كل ما القرار أخطر، لازم تتحقق أكتر.

الخطوة التالية

خد آخر إجابة "بثقة" جتلك من نموذج فيها اسم مرجع أو رقم، وحطّها في محرك بحث للتأكد إنها حقيقية. لو طلعت مخترعة، ده معناه إنك محتاج تضيف تعليمة "قل لا أعرف" أو تبني RAG. ابدأ بالخطوة الأرخص: عدّل الـ system prompt زي المثال فوق، وقارن النتيجة.

المصادر

• Ji et al., "Survey of Hallucination in Natural Language Generation", ACM Computing Surveys, 2023: dl.acm.org/doi/10.1145/3571730
• Vectara Hallucination Leaderboard (نِسَب الهلوسة المقاسة للنماذج): github.com/vectara/hallucination-leaderboard
• قضية Mata v. Avianca والمراجع المخترعة (Reuters): reuters.com
• OpenAI — دليل هندسة البرومبت لتقليل الأخطاء: platform.openai.com/docs/guides/prompt-engineering
• Anthropic — تقليل الهلوسة: docs.anthropic.com