عندما يقدّم النموذج اللغوي معلومة خاطئة أو مختلقة بثقة كاملة وكأنها حقيقة.
الهلوسة هي أن يخترع النموذج إجابة تبدو مقنعة لكنها غير صحيحة: رقم غير موجود، أو سياسة لم تقرّها شركتك، أو مرجع لا وجود له. يحدث هذا لأن النموذج مصمم ليكتب نصًا مترابطًا ومحتملًا لغويًا، وليس للتحقق من الحقائق. ولا يستطيع النموذج عادةً أن يميّز بنفسه بين ما يعرفه وما يخمّنه.
في تطبيقات الأعمال، الهلوسة قد تكون مكلفة: مساعد يعد العميل باسترجاع مجاني غير موجود، أو يعطي موعدًا خاطئًا. وفي كتابة الكود، قد يستدعي النموذج دالة أو مكتبة غير موجودة. لذلك لا يكفي أن يبدو الرد جيدًا. نصيحة عملية: قلّل الهلوسة بتزويد النموذج بالمعلومات الصحيحة عبر التأسيس على المصادر، واطلب منه صراحة أن يقول «لا أعرف» عند غياب المعلومة، وراجع المخرجات المهمة يدويًا قبل اعتمادها.
مثاليسأل عميل: «هل يوجد فرع في الدمام؟» فيجيب المساعد «نعم، في حي الشاطئ» مع أن المتجر لا يملك أي فرع هناك.
كل المصطلحات