ما هو الهلوسة؟
الهلوسة هي أن ينتج نموذج الذكاء الاصطناعي معلومات تبدو سلسة ومقنعة لكنها خاطئة أو بلا مصدر.
كيف يعمل؟
تعمل النماذج اللغوية بإنتاج النص المرجّح، لا عبر آلية تتحقق من الحقيقة. ولذلك قد تنتج إجابة سلسة حتى في موضوع لا تعرفه. ويزداد الخطر مع نقص السياق، والأسئلة المبهمة، والموضوعات الغائبة عن بيانات التدريب.
أين يُستخدم؟
- الهلوسة ليست حالة استخدام بل خطر. وهي حرجة بشكل خاص في مجالات مثل القانون والمالية والرعاية الصحية والالتزامات تجاه العملاء.
نقاط يجب الانتباه إليها
- لتقليل الخطر، يجب أن تستند الإجابات إلى مصادر وأن تذكرها (RAG (التوليد المعزّز بالاسترجاع)).
- يجب تصميم التعليمات والاختبارات بحيث يقول النموذج إنه لا يعرف عندما لا يعرف.
- يجب أن تمر المخرجات الحرجة بموافقة بشرية.
- لا يمكن إزالة الخطر؛ ولذلك تلزم اختبارات تقييم منتظمة.
ماذا تقدّم Huaris AI في هذا الشأن؟
تجعل Huaris AI ذكر المصادر ومجموعات التقييم وخطوات الموافقة البشرية جزءًا من الحل، وتوضح صراحةً أن الخطر لا يمكن إزالته.
مصطلحات ذات صلة
لنعمل معًا
دعنا نستمع إلى عملياتك وأهدافك، ونقيّم معًا أين يمكن للذكاء الاصطناعي أن يضيف قيمة.
أرسل بريدًا إلكترونيًا