خلاصة علامات الهلوسة في الذكاء الاصطناعي القانوني وطرق كشفها
تحدث الهلوسة النظامية عندما يولد النموذج أرقام مواد أو مبادئ قضائية مختلقة بثقة زائفة. تكشفها 4 علامات رئيسية أبرزها غياب الرابط الرسمي لنص النظام، والتساوي المصطنع في الثقة بين المسائل المنصوص عليها وتلك الخاضعة للسلطة التقديرية.
أهم النقاط النظامية:
- أي استشهاد برقم مادة لا يحيلك مباشرة إلى بوابة التشريعات الرسمية (هيئة الخبراء أو أم القرى) هو استشهاد عالي المخاطر.
- التحقق من سريان النص وتاريخ نفاذه شرط جوهري؛ الاستشهاد بنص ملغى أو معدل يوقع المحامي في حرج مهني وقضائي.
- الأدوات القانونية المتخصصة تعلن صراحة عند غياب السند وتوضح القواعد العامة أو الاتجاهات القضائية المقاربة بدلاً من التخمين.
لماذا الهلوسة القانونية أخطر من أي خطأ تقني آخر؟
النموذج اللغوي العام لا يفرّق بين نص موجود ونص مرجّح إحصائياً أن يوجد. في الكتابة العامة هذا الفارق قد لا يُلاحَظ؛ في العمل القانوني هو الفارق بين مذكرة تُقبل ومذكرة تُسقط الثقة بصاحبها. محاكم في عدة ولايات قضائية وثّقت بالفعل حالات استُشهد فيها بأحكام أو مواد لا وجود لها، أنتجها مساعد ذكاء اصطناعي عام — والمسؤولية في كل مرة وقعت على من وقّع المذكرة، لا على الأداة.
العلامة الأولى: رقم مادة بلا رابط رسمي يمكن فتحه
أي إجابة قانونية موثوقة يجب أن تُحيلك إلى مصدرها: رقم المادة، اسم النظام أو اللائحة، وتاريخ نفاذه. إن أعطتك الأداة رقم مادة دون رابط تتحقق منه — أو تردّدت حين تطلب المصدر — فهذا مؤشر أول على أن الرقم مُرجَّح لا مُسترجَع.
العلامة الثانية: الثقة نفسها في كل إجابة، بصرف النظر عن وجود سند
النموذج الذي لا يهلوس يتصرف بشكل مختلف حين يغيب السند: يتردد، يذكر القواعد العامة القريبة، ويُصرّح بأن المسألة غير محسومة أو أنها تخضع لتقدير القاضي. أما النموذج الذي يجيب بالثقة نفسها في كل مرة — سواء وُجد نص صريح أو لم يوجد — فهو يخلط بين ما يعرفه وما يُخمّنه، دون أن يُخبرك بالفرق.
العلامة الثالثة: مبدأ قضائي أو سابقة بلا مصدر يمكن التحقق منه
الاستشهاد بمبدأ قضائي دون اسم المحكمة أو رقم القضية أو الجهة الناشرة له علامة تستحق التوقف. السوابق القضائية السعودية المنشورة رسمياً محدودة نسبياً؛ أي إجابة تسرد مبادئ قضائية بثقة دون أن تُحيلك إلى مصدرها تستحق تحققاً إضافياً قبل إدراجها في أي مذكرة.
كيف تختبر أي أداة قبل أن تعتمد عليها
اطرح عليها مسألة تعرف إجابتها النظامية سلفاً، ثم افتح المصدر الذي استشهدت به. اسألها صراحة عمّا تفعله حين لا يوجد نص — الأداة التي تُقرّ بحدودها أوثق من التي تملأ كل فراغ بإجابة. وتحقق دائماً من تاريخ نفاذ النص المستشهد به؛ فالنص المعدَّل أو الملغى استشهادٌ خاطئ وإن كان رقم مادته صحيحاً تاريخياً.
الأنظمة والمراسيم ذات الصلة بهذا المقال
المكتب التحريري القانوني
محتوى قانوني موثّقوحدة ضبط الجودة والاستدلال القانوني — الفيصل
مختبر تقييم نماذج الذكاء الاصطناعي والتحقق المعياري من مخرجات الاستدلال القضائي
اعتماد منهجيات التحقق القضائي ونظام الإثبات
تاريخ آخر تدقيق: ١٥ سبتمبر ٢٠٢٦
المصادر الرسمية لهذا المقال
هذا المقال مادة تعريفية، ولا يُعد رأياً قانونياً ولا بديلاً عن استشارة محامٍ مرخّص. الأنظمة تُعدَّل؛ راجع تاريخ النشر أعلاه وتحقّق من النص في مصدره قبل الاعتماد عليه.
