موقع بصراوي | التكنولوجيا | كتب: محمد حسين العبوسي
تتزايد المخاوف بشأن دقة المعلومات التي تقدمها أدوات الذكاء الاصطناعي، حيث لم تعد الأخطاء الناتجة عنها مجرد عابرة، بل أصبحت تقدم معلومات غير صحيحة بشكل متماسك، وتنسب تصريحات لأشخاص لم يصرحوا بها، أو تستشهد بدراسات ومراجع غير موجودة، مما يجعلها تبدو موثوقة.
تُعرف هذه الظاهرة بـ”هلوسة الذكاء الاصطناعي”، وتعتبر من أبرز التحديات التي تواجه موثوقية النماذج التوليدية، خصوصًا مع تزايد استخدامها في مجالات البحث وإعداد التقارير وصناعة المحتوى.
تكمن خطورة هذه الظاهرة في صعوبة تمييز المستخدم بين المعلومات الصحيحة والمختلقة، خاصة عندما تقدم الإجابات تفاصيل دقيقة وأسماء وتواريخ ومصادر تبدو حقيقية.
ما هي هلوسة الذكاء الاصطناعي؟
تشير “هلوسة الذكاء الاصطناعي” إلى إنتاج معلومات غير صحيحة أو مضللة من قبل النموذج، وتقديمها كإجابات ملائمة، رغم عدم استنادها إلى حقائق موثوقة أو أدلة كافية. تشمل هذه الأخطاء اختلاق أسماء أشخاص، أو دراسات علمية، أو روابط ومراجع، أو اقتباسات يُنسب بعضها إلى شخصيات ومؤسسات.
لا تعني الهلوسة أن النموذج يتعمد الكذب، بل تشير إلى إنتاج محتوى يبدو منطقيًا لغويًا لكنه لا يتطابق مع الواقع أو المعلومات المتاحة.
لماذا يختلق الذكاء الاصطناعي معلومات غير صحيحة؟
يرتبط أحد الأسباب الرئيسية بطريقة عمل نماذج اللغة، حيث تتعلم هذه النماذج من كميات ضخمة من النصوص والبيانات، وتولد الإجابات بناءً على توقع الكلمات أو الأجزاء اللغوية الأكثر ملاءمة للسياق، وليس من خلال الرجوع إلى قاعدة حقائق مؤكدة.
يمكن أن تؤدي المعلومات الناقصة أو المتضاربة في بيانات التدريب، أو صياغة السؤال بطريقة غامضة، إلى زيادة احتمالات تقديم إجابات غير صحيحة. أظهرت دراسة نشرتها شركة OpenAI في سبتمبر 2025 بعنوان “لماذا هلوسة نماذج اللغة تحدث”، أن أساليب تدريب النماذج قد تشجعها أحيانًا على التخمين بدلاً من الاعتراف بعدم المعرفة.
لماذا تقدم الإجابة الخاطئة بثقة؟
تعتبر صياغة المعلومات المختلقة بشكل حاسم ومنظم من الجوانب المربكة في هلوسة الذكاء الاصطناعي، مما قد يجعل المستخدم يثق بها دون مراجعة. الطلاقة اللغوية لا تعني بالضرورة الدقة، فالنموذج مصمم لإنتاج نص مترابط ولا تعكس نبرة الإجابة مدى صحة المعلومات.
