لماذا يكذب الذكاء الاصطناعي وهو واثق؟

الخلاصة

تسأل ChatGPT سؤالًا فيردّ عليك فورًا، وبثقة تدفعك إلى تصديقه. لكن هل هو فعلًا يعرف الإجابة؟ سألناه عن رواية لنجيب محفوظ، فكتب ملخصًا كاملًا في خمسة أسطر. والمفاجأة أن الرواية غير موجودة أصلًا.

في هذه الحلقة نرى لماذا يجيب النموذج عن شيء غير موجود، وما معنى Hallucination. ثم نخرج بشيئين: جملة تكشف الغلط قبل أن تصدّقه، وقواعد تضعها مرة واحدة في Custom Instructions.

المصطلحات

• Hallucination (الهلوسة): أن يقدّم Model معلومة خاطئة بثقة، كأنها صحيحة.
• Custom Instructions (التعليمات المخصصة): خانة في إعدادات ChatGPT تكتب فيها تعليمات يأخذها في اعتباره في محادثاتك القادمة.
• Context (السياق): كل ما يراه Model أمامه الآن، كما رأينا في حلقة سابقة.

الشرح

لماذا يجيب عن شيء غير موجود؟

وراء ChatGPT Model، تحدّثنا عنه في الحلقة الأولى من السلسلة. وعمله الأساسي أن يكتب كلامًا شكله مظبوط، لا أن يتأكد من أنه صحيح.

تخيّل صديقًا لا يقول أبدًا «لا أعرف». تسأله عن محل غير موجود، فيقول لك فورًا: «امشِ إلى آخر الشارع، وستجده على يسارك». هو لا يكذب عليك عن قصد، لكنه لا يحب أن يقول «لا أعرف»، وما دام هناك سؤال فلا بد أن يخرج منه ردّ.

فتمشي إلى آخر الشارع، فتجد حائطًا. لا محل هناك، ولم يكن هناك محل أصلًا. وModel يفعل الشيء نفسه أحيانًا.

المشكلة ليست في الغلط وحده

أن توجد إجابة خاطئة أمر عادي. المشكلة أن الغلط يأتيك بالثقة نفسها التي يأتيك بها الصواب. لا يوجد في الردّ شيء يقول لك: هذه هي المرة التي أخطأت فيها.

هذا هو اسمه Hallucination: أن يقول Model معلومة خاطئة بثقة، كأنها صحيحة.

التجربة: رواية غير موجودة

فتحنا ChatGPT بدون تسجيل دخول، لنضمن أن Context نظيف. وفي محادثة جديدة سألناه عن رواية اسمها «ليالي شارع الترعة». لا توجد رواية بهذا الاسم. وطلبنا ملخصها في خمسة أسطر، وسنة نشرها.

جاء الردّ: خمسة أسطر عن الرواية، بثقة كاملة. وهذه الأسطر الخمسة ليست حقيقية.

ثم سألناه سؤالًا واحدًا: هل أنت متأكد أن هذه الرواية موجودة أصلًا؟ هذه المرة بحث في الإنترنت، فوجد أن لا رواية بهذا الاسم، وقال بنفسه إن إجابته الأولى كانت غلطًا، وإنه اخترع الملخص من العنوان.

هذا هو Hallucination على حقيقته: لا شيء في الأسطر الخمسة يخبرك أنها ليست حقيقية. الاعتراف جاء لأنك سألت.

قاعدة تضعها مرة واحدة

بدل أن تسأل «هل أنت متأكد؟» في كل مرة، هناك شيء تفعله مرة واحدة، كأنك تقول لصديقك من البداية: إن لم تكن تعرف فقل إنك لا تعرف.

في إعدادات ChatGPT خانة اسمها Custom Instructions. أي تعليمات تكتبها فيها، يأخذها ChatGPT في اعتباره في محادثاتك القادمة.

قواعد الدقة:
- إذا لم تكن متأكدًا، قل ذلك بوضوح ("لست متأكدًا" / "لا أستطيع التأكد من هذا"). قول "لا أعرف" بوضوح أفضل من تخمين واثق.
- حدّد مصدر كل معلومة مهمة:
[مصدر] = مستند أو ملف أو صفحة ويب فتحتها فعلًا في هذه المحادثة.
[ذاكرة] = معلوماتك العامة (قد تكون قديمة أو خاطئة).
[استنتاج] = تحليلك أو استنتاجك الخاص.
- لا تذكر رابطًا أو عنوانًا أو اسم مؤلف أو اقتباسًا إلا إذا رأيته فعلًا في هذه المحادثة. لا تؤلّف مرجعًا من ذاكرتك أبدًا.
- كن حذرًا بشكل خاص مع الأرقام الدقيقة والتواريخ والاقتباسات والأسماء والقوانين والأسعار وإصدارات البرامج والأحداث الحديثة، واعتبرها غير مؤكدة ما لم تأتِ من مصدر.
- في العمليات الحسابية، اعرض خطوات الحل.
- عندما أطلب رأيك أو توصيتك، قدّمه ووضّح أنه رأي.

والنسخة الإنجليزية، إن كنت تفضّلها:

Accuracy rules:
- If you're not sure, say so plainly ("I'm not certain" / "I can't confirm this"). A clear "I don't know" is better than a confident guess.
- Mark where each important claim comes from: [Source] = a document, file or web page you actually opened in this chat; [Memory] = your general knowledge (may be outdated or wrong); [Inference] = your own reasoning.
- Only cite a link, title, author or quote if you actually saw it in this chat. Never build a citation from memory.
- Be extra careful with exact numbers, dates, quotes, names, laws, prices, software versions and recent events. Mark these as unverified unless they come from a source.
- For calculations, show the steps.
- When I ask for your opinion or recommendation, give it, labeled as opinion.

فكرة القواعد بسيطة: إن لم يكن متأكدًا قال ذلك، وإن قدّم معلومة وضّح من أين جاء بها: من مصدر فتحه فعلًا، أم من معلوماته العامة، أم من استنتاجه. والقاعدة الأهم: لا يذكر رابطًا ولا اقتباسًا ولا مؤلفًا إلا إذا رآه فعلًا في المحادثة.

لماذا هذا الشرط؟ لأنك إن طلبت من النموذج مصدرًا لكل معلومة وهو لم يبحث عنها فعلًا، فقد يؤلّف لك مصدرًا من عنده.

الكود أيضًا

الفكرة نفسها تنطبق إن كنت تبني برنامجًا بأدوات مثل Claude Code أو Codex. قد يكتب لك كودًا شكله سليم وفيه أخطاء، أو يستخدم شيئًا غير موجود أصلًا. وكتابته الكود بثقة لا تعني أنه يعمل. لا بد أن تشغّله وتجرّبه، وتتأكد من النتيجة بنفسك.

جرّب بنفسك

إنت متأكد من المعلومة دي؟ وإيه مصدرها؟ اديني المصدر وأنا هفتحه بنفسي.

لماذا يهمّك هذا

ليس كل ردّ يُقال بثقة صحيحًا. وحين تبني برنامجًا بالذكاء الاصطناعي، سيكتب لك أحيانًا كودًا أو معلومة تبدو سليمة تمامًا وهي غير موجودة. ما يحميك ليس أن تثق أكثر أو أقل، بل أن تعتاد التحقق: افتح المصدر، وشغّل الكود، وانظر النتيجة بنفسك.

الثقة في النبرة ليست دليلًا. الدليل هو ما تراه بعينك.

حلقات مرتبطة

• ما هو الذكاء الاصطناعي؟: معنى Model، وهو الذي يكتب الكلام الذي شكله مظبوط.
• كيف يفكّر الذكاء الاصطناعي؟: كيف يكتب Model الردّ Token بعد آخر، كما تقترح لوحة المفاتيح الكلمة التالية.
• Prompt: كيف تطلب ما تريده بدقة؟: كيف تصوغ السؤال الذي تسأله.
• لماذا ينسى الذكاء الاصطناعي كلامك؟: Context وMemory، وإعدادات Personalization التي مررنا بها.