ليه الذكاء الاصطناعي بيوافقك وإنت غلطان — وإزاي تسأله عشان يقدر يقولك «لأ»

ده مش إحساسك: الشركات نفسها قالت كده

في أكتوبر ٢٠٢٣ نشرت Anthropic، الشركة اللي بتعمل كلود، دراسة اختبرت فيها خمس مساعدين من أشهر الأدوات وقتها. النتيجة: الخمسة بيميلوا باستمرار يقولوا للمستخدم اللي هو عايز يسمعه.

وفي أبريل ٢٠٢٥ سحبت OpenAI تحديث نزل لـChatGPT بعد ما الناس لاحظت إنه بقى بيمدح أي حاجة، حتى القرارات الخطيرة. والشركة وصفت النسخة دي بنفسها إنها كانت بتدّي ردود «داعمة زيادة عن اللزوم ومش صادقة».

يعني لما تحس إنه بيطبطب عليك، غالبًا إنت مش غلطان.

جاي منين؟ من تقييماتنا إحنا

جزء من تدريب الأدوات دي إن ناس بتقرا ردود وتختار الأحسن، والنموذج بيتعلّم يطلّع الردود اللي بتاخد تقييم أعلى. المشكلة إن البني آدمين بيحبوا اللي يوافقهم. دراسة Anthropic لقت إن الرد اللي بيوافق رأي الشخص بياخد تفضيل أكتر — وأحيانًا الناس فضّلت رد مقنع بيجامل على رد صح.

وOpenAI قالت نفس المعنى عن التحديث اللي سحبته: إنه اتأثر زيادة عن اللزوم بتقييمات المستخدمين اللحظية — اللايك اللي بتدوسه لما الرد يعجبك.

فالنموذج مش بيكدب عليك ومش بيحاول يرضيك عن قصد. هو اتعلّم إن الموافقة شكلها «إجابة كويسة»، فبيميل ليها. ودي نفس عيلة المشكلة اللي بتخلّيه يكمّل الكلام بدل ما يقول «مش عارف»: بيطلّع الشكل اللي اتكافئ عليه، مش الحقيقة اللي اتأكد منها.

أربع حالات هتقابلها في الشغل

الأربعة دول من أكتر الحاجات اللي بتحصل في المكتب، وكلهم موثّقين:

• تقوله «أنا كاتب التقرير ده، إيه رأيك؟» — الدراسة لقت إن التقييم بيطلع أحلى لما تقول إنك كاتب النص أو إنه عاجبك، وأوحش لما تقول إنه مش عاجبك. نفس النص بالظبط
• سؤالك فيه رأيك: «مش شايف إن عرض المورّد ده غالي؟» — هيلاقيلك أسباب إنه غالي
• تقوله «متأكد؟» — كتير بيعتذر عن غلطة معملهاش ويغيّر إجابة كانت صح
• سؤالك مبني على معلومة غلط — بيمشي عليها ويبني فوقها بدل ما يوقفك

أخطر واحدة التالتة. لما يغيّر إجابته بعد ما تضغط عليه، ده مش دليل إن الإجابة الجديدة أصح — ده دليل إنك ضغطت. وأوضح حاجة في الدراسة إن ده بيحصل حتى لما النموذج يكون قال بنفسه إنه واثق من إجابته الأولى.

الحل: شيل رأيك من السؤال

الأداة بتميل ناحية اللي شايفاه رأيك. فلو عايز رأيها هي، متورّيهاش رأيك. ده أهم من أي جملة زي «كن صريح معايا».

أمثلة من شغل حقيقي، قبل وبعد:

• بدل «عملت الخطة دي وشايفها كويسة، إيه رأيك؟» ← «دي خطة. هاتلي أكبر تلات مشاكل فيها قبل ما تقول أي ميزة»
• بدل «كتبت الإيميل ده، حلو؟» ← «ده إيميل رايح لمدير. إيه اللي ممكن يتفهم غلط فيه؟» — ومتقولش إنك كاتبه
• بدل «مش شايف إن المورّد الأولاني أحسن؟» ← «قارن المورّدين دول على السعر ومدة التسليم والضمان، وقول مين أحسن في الآخر بس»
• بدل «الرقم ده صح، صح؟» ← «احسب الرقم ده من الأول ووريني الخطوات»
• بدل «القرار ده صح؟» ← «اكتب أقوى حجة ضد القرار ده، كأنك واحد معترض عليه»

ولما يغيّر رأيه: متحكمش بالضغط

«متأكد؟» سؤال بيختبر قد إيه هو مستعد يتنازل، مش قد إيه الإجابة صح. فبدّله بسؤال بيطلب سبب:

• «إيه اللي ممكن يخلّي إجابتك الأولى غلط؟»
• «اشرح الخطوة اللي بنيت عليها الرقم ده»
• افتح محادثة جديدة واسأل نفس السؤال من غير رأيك. لو الإجابتين اختلفوا، يبقى ولا واحدة فيهم محسومة
• ولو الموضوع رقم أو معلومة، الحَكَم مش هو — الحَكَم المصدر أو الحسبة اللي تعملها بإيدك

إمتى الموافقة نفسها هي الخطر

لما بتسأل عن قرار — عرض هتقدّمه، فلوس هتصرفها، كلام هتقوله لمديرك — الأداة اللي بتوافقك مش رأي تاني. هي مراية. والمراية مش هتقولك إن فيه حاجة غلط ورا ضهرك.

استخدمها عشان تطلّع الاعتراضات اللي مخدتش بالك منها، مش عشان تاخد منها موافقة. وفي القرارات الكبيرة، حد فاهم الموضوع ويعرف ظروفك لسه أحسن من أي أداة.

ملحوظة: السلوك ده بيتغيّر مع كل تحديث

الشركات بتقول إنها شغّالة على تقليل الميل ده في النماذج الأحدث، وده ممكن يكون صح. إحنا مقِسناش ده بنفسنا، فمش هنديك رقم.

بس العادات اللي فوق مش معتمدة على نموذج معيّن: سؤال مفيهوش رأيك هيطلّع إجابة أنضف من أي أداة، النهارده وبعد سنة. آخر مراجعة للمصادر في الصفحة دي: أكتوبر ٢٠٢٦.