مراجعة تُضاف، ومراجعة تُصمَّم
«سيبقى القرار بيد إنسان» هي العبارة المطمئنة التي تُقال عادةً حين يدخل الذكاء الاصطناعي إجراءات العمل. وكثيراً ما يكون المقصود بذلك زرَّ موافقة أُضيف في النهاية. فالشخص الذي يقف خلف هذا الزر يرى توصية، وأمامه أربعون غيرها تنتظر، فيتعلم خلال يوم واحد أن الموافقة أسرع من التحقق. وهكذا تبقى الرقابة موجودة على الورق فقط.
أما المراجعة المصمَّمة فشيء مختلف. تبدأ من سؤال: أين يضيف حكم الإنسان ما تفتقده الآلة؟ ثم تمنح ذلك الشخص الوقت والمعلومات والوسائل ليمارس حكمه. فيصل إلى المراجع عدد أقل من الحالات، ويُفحص كل منها فعلاً.
صنّف كل خطوة بحسب تكلفة الخطأ فيها
| المستوى | طبيعة الخطأ | أمثلة | تصميم المراجعة |
|---|---|---|---|
| منخفض | قليل التكلفة، ظاهر، ويسهل التراجع عنه | وسم رسالة بريد، أو اقتراح تصنيف، أو كتابة مسودة ملاحظات داخلية | لا موافقة، مع مراجعة عينة لاحقاً |
| متوسط | مزعج أو محرج، لكنه قابل للتصحيح | رد على استفسار معتاد، أو حجز موعد في التقويم، أو مسودة إدخال بيانات | موافقة في البداية، ثم للحالات التي يعلّمها النظام بأنها غير مؤكدة فقط |
| عالٍ | مكلف، أو يمس حقوق العميل أو أمواله | استرداد مبلغ، أو مُدخل في قرار ائتماني، أو بند في عقد، أو سعر | موافقة شخص مؤهل في كل مرة |
| حرج | لا رجعة فيه، أو غير آمن، أو خاضع للتنظيم | مدفوعات تتجاوز حداً معيناً، أو استنتاجات طبية أو قانونية، أو حذف سجلات | الذكاء الاصطناعي يساعد فقط، والإنسان يقرر وينفّذ |
صنّف كل خطوة في سير العمل مع المسؤول عن الإجراء في الشركة، ومع فريق الامتثال حين يلزم. فبعض القرارات التي تخص الأفراد تخضع، في بعض الدول، لقواعد قانونية تنظّم القرارات الآلية، لذلك اعرض تلك الخطوات على مستشار قانوني ليراجعها. وحين يُكتب التصنيف، يصبح هو المواصفة التي تحدد أين تجري المراجعة.
امنح المراجع ما يحتاجه ليحكم
المراجع الذي لا يرى إلا الاستنتاج لا يملك إلا أن يوافق عليه. وليحكم فعلاً، يحتاج إلى أن يرى ما رآه الذكاء الاصطناعي، ولماذا يقترح ما يقترحه، دون أن يغادر الشاشة.
- الاقتراح، بعلامة واضحة. ما الذي سيحدث إن وافق، بكلمات بسيطة: أرسل هذه الرسالة، ادفع هذا المبلغ، حدّث هذه الحقول.
- الأدلة إلى جانبه. المستند المصدر، وسجل العميل، والفقرات التي اعتمد عليها، مع إبراز الأجزاء المعنية.
- ما لم يكن النظام متأكداً منه. بيانات ناقصة، أو مصادر متعارضة، أو قيمة مستخرجة بثقة منخفضة. وجّه الانتباه إلى هذه النقاط، لا إلى الأجزاء السهلة.
- ما الذي تغيّر. عند تعديل سجل أو مستند، اعرض القديم والجديد جنباً إلى جنب.
- التعديل في مكانه. ينبغي أن يستطيع المراجع تصحيح رقم أو جملة ثم الموافقة، لا أن يقتصر خياره على قبول الكل أو رفضه.
- سبب عند الرفض. قائمة قصيرة من الأسباب يختار منها، مع خانة لنص حر، تُحفظ لتحسين النظام.
لا تدع المراجعة تتحول إلى إجراء شكلي
مراجعة تبقى حقيقية
- لا يصل إلى الشخص إلا ما يحتاج إلى حكم
- عدد الحالات لكل مراجع يترك له وقتاً للفحص
- المراجعون مؤهلون للقرار المطلوب
- حالات اختبار معروفة تتضمن أخطاء تُدسّ بين الحالات من حين لآخر
- التصحيح سهل، ويرى المراجعون أثره في تحسين النظام
مراجعة تفقد معناها
- كل شيء يُرسل إلى المراجعة، فلا يُفحص شيء
- الموافقة بنقرة واحدة، والتصحيح بعشر
- يُقاس أداء المراجعين بالسرعة وحدها
- الشخص نفسه يبني ويراجع ويكتب التقارير
- وجود زر «الموافقة على الكل»
أوضح مقياس هو نسبة التعديل، أي عدد المرات التي يغيّر فيها المراجعون ما اقتُرح أو يرفضونه. فإن بقيت النسبة صفراً مدة طويلة، فإما أن الذكاء الاصطناعي لا يخطئ في هذه الحالات، وهذا ما ينبغي أن تؤكده عينة مستقلة، وإما أن الناس توقفوا عن النظر.
صمّم ما يحدث حين لا تسير الأمور كما يُتوقع
- 01
ماذا يفعل النظام حين لا يكون متأكداً؟
ما الذي تقررهينبغي أن يحيل الحالة إلى شخص مع ذكر السبب، لا أن يخمّن. وحدّد الإشارات التي تستدعي ذلك.
- 02
من يراجع ماذا؟
ما الذي تقررهاربط أنواع القرارات بالأدوار وحدود الصلاحيات. فاسترداد مبلغ يتجاوز حداً معيناً يذهب إلى المشرف.
- 03
ماذا لو لم يراجع أحد في الوقت المحدد؟
ما الذي تقررهالحالة المنتظرة تحتاج إلى موعد نهائي وتذكير وخطة بديلة. والخيار الافتراضي الآمن عادةً ألا يُفعل شيء، مع إرسال تنبيه.
- 04
كيف يرفع المراجع حالةً إلى مستوى أعلى؟
ما الذي تقررهمسار في مستوى ثانٍ للحالات التي تتجاوز صلاحياته أو معرفته.
- 05
كيف يصل العميل إلى شخص؟
ما الذي تقررهحين يتعامل سير العمل مع العملاء مباشرة، يحتاجون إلى طريقة ظاهرة لطلب التعامل مع إنسان.
- 06
كيف يُوقَف كل شيء مؤقتاً؟
ما الذي تقررهيجب أن يستطيع شخص محدد بالاسم إيقاف المعالجة الآلية فوراً، على أن يعود العمل إلى المسار اليدوي.
مثال تطبيقي
تصميم المراجعة في معالجة فواتير الموردين
هذا مثال افتراضي يبيّن كيف توضع المراجعة بحسب الخطورة. شركة تصنيع تستخدم الذكاء الاصطناعي لقراءة فواتير الموردين وتجهيزها للدفع.
- الخطوات ومستوياتهاقراءة حقول الفاتورة: منخفض. مطابقتها مع أمر الشراء: متوسط. اعتمادها للدفع: عالٍ. تغيير البيانات المصرفية للمورد: حرج.
- تلقائيالفواتير التي تطابق أمر الشراء وإيصال استلام البضاعة تماماً، وتقل عن مبلغ محدد، تنتقل مباشرة إلى دورة الدفع. ثم تُفحص عينة بنسبة فاتورة واحدة من كل 20.
- للمراجعةالفواتير التي فيها عدم تطابق، أو ينقصها رقم أمر الشراء، أو فيها مبلغ لم يستخرجه النظام بثقة كافية، أو تتجاوز قيمتها الحد، تذهب إلى موظف في الحسابات، يرى صورة الفاتورة إلى جانب أمر الشراء، مع إبراز الفروق.
- لا يكون تلقائياً أبداًأي تغيير في البيانات المصرفية يُعلَّم، ويتولاه موظف أقدم يتأكد منه هاتفياً مع المورد. ولا يفعل الذكاء الاصطناعي أكثر من الإشارة إلى أن البيانات مختلفة.
- المقاييسفي الربع الأول، يصحح الموظفون نحو فاتورة من كل 8 فواتير يراجعونها، ومعظم التصحيحات في مبالغ الضرائب على الفواتير الأجنبية. ويُعاد هذا النمط إلى النظام لتحسينه، فتنخفض النسبة.
يتعامل الموظفون مع ثلث الفواتير بدلاً منها كلها، وهي الفواتير التي تحتاج فعلاً إلى شخص. وتُظهر نسبة التعديل أن المراجعة حقيقية، فيما تسدّ قاعدة البيانات المصرفية باباً شائعاً من أبواب الاحتيال، أياً كان ما يفعله الذكاء الاصطناعي.
سجّل كل قرار، وقِس أداء المراجعة
احفظ لكل حالة ما تلقّاه الذكاء الاصطناعي، وما اقترحه، ومن راجعه، وما الذي غيّره، ومتى. فهذا السجل يجيب عن أسئلة المدقق، ويسند موقفك في أي نزاع لاحق، وهو المادة الخام لتحسين النظام.
- 01
نسبة التعديل بحسب الخطوة والسبب
تُظهر أين يضعف الذكاء الاصطناعي، وهل المراجعة فاعلة.
- 02
مدة الانتظار في قائمة المراجعة
تُظهر هل أصبحت المراجعة عنق الزجاجة.
- 03
الأخطاء المكتشفة بعد الموافقة
من العينات ومن الشكاوى. وهذه هي الجودة الحقيقية لسير العمل كله.
- 04
نسبة ما يُنجز دون مراجعة
لا ينبغي أن ترتفع إلا بقدر ما تسندها الأدلة، خطوة بعد خطوة.
- 05
اتفاق المراجعين
اجعل شخصين يراجعان العينة نفسها، كلٌّ على حدة. فالاختلاف الكبير بينهما يدل على أن المعايير غير واضحة.
خفّف المراجعة بقرار مدروس، لا بالتراخي التدريجي. فحين تُظهر خطوة متوسطة الخطورة نسبة أخطاء منخفضة على مدى فترة كافية، انقلها إلى المراجعة بالعينات، وأعلن التغيير، وحافظ على العينة.
قائمة التحقق من تصميم المراجعة البشرية
قائمة التحقق من تصميم المراجعة البشرية
0 من 11 منجزةماذا تفعل الآن
اكتب خطوات سير عمل واحد في عمود على جانب الصفحة، واكتب أمام كل خطوة تكلفة أسوأ خطأ واقعي فيها، وهل يمكن التراجع عنه. هذا الجدول يخبرك أين مكان الإنسان. وتطرح أداة تقييم حالات استخدام الذكاء الاصطناعي أسئلة قريبة عن سير العمل كله.
تصف صفحة أتمتة العمليات للشركات كيف نبني خطوات الموافقة داخل العمل المؤتمت. صِف لنا سير عملك، وسنقترح عليك أين ينبغي أن توضع المراجعة.
أسئلة شائعة
هل يحتاج كل ما يُخرجه الذكاء الاصطناعي إلى موافقة بشرية؟
لا. فمراجعة كل شيء مكلفة، وتنتهي عملياً إلى ألا يُفحص شيء كما ينبغي. اشترط الموافقة حيث يكون الخطأ مكلفاً أو صعب التراجع عنه أو خاضعاً للتنظيم. أما الخطوات منخفضة الخطورة، فدع النظام ينفّذها، ثم افحص عينة منها لاحقاً. والهدف أن يصرف الناس انتباههم حيث يُحتاج إلى الحكم.
ما نسبة التعديل، وكم ينبغي أن تكون؟
هي نسبة الحالات المراجَعة التي يغيّرها المراجع أو يرفضها. لا يوجد رقم صحيح بعينه، لكن لا ينبغي أن تبقى صفراً مدة طويلة. فالنسبة السليمة تعكس صعوبة الحالات التي تُرسل إلى المراجعة. تابعها بحسب الخطوة والسبب: فانخفاضها مع ثبات الجودة يشير إلى أن الذكاء الاصطناعي يتحسن، أما الانخفاض الذي لا تفسير له فيشير إلى قلة الانتباه.
كيف نمنع المراجعين من الموافقة على كل شيء؟
أرسل إليهم حالات أقل وأصعب. واعرض الأدلة إلى جانب الاقتراح، واجعل التعديل سريعاً كالموافقة، ولا تقِس أداءهم بالسرعة وحدها. ومن حين لآخر، أدرج حالات اختبار معروفة فيها خطأ، وانظر هل يكتشفونها. وتأكد أن المراجعين يرون أن تصحيحاتهم تغيّر سلوك النظام.
هل يمكن إلغاء المراجعة البشرية حين يثبت الذكاء الاصطناعي أنه موثوق؟
يمكن تقليصها في خطوات محددة، بناءً على الأدلة، والاستعاضة عنها بالعينات. لكن أبقِها للقرارات عالية التكلفة أو التي لا رجعة فيها أو الخاضعة للتنظيم، مهما بلغت الدقة المقيسة. وكل تقليص ينبغي أن يكون قراراً مسجلاً له مسؤول محدد بالاسم، ويمكن التراجع عنه إن تراجعت جودة العينات، ولا ينبغي أبداً أن يحدث لأن قائمة الانتظار صارت مزعجة.
من المسؤول حين يخطئ قرار للذكاء الاصطناعي سبق أن رُوجع؟
تبقى المؤسسة مسؤولة عن قراراتها، وفي الداخل ينبغي أن تقع المسؤولية على صاحب الإجراء، لا على المراجع وحده ولا على البرنامج. فالأدوار الواضحة، وحدود الصلاحيات، والسجل الكامل لما اقتُرح وما اعتُمد، تتيح التعلم من الخطأ دون البحث عن شخص يُلقى عليه اللوم.
