تدقيق الطبقة البشرية: قياس المساءلة في أنظمة الذكاء الاصطناعي

الورقة الأولى في هذه السلسلة أسّست لماذا تهم الطبقة البشرية: أنظمة الذكاء الاصطناعي المصممة لتضخيم الحكم البشري تتفوق على تلك المصممة للاستبدال. [20] الورقة الثانية حددت كيف تُبنى: خمسة مكوّنات معمارية تشكل رسم اعتمادية، لا قائمة مراجعة. [21] بوابات القرار، وبروتوكولات التصعيد، وهياكل المساءلة، وآليات التجاوز، وواجهات معايرة الثقة.

هذه الورقة تعالج السؤال الذي يتبع كليهما: كيف تعرف أنها تعمل فعلاً؟

معمارية لا يمكن قياسها لا يمكن فرضها. مواصفة لا يمكن تسجيلها لا يمكن تدقيقها. وطبقة بشرية موجودة على الورق لكنها تفشل تحت الضغط أسوأ من عدم وجود طبقة بشرية على الإطلاق، لأنها تخلق وهم الإشراف دون أي من وظائفه.

الورقة 1 قدمت تدقيقاً من ستة أسئلة كنقطة بداية. تلك الأسئلة كانت ثنائية: نعم أو لا. التقييم الثنائي يخبرك ما إذا كان المكوّن موجوداً. لا يخبرك ما إذا كان يعمل. لا يخبرك ما إذا كان يتدهور تحت الحمل. لا يميّز بين بوابة قرار تنتج حكماً بشرياً حقيقياً وأخرى تنتج موافقات روتينية بثلاث ثوانٍ لكل نقرة.

هذه الورقة تستبدل ذلك التقييم الثنائي بنموذج نضج. خمسة مكوّنات. خمسة مستويات لكل منها. تُسجّل مقابل مستويات مخاطر تحدد المعيار الأدنى المقبول. النتيجة إطار يمكن للبنّائين استخدامه للتصميم، والمدققين لتقييم، والمنظمين للرجوع إليه حين يحددون ما يجب أن يعنيه "الإشراف البشري" فعلاً في الممارسة.

المشهد التنظيمي والمعياري القائم يخبر المؤسسات بما يجب فعله. قانون الذكاء الاصطناعي للاتحاد الأوروبي يفرض الإشراف البشري. [3] إطار إدارة مخاطر الذكاء الاصطناعي من NIST يهيكل الحوكمة حول أربع وظائف. [11] معيار ISO/IEC 42001 يتطلب تعيين المساءلة وضوابط تشغيلية. [9] مبادئ OECD للذكاء الاصطناعي، المعتمدة من 47 دولة والمحدّثة في 2024، تتطلب أن يضمن فاعلو الذكاء الاصطناعي "قابلية التتبع، بما في ذلك فيما يتعلق بمجموعات البيانات والعمليات والقرارات المتخذة خلال دورة حياة نظام الذكاء الاصطناعي." [22] معيار IEEE 7000-2021 يوفر منهجية لدمج القيم الأخلاقية في تصميم الأنظمة. [23] عملية هيروشيما للذكاء الاصطناعي من مجموعة السبع أطلقت إطار تقارير تطوعية في فبراير 2025 لتعزيز الشفافية في تطوير الذكاء الاصطناعي المتقدم. [24]

لا يقيس أي من هذه الأطر ما إذا كانت الطبقة البشرية سليمة هيكلياً. إنها تحدد الالتزامات. لا توفر أداة تسجيل. هذه الورقة تفعل ذلك.

---

1. مستويات المخاطر

ليس كل نظام ذكاء اصطناعي يتطلب نفس مستوى الإشراف البشري. محرك توصية محتوى وخوارزمية أحكام جنائية يعملان بمخاطر مختلفة جوهرياً. تطبيق نفس المتطلبات المعمارية على كليهما ينتج إما إفراطاً هندسياً في سياقات منخفضة المخاطر أو نقصاً خطيراً في التحديد في السياقات عالية المخاطر.

قانون الذكاء الاصطناعي للاتحاد الأوروبي يصنف أنظمة الذكاء الاصطناعي بالفعل في فئات مخاطر. [3] لكن تصنيفه يخبر المؤسسات بأي مستوى تنظيمي تقع فيه. لا يحدد كيف يجب أن تبدو معمارية طبقتها البشرية في كل مستوى. هذا الإطار يوسع تصنيف المخاطر إلى متطلبات معمارية.

ثلاثة مستويات، محددة بشدة العواقب وقابلية العكس:

المستوى 1: استشاري. نظام الذكاء الاصطناعي يُعلم القرارات البشرية لكنه لا ينفذ إجراءات بشكل مستقل. المخرجات منخفضة العواقب وقابلة للعكس. الأمثلة تشمل توصيات المحتوى، وتحسين الجدولة، وتلخيص الوثائق، وترتيب البحث. الإنسان يعمل باستقلالية كاملة. الذكاء الاصطناعي يوفر مدخلات. إذا كانت المدخلات خاطئة، تكلفة التصحيح ضئيلة.

المستوى 2: تعاوني. نظام الذكاء الاصطناعي والإنسان يتشاركان عملية القرار. المخرجات تحمل عواقب متوسطة وقابلة للعكس جزئياً. الأمثلة تشمل فرز التشخيص، والفحص المسبق للائتمان، والتحقق المسبق من الأصول، وتقييم مطالبات التأمين، وقائمة المرشحين للتوظيف. الذكاء الاصطناعي يُضيّق مساحة القرار. الإنسان يتخذ الحكم ذا العواقب ضمن تلك المساحة. الأخطاء قابلة للاسترداد لكنها تحمل تكلفة قابلة للقياس في الوقت أو الموارد أو ثقة أصحاب المصلحة.

المستوى 3: ذو عواقب. مخرجات الذكاء الاصطناعي تؤثر مباشرة على حقوق الأفراد أو سلامتهم أو حريتهم أو تعرض مالي كبير. المخرجات لا رجعة فيها أو تحمل تكلفة عكس عالية. الأمثلة تشمل تسجيل المخاطر الجنائية، وتنفيذ التداول المستقل، وتوصيات العلاج الطبي، والتعرف البيومتري لإنفاذ القانون، والموافقة على الأصول بدرجة مؤسسية للأسواق المنظّمة. في هذا المستوى، الطبقة البشرية ليست تحسيناً. إنها متطلب قانوني وهيكلي.

كل مستوى يضع متطلبات نضج دنيا مختلفة عبر المكوّنات الخمسة المحددة في الورقة 2. أنظمة المستوى 1 يجب أن تحقق المستوى 2 (وظيفي) على الأقل عبر جميع المكوّنات. أنظمة المستوى 2 تتطلب المستوى 3 (هيكلي) كحد أدنى. أنظمة المستوى 3 تتطلب المستوى 4 (تكيفي) كحد أدنى، مع عدم حصول أي مكوّن على أقل من المستوى 3.

تصنيف المستوى يُحدد بأعلى مخرج ذي عواقب يمكن للنظام إنتاجه، لا بالمتوسط. ذكاء اصطناعي تشخيصي يتعامل مع فحوصات روتينية في المستوى 1 لكنه يُعلّم أيضاً أوراماً محتملة يعمل في المستوى 2 للنظام بأكمله، لأن مسار التصعيد يقود إلى قرارات سريرية ذات عواقب. منصة تمويل مرمّز تؤتمت فحوصات الوثائق الروتينية لكنها توافق أيضاً على أصول بدرجة مؤسسية للسوق تعمل في المستوى 3، لأن قرار الموافقة لا رجعة فيه ويحمل تعرضاً تنظيمياً.

المبدأ المحافظ: إذا كان المستوى غامضاً، صنّف أعلى.

لا يستطيع النظام تقليل تصنيف مستواه بعزل المخرجات عالية العواقب معمارياً في أنظمة فرعية مدققة بشكل منفصل. المستوى ينطبق على النظام المتكامل كما هو منشور. تضييق النطاق هو أقدم تكتيك للتهرب من التدقيق في الصناعات المنظّمة. هذا الإطار لا يسمح به.

---

2. نموذج النضج

نموذج النضج يُقيّم كلاً من مكوّنات الطبقة البشرية الخمسة عبر خمسة مستويات. النتيجة مصفوفة من 25 خلية ترسم الحالة الحالية للمؤسسة وتوفر مساراً ملموساً للتحسين.

المستوى 0: غائب. المكوّن غير موجود في النظام. لا بوابة قرار، لا بروتوكول تصعيد، لا ربط مساءلة، لا آلية تجاوز، أو لا واجهة معايرة ثقة تم تصميمها أو تنفيذها. النظام يعمل بدون هذه الوظيفة تماماً.

المستوى 1: اسمي. المكوّن موجود في السياسة أو التوثيق أو النية المعلنة لكنه غير مفروض من معمارية النظام. بوابة قرار موصوفة في وثيقة امتثال لكن النظام لا يوقف فعلاً التنفيذ بانتظار التصريح البشري. هيكل مساءلة يُسمي أطرافاً مسؤولة في مخطط تنظيمي لكن النظام لا يسجل أي إنسان صرّح بأي مخرج. المكوّن ديكوري. يُرضي خانة اختيار. لا ينتج إشرافاً.

المستوى 2: وظيفي. المكوّن مُنفّذ وعامل في ظروف طبيعية. بوابات القرار توقف التنفيذ وتتطلب مدخلات بشرية. بروتوكولات التصعيد توجّه الحالات غير المؤكدة. هياكل المساءلة تربط المخرجات بالبشر. آليات التجاوز متاحة عند الواجهة. معايرة الثقة توفر إشارات موثوقية. لكن المكوّن غير مقاس، غير مدقّق، وفعاليته غير مراقبة. يعمل حين تكون الظروف مواتية. ما إذا كان يعمل تحت الحمل أو الضغط أو عبر الزمن غير معروف.

المستوى 3: هيكلي. المكوّن مفروض من النظام، مقاس عبر التتبع، وينتج سجلات قابلة للتدقيق. لا يمكن تجاوزه دون إطلاق استثناء. بوابات القرار تسجل إجراء الإنسان والوقت المنقضي والفارق بين توصية النظام وقرار الإنسان. بروتوكولات التصعيد تتبع دقة التوجيه ووقت الاستجابة. أحداث التجاوز تلتقط التبرير. تتبع معايرة الثقة يحسب مقاييس RAIR (الاعتماد الإيجابي النسبي على الذكاء الاصطناعي) وRSR (الاعتماد الذاتي الإيجابي النسبي). [15] طبقة الاستمرارية المطلوبة في الورقة 2 عاملة بالكامل. المكوّن يعمل كبنية تحتية معمارية، لا كميزة يمكن إيقافها.

تعريف RAIR وRSR. هذه المقاييس محورية للتمييز بين المستوى 3 والمستوى 4 ويجب أن تكون قابلة للحساب من طبقة الاستمرارية، لا مجرد مرجع.

RAIR (الاعتماد الإيجابي النسبي على الذكاء الاصطناعي) = عدد الحالات التي حدّث فيها الإنسان قراراً غير صحيح في البداية بناءً على نصيحة ذكاء اصطناعي صحيحة، مقسوماً على إجمالي عدد الحالات التي كان فيها الذكاء الاصطناعي صحيحاً والإنسان غير صحيح في البداية. RAIR مرتفع يعني أن الإنسان يثق بالذكاء الاصطناعي حين يكون صحيحاً.

RSR (الاعتماد الذاتي الإيجابي النسبي) = عدد الحالات التي رفض فيها الإنسان نصيحة ذكاء اصطناعي غير صحيحة لصالح حكمه الصحيح، مقسوماً على إجمالي عدد الحالات التي كان فيها الذكاء الاصطناعي غير صحيح والإنسان صحيحاً في البداية. RSR مرتفع يعني أن الإنسان يثق بنفسه حين يكون الذكاء الاصطناعي مخطئاً.

مثال تطبيقي: نظام فرز تشخيصي يعالج 1,000 حالة في شهر. في 80 حالة، كان الذكاء الاصطناعي صحيحاً والإنسان اختلف في البداية. من بينها، حدّث الإنسان قراره في 60 حالة. RAIR = 60/80 = 0.75. في 40 حالة، كان الذكاء الاصطناعي غير صحيح والإنسان كان لديه الإجابة الصحيحة. الإنسان تمسك بموقفه في 30 حالة. RSR = 30/40 = 0.75. كلا المقياسين عند 0.75 يشيران إلى معايرة معقولة. إذا ارتفع RAIR نحو 1.0 بينما انخفض RSR نحو 0.0، الإنسان يخضع للذكاء الاصطناعي عشوائياً. إذا ارتفع RSR بينما انخفض RAIR، الإنسان يتجاهل الذكاء الاصطناعي تماماً. نظام معايَر جيداً يحافظ على كلا المقياسين فوق خط أساس خاص بالمجال.

عتبات التنبيه التالية توضيحية لا معيارية، وتخضع لنفس متطلب تبرير المجال مثل جميع العتبات الأخرى في هذا الإطار. RAIR أو RSR مستدامان تحت 0.5 على مدى نافذة 90 يوماً يستدعيان التحقيق فيما إذا كانت الطبقة البشرية منخرطة. كلا المقياسين تحت 0.3 في آن واحد يشير إلى أن الطبقة البشرية لا تعمل كمعايَرة: الإنسان لا يتعلم من الذكاء الاصطناعي حين يكون صحيحاً ولا يصحح الذكاء الاصطناعي حين يكون مخطئاً. بالعكس، RAIR مستدام فوق 0.95 مع RSR تحت 0.2 يشير إلى خضوع غير نقدي. هذه النطاقات يجب أن تُعايَر مقابل المجال المحدد وتعقيد المهام ودقة نموذج الذكاء الاصطناعي. اعتمادها دون تبرير لا يُرضي متطلب توثيق العتبات.

المستوى 4: تكيفي. كل ما في المستوى 3، بالإضافة إلى أن النظام يراقب طبقته البشرية للتدهور ويُطلق إجراءات تصحيحية. بوابات القرار تُعلّم حين تنخفض أوقات الموافقة تحت عتبات دنيا، مشيرة إلى سلوك الموافقة الروتينية. بروتوكولات التصعيد تكشف حين ينخفض تكرار التصعيد إلى صفر في فئات الحالات الحدّية، مشيرة إلى أن النظام قد يكبت إشارات عدم اليقين. هياكل المساءلة تُنبّه حين يراكم فرد واحد حجم قرارات يتجاوز طاقة المراجعة المعقولة. مراقبة التجاوز تكشف حين تنخفض معدلات التجاوز إلى صفر (مشيرة إلى تحيز الأتمتة) أو تقفز دون نمط (مشيرة إلى نفور الخوارزمية). معايرة الثقة تتبع ما إذا كانت مقاييس RAIR وRSR تتباعد عبر الزمن، مشيرة إلى خلل في المعايرة.

مشكلة الحقيقة المرجعية. RAIR وRSR تتطلبان معرفة أي طرف كان صحيحاً. في كثير من بيئات المستوى 3، الإجابة الصحيحة غير معروفة فوراً. درجة مخاطر جنائية قد لا تُصادق لسنوات. تشخيص طبي طويل المدى قد يستغرق أشهراً للحل. مراقبة المستوى 4 لا تستطيع التوقف بانتظار النتائج. المعمارية يجب أن تستخدم معايرة مزدوجة المسار.

المسار أ (فوري): النظام يستخدم موثوقية التقييم المتبادل كبديل عملية. حين يختلف الذكاء الاصطناعي والإنسان، يُطلق النظام رأياً ثانياً أعمى من إنسان مؤهل آخر. الاتفاق العالي بين بشر مستقلين يخدم كبديل فوري للحقيقة المرجعية. هذا لا يحل محل بيانات النتائج. إنه يوفر إشارة فورية بأن الطبقة البشرية تنتج أحكاماً متسقة ومدروسة بدلاً من موافقات روتينية أو تجاوزات عشوائية.

المسار ب (بأثر رجعي): حين تُعرف النتيجة الفعلية (أسابيع أو أشهر أو سنوات لاحقاً)، يُجري النظام تسوية بأثر رجعي. يعيد حساب RAIR وRSR لتلك المجموعة من القرارات باستخدام نتائج مُتحقق منها ويعدّل عتبات التصعيد الحالية بناءً على البيانات المعاد معايرتها.

أنظمة المستوى 4 يجب أن توثق الارتباط بين إشاراتها البديلة والنتائج الفعلية. إذا تنبأ البديل بشكل موثوق بالدقة طويلة المدى، فالمراقبة الفورية صالحة. إذا لم يتنبأ، يجب إعادة معايرة منهجية البديل. طبقة الاستمرارية يجب أن تحتفظ ببيانات كافية لإجراء هذا التحليل بأثر رجعي طوال مدة نافذة النتائج.

في المستوى 4، الطبقة البشرية ذاتية المراقبة. لا تنتظر مدققاً ليكتشف أن الإشراف تدهور. تكشف التدهور في الوقت الحقيقي وتُصعّد. هذا هو المستوى الذي تكسب فيه المعمارية الثقة المؤسسية، لأن النظام نفسه يراقب ما إذا كانت الطبقة البشرية لا تزال تعمل.

معايير النضج على مستوى المكوّنات

التالي يحدد كيف يبدو كل مستوى لكل مكوّن. هذه هي المعايير التي يُجرى مقابلها التقييم الذاتي والتدقيق الخارجي.

بوابات القرار. المستوى 0: لا نقطة مراجعة بشرية قبل الإجراءات ذات العواقب. المستوى 1: السياسة تنص على أن الموافقة البشرية مطلوبة؛ النظام لا يفرضها. المستوى 2: النظام يتوقف عند البوابة؛ الإنسان يجب أن يتصرف للمتابعة. المستوى 3: البوابة تسجل الإجراء والتوقيت والفارق بين التوصية والقرار؛ التجاوز يُطلق استثناء. المستوى 4: النظام يراقب أنماط الموافقة؛ يستخدم خطوط أساس انخراط معدّلة حسب التعقيد بدلاً من أوقات ثابتة دنيا (وقت الانخراط المتوقع يختلف حسب صعوبة الحالة، مما يجعل التلاعب أصعب في التنبؤ؛ تصنيف التعقيد يجب أن يُشتق من سمات حالة قابلة للقياس مثل حجم المدخلات وعدد المتغيرات والتعرض التنظيمي وتوفر السوابق، لا من التقييم الذاتي للمشغّل؛ مثلاً، في خط أنابيب التحقق من الأصول، فحص وثائق روتيني مقابل طرف مقابل معروف منخفض التعقيد بينما فئة أصول جديدة بتعرض تنظيمي عابر للحدود عالية التعقيد، ووقت الانخراط المتوقع يجب أن يختلف وفقاً لذلك)؛ ينشر أخذ عينات التحقق بإدراج حالات معروفة الإجابة حيث توصية الذكاء الاصطناعي خاطئة عمداً لاختبار ما إذا كان الإنسان يكتشف الخطأ؛ يُعلّم أنماط مستدامة من الموافقة دون تعديل جوهري؛ يُنبّه المشرف حين يتدهور الانخراط عند البوابة. قيد سلامة العينات: كل حالة أخذ عينات تحقق يجب أن تُعلّم في البيانات الوصفية لحظة توليدها، وطبقة تنفيذ النظام يجب أن تعترض أي عينة موافق عليها قبل وصولها للإنتاج. عينة فاشلة تكشف مشكلة انخراط بشري. يجب ألا تنتج أبداً عاقبة في العالم الحقيقي. في بيئات المستوى 3، منطق الاعتراض يجب أن يكون منفصلاً منطقياً عن منطق القرار لضمان أن فشلاً في النظام الأساسي لا يمكنه تعطيل فحص السلامة. برامج أخذ عينات التحقق يجب أن تُوافق عليها سلطة حوكمة النظام قبل النشر. يجب إبلاغ المشغّلين بأن أخذ عينات التحقق نشط، وإن لم يُحدد أي حالات بعينها هي عينات. تكرار أخذ العينات يجب أن يُعايَر لتجنب التداخل مع الإنتاجية التشغيلية مع الحفاظ على الصلاحية الإحصائية لتقييم الانخراط.

بروتوكولات التصعيد. المستوى 0: النظام يتقصّر على مخرجات النموذج لجميع المدخلات، بما في ذلك الحالات الحدّية. المستوى 1: التوثيق يصف متى يجب حدوث التصعيد؛ النظام لا يكشف عدم اليقين. المستوى 2: النظام يكشف عدم اليقين ويوجّه إلى الإنسان؛ محفّزات التصعيد وظيفية. المستوى 3: سجلات التصعيد تتبع التوجيه ووقت الاستجابة والنتيجة؛ كل سلسلة تنتهي في شخص طبيعي؛ العتبات معايَرة مقابل بيانات المجال. المستوى 4: النظام يراقب تكرار التصعيد حسب الفئة؛ يكشف عدم اليقين المكبوت؛ يعيد معايرة العتبات بناءً على بيانات النتائج؛ يُنبّه حين تكون مسارات التصعيد غير مستخدمة.

هياكل المساءلة. المستوى 0: لا ربط بين مخرجات النظام والبشر المسؤولين. المستوى 1: المخطط التنظيمي يُسمي أدواراً مسؤولة؛ النظام لا يفرض التعيين. المستوى 2: كل مخرج ذي عواقب مربوط بإنسان مُسمّى. المستوى 3: التعيين المسبق مفروض قبل المخرج؛ التفويض صريح؛ سجلات تتبع المساهمة تسجل مدخلات المتعاونين؛ الهوية ومستوى السلطة والتحقق من الكفاءة مسجلة. المستوى 4: النظام يكشف تركز حجم القرارات؛ يُعلّم تجاوز السعة؛ يُنبّه حين تظهر فجوات مساءلة من تغييرات الموظفين أو تحديثات النظام.

آليات التجاوز. المستوى 0: لا آلية لرفض أو تعديل مخرجات الذكاء الاصطناعي عند واجهة القرار. المستوى 1: التجاوز موجود في لوحة الإدارة أو يتطلب تدخلاً تقنياً. المستوى 2: التجاوز متاح عند واجهة القرار دون وصول تقني. المستوى 3: وظائف إجبار معرفية حاضرة؛ تأييد على مستوى العناصر بدل الموافقة الشاملة؛ التبرير مسجل؛ مُختبر في ظروف طبيعية. المستوى 4: النظام يراقب تكرار التجاوز؛ يكشف تحيز الأتمتة (صفر تجاوزات) ونفور الخوارزمية (تجاوزات عشوائية)؛ يختبر التجاوز في ظروف متدهورة (ضغط، ضيق وقت، حمل معرفي)؛ أخذ عينات التحقق يؤكد أن البشر يمارسون التجاوزات حين يكون الذكاء الاصطناعي خاطئاً عمداً، لا فقط حين تجعل الواجهة ذلك مناسباً.

واجهات معايرة الثقة. المستوى 0: لا إشارات موثوقية مقدمة للإنسان بخلاف مخرجات النموذج. المستوى 1: درجة الثقة معروضة؛ لا إشارات معايرة خارجية. المستوى 2: معدلات دقة تاريخية وشروط حدودية وعلامات تحول التوزيع مقدمة؛ إشارات الموثوقية خارجية عن التقييم الذاتي للنموذج. المستوى 3: RAIR/RSR محسوبة من التتبع؛ معدلات الخلاف مسجلة؛ مؤشرات الاعتمادية مراقبة (أداء الإنسان يتدهور حين لا يتوفر الذكاء الاصطناعي). المستوى 4: النظام يكشف انزياح المعايرة عبر الزمن؛ يُنبّه حين يتباعد RAIR/RSR؛ يراقب تشكّل الاعتمادية؛ يعدّل تكرار التوصيات لحفظ الاستقلالية البشرية.

متطلب توثيق العتبات

معايير النضج تشير إلى عتبات طوال النص: أوقات انخراط دنيا للبوابات، حجم قرارات أقصى لكل إنسان، خطوط أساس تكرار التصعيد، حدود معدل التجاوز. هذه العتبات خاصة بالمجال ولا يمكن تعميمها. بوابة قرار بـ 10 ثوانٍ مناسبة للفحص المسبق للائتمان؛ إنها خطيرة السرعة لموافقة أصل مؤسسي. إنسان يراجع 150 علامة إشراف محتوى يومياً قد يكون ضمن السعة؛ إنسان يراجع 150 درجة مخاطر أحكام يومياً بالتأكيد تقريباً ليس كذلك.

الإطار لا يفرض أرقاماً عالمية. يتطلب من المؤسسات تحديد وتوثيق وتبرير عتباتها الخاصة كجزء من أدلة التدقيق. النطاقات التالية توضيحية لا معيارية:

وقت انخراط أدنى لبوابة القرار: المستوى 1، 3+ ثوانٍ. المستوى 2، 15+ ثانية. المستوى 3، محدد حسب المجال لكن موثق ومبرر مقابل تحليل تعقيد المهام.

حد أقصى للقرارات ذات العواقب لكل إنسان يومياً: المستوى 1، محدد من المؤسسة. المستوى 2، موثق مع تحليل إرهاق. المستوى 3، محدود بالسعة مع تناوب إلزامي أو حدود عبء عمل.

خط أساس تكرار التصعيد: إذا أظهر نظام المستوى 2 أو المستوى 3 صفر تصعيدات خلال فترة 30 يوماً، يجب مراجعة معايرة العتبة. صفر تصعيد في نظام يعالج حالات حدّية إشارة إلى أن آلية الكشف لا تعمل، لا أن كل حالة كانت واضحة.

حدود معدل التجاوز: معدل تجاوز مستدام 0% على 30+ يوماً في نظام المستوى 2 أو المستوى 3 يُطلق مراجعة تحيز الأتمتة. معدل تجاوز مستدام فوق 40% يُطلق مراجعة نفور الخوارزمية وإعادة معايرة محتملة للنموذج.

أي عتبة مختارة يجب أن تُوثق في أدلة تدقيق النظام، بما في ذلك الأساس المنطقي للقيمة المختارة والبيانات المستخدمة لمعايرتها وجدول إعادة المعايرة. المدقق الذي يُقيّم النظام لا يتحقق مما إذا كانت العتبة تطابق معياراً عالمياً. المدقق يتحقق مما إذا كانت العتبة موجودة ومبررة ومفروضة. اعتماد النطاقات التوضيحية المقدمة في هذه الورقة دون تبرير خاص بالمجال لا يُرضي متطلب توثيق العتبات ويشكل نقصاً في التدقيق.

---

3. تثبيت الهوية

تثبيت الهوية هو المتطلب الشامل الذي تعتمد عليه هياكل المساءلة لكن الأطر القائمة تحدده باستمرار بشكل ناقص. إنه يجيب على السؤال التشغيلي: حين ينتج النظام مخرجاً ذا عواقب، أي شخص طبيعي محدد صرّح به، وهل يمكن تحديد ذلك الشخص بعد الحدث؟

الورقة 2 أسّست المبدأ: كل مخرج ذي عواقب يجب أن يُربط بإنسان مُسمّى. [21] كما حددت نمطي الفشل: المساءلة المشتتة، حيث تتوزع المسؤولية عبر الفرق واللجان والموردين حتى لا يكون أحد قابلاً للتحديد؛ ومناطق التجعّد الأخلاقية، حيث يُوضع إنسان كإشراف لكنه يفتقر للمعلومات أو السلطة أو وقت الاستجابة للتحكم فعلاً في النتيجة. [17]

هذا القسم يحدد كيف يجب تنفيذ تثبيت الهوية.

التعيين المسبق. الإنسان المسؤول يجب تحديده قبل إنتاج المخرج، لا بعد معرفة النتيجة. هذا يعني أن النظام يجب أن يعرف، عند نقطة بوابة القرار، أي شخص مصرّح بالتصرف. تعيين المساءلة بعد الحدث، حيث تحدد المؤسسة من كان مسؤولاً فقط بعد فشل، ليست مساءلة. إنها توزيع لوم.

متطلب الكفاءة. الإنسان المعيّن يجب أن يمتلك سلطة في المجال، لا مجرد وصول للنظام. مشغّل مبتدئ ببيانات اعتماد تسجيل دخول ليس مكافئاً لمتخصص في المجال بكفاءة صنع القرار. بند 5 من ISO 42001 يتطلب أن تُعيّن المساءلة لأشخاص لديهم "الكفاءة والتدريب والسلطة اللازمة." [9] المادة 26(2) من قانون الذكاء الاصطناعي للاتحاد الأوروبي تستخدم لغة مطابقة. [3] تثبيت الهوية يفرض هذا بمطالبة النظام بالتحقق من مستوى الكفاءة قبل قبول تصريح الإنسان عند بوابات المستوى 2 والمستوى 3.

بروتوكول التفويض. حين يكون الإنسان المعيّن غير متاح، يجب على النظام اتباع سلسلة تفويض صريحة. التفويض لا يمكن أن يكون ضمنياً. النظام لا يستطيع التقصير إلى "أي شخص مسجل الدخول." سلسلة التفويض يجب أن تكون محددة مسبقاً وموثقة والشخص المفوّض يجب أن يستوفي نفس متطلب الكفاءة مثل الأساسي. إذا لم يتوفر مفوّض مؤهل، يجب على النظام ترتيب القرار في طابور بدلاً من المتابعة دون إشراف مصرّح.

قاعدة مكافحة التشتت. المساءلة لا يمكن أن تتوزع عبر "الفريق" أو "اللجنة" أو "الذكاء الاصطناعي." اسم واحد لكل قرار ذي عواقب. اللجان يمكنها التقديم بنصيحة. مجموعات العمل يمكنها المراجعة. لكن حين تُغلق بوابة القرار، هوية شخص طبيعي واحد تُسجّل كمصرّح. هذا هو الفرض المعماري لما تسميه OECD ضمان أن "فاعلي الذكاء الاصطناعي يجب أن يكونوا مسؤولين عن الأداء السليم لأنظمة الذكاء الاصطناعي." [22] "فاعلو الذكاء الاصطناعي" في هذه المواصفة تعني بشراً قابلين للتحديد بسلطة معيّنة مسبقاً.

تتبع المساهمة. قاعدة مكافحة التشتت لا تمنع صنع القرار التعاوني. المجالس الطبية تتداول. لجان الائتمان تصوّت. الفرق الهندسية تراجع. القاعدة تتطلب أنه حين تُغلق البوابة، شخص واحد يوقّع. لكن طبقة الاستمرارية يجب أن تسمح لذلك المثبّت الأساسي بوسم المتعاونين والاستشارات المتخصصة وأصوات اللجان التي أعلمت قرارهم. هذا يخدم غرضين. أولاً، يحمي المثبّت الأساسي من التحول إلى منطقة تجعّد أخلاقية بتوثيق أن تصريحهم كان مُعلماً بمدخلات مؤهلة، لا أنهم كانوا مجرد التوقيع الأخير في سلسلة. ثانياً، يحفظ المسار الاستدلالي الذي يُظهر التحكم ذا المعنى: المثبّت اعتبر المدخلات المتخصصة واتخذ حكماً، بدلاً من الموافقة الروتينية على توصية لجنة لم يكن لديه أساس مستقل لتقييمها. المثبّت الأساسي يبقى وحده مسؤولاً. تتبع المساهمة يوثق كيف مارس تلك المساءلة.

حالة AssetLink. حين صممنا خط أنابيب التحقق من الأصول لبنيتنا التحتية للترميز المالي، حقق الذكاء الاصطناعي دقة 95%+ في التحقق من الوثائق. كان بإمكان النظام معالجة الأصول بدرجة مؤسسية من البداية إلى النهاية دون مراجعة بشرية. بنينا بوابة القرار على أي حال، لأنه في التمويل المنظّم، خطأ تحقق ليس خطأ تقريبياً. إنه فشل امتثال بعواقب على الطرف المقابل وتنظيمية وسمعية.

لكن بوابة القرار وحدها لم تكن كافية. احتجنا لمعرفة أي إنسان وافق على كل أصل، وما إذا كان ذلك الإنسان لديه السلطة والكفاءة لإجراء الموافقة، وما إذا كانت الموافقة تمثل مراجعة جوهرية أو موافقة روتينية. تثبيت الهوية يعني تعيين مراجعي امتثال كبار مسبقاً لكل فئة أصول، ومطالبة شهادة خاصة بالمجال قبل منح تصريح البوابة، وتسجيل هوية المراجع مع كل موافقة، ومراقبة سرعة الموافقة لكشف حين تنخفض أوقات المراجعة تحت عتبات الانخراط ذي المعنى. الطبقة البشرية عملت ليس لأننا أضفنا خانة اختيار قبل الخطوة الأخيرة. عملت لأن الهوية خلف خانة الاختيار كانت مُتحقق منها ومؤهلة ومسؤولة.

---

4. قابلية تتبع الامتثال

الورقة 2 حددت طبقة استمرارية كركيزة تصبح عليها المكوّنات الخمسة جميعها قابلة للقياس. [21] هذا القسم يحدد ما يجب أن تحتويه طبقة الاستمرارية وكيف ترتبط بالتزامات التقارير التنظيمية.

مسار التدقيق يجب أن يلتقط، كحد أدنى، البيانات التالية لكل تفاعل ذي عواقب مع النظام:

حالة النظام: توصية الذكاء الاصطناعي ومستوى الثقة وأي علامات عدم يقين عند نقطة بوابة القرار.

الإجراء البشري: الإجراء المحدد المتخذ: موافقة، تعديل، رفض، تصعيد، أو تجاوز. للتعديلات والتجاوزات، العناصر المحددة المُغيّرة والتبرير المقدم.

سجل الهوية: الهوية المصادق عليها للإنسان الذي تصرف، ومستوى سلطته المعيّن مسبقاً، وحالة التحقق من الكفاءة.

البيانات الزمنية: الطابع الزمني لتوصية الذكاء الاصطناعي، والطابع الزمني للإجراء البشري، والوقت المنقضي بينهما.

سجل الفارق: الفرق بين توصية الذكاء الاصطناعي والإجراء النهائي للإنسان. هذه هي الإشارة التي تميز الإشراف النشط عن الموافقة السلبية.

تتبع التصعيد: إذا أطلق التفاعل تصعيداً، مسار التوجيه والوجهة ووقت الاستجابة والنتيجة.

هذه البيانات يجب الاحتفاظ بها لفترة تحددها البيئة التنظيمية. قانون الذكاء الاصطناعي للاتحاد الأوروبي يتطلب الاحتفاظ بالسجلات "لفترة مناسبة في ضوء الغرض المقصود من نظام الذكاء الاصطناعي عالي المخاطر." [3] بند 9 من ISO 42001 يتطلب سجلات "تقييم الأداء" التي تمكّن التقييم المستمر لفعالية نظام الذكاء الاصطناعي. [9] وظيفة MEASURE في NIST AI RMF تتطلب توثيقاً كافياً "لتحديد ومقارنة ومراقبة مخاطر الذكاء الاصطناعي." [11]

طبقة قابلية تتبع الامتثال ليست نظاماً منفصلاً. إنها طبقة الاستمرارية من الورقة 2، مهيكلة لخدمة ثلاثية: تتبع تشغيلي للبنّاء، وأدلة تدقيق للمنظّم، وإشارة ثقة لأصحاب المصلحة.

الربط مع الأطر التنظيمية الرئيسية:

المادة 14 من قانون الذكاء الاصطناعي للاتحاد الأوروبي تتطلب دليلاً على أن الإشراف البشري يعمل "كما هو مقصود." تتبع الامتثال يوفر هذا الدليل عبر سجلات الفارق والبيانات الزمنية. إذا تجمعت أوقات الموافقة عند ثانيتين بصفر تعديلات، يوثق التتبع أن الإشراف اسمي.

وظيفة GOVERN في NIST AI RMF تتطلب "أصحاب مصلحة محددين مسؤولين عن الأمان والامتثال وصنع القرار." [11] سجل الهوية يُرضي هذا. وظيفة MEASURE تتطلب مراقبة مخاطر قابلة للقياس. مقاييس RAIR وRSR المحسوبة من التتبع تُرضي هذا.

بند 8 من ISO 42001 يتطلب ضوابط تشغيلية لأنظمة الذكاء الاصطناعي. سجلات بوابة القرار والتصعيد توثق تلك الضوابط. بند 9 يتطلب تقييم الأداء. البيانات الزمنية والفارق تمكّنه.

مبادئ OECD للذكاء الاصطناعي تتطلب قابلية التتبع "بما في ذلك فيما يتعلق بمجموعات البيانات والعمليات والقرارات المتخذة خلال دورة حياة نظام الذكاء الاصطناعي." [22] تتبع الامتثال، مأخوذاً ككل، هو تنفيذ ذلك المتطلب.

هوية الوكيل في الأنظمة الوكيلية. تتبع الامتثال كما حُدد أعلاه يلتقط الجانب البشري من سلسلة المساءلة. في الأنظمة حيث تتصرف وكلاء الذكاء الاصطناعي بسلطة مفوّضة (تنفيذ تداولات، إجراء فحص امتثال، معالجة تحققات)، طبقة الاستمرارية يجب أيضاً أن تلتقط جانب الوكيل: أي وكيل نفّذ الإجراء، بأي بيانات اعتماد، عند أي مستوى ثقة، وتحت أي قيود سياسة. سلسلة المساءلة في نظام وكيلي لها نقطتا نهاية. الإنسان الذي صرّح والوكيل الذي نفّذ. إذا كان أي جانب غير محدد، السلسلة مكسورة. هذا يعني أن طبقة الاستمرارية يجب أن تسجل هوية وكيل قابلة للتحقق تشفيرياً جنباً إلى جنب مع هوية الإنسان عند كل نقطة قرار. درجات ثقة الوكيل وخطوط الأساس السلوكية وعلامات الشذوذ وحالة بيانات الاعتماد هي المكافئ على جانب الآلة لمقاييس RAIR/RSR وتتبع التجاوز على الجانب البشري. إطار حوكمة الذكاء الاصطناعي النموذجي في سنغافورة للذكاء الاصطناعي الوكيلي يعترف بالفعل بهذا المتطلب: يجب تحديد المسؤولية عبر جميع الفاعلين في دورة حياة الوكيل، بما في ذلك الوكلاء أنفسهم. [12] تتبع امتثال يتابع الإنسان لكن ليس الوكيل الذي تصرف بناءً على تصريح الإنسان ناقص.

حوكمة التتبع. طبقة الاستمرارية تلتقط بيانات عالية الدقة عن صنع القرار البشري الفردي. هذا يخلق قلقاً مشروعاً: إذا علم البشر أن معدلات خلافهم وأنماط تجاوزهم وأوقات انخراطهم تُتبّع وتُسجّل، يواجهون ضغطاً نفسياً للامتثال لمخرجات الذكاء الاصطناعي بدلاً من ممارسة الحكم المستقل. التتبع سينتج عندها تحيز الأتمتة ذاته المصمم لكشفه.

مبدأ الحوكمة كالتالي. RAIR وRSR ومعدلات التجاوز ومقاييس الانخراط يجب أن تُستخدم لمعايرة النظام، لا لتقييم الأداء الفردي. الغرض من التتبع هو تقييم ما إذا كانت الطبقة البشرية كمكوّن معماري تعمل، لا لترتيب البشر الأفراد ضد بعضهم أو معاقبة الخلاف مع الذكاء الاصطناعي. البيانات على المستوى الفردي لا يجوز مراجعتها إلا حين تُتجاوز عتبة إهمال جسيم (مثلاً، مراجع يوافق على حالة أخذ عينات تحقق حيث كان الذكاء الاصطناعي خاطئاً عمداً) أو حين تشير أنماط إجمالية إلى فشل نظامي يتطلب تحقيقاً. هذه الحدود يجب توثيقها في سياسة حوكمة بيانات النظام والإفصاح عنها لجميع البشر العاملين ضمن الطبقة البشرية. المراقبة السلوكية غير المفصح عنها لموظفي الإشراف تُضعف الثقة التي تعتمد عليها الطبقة البشرية للعمل.

---

5. عتبات التصعيد

الورقة 2 أسّست أن بروتوكولات التصعيد يجب أن تُفعّل بواسطة عدم يقين يكشفه النظام، لا بالتقييم الذاتي البشري. [21] أدبيات تحيز الأتمتة تؤكد أن البشر يفشلون منهجياً في التصعيد حين يكون التصعيد أكثر حاجة. [5] هذا القسم يحدد كيف تعرّف المؤسسات عتبات التصعيد وتعايرها وتحافظ عليها.

تعريف العتبة. عتبة التصعيد هي الشرط الذي يكشفه النظام والذي بموجبه تُوجّه مخرجات الذكاء الاصطناعي إلى الحكم البشري بدلاً من المتابعة عبر المعالجة الآلية أو شبه الآلية المعيارية. العتبات خاصة بالمجال ومعتمدة على مستوى المخاطر. ليست ثوابت عالمية. عتبة مناسبة لمحرك توصية محتوى خطيرة التسامح لنظام فرز تشخيصي.

معايرة العتبة. يجب ضبط العتبات مقابل بيانات دقة تاريخية للمجال والاستخدام المحددين. المعايرة الأولية تتطلب فترة أساس يُراجع فيها جميع مخرجات النظام من بشر مؤهلين. التباعد بين توصيات النظام وأحكام البشر خلال هذا الأساس يؤسس ملف الدقة. ثم تُضبط عتبات التصعيد عند النقطة التي تنخفض فيها دقة النظام دون مستوى مقبول لمستوى المخاطر.

لأنظمة المستوى 1، يمكن للعتبات السماح للنظام بالمتابعة على المخرجات حيث تتجاوز الثقة 90%، مصعّدة فقط الحالات تحت تلك العتبة. لأنظمة المستوى 2، العتبة يجب أن تكون أكثر تحفظاً، والتصعيد يجب أن يُوجّه إلى متخصص في المجال لا عام. لأنظمة المستوى 3، معمارية العتبة يجب أن تراعي الظروف العدائية وتحولات التوزيع والمدخلات الجديدة التي تقع خارج توزيع تدريب النموذج تماماً.

إيقاع إعادة المعايرة. العتبات ليست ثابتة. أداء النموذج ينزاح. توزيعات البيانات تتحول. فئات المستخدمين تتغير. عتبة تصعيد حُددت أثناء النشر الأولي قد تكون خطيرة الخلل في المعايرة بعد ستة أشهر. إيقاع إعادة المعايرة يجب أن يُحدد عند النشر ويُفرض من النظام، لا يُترك لجداول مراجعة يدوية تتدهور تحت الضغط التشغيلي.

لأنظمة المستوى 1، إعادة المعايرة الفصلية قد تكفي. لأنظمة المستوى 2، المراجعة الشهرية لتتبع التصعيد هي الحد الأدنى. لأنظمة المستوى 3، المراقبة المستمرة بتنبيهات آلية حين تنحرف مقاييس التصعيد عن الخط الأساس مطلوبة.

التحقق من العتبة. كيف تعرف أن عتبات تصعيدك محددة بشكل صحيح؟ هذه مشكلة "من يتحقق من المتحققين". الجواب يأتي من طبقة الاستمرارية. مقاييس RAIR وRSR المحسوبة من تتبع بوابة القرار توفر إشارة التغذية الراجعة. إذا كان RAIR مرتفعاً (البشر يحدّثون قراراتهم بناءً على مدخلات الذكاء الاصطناعي) وRSR مرتفعاً أيضاً (البشر يرفضون بشكل صحيح مدخلات ذكاء اصطناعي سيئة)، فالعتبات معايَرة جيداً. إذا انخفض RAIR (البشر يتجاهلون مدخلات ذكاء اصطناعي مفيدة) أو انخفض RSR (البشر يقبلون مدخلات ذكاء اصطناعي سيئة)، العتبات تحتاج تعديل. التتبع هو المتحقق.

---

6. التسجيل المتكامل

المكوّنات الخمسة والمستويات الخمسة تنتج درجة قصوى 20 (كل مكوّن يُسجّل 0-4). لكن منهجية التسجيل يجب أن تمنع نمط فشل حاسماً: إخفاء نقاط الضعف بالمتوسط.

نظام يسجل المستوى 4 في معايرة الثقة لكن المستوى 1 في آليات التجاوز لديه وظيفة تجاوز ديكورية. متوسط الاثنين ينتج درجة متوسطة تبدو محترمة لكنها تخفي نقصاً هيكلياً. تدقيق الطبقة البشرية يستخدم التسجيل القائم على الحد الأدنى، لا القائم على المتوسط. التقييم الإجمالي يُحدد بأدنى درجة مكوّن، لا بالمتوسط.

قواعد التسجيل:

درجة الطبقة البشرية هي مجموع درجات المكوّنات الخمسة (النطاق: 0-20). لكن نطاق التقييم محدود بأدنى درجة مكوّن. نظام بأربعة مكوّنات في المستوى 4 وواحد في المستوى 1 يُقيّم وكأن جميع المكوّنات الخمسة في المستوى 1. السلسلة قوية بقدر أضعف حلقاتها. هذا هو المبدأ المعماري من الورقة 2: المكوّنات الخمسة تشكل رسم اعتمادية. إزالة أو إضعاف أي منها يكسر الضمانات التي توفرها الأخرى. [21]

نطاقات التقييم:

0-4: بلا طبقة بشرية. النظام يعمل بدون إشراف بشري ذي معنى. مكوّن واحد أو أكثر غائب. لا إطار تنظيمي ساري أو يقترب من التطبيق سيعتبر هذا النظام ملتزماً للنشر عالي المخاطر.

5-9: ديكوري. مكوّنات موجودة في السياسة أو تنفيذ جزئي لكنها غير مفروضة أو مقاسة. الطبقة البشرية توفر مظهر الإشراف دون وظيفته. هذه منطقة مسرح الامتثال. المؤسسات في هذا المستوى في أعلى خطر لفشل منطقة التجعّد الأخلاقية: إنسان مسؤول اسمياً لكنه غير قادر هيكلياً على ممارسة التحكم ذي المعنى.

10-14: تشغيلي. مكوّنات تعمل في ظروف طبيعية لكنها تفتقر للمراقبة التكيفية. النظام يعمل حين تسير الأمور بشكل صحيح. ما إذا كان يعمل تحت الضغط أو عبر الزمن أو في الحالات الحدّية غير مُتحقق منه. كافٍ لأنظمة المستوى 1. غير كافٍ لأنظمة المستوى 2 أو المستوى 3 دون خارطة طريق تحسين موثقة.

15-17: هيكلي. مكوّنات مفروضة ومقاسة وتنتج أدلة قابلة للتدقيق. الطبقة البشرية بنية تحتية معمارية. مناسب لنشر المستوى 2. أنظمة المستوى 3 في هذا المستوى يجب أن تُظهر تقدماً نشطاً نحو المستوى 4 في جميع المكوّنات.

18-20: مؤسسي. مكوّنات هيكلية وتكيفية. النظام يراقب طبقته البشرية للتدهور ويُطلق إجراءات تصحيحية. جاهز لنشر المستوى 3 في أسواق منظّمة. هذا هو المستوى الذي تكسب فيه المعمارية الثقة المؤسسية، لأن النظام لا يعتمد على مدققين خارجيين لاكتشاف أن الإشراف تآكل.

الحدود الدنيا حسب المستوى:

أنظمة المستوى 1 يجب أن تحقق حداً أدنى لدرجة الطبقة البشرية 10. لا مكوّن تحت المستوى 2. أنظمة المستوى 2 يجب أن تحقق حداً أدنى 15. لا مكوّن تحت المستوى 3. أنظمة المستوى 3 يجب أن تحقق حداً أدنى 18. لا مكوّن تحت المستوى 3. ثلاثة مكوّنات على الأقل في المستوى 4.

نظام المستوى 3 بدرجة 17 يفشل في التدقيق بصرف النظر عن توزيع المكوّنات الفردية. نظام المستوى 2 بمكوّن واحد في المستوى 2 يفشل بصرف النظر عن الدرجة الإجمالية. الحد الأدنى هو المعيار.

التقييم الذاتي مقابل التدقيق المستقل. أداة التقييم الذاتي في الملحق أ هي أداة تشخيصية. تمكّن البنّائين من تحديد الفجوات وترتيب الأولويات وتتبع التقدم. ليست كافية لادعاءات الامتثال التنظيمي أو التمثيلات العامة لنضج الطبقة البشرية. أنظمة المستوى 1 قد تعتمد على التقييم الذاتي. أنظمة المستوى 2 التي تستخدم درجة طبقتها البشرية للتقديمات التنظيمية أو اتصالات المستثمرين أو التمثيلات التعاقدية يجب أن تحصل على تحقق مستقل من مدقق مؤهل. أنظمة المستوى 3 تتطلب تدقيقاً مستقلاً كشرط لدرجة صالحة. درجة المستوى 3 المُقيّمة ذاتياً وثيقة عمل، لا تحديد امتثال.

تأهيل المدقق. المدقق المؤهل يجب أن يُظهر كفاءة عبر ثلاثة مجالات: معمارية نظام الذكاء الاصطناعي (فهم كيفية تنفيذ المكوّنات الخمسة تقنياً، بما في ذلك تصميم التتبع وفرض البوابات وتوجيه التصعيد)، والربط التنظيمي (معرفة عملية بإطار رئيسي واحد على الأقل بين قانون الذكاء الاصطناعي للاتحاد الأوروبي وNIST AI RMF وISO 42001)، وخبرة المجال التشغيلي (تجربة مباشرة في الصناعة حيث يُنشر النظام قيد المراجعة). المدقق يجب أن يكون مستقلاً عن المؤسسة المدققة، بمعنى لا علاقة مالية أو توظيف أو دور استشاري خلال الـ 24 شهراً السابقة. لأنظمة المستوى 3، فريق التدقيق يجب أن يتضمن شخصين على الأقل يغطيان جماعياً جميع مجالات الكفاءة الثلاثة. هذا الإطار لا يحدد هيئة اعتماد أو مسار شهادات. يحدد الحد الأدنى للكفاءة الذي يجب أن يستوفيه المدققون لتشكل تقييماتهم درجة صالحة.

---

7. ما يُمكّنه هذا التدقيق

تدقيق الطبقة البشرية ليس تمريناً بيروقراطياً. إنه أداة هندسية.

للبنّائين، نموذج النضج يوفر خارطة طريق تطوير ملموسة. بدلاً من تفويضات غامضة لـ"ضمان الإشراف البشري"، يحدد الإطار بالضبط كيف تبدو بوابات القرار في المستوى 3، وأي تتبع تنتجه، وما يميزها عن المستوى 2. مسار التحسين من وظيفي إلى هيكلي إلى تكيفي محدد بمعايير قابلة للقياس. فريق هندسي يستطيع تحديد نطاق العمل وتقدير الجهد وتتبع التقدم مقابل معايير محددة.

للمدققين، منهجية التسجيل توفر أداة تقييم معيارية. بدلاً من تقييم ذاتي لما إذا كان النظام "لديه" إشراف بشري، ينتج التدقيق درجة رقمية وتحليل على مستوى المكوّنات وتحديد امتثال خاص بالمستوى. مدققان يقيّمان نفس النظام يجب أن يصلا إلى درجات متقاربة إلى حد كبير، لأن المعايير ملموسة ومتطلبات الأدلة محددة.

للمنظمين، الإطار يترجم التفويضات رفيعة المستوى إلى مواصفات قابلة للفرض. قانون الذكاء الاصطناعي للاتحاد الأوروبي يتطلب الإشراف البشري للأنظمة عالية المخاطر لكنه لا يحدد كيف يجب أن يبدو الإشراف بشكل قابل للقياس في معمارية منشورة. NIST AI RMF يتطلب إدارة المخاطر لكنه لا يحدد كيف تُسجّل مساهمة الطبقة البشرية في تلك الإدارة. تدقيق الطبقة البشرية يوفر طبقة القياس التي تفتقرها هذه الأطر.

للمستثمرين، درجة الطبقة البشرية هي إشارة للعناية الواجبة. شركة تدّعي عمليات مدعومة بالذكاء الاصطناعي في سوق منظّم يمكن تقييمها بناءً على ما إذا كانت طبقتها البشرية هيكلية (المستوى 3+) أو ديكورية (المستوى 1). الدرجة قابلة للتحقق مقابل تتبع الامتثال. السؤال لم يعد "هل هذه الشركة لديها إشراف بشري؟" السؤال يصبح "ما درجة طبقتها البشرية، وهل تستوفي الحد الأدنى لمستوى مخاطرها؟" درجة الطبقة البشرية تُكمّي النضج المعماري. التداعيات الاقتصادية لتلك الدرجة، بما في ذلك تكلفة الامتثال والتعرض للمخاطر وهياكل حوافز رأس المال التي تدفع المؤسسات نحو أو بعيداً عن الإشراف الهيكلي، تُعالج في الورقة الأخيرة في هذه السلسلة.

الفجوة في المشهد الحالي محددة وقابلة للقياس. المؤسسات لديها أطر تخبرها بأي مبادئ تتبع (OECD)، وأي عمليات تُنفّذ (IEEE 7000)، وأي مخاطر تُدير (NIST AI RMF)، وأي معايير تُشهد مقابلها (ISO 42001). ما تفتقره هو أداة تسجيل تقيس ما إذا كانت الطبقة البشرية في نظام ذكائها الاصطناعي المنشور سليمة وظيفياً وهيكلياً ومرنة في الظروف التي تهم أكثر.

هذه الورقة توفر تلك الأداة. أداة التقييم الذاتي في الملحق أ تجعلها عملية للاستخدام الفوري.

---

الملحق أ: تدقيق الطبقة البشرية: أداة التقييم الذاتي

هذه الأداة مصممة للاستخراج والتوزيع والاستخدام بشكل مستقل عن الورقة. سلّمها لمدير تقني أو مسؤول امتثال أو منظّم. منهجية التسجيل مكتفية ذاتياً.

الخطوة 1: صنّف مستوى المخاطر

حدد أعلى مخرج ذي عواقب يمكن لنظام ذكائك الاصطناعي إنتاجه.

هل يؤثر المخرج مباشرة على حقوق الأفراد أو سلامتهم أو حريتهم أو تعرض مالي كبير بعواقب لا رجعة فيها أو ذات تكلفة عكس عالية؟ ← المستوى 3: ذو عواقب.

هل يحمل المخرج عواقب متوسطة مع قابلية عكس جزئية، حيث يُضيّق الذكاء الاصطناعي مساحة القرار والإنسان يتخذ الحكم النهائي؟ ← المستوى 2: تعاوني.

هل يُعلم المخرج القرارات البشرية دون تنفيذ إجراءات بشكل مستقل، بنتائج منخفضة العواقب وقابلة للعكس؟ ← المستوى 1: استشاري.

إذا كان غامضاً، صنّف أعلى.

الخطوة 2: سجّل كل مكوّن (0-4)

لكل من مكوّنات الطبقة البشرية الخمسة، اختر المستوى الذي يصف تنفيذك الحالي بشكل أفضل. استخدم متطلبات الأدلة للتحقق من تقييمك. مؤشرات العلامات الحمراء مصممة لالتقاط أشيع أخطاء التسجيل الذاتي.

المكوّن 1: بوابات القرار

المستوى	الوصف	الأدلة المطلوبة
0: غائب	لا نقطة مراجعة بشرية قبل الإجراءات ذات العواقب	غير متاح
1: اسمي	السياسة تتطلب الموافقة؛ النظام لا يفرض	وثيقة سياسة موجودة؛ لا آلية فرض نظامية
2: وظيفي	النظام يتوقف عند البوابة؛ الإنسان يجب أن يتصرف للمتابعة	سجلات نظام تُظهر تفعيل البوابة؛ مدخلات بشرية مسجلة
3: هيكلي	البوابة تسجل الإجراء والتوقيت والفارق؛ التجاوز يُطلق استثناء	لوحة تتبع؛ سجلات استثناءات؛ تقارير فارق
4: تكيفي	يراقب الأنماط؛ أخذ عينات تحقق؛ توقيت معدّل حسب التعقيد	نتائج أخذ عينات التحقق؛ توثيق خط أساس معدّل حسب التعقيد؛ سجلات تصعيد المشرف

علامات حمراء للتسجيل المفرط: إذا كان متوسط وقت موافقة البوابة أقل من 5 ثوانٍ، أنت على الأرجح في المستوى 2 لا المستوى 3. إذا لم يُطلق أي استثناء أبداً بمحاولة تجاوز، آلية الاستثناء قد لا تكون وظيفية. إذا لم تحلل أبداً تقارير الفارق، أنت لست في المستوى 3. إذا تستخدم أوقات موافقة ثابتة دنيا بدل خطوط أساس معدّلة حسب التعقيد، أنت لست في المستوى 4. إذا لم تنشر أخذ عينات تحقق (حالات معروفة الإجابة بتوصيات ذكاء اصطناعي خاطئة عمداً)، أنت لست في المستوى 4.

المكوّن 2: بروتوكولات التصعيد

المستوى	الوصف	الأدلة المطلوبة
0: غائب	النظام يتقصّر على مخرجات النموذج لجميع المدخلات	غير متاح
1: اسمي	التوثيق يصف التصعيد؛ النظام لا يكشف عدم اليقين	وثيقة سياسة تصعيد؛ لا محفّزات على مستوى النظام
2: وظيفي	النظام يكشف عدم اليقين ويوجّه إلى الإنسان	سجلات تصعيد تُظهر أحداث المحفّزات والتوجيه
3: هيكلي	السجلات تتبع التوجيه ووقت الاستجابة والنتيجة؛ السلاسل تنتهي في شخص طبيعي؛ العتبات معايَرة	سجلات معايرة؛ التحقق من إنهاء السلسلة؛ تحليل وقت الاستجابة
4: تكيفي	النظام يراقب تكرار التصعيد؛ يكشف عدم اليقين المكبوت؛ يعيد المعايرة	سجلات إعادة المعايرة؛ تنبيهات كشف الكبت؛ سجلات تعديل العتبات

علامات حمراء: إذا لم يُطلق التصعيد أبداً في الإنتاج، العتبات قد تكون عالية جداً أو آلية الكشف قد لا تكون وظيفية. إذا كانت كل سلسلة تصعيد تنتهي في نظام ذكاء اصطناعي آخر، أنت لا تملك بروتوكولات تصعيد بموجب هذه المواصفة.

المكوّن 3: هياكل المساءلة

المستوى	الوصف	الأدلة المطلوبة
0: غائب	لا ربط بين المخرجات والبشر المسؤولين	غير متاح
1: اسمي	المخطط التنظيمي يُسمي أدواراً مسؤولة؛ النظام لا يفرض	توثيق تنظيمي؛ لا ربط هوية على مستوى النظام
2: وظيفي	كل مخرج ذي عواقب مربوط بإنسان مُسمّى	سجلات مخرجات بحقول هوية بشرية مملوءة
3: هيكلي	التعيين المسبق مفروض؛ التفويض صريح؛ سجلات تتبع المساهمة تسجل مدخلات المتعاونين؛ الهوية والسلطة والكفاءة مسجلة	سجلات التعيين المسبق؛ توثيق سلسلة التفويض؛ سجلات التحقق من الكفاءة؛ سجلات تتبع المساهمة
4: تكيفي	النظام يكشف تركز الحجم؛ يُعلّم تجاوز السعة؛ يُنبّه عند فجوات المساءلة	لوحات مراقبة السعة؛ كشف فجوات آلي؛ تنبيهات تغيير الموظفين

علامات حمراء: إذا كان نفس الفرد مسجلاً كمسؤول عن أكثر من 200 قرار ذي عواقب يومياً، المساءلة قد تكون اسمية. إذا لم يُستدعَ التفويض أبداً، سلسلة التفويض قد لا تكون وظيفية. إذا لم تستطع تحديد، خلال 60 ثانية، أي إنسان صرّح بمخرج محدد من الشهر الماضي، أنت لست في المستوى 3. إذا كانت القرارات المتأثرة بلجنة لا تُظهر تتبع مساهمة، المثبّت الأساسي قد يعمل كمنطقة تجعّد أخلاقية بدل صانع قرار مسؤول.

المكوّن 4: آليات التجاوز

المستوى	الوصف	الأدلة المطلوبة
0: غائب	لا آلية لرفض أو تعديل مخرجات الذكاء الاصطناعي عند واجهة القرار	غير متاح
1: اسمي	التجاوز يتطلب لوحة إدارة أو تدخلاً تقنياً	القدرة موجودة؛ غير متاحة عند نقطة القرار
2: وظيفي	التجاوز متاح عند واجهة القرار	لقطات شاشة الواجهة؛ سجلات إجراء التجاوز
3: هيكلي	وظائف إجبار معرفية حاضرة؛ تأييد على مستوى العناصر؛ التبرير مسجل؛ مُختبر	توثيق تصميم وظائف الإجبار؛ نتائج الاختبار؛ سجلات التبرير
4: تكيفي	يراقب تكرار التجاوز؛ يكشف التحيز/النفور؛ يختبر في ظروف متدهورة؛ أخذ عينات التحقق يؤكد انخراط التجاوز	تقارير كشف تحيز الأتمتة؛ نتائج اختبار ظروف الضغط؛ تحليل التكرار؛ نتائج أخذ عينات التحقق

علامات حمراء: إذا كان معدل التجاوز 0% بالضبط على أي فترة 30 يوماً، تحيز الأتمتة مرجّح والمستوى 3 غير مُحقق. إذا لم يُختبر التجاوز أبداً تحت ضغط وقت أو حمل معرفي، أنت لست في المستوى 4. إذا تطلّب التجاوز أكثر من نقرتين للتنفيذ، قد لا يكون متاحاً تشغيلياً. إذا وُوفق على حالات أخذ عينات تحقق (مخرجات ذكاء اصطناعي خاطئة عمداً) دون تجاوز، آلية التجاوز حاضرة معمارياً لكنها خاملة وظيفياً.

المكوّن 5: واجهات معايرة الثقة

المستوى	الوصف	الأدلة المطلوبة
0: غائب	لا إشارات موثوقية بخلاف مخرجات النموذج	غير متاح
1: اسمي	درجة الثقة معروضة؛ لا إشارات خارجية	الواجهة تُظهر درجة الثقة
2: وظيفي	دقة تاريخية وشروط حدودية وتحولات توزيع مقدمة	توثيق تصميم الإشارات؛ أمثلة على مؤشرات الموثوقية
3: هيكلي	RAIR/RSR محسوبة؛ معدلات الخلاف مسجلة؛ الاعتمادية مراقبة	منهجية حساب RAIR/RSR؛ تقارير التتبع؛ تحليل الاعتمادية
4: تكيفي	انزياح المعايرة مكشوف؛ تنبيهات تباعد RAIR/RSR؛ معايرة مزدوجة المسار للحقيقة المرجعية المتأخرة؛ تكرار التوصيات معدّل	سجلات كشف الانزياح؛ سجلات تعديل المعايرة؛ بيانات ارتباط البديل-النتيجة؛ أدلة حفظ الاستقلالية

علامات حمراء: إذا عرضت درجة ثقة واعتبرتها كافية، أنت في المستوى 1 لا المستوى 2. إذا لم تستطع إنتاج أرقام RAIR وRSR لآخر 90 يوماً، أنت لست في المستوى 3. إذا لم يُقس أداء الإنسان أبداً بدون مساعدة الذكاء الاصطناعي، لا تستطيع تقييم الاعتمادية ولست في المستوى 4. إذا كان مجالك فيه حقيقة مرجعية متأخرة (نتائج غير معروفة لأسابيع أو أشهر) وليس لديك منهجية معايرة بديلة أو عملية تسوية بأثر رجعي، أنت لست في المستوى 4.

الخطوة 3: احسب وقيّم

اجمع درجات المكوّنات الخمسة. هذه درجة طبقتك البشرية (0-20).

حدد أدنى درجة مكوّن. هذا يحدّ نطاق تقييمك.

تحقق مقابل الحدود الدنيا حسب المستوى:

المستوى 1. الدرجة الدنيا: 10. لا مكوّن تحت المستوى 2. المستوى 2. الدرجة الدنيا: 15. لا مكوّن تحت المستوى 3. المستوى 3. الدرجة الدنيا: 18. لا مكوّن تحت المستوى 3. ثلاثة مكوّنات على الأقل في المستوى 4.

إذا استوفت درجتك الإجمالية العتبة لكن أي مكوّن وقع تحت الحد الأدنى للمستوى، نتيجة التدقيق: فشل (نقص مكوّن). حدد المكوّن الناقص وطوّر خطة معالجة تستهدف مستوى النضج التالي.

إذا وقعت درجتك الإجمالية تحت عتبة المستوى، نتيجة التدقيق: فشل (نضج غير كافٍ). النظام لا يستوفي المعيار الأدنى لمستوى مخاطره.

إذا استُوفي كلا الشرطين، نتيجة التدقيق: ناجح. وثّق الدرجة والتاريخ وجدول التقييم التالي بناءً على متطلبات المستوى (المستوى 1: سنوياً. المستوى 2: نصف سنوي. المستوى 3: ربع سنوي، مع مراقبة مستمرة بين التقييمات).

الخطوة 4: تصرف بناءً على النتائج

لكل مكوّن يسجل تحت متطلب مستواك، معايير النضج في القسم 2 تحدد ما يتطلبه المستوى التالي. الفجوة بين مستواك الحالي والمستوى المطلوب هي خارطة طريقك الهندسية.

ترتيب الأولوية: عالج المكوّن الأدنى درجة أولاً. رسم الاعتمادية يعني أن ضعفاً في مكوّن واحد يُضعف فعالية جميع المكوّنات الأخرى. آلية تجاوز من المستوى 2 تُقوّض واجهة معايرة ثقة من المستوى 4، لأن الإنسان قد يكون معايَراً جيداً في معرفة متى يتجاوز لكنه غير قادر هيكلياً على فعل ذلك بفعالية.

---

المراجع

[1] Sheridan, T.B. وVerplank, W.L.، "التحكم البشري والحاسوبي في المشغّلات البحرية عن بعد"، مختبر أنظمة الإنسان-الآلة في MIT، 1978.

[2] Parasuraman, R.، Sheridan, T.B.، وWickens, C.D.، "نموذج لأنواع ومستويات التفاعل البشري مع الأتمتة"، IEEE Transactions on Systems, Man, and Cybernetics, Part A، 30(3)، 286-297، 2000.

[3] الاتحاد الأوروبي، النظام (EU) 2024/1689، "قانون الذكاء الاصطناعي"، المادة 14 (الإشراف البشري). دخل حيز التنفيذ في 1 أغسطس 2024. قابل للتطبيق الكامل للأنظمة عالية المخاطر في 2 أغسطس 2027.

[4] Angelova, V.، Dobbie, W.، وYang, C.، "التوصيات الخوارزمية والتقدير البشري"، ورقة عمل NBER رقم 31747.

[5] Romeo, G. وConti, D.، "استكشاف تحيز الأتمتة في التعاون بين الإنسان والذكاء الاصطناعي: مراجعة وتداعيات على الذكاء الاصطناعي القابل للشرح"، AI & Society، Springer Nature، 2025. مراجعة منهجية لـ 35 دراسة (19,774 مشاركاً).

[6] Google DeepMind، نظام فحص أمراض الشبكية بالذكاء الاصطناعي المنشور في خدمة الصحة الوطنية البريطانية. بروتوكول فرز ثلاثي المستويات.

[7] McLaughlin, B. وSpiess, J.، "الخوارزميات التكميلية"، كلية ستانفورد للدراسات العليا في الأعمال، 2025.

[8] Kahn, L.، Probasco, E.S.، وKinoshita, R.، "سلامة الذكاء الاصطناعي وتحيز الأتمتة"، مركز الأمن والتكنولوجيا الناشئة، جامعة جورجتاون، نوفمبر 2024.

[9] المنظمة الدولية للتوحيد القياسي، ISO/IEC 42001:2023، "تكنولوجيا المعلومات: الذكاء الاصطناعي: نظام الإدارة."

[10] Frontiers in Big Data، "حول الغرض من التحكم البشري ذي المعنى في الذكاء الاصطناعي"، ديسمبر 2022.

[11] المعهد الوطني للمعايير والتكنولوجيا، "إطار إدارة مخاطر الذكاء الاصطناعي (AI RMF 1.0)"، NIST AI 100-1، يناير 2023.

[12] هيئة تطوير وسائط الاتصالات والمعلومات (IMDA)، سنغافورة، "إطار حوكمة الذكاء الاصطناعي النموذجي للذكاء الاصطناعي الوكيلي"، 2025.

[13] Kupfer, C. وآخرون، "تحيز الأتمتة في الإدارة العامة: منظور متعدد التخصصات من القانون وعلم النفس"، Government Information Quarterly، 2024.

[14] Carnat, I.، "إنساني، إنساني جداً: مراعاة تحيز الأتمتة في النماذج اللغوية الكبيرة التوليدية"، SSRN، مارس 2025.

[15] Schemmer, M. وآخرون، مقاييس الاعتماد المناسب (RAIR وRSR)، كما ورد في بحث عن أنظمة دعم القرار المبنية على الذكاء الاصطناعي، Taylor & Francis، 2025.

[16] Wu, S., Liu, Y., Ruan, M., Chen, S., وXie, X.Y.، "التعاون بين الإنسان والذكاء الاصطناعي التوليدي يعزز أداء المهام لكنه يقوّض الدافع الذاتي للإنسان"، Scientific Reports (Nature)، 15(1)، 15105، أبريل 2025.

[17] Elish, M.C.، "مناطق التجعّد الأخلاقية: قصص تحذيرية في تفاعل الإنسان-الروبوت"، Engaging Science, Technology, and Society، 5، 40-60، 2019.

[18] Daugherty, Paul R. وWilson, H. James، "الإنسان + الآلة: إعادة تصوّر العمل في عصر الذكاء الاصطناعي"، Harvard Business Review Press، 2018 (طبعة محدّثة وموسّعة، 2024؛ ISBN 978-1647827205).

[19] Dell'Acqua, F., Ayoubi, C., Lifshitz, H., Sadun, R., Mollick, E.، وآخرون، "الزميل السيبراني: تجربة ميدانية عن الذكاء الاصطناعي التوليدي يعيد تشكيل العمل الجماعي والخبرة"، ورقة عمل كلية هارفارد للأعمال رقم 25-043، مارس 2025.

[20] Noureddine, A.، "الطبقة البشرية: لماذا البنية التحتية الأهم في الذكاء الاصطناعي ليست اصطناعية"، الورقة 1 في سلسلة الطبقة البشرية، فبراير 2026. DOI: 10.5281/zenodo.19119699.

[21] Noureddine, A.، "معمارية الطبقة البشرية: مواصفات لتصميم الأنظمة البشرية-الذكائية"، الورقة 2 في سلسلة الطبقة البشرية، مارس 2026. DOI: 10.5281/zenodo.19120077.

[22] منظمة التعاون الاقتصادي والتنمية، "مبادئ OECD للذكاء الاصطناعي"، اعتُمدت مايو 2019، عُدّلت 2024. اعتمدتها 47 دولة. مبدأ المساءلة يتطلب قابلية تتبع مجموعات البيانات والعمليات والقرارات طوال دورة حياة نظام الذكاء الاصطناعي.

[23] معهد مهندسي الكهرباء والإلكترونيات، IEEE 7000-2021، "نموذج عملية معياري لمعالجة المخاوف الأخلاقية أثناء تصميم الأنظمة"، سبتمبر 2021. نُشر أيضاً كمعيار ISO/IEC/IEEE 24748-7000:2022.

[24] منظمة التعاون الاقتصادي والتنمية، "عملية هيروشيما للذكاء الاصطناعي لمجموعة السبع: مدونة السلوك الدولية وإطار التقارير التطوعية"، أُطلق في 7 فبراير 2025.

[25] PwC، "الذكاء الاصطناعي المسؤول والتدقيق الداخلي: ما تحتاج معرفته"، 2026. يوصي بتكييف الأطر المعترف بها (NIST AI RMF، ISO 42001، COSO) لمعالجة مخاطر حوكمة الذكاء الاصطناعي.

[26] ISACA، شهادة "متقدم في تدقيق الذكاء الاصطناعي (AAIA)"، 2025. أول شهادة مهنية لكفاءة تدقيق الذكاء الاصطناعي، مشيرة إلى اعتراف السوق بأن تدقيق الذكاء الاصطناعي يصبح تخصصاً متميزاً.

---

أحمد نور الدين هو المؤسس المشارك والرئيس التنفيذي في Timer، طبقة الذاكرة المؤسسية. أكثر من 25 عاماً في بناء أنظمة تضع البشر في مركز التكنولوجيا.

هذه الورقة 3 في سلسلة الطبقة البشرية، منشورة على ahmad.pt/research.

الورقة 1: الطبقة البشرية: لماذا البنية التحتية الأهم في الذكاء الاصطناعي ليست اصطناعية (DOI: 10.5281/zenodo.19119699) الورقة 2: معمارية الطبقة البشرية: مواصفات لتصميم الأنظمة البشرية-الذكائية (DOI: 10.5281/zenodo.19120077) الورقة 4 (قادمة): حوافز رأس المال وتحيز الأتمتة في البنية التحتية للذكاء الاصطناعي