أطر الامتثال / قانون الذكاء الاصطناعي الأوروبي، المادة 14
قانون الذكاء الاصطناعي الأوروبي (EU AI Act)، المادة 14 — الإشراف البشري على أنظمة الذكاء الاصطناعي عالية المخاطر
هذه الصفحة مولَّدة من جدول المتطلبات الذي يشحنه محرّك AiSSAY لهذا الإطار. وحين يُنتج المحرّك حزمة أدلة، يحصل كل صف أدناه على حالة تُحسب من سجلات المشغّل نفسه في تلك اللحظة. هذه الصفحة تعرض الجدول، لا نتائج أيّ أحد.
اقرأ هذا أولًا
مطابقة لأغراض المعلومات فقط، أعدّتها أدوات المشغّل نفسه. ليست رأيًا قانونيًا، ولا اعتمادًا، ولا بديلًا عن مشورة المستشار القانوني. إنها تنظّم سجلات المشغّل مقابل المتطلبات المذكورة؛ أما ما إذا كانت تلك السجلات تستوفي المتطلبات فأمرٌ يقرّره المشغّل والمستشار القانوني والفاحص.
جدول المتطلبات
9 صفوف: آلية 9
| المتطلّب | الآلية أو الواجب أو الفجوة | النوع |
|---|---|---|
| تدابير إشراف مدمجة في النظام، تمكّن شخصًا طبيعيًا من الإشراف على تشغيله | تُوقَف الاستدعاءات التي لا رجعة فيها في منتصف التشغيل، وتُصنَّف وفق الأنماط، وتُفحص بحثًا عن تعليمات محقونة، وتُعلَّق إلى أن تصل إجابة السياسة؛ ويُسجَّل الإيقاف في الأثر بوصفه خطوة قرار | آلية |
| يستطيع الشخص أن يقرّر عدم استخدام المُخرَج، أو تجاهله، أو تجاوزه، أو عكسه | لا يُفرج عن الاستدعاء الموقوف إلا برمز صريح، والإيقاف والإفراج كلاهما سجلّان منفصلان؛ والاستدعاء المُفرج عنه والاستدعاء المتجاوَز كلاهما في السلسلة | آلية |
| يستطيع الشخص أن يتدخّل في النظام أو يقاطعه | يطلب الوكيل الإذن من الوسيط بدلًا من الإبلاغ لاحقًا، لذا فإن الطلب الذي لا يُجاب عنه يوقف عملية التشغيل بدلًا من إكمالها | آلية |
| يُمكَّن الشخص من البقاء واعيًا بالتحيّز للأتمتة | يذكر السجلّ ما لم يستطع الوكيل التحقق منه، وما افترضه، وأين مضى رغم الغموض، ويُعلّم عمليات التشغيل التي تحتاج إلى مراجعة؛ وتُنشر أدلة مقيسة على أن النموذج الذي يراجع عملًا قُدّم له على أنه عمله تفوته التعديلات | آلية |
| يستطيع الشخص أن يفسّر مُخرَج النظام تفسيرًا صحيحًا | تُطابَق الرواية مع الأثر وتُظهَر حالات الخلاف بدلًا من حسمها؛ ويُصرّح السجلّ بالحدود التي جرى رصدها، كي يعرف القارئ ما لا يغطّيه | آلية |
| يمارس الإشراف شخصٌ طبيعي، لا نظام مؤتمت آخر | تُحصى توقيعات البشر بمعزل عن عمليات تشغيل الوكيل في كل المواضع، ونسبة القراءات تميّز بين هوية موقَّعة واسم كتبه شخص ما | آلية |
| المادة 14(1) — تدابير إشراف تتناسب مع مخاطر النظام | تُختم كل عملية تشغيل مع إعدادات الإشراف التي جرت في ظلّها — وضع الإنفاذ، وما يحدث حين لا يستطيع القفل البيني تقييم استدعاء، وما إذا كانت أنماط الإجراءات التي لا رجعة فيها قد حُمّلت. أما ما إذا كانت تلك التدابير متناسبة في بيئة نشر معيّنة فتقدير يعود إلى الجهة الناشرة، ولا توفّره أيّ برمجيات. | آلية |
| المادة 14(4) — يتمتّع الشخص المشرف بالكفاءة والتدريب والصلاحية اللازمة | يسجّل المشغّل كل شخص مشرف: الاسم، والدور، والصلاحية التي يحملها، والتدريب المُدّعى له، والمفتاح الذي يوقّع به، واسم من شهد بذلك — مختومًا في السلسلة، وقابلًا للإلغاء، ولا يُشهد له ذاتيًا أبدًا. ثم تقول الحزمة ما إذا كانت المفاتيح التي وقّعت القراءات تنتمي إلى تلك القائمة. وتبقى الكفاءة نفسها ادّعاءً من المشغّل. | آلية |
| أعداد الإيقاف والتجاوز لكل عملية تشغيل | تُحصى عند ختم كل عملية تشغيل وتُحفظ إلى جانبها أعدادًا صحيحة فقط: حالات الإيقاف والتجاوز والتمرير من خطوات القرار في البوابة داخل العملية، وحالات الإيقاف التي نفّذها الخادم الوسيط للتسجيل. أما الأسباب والأشخاص والأوقات فتبقى مختومة في السجلّ. وعملية التشغيل التي خُتمت قبل وجود الإحصاء تظهر «لم يُحصَ»، لا صفرًا أبدًا؛ والخادم الوسيط لا يسجّل الاستدعاءات التي يسمح بمرورها، لذا تظهر حالات التمرير لديه «لم يُسجَّل». | آلية |
كيف تُكتسب الحالة
- مُثبَت بالأدلة
- أُجري فحص حتمي على سجلاتك والأعداد تدعم الصف. والمخزن الذي لا يحتوي على سجلات ذات صلة يظهر «غير مُثبَت بالأدلة» — وهي عبارة صحيحة، لا عبارة نجاح. والفراغ لا يُحتسب أبدًا سلامةً.
- مُفوَّض
- الآلية يفرضها نظام تثق به أصلًا — فالمخزن المختوم بمدير المفاتيح الخاص بك يفوّض إليه التحكم في الوصول، وتقول الحزمة إن السجلّ الذي يفرض ذلك هو سجلّ مدير مفاتيحك، لا سجلّنا. وتسمّي الحزمة نقطة الاتصال التي جرى الوصول إلى مدير المفاتيح عبرها. ونقطة اتصال AWS غير نقطة الاتصال الافتراضية الخاصة بـ AWS للمنطقة تظهر «مُفوَّض» إلى تلك النقطة، مع طلب أن تؤكّد أنها خدمة إدارة المفاتيح الخاصة بك. وهناك واجهة خلفية واحدة — AWS KMS — جرى تشغيلها على خدمة AWS KMS الحقيقية؛ ولم تُشغَّل أيّ واجهة خلفية أخرى كذلك.
- نقطة وصل اختبارية
- مختوم بواجهة خلفية اختبارية داخل العملية — بديل وهمي (stub)، أو بديل لعميل AWS — والحالة تسمّي أيّهما. لا يفرض أيّ مدير مفاتيح التحكم في الوصول. نقطة الوصل مبنية ومختبَرة، والحزمة ترفض أن تسمّي ذلك تفويضًا.
- مُثبَت جزئيًا
- الآلية مبنية وبعض عمليات التشغيل لديك تحمل أدلتها، لا كلها — عادةً لأنها خُتمت قبل وجود الآلية. وتقول الحزمة كم عملية تشغيل في كل مجموعة، ولا تحتسب الناقصة أبدًا ناجحة.
- تنظيمي
- المتطلّب إجراء لا يستطيع أداءه إلا البشر. والحزمة تسمّيه مسؤوليتك بدلًا من أن تُلبس سياسةً ثوب آلية.
- فجوة مسمّاة
- لا تستطيع الحزمة إثباته بالأدلة — إمّا لأن الآلية غير مبنية، أو لأن أيّ برمجيات لا تستطيع توفيره — وهي تقول أيّهما. والفجوة مطبوعة، لأن المراجع ينبغي أن يقرأها هنا لا أن يكتشفها.
لا تُكتب أيّ حالة يدويًا: كل حالة يُعاد حسابها من المخزن في كل مرة تُنتَج فيها حزمة، ونصوص المتطلبات والآليات تُكتب وتُراجع بوصفها جزءًا من المحرّك، وأدلة التبعيات تأتي من فحص الإصدار لدينا. ولا يمكن أبدًا أن تُقرأ آلية فاشلة دليلًا على أن الضابط يعمل.