Référentiels de conformité / Règlement sur l'IA, article 14
Règlement (UE) 2024/1689 sur l'IA, article 14 — contrôle humain des systèmes d'IA à haut risque
Cette page est générée à partir de la table d'exigences que le moteur AiSSAY livre pour ce référentiel. Quand le moteur produit un dossier de preuves, chaque ligne ci-dessous reçoit un statut calculé à partir des propres enregistrements de l'opérateur à ce moment-là. Cette page montre la table, pas les résultats de qui que ce soit.
À lire d'abord
Mise en correspondance à titre informatif, établie par les propres outils de l'opérateur. Ce n'est ni un avis juridique, ni une certification, ni un substitut au conseil d'un avocat. Elle organise les enregistrements de l'opérateur au regard des exigences citées ; la question de savoir si ces enregistrements satisfont aux exigences relève de l'appréciation de l'opérateur, de son conseil juridique et du contrôleur.
La table d'exigences
9 lignes : 9 mécanismes
| Exigence | Mécanisme, obligation ou lacune | Type |
|---|---|---|
| Des mesures de contrôle intégrées au système, permettant à une personne physique d'en superviser le fonctionnement | les appels irréversibles sont retenus en cours d'exécution, classés par motifs et analysés à la recherche d'instructions injectées, et restent en attente jusqu'à l'arrivée d'une réponse de la politique ; la retenue est consignée dans la trace comme une étape de décision | mécanisme |
| La personne peut décider de ne pas utiliser le résultat, ou de l'ignorer, de le passer outre ou de l'inverser | un appel retenu n'est libéré que par un jeton explicite, et la retenue comme la libération sont des enregistrements distincts ; un appel libéré et un appel forcé figurent tous deux dans la chaîne | mécanisme |
| La personne peut intervenir ou interrompre le système | l'agent demande l'autorisation au broker au lieu de rendre compte après coup : une demande restée sans réponse arrête donc l'exécution au lieu de la laisser se terminer | mécanisme |
| La personne est en mesure de rester consciente du biais d'automatisation | l'enregistrement indique ce que l'agent n'a pas pu vérifier, ce qu'il a supposé et où il a poursuivi malgré une ambiguïté, et signale les exécutions à revoir ; des preuves mesurées montrant qu'un modèle qui relit un travail présenté comme le sien manque des altérations sont publiées | mécanisme |
| La personne peut interpréter correctement les résultats du système | le compte rendu est rapproché de la trace et les désaccords sont mis en évidence plutôt que résolus ; l'enregistrement déclare quelles frontières ont été instrumentées, pour que le lecteur sache ce qu'il ne couvre pas | mécanisme |
| Le contrôle est exercé par une personne physique, et non par un autre système automatisé | les contre-signatures humaines sont comptées séparément des exécutions d'agents d'un bout à l'autre, et l'attribution des lectures distingue une identité signée d'un nom que quelqu'un a saisi | mécanisme |
| Article 14, paragraphe 1 — des mesures de contrôle proportionnées aux risques du système | chaque exécution est scellée avec les paramètres de contrôle sous lesquels elle a tourné — mode d'application, ce qui se passe quand le verrou ne peut pas évaluer un appel, si les motifs d'actions irréversibles ont été chargés. La question de savoir si ces mesures sont proportionnées pour un déploiement donné relève de l'appréciation du déployeur, qu'aucun logiciel ne fournit. | mécanisme |
| Article 14, paragraphe 4 — la personne chargée du contrôle dispose des compétences, de la formation et de l'autorité nécessaires | l'opérateur inscrit chaque personne chargée du contrôle : nom, rôle, autorité détenue, formation déclarée pour elle, clé avec laquelle elle signe, et nom de la personne qui l'a attesté — scellé dans la chaîne, révocable, et jamais auto-attesté. Le dossier indique ensuite si les clés qui ont signé les lectures appartiennent à cette liste. La compétence elle-même reste une affirmation de l'opérateur. | mécanisme |
| Nombre de retenues et de passages outre par exécution | comptés lors du scellement de chaque exécution et conservés à côté d'elle sous forme d'entiers uniquement : retenues, passages outre et passages issus des étapes de décision du point de contrôle interne au processus, et retenues effectuées par le proxy d'enregistrement. Les raisons, les personnes et les heures restent scellées dans l'enregistrement. Une exécution scellée avant l'existence du comptage apparaît comme « non compté », jamais zéro ; le proxy n'enregistre pas les appels qu'il laisse passer, ses passages apparaissent donc comme « non enregistré ». | mécanisme |
Comment un statut s'obtient
- Étayé
- une vérification déterministe a été exécutée sur vos enregistrements et les décomptes étayent la ligne. Un stockage ne contenant aucun enregistrement pertinent apparaît comme non étayé — une affirmation vraie, pas une validation. Vide ne compte jamais comme conforme.
- Délégué
- le mécanisme est appliqué par un système auquel vous faites déjà confiance — un stockage scellé par votre propre gestionnaire de clés lui délègue le contrôle d'accès, et le dossier indique que le journal qui fait foi est celui de votre gestionnaire de clés, pas le nôtre. Le dossier nomme le point de terminaison par lequel le gestionnaire de clés a été joint. Un point de terminaison AWS autre que celui qu'AWS utilise par défaut pour la région apparaît comme délégué à ce point de terminaison, avec une demande de confirmation qu'il s'agit bien de votre service de gestion des clés. Un seul backend — AWS KMS — a été exécuté sur le service AWS KMS réel ; aucun autre backend ne l'a été.
- Point d'intégration de test
- scellé par un backend de test interne au processus — un bouchon (stub), ou un substitut du client AWS — et le statut précise lequel. Aucun gestionnaire de clés n'applique le contrôle d'accès. Le point d'intégration est construit et testé, et le dossier refuse d'appeler cela une délégation.
- Partiellement étayé
- le mécanisme est construit et certaines de vos exécutions en portent la preuve, mais pas toutes — généralement parce qu'elles ont été scellées avant que le mécanisme n'existe. Le dossier indique combien d'exécutions se trouvent dans chaque groupe, et ne compte jamais celles qui manquent comme validées.
- Organisationnel
- l'exigence est une procédure que seules des personnes peuvent accomplir. Le dossier la désigne comme la vôtre au lieu de déguiser une politique en mécanisme.
- Lacune nommée
- le dossier ne peut pas l'étayer — soit le mécanisme n'est pas construit, soit aucun logiciel ne peut le fournir — et il précise lequel des deux. La lacune est imprimée, parce qu'un examinateur doit la lire ici plutôt que la découvrir.
Aucun statut n'est saisi à la main : chaque statut est recalculé à partir du stockage chaque fois qu'un dossier est produit, le texte des exigences et des mécanismes est rédigé et relu dans le cadre du moteur, et les preuves relatives aux dépendances proviennent de notre analyse de version. Un mécanisme en échec ne peut jamais être lu comme la preuve que le contrôle fonctionne.