Projet de recherche · Cadre stratégique
Architecture de la délégation
Un cadre méthodologique pour déterminer si l'autorité humaine, au sein des systèmes de décision autonomes, est réelle ou simplement procédurale — en distinguant les véritables systèmes Human-in-the-Loop des systèmes Dead-Hand qui en portent simplement l'étiquette.
1
Conférence clé
1
Essai
En préparation
Documents techniques
1
Notice Zenodo
Synthèse générale
Section 01

Les architectures Human-in-the-Loop exigent une autorisation humaine active avant l'exécution d'une décision aux conséquences importantes ; les architectures Dead-Hand pré-autorisent des décisions qui s'exécutent automatiquement. La distinction paraît nette dans l'abstrait, mais l'argument central du projet est qu'elle s'effondre en pratique : la conception des interfaces, la pression temporelle, la charge cognitive et les incitations organisationnelles rendent couramment impossible un examen humain réel — même lorsque celui-ci reste nominalement exigé.

Le cadre Delegation Architecture constitue la contribution centrale du projet — une méthodologie permettant de déterminer si l'autorité humaine, au sein d'un système de décision autonome, est réelle ou procédurale, selon quatre dimensions : la faisabilité cognitive de l'examen, la responsabilité organisationnelle quant aux résultats, les possibilités réelles (par opposition à nominales) d'intervention offertes par l'interface, et la structure d'incitation qui détermine si les opérateurs exercent effectivement leur rôle d'autorisation ou y renoncent.

Human-in-the-Loop est une catégorie de gouvernance, non une spécification technique. Un système qui exige une autorisation humaine mais rend un examen humain réel impossible, sur le plan cognitif ou organisationnel, est un système Dead-Hand portant l'étiquette Human-in-the-Loop. Ce qui compte n'est pas de savoir qui doit appuyer sur le bouton, mais si le fait de l'appuyer constitue une décision réelle.

Le principal champ d'application du cadre concerne les systèmes militaires autonomes, où l'exigence Human-in-the-Loop est souvent imposée par la doctrine ou par traité, tout en étant érodée par le rythme opérationnel. Il s'applique tout autant aux domaines civils à forts enjeux — diagnostic médical, évaluation judiciaire du risque, intervention financière — partout où l'écart entre autorité humaine nominale et réelle crée des vides de responsabilité.

La recherche est aboutie : une publication Zenodo pose les bases du cadre, un essai en développe l'argumentation, et une conférence est publiée en français.

Conférences clés
Section 02
Conférence vidéo · Français
Au-delà du Human-in-the-Loop : les limites du contrôle humain dans les systèmes de décision autonomes
Une conférence structurée sur les limites du Human-in-the-Loop comme catégorie de gouvernance — pourquoi la distinction entre autorité humaine réelle et procédurale importe, et comment des systèmes Dead-Hand peuvent se faire passer pour des systèmes Human-in-the-Loop. Un exposé technique sur la méthodologie Delegation Architecture est prévu en complément.
Essais
Section 03
Essai · Anglais
Beyond Human-in-the-Loop: The Limits of Human Control in Autonomous Decision Systems
Essai
Publications Zenodo
Section 04
Zenodo
Une sélection de résultats issus de ce cadre est également publiée au format académique sur Zenodo, l'entrepôt en libre accès géré par le CERN, avec des DOI permanents pour la citation et un accès archivé sur le long terme.
Article de recherche
Delegation Architecture: A Framework for Analysing Human Authority in Autonomous Decision Systems
DOI: 10.5281/zenodo.21293665
Parties prenantes visées
Section 05
Ministères de la Défense et organismes de doctrine militaire
Institutions responsables de la gouvernance des armes autonomes, des règles d'engagement et de la conformité juridique des systèmes létaux autonomes au regard du droit international humanitaire
Organismes de politique et de régulation de l'IA
Agences élaborant des cadres de gouvernance pour le déploiement de l'IA dans des contextes à forts enjeux — notamment celles chargées de la mise en œuvre de l'AI Act européen, des stratégies nationales en IA, et des réglementations sectorielles dans la finance, la santé et les infrastructures critiques
Organismes de droit international et de traités
Organisations travaillant sur les conventions relatives aux armes autonomes, la campagne Stop Killer Robots, et les cadres juridiques de responsabilité dans les conflits assistés par l'IA
Concepteurs et ingénieurs de systèmes
Équipes techniques concevant des systèmes de décision autonomes à forts enjeux, ayant besoin d'un cadre structuré pour évaluer si leurs spécifications Human-in-the-Loop produisent une autorité humaine réelle
Centres de recherche sur le risque et la responsabilité
Institutions de recherche académique et politique étudiant la responsabilité algorithmique, la responsabilité juridique liée à l'IA, et la gouvernance des systèmes automatisés à conséquences importantes
Organismes de recherche judiciaire et juridique
Institutions examinant comment les notions juridiques existantes de responsabilité, de négligence et d'intention s'appliquent lorsque des décisions à conséquences importantes sont prises par ou via des systèmes autonomes
Historique du projet
Section 06
Étape Date Résumé Documents Archive
Mature 2025 — présent Recherche aboutie. Conférence publiée en français (versions anglaise et russe disponibles). Publication Zenodo posant les bases du cadre Delegation Architecture. Essai publié (anglais).
Publié : conférence (FR) · essai (EN) · 1 notice Zenodo
Aucune version publiée Zenodo ↗