Les architectures Human-in-the-Loop exigent une autorisation humaine active avant l'exécution d'une décision aux conséquences importantes ; les architectures Dead-Hand pré-autorisent des décisions qui s'exécutent automatiquement. La distinction paraît nette dans l'abstrait, mais l'argument central du projet est qu'elle s'effondre en pratique : la conception des interfaces, la pression temporelle, la charge cognitive et les incitations organisationnelles rendent couramment impossible un examen humain réel — même lorsque celui-ci reste nominalement exigé.
Le cadre Delegation Architecture constitue la contribution centrale du projet — une méthodologie permettant de déterminer si l'autorité humaine, au sein d'un système de décision autonome, est réelle ou procédurale, selon quatre dimensions : la faisabilité cognitive de l'examen, la responsabilité organisationnelle quant aux résultats, les possibilités réelles (par opposition à nominales) d'intervention offertes par l'interface, et la structure d'incitation qui détermine si les opérateurs exercent effectivement leur rôle d'autorisation ou y renoncent.
Le principal champ d'application du cadre concerne les systèmes militaires autonomes, où l'exigence Human-in-the-Loop est souvent imposée par la doctrine ou par traité, tout en étant érodée par le rythme opérationnel. Il s'applique tout autant aux domaines civils à forts enjeux — diagnostic médical, évaluation judiciaire du risque, intervention financière — partout où l'écart entre autorité humaine nominale et réelle crée des vides de responsabilité.
La recherche est aboutie : une publication Zenodo pose les bases du cadre, un essai en développe l'argumentation, et une conférence est publiée en français.
| Étape | Date | Résumé | Documents | Archive |
|---|---|---|---|---|
| Mature | 2025 — présent |
Recherche aboutie. Conférence publiée en français (versions anglaise et russe disponibles). Publication Zenodo posant les bases du cadre Delegation Architecture. Essai publié (anglais).
Publié : conférence (FR) · essai (EN) · 1 notice Zenodo
|
Aucune version publiée | Zenodo ↗ |