Conférence vidéo · Série Démocratie numérique · Conférence 7 sur 17 · Le problème de régression dans l'audit algorithmique
L'intelligence artificielle peut-elle auditer les systèmes publics ?
La septième conférence de la série Démocratie numérique s'ouvre sur une divulgation du lien de l'intervenant avec le projet Evolutionary Intelligence Environment, puis se demande si la surveillance humaine de systèmes publics complexes est même structurellement possible. S'appuyant sur la théorie des accidents normaux de Charles Perrow et sur le phénomène documenté du biais d'automatisation, la conférence soutient que l'audit humain se heurte à un plafond réel — et que l'audit machine, tout en élargissant véritablement la capacité technique, hérite intégralement du problème le plus difficile : qui audite l'auditeur ? La réponse, empruntée à des décennies de pratique de l'audit financier, n'est pas une couche de contrôle supplémentaire mais l'indépendance structurelle — et la conférence soumet son propre projet illustratif exactement au même standard.
Auteur Andy Kross
Langue Français
Série Démocratie numérique · Conférence 7 sur 17
Durée ≈ 90 minutes
Conférence 7 de la série · FR
Disponible sur YouTube ↗
Également disponible en
À propos de la conférence

La conférence s'ouvre sur une brève divulgation délibérée : son sujet est étroitement lié au projet Evolutionary Intelligence Environment, qui travaille sur l'infrastructure d'audit machine des systèmes complexes. La divulgation est faite ouvertement dès le départ, et non glissée dans une note de bas de page — la conférence précise explicitement qu'elle examine des principes généraux, sans promouvoir un projet particulier, et que le même cadre critique appliqué à chaque autre exemple sera également appliqué à celui-ci, dans un bloc dédié vers la fin.

L'ouverture proprement dite pose une seule image : un inspecteur chargé de vérifier manuellement un système traitant des millions de transactions par seconde — puis se demande si la même limite s'applique une fois que « transactions » devient « décisions prises par une institution publique complexe ». Le premier bloc de fond répond avec la théorie des accidents normaux de Charles Perrow : les systèmes qui sont simultanément complexes, fortement couplés, et porteurs d'un potentiel catastrophique génèrent des accidents qu'aucune prudence supplémentaire ne peut concevoir pour les éliminer. Les procédures publiques de l'ère numérique portent de plus en plus ces trois propriétés à la fois, ce qui signifie que la surveillance humaine périodique classique se heurte à une limite structurelle, et non à un manque de financement ou de formation qu'il suffirait de corriger. Une seconde limite, qui s'ajoute à la première, suit : le biais d'automatisation, la tendance d'un superviseur humain à se ranger à la sortie d'un système automatisé même face à des preuves contraires — un biais que « l'explicabilité » seule ne résout pas, car les limites cognitives humaines à suivre des chaînes causales complexes sont distinctes du simple accès à l'information.

La conférence se tourne ensuite vers l'audit machine lui-même — une pratique déjà existante, quoique encore immature, portée par des réglementations telles que le Digital Services Act de l'UE. Son avantage découle directement du bloc précédent : aucune fatigue, aucune dégradation de l'attention, des critères cohérents appliqués à une échelle qu'aucune équipe humaine ne pourrait égaler. Mais un contrepoids empirique salutaire suit immédiatement : une vaste étude de terrain menée auprès de praticiens dans près de deux cents organisations a révélé que le plus grand obstacle à un bon audit algorithmique n'était pas technique — c'était le simple refus de la partie auditée de consentir à un examen véritable, ce qui renoue directement avec le compte-rendu de la résistance institutionnelle de la conférence précédente. L'audit machine élargit la capacité technique ; il ne crée pas, à lui seul, la volonté institutionnelle d'être contrôlé.

Le bloc central énonce la question centrale de la conférence avec une pleine précision : si l'auditeur est lui-même un système complexe, qu'est-ce qui garantit qu'il n'est pas lui-même biaisé ou manipulé ? Ajouter un second auditeur pour vérifier le premier ne fait que reproduire la même question un cran plus loin — une régression infinie que davantage de couches du même type de contrôle ne peuvent arrêter. Une étude de terrain réelle et récente intitulée « Qui audite les auditeurs ? » documente ceci comme une caractéristique observée de la pratique actuelle, non comme un risque hypothétique. La réponse de la conférence vient d'un domaine plus mature et structurellement parallèle — l'audit financier, et le modèle du PCAOB : la régression est arrêtée non pas en ajoutant des superviseurs, mais par l'indépendance structurelle — un auditeur sélectionné et rémunéré par des canaux indépendants de la partie auditée, soumis à une rotation obligatoire et à une véritable responsabilité disciplinaire. La conférence établit un parallèle explicite avec le principe de Kerckhoffs de la Conférence 4 : la fiabilité provient de l'architecture des incitations, non de l'empilement de secret ou de contrôle supplémentaires.

La conférence revient ensuite, comme promis, à Evolutionary Intelligence Environment — décrivant sa « boucle réglementaire » pour l'audit continu d'agents d'IA autonomes, et lui appliquant, sans exception, exactement les mêmes questions posées au modèle du PCAOB : qui finance la boucle, ce financement crée-t-il une dépendance envers les entreprises qu'elle certifie, et la boucle elle-même est-elle soumise à une rotation externe et à une responsabilité disciplinaire. Aucun projet, insiste la conférence, n'est exempté de ces questions par la seule bonne exécution technique ou les bonnes intentions — y compris celui nommé dès le départ.

La conférence se termine en nouant ses quatre thèses ensemble — les limites structurelles de l'audit humain, les gains réels mais partiels de l'audit machine, l'indépendance structurelle comme véritable réponse à « qui audite l'auditeur », et ce même standard s'appliquant à toute infrastructure d'audit spécifique — et ouvre sur la question qui se prolonge dans la conférence suivante : qui décide quel modèle institutionnel d'audit s'applique où, et un seul modèle mondial unique est-il même souhaitable.

Plan de la conférence
1–2 min
Divulgation d'un intérêt potentiel — le lien de l'intervenant avec le projet Evolutionary Intelligence Environment, énoncé ouvertement avant le début de la conférence
5 min
Ouverture — l'inspecteur unique qui ne peut vérifier manuellement des millions de transactions par seconde ; la même limite s'applique-t-elle aux institutions publiques ?
20 min
Pourquoi l'audit humain de systèmes complexes est structurellement limité — les accidents normaux de Perrow et la couche supplémentaire du biais d'automatisation
20 min
L'audit machine — de réels gains d'échelle, et le constat préoccupant que le refus de consentement de la partie auditée, non les limites techniques, est le plus grand obstacle
25 min
Le cœur de la conférence — « qui audite l'auditeur ? », la régression infinie, et l'indépendance structurelle comme solution institutionnelle, tirée de l'audit financier et du PCAOB
5–7 min
Le lien avec Evolutionary Intelligence Environment — divulgation, non promotion, soumise au même standard d'indépendance structurelle
10 min
Synthèse et transition — qui décide quel modèle institutionnel d'audit s'applique, et un seul modèle mondial est-il même souhaitable
Détails
TypeConférence vidéo
LangueFrançais
AuteurAndy Kross
Durée≈ 90 minutes
Publications Zenodo
Article de recherche · 2026
DOI: 10.5281/zenodo.22968067
Liste complète des conférences
Conférence 7
L'intelligence artificielle peut-elle auditer les systèmes publics ?