---
title: "Chapitre V — Épreuve historique"
edition: "cas-ia"
status: "application"
level: 1
version: "0.1.0"
concepts: []
links: []
order: 160
summary: ""
source:
  kind: docx
  path: "sources/docx/cas-ia/Cas_Pratique-Archicratie_et_gouvernance_des_systemes_IA-Chapitre_5_Epreuve_Historique.docx"
---
Les quatre premières parties de notre cas pratique ont traité Système F comme un dispositif déjà là, déjà actif : un système de décision distribué dans des guichets, des interfaces, des comités, des tribunaux ; une chaîne cratiale qui manipule scores, seuils, proxies ; un opérateur qui recompose des scènes d’épreuve sans jamais se donner vraiment comme tel. L’épreuve historique introduit un autre type de question : non plus seulement “*où et comment Système F régule-t-il aujourd’hui ?*”, mais “*dans quelle séquence régulatrice s’inscrit-il ? de quelle histoire prolongée est-il l’expression, et de quelle histoire possible est-il le laboratoire ?*”. Autrement dit, il s’agit de replacer ce que nous avons décrit, au fil des sections I à IV, dans la généalogie archicratique développée au chapitre 4 de l’essai-thèse : celle des révolutions industrielles relues comme révolutions régulatrices.

Dans cette généalogie, chaque “*révolution industrielle*” n’est pas seulement une mutation de machines ou de sources d’énergie ; elle est la reconfiguration d’un régime de *co-viabilité*, d’un agencement spécifique entre *arcalité, cratialité* et *archicration*. La première révolution installe une *puissance thermo-mécanique* et un *capitalisme manufacturier* qui déplacent la scène de la régulation du village vers l’*usine* ; la deuxième organise les *grandes infrastructures*, les *empires* et les *États-nations* autour de *réseaux matériels et scripturaux* ; la troisième, *technoscientifique* et *mass-médiatique*, *sature le monde en normes, en statistiques, en dispositifs d’expertise qui travaillent à distance les populations*. La quatrième révolution, telle que nous l’avons formulée dans la thèse, ne se réduit pas à la “*numérisation*” au sens trivial ; elle se caractérise par une *clôture douce de la régulation* : pilotage par la donnée, indicateurs qui se présentent comme incontestables, scripts organisationnels qui encadrent les comportements sans que la scène du débat ne soit explicitement supprimée – elle est absorbée dans les interfaces, dans les formulaires, dans les tableaux de bord. C’est cette dynamique que nous retrouvons dans Système F : *datafication massive* *des existences*, *gouvernement par variables* et *fonctions de coût*, *absorption de la conflictualité potentielle dans des séquences d’optimisation*.

L’épreuve historique que nous ouvrons maintenant a donc un premier objectif : vérifier si Système F doit être compris comme un simple produit avancé de cette quatrième révolution régulatrice, un degré supplémentaire de la logique “*numérisation intégrale* – *pilotage par indicateurs* – *script sans débat*”. Tout, dans sa configuration, semble y inviter : les flux de dossiers, de contenus, de CV, de patients sont convertis en vecteurs de caractéristiques ; des modèles de fondation compilent des régularités extraites d’archives scripturo-bureaucratiques et de traces marchandes ; la régulation se présente comme gestion anticipatrice de risques, de coûts et de performances. Sous cet angle, Système F est l’enfant exemplaire de la quatrième révolution : il ne détruit pas la scène, il la rend superflue en prétendant faire son travail à sa place, en continu, par des ajustements numériques.

Mais la thèse ne s’arrête pas à ce constat. Au chapitre 4 et dans la conclusion générale, nous avons esquissé l’hypothèse d’une cinquième révolution régulatrice, que nous avons appelée *révolution scénique* : non pas une nouvelle vague d’automatisation ou de connectivité, mais une mutation dans le statut de la scène elle-même. Là où la quatrième révolution tend à rendre la régulation hors scène – traitements en arrière-plan, décisions pilotées par des métriques auto-référées, effacement du différé – la cinquième serait, si elle advient, une *révolution du faire-apparaître* : *réinstitution de scènes d’épreuve comme opérateurs centraux de la co-viabilité*, *promotion du différé comme droit et comme technique*, *reconnaissance de l’archicration comme condition de légitimité* et non comme supplément facultatif. Dans cette perspective, la question n’est plus : “l’IA est-elle une quatrième révolution de plus ?”, mais : “le développement de Système F rend-il nécessaire, pensable, exigible, une révolution scénique ?”.

La Partie V se situe précisément dans cet entre-deux : elle doit à la fois prendre au sérieux Système F comme intensification de la quatrième révolution régulatrice, et tester la pertinence de l’hypothèse d’une cinquième. Dans un premier mouvement, nous montrerons comment le grand système d’IA de fondation condense tous les traits de la numérisation intégrale décrite dans l’essai-thèse : *généralisation de la datafication*, *gouvernance par indicateurs*, *clôture des boucles de rétroaction dans des métriques internes*, *absorption de la scène dans des interfaces* qui cadrent non seulement les décisions, mais aussi les possibilités de contestation. Dans un second mouvement, nous reformulerons, à partir de ce terrain, ce que pourrait signifier une révolution scénique appliquée à l’IA : non pas une simple “transparence” des modèles ou des codes, mais une reconfiguration des architectures scéniques autour de Système F – scènes où l’on pourrait convoquer les fonctions de coût, les proxies, les seuils, les choix d’entraînement, en présence des personnes affectées, dans des formes d’épreuve opposables.

Enfin, la Partie V proposera des scénarios contrastés, comme instruments d’analyse : un scénario d’*autarchicratie numérique* avancée, où Système F devient l’infrastructure invisible de la régulation et où les scènes humaines ne sont plus que des façades ; un scénario de révolution scénique partielle, où quelques secteurs se dotent de tribunaux de l’algorithme, de droits au différé, de budgets scéniques, sans que la logique globale ne change ; et un scénario de réarmement archicratique transversal, où les exigences de mise en scène, de différé et de comparution deviennent des contraintes explicites pour tout déploiement d’IA. L’épreuve historique n’aura atteint son but que si elle permet de dire, de manière argumentée, où se situe aujourd’hui Système F dans cette constellation, et quelles marges de manœuvre restent ouvertes pour orienter, plutôt que subir, le régime régulateur dont il est l’un des vecteurs les plus puissants.

## V.1. IA comme intensification de la quatrième révolution régulatrice

Avant de formuler l’hypothèse d’une cinquième révolution régulatrice, il faut d’abord accepter de regarder Système F pour ce qu’il est déjà : un concentré de la quatrième révolution telle que nous l’avons décrite dans l’essai-thèse. Celle-ci ne se réduit ni à l’informatique, ni au “numérique” en général, mais à une reconfiguration de la régulation autour de trois traits solidaires : une *gouvernementalité par les nombres* qui tend à supplanter la référence explicite à la loi ; une *datafication massive des existences*, qui fait de la vie sociale un matériau statistique en continu ; une *absorption progressive de la scène dans des scripts et des interfaces*, qui assurent la clôture douce des arbitrages. Cette section a pour objet de montrer que Système F n’est pas une excroissance marginale de cette quatrième révolution, mais l’un de ses produits paradigmatique : il pousse au maximum la logique de gouvernance par indicateurs, il vit de la datafication intégrale des populations, et il organise la disparition de la scène derrière des écrans, des formulaires et des fonctions de coût.

### V.1.1. Clôture douce et gouvernement par les nombres

Dans notre généalogie archicratique, la quatrième révolution régulatrice s’annonçait par ce qu’Alain Supiot a nommé une “*gouvernance par les nombres*” : un déplacement progressif de la référence au droit vers des *dispositifs de pilotage qui prennent pour langage exclusif des objectifs chiffrés, des comparateurs, des indicateurs de performance*. Il ne s’agit pas exclusivement d’ajouter des chiffres à des politiques préexistantes, mais de *substituer au jugement juridico-politique l’évaluation permanente par des métriques qui se présentent comme neutres*. L’obéissance à la loi cède la place à la *conformité à des taux, des ratios, des scores* ; le travail des institutions consiste de plus en plus à “faire remonter” des indicateurs et à “tenir les objectifs”.

La *socio-histoire de la quantification*, telle qu’Alain Desrosières l’a patiemment reconstruite, montre *comment cette montée des nombres comme instruments de gouvernement repose sur des conventions, des découpages, des classifications qui ne sont jamais purement techniques*. Les *statistiques* et *indicateurs* ne se contentent pas de refléter un état du monde : ils *organisent ce monde en catégories d’intervention* (chômeurs, fraudeurs, “patients à risque”, “bons élèves”, territoires en difficulté), *en ouvrant certaines options d’action et en omettant d’autres*. Mais là où, dans les phases antérieures, la construction de ces catégories restait liée à des scènes identifiables – commissions, négociations, débats, compromis législatifs –, la quatrième révolution régulatrice tend à disperser ce travail de construction dans des réseaux d’expertise, de consultants, de plateformes logicielles. C’est ce que Rouvroy et d’autres désignent comme une *gouvernementalité algorithmique* : un *mode de pouvoir qui opère à partir de masses de données et de corrélations, sans jamais avoir besoin d’énoncer explicitement la norme*.

Système F condense cette dynamique. Dans tous les domaines où il intervient, l’objectif politique initial – protéger l’État social, réduire des risques sanitaires, limiter la récidive, améliorer la qualité du recrutement, assainir les espaces numériques – se trouve traduit en indicateurs internes et en fonctions de coût : taux de fraude détectée, économies réalisées, probabilité estimée de récidive, proportion de “bons” recrutements, volume de contenus “conformes”. Ces grandeurs ne sont pas que des compteurs ; elles deviennent la *norme incorporée du système*. À ce moment-là, la clôture douce décrite dans la thèse se manifeste pleinement : *la régulation n’est plus explicitement justifiée par un débat sur les finalités, elle se trouve présupposée par les objectifs chiffrés qu’on a assignés au dispositif et qu’il poursuit avec une forme d’obstination mathématique*.

### V.1.2. *Datafication massive* : Système F dans la société des traces

La quatrième révolution régulatrice se laisse aussi saisir à travers le *processus de datafication*, au sens où Mayer-Schönberger, Cukier et d’autres auteurs ont décrit l’*élargissement des sphères de la vie sociale transformées en données calculables*. Ce n’est plus seulement la production industrielle ou les flux financiers qui sont mesurés, mais les interactions sur les réseaux sociaux, les déplacements, les historiques d’achat, les usages des services publics, les comportements en ligne. Chaque geste laisse une trace ; chaque trace peut être agrégée, profilée, recombinée.

Les travaux sur le “*digital welfare state*” menés sous l’égide des Nations unies, notamment par Philip Alston, montrent que les systèmes d’aide sociale sont devenus des laboratoires privilégiés de cette *datafication* : les États construisent de vastes infrastructures numériques pour collecter, croiser et analyser des données sur les populations vulnérables, avec des promesses d’efficacité et de ciblage, mais aussi des risques accrus de surveillance et de sanction automatisée. C’est exactement ce que nous avons vu dans les cas SyRI ou du scandale des allocations néerlandaises : la protection sociale se rejoue dans des systèmes qui reposent sur la multiplication des données et sur leur raccordement à des modules de profilage.

*Système F*, sous cet angle, n’est pas une innovation isolée : il est la *forme “mature” d’un monde déjà datafié*. Il suppose l’*existence de corpus massifs et hétérogènes* : historiques de prestations, archives judiciaires, dossiers médicaux, CV et trajectoires professionnelles, flux de contenus numériques. Il ne se contente pas de puiser dans un registre ; il *rassemble, sous la forme d’un modèle de fondation, des régularités apprises sur des univers de données distincts*, qu’il *recompose dans des applications sectorielles*. La *datafication* cesse alors d’être un effet secondaire de la numérisation ; elle devient l’alimentation continue d’un dispositif qui, pour fonctionner, a besoin que les vies soient constamment converties en entrées et sorties de modèles. Ce n’est pas un hasard si les politiques contemporaines de l’IA, en Europe comme ailleurs, insistent tant sur l’accès aux “*données de qualité*” : sans ces flux, Système F ne pourrait ni être entraîné, ni être ajusté, ni être évalué.

### V.1.3. Gouvernance par variables : l’indicateur devenu architecture interne

L’un des apports de Desrosières à la compréhension des régimes contemporains de quantification est d’avoir montré que les *indicateurs publics* n’étaient pas de simples résumés, mais des *compromis incorporés entre des intérêts, des visions du monde, des techniques*. La quatrième révolution régulatrice se caractérise par le fait que ces *indicateurs* cessent de rester à la périphérie des décisions : ils deviennent la *langue même dans laquelle les décisions doivent être formulées pour être recevables dans les organisations*. La “bonne” politique est celle qui améliore les bons chiffres ; la “bonne” gestion, celle qui fait progresser les bons KPI.

Dans Système F, cette logique est poussée à son point limite, car l’indicateur ne se réduit pas à un chiffre affiché dans un rapport, il est l’*élément constitutif d’une fonction de coût*. Dire que le système cherche à “*maximiser la détection de fraude tout en minimisant les faux positifs*” ou à “*cibler les patients à haut risque de manière efficiente*” signifie qu’on a *défini, quelque part dans son architecture, une combinaison de variables qui attribue une valeur à chaque décision possible, en fonction de quelques objectifs hiérarchisés*. Les variables qui entrent dans cette combinaison – nationalité, quartier, montant de l’allocation, coûts de santé passés, type de contrat, historique de navigation – ne sont pas de simples colonnes dans un tableau : elles sont les véhicules par lesquels se transmet une conception du risque, du mérite, de la vulnérabilité ou de la dangerosité.

C’est ici que l’intensification propre à Système F devient visible. Dans les régimes de pilotage par indicateurs classiques, il restait possible de discuter un taux ou un ratio en séance : contester un chiffre, en proposer un autre, négocier les cibles. Dans un dispositif comme Système F, la plupart des indicateurs pertinents n’apparaissent jamais comme tels aux yeux des acteurs. Ils sont encapsulés dans des modèles et des proxies, traduits en pertes et en gradients dans l’espace abstrait de l’optimisation. Nous avons vu, avec l’algorithme de gestion des risques en santé étudié par Obermeyer et ses collègues, qu’un simple *choix de proxy* – utiliser les coûts de santé comme approximation des besoins cliniques – suffit à produire un *biais massif dans l’accès* à des programmes de soins intensifs pour des patients noirs, *sans que ce choix n’ait été mis en scène comme tel*. De ce point de vue, la *gouvernementalité par les nombres* se mue en *gouvernance par variables* : ce ne sont plus des indicateurs publics que l’on peut disputer, *ce sont des grandeurs internes au modèle, souvent inaccessibles, qui structurent l’allocation des ressources et des sanctions*.

### V.1.4. Absorption de la scène dans les interfaces : la forme achevée de la clôture douce

La quatrième révolution régulatrice, dans notre thèse, se distinguait enfin par l’*absorption progressive de la scène dans des dispositifs qui jouent à la fois le rôle de canal d’accès aux droits, de script de comportement et de filtre des contestations*. Les guichets devenus portails, les démarches transposées en formulaires en ligne, les espaces de débat réduits à des consultations numériques émaillées de questions fermées composent ce que nous avons appelé une *topologie de scènes appauvries* : *la possibilité d’un différé, d’une confrontation, d’une mise en procès y subsiste en droit, mais elle est rendue matériellement difficile, voire improbable*.

Système F représente, de ce point de vue, la forme achevée de cette *clôture douce*. Pour les personnes affectées, la régulation se manifeste sous la forme d’une décision standardisée – une prestation suspendue, un refus motivé par une formule stéréotypée, un compte désactivé, une visibilité réduite – ou sous la forme d’un simple silence, lorsque la candidature n’est pas retenue ou que le post “ne prend pas”. Pour les agents, la présence de Système F se confond avec celle d’une interface qui propose des listes triées, des recommandations, des alertes colorées, des scripts de réponse. L’essentiel des arbitrages – choix des variables, des fonctions de coût, des seuils – se prend ailleurs, dans des *hypertopies techniques* où se croisent ingénieurs, juristes, managers, sans que ces espaces soient institués comme scènes d’*archicration*.

L’épreuve historique permet alors de formuler plus nettement ce que nous n’avions, dans la thèse, qu’esquissé : Système F n’introduit pas une qualité totalement inédite de pouvoir, mais il réalise l’une des figures les plus avancées de la quatrième révolution régulatrice. Il condense dans un même dispositif la *gouvernance par les nombres* analysée par Supiot, la *politique des grands nombres* étudiée par Desrosières, la *datafication généralisée* décrite par Mayer-Schönberger et Cukier, et la *gouvernementalité algorithmique* théorisée par Rouvroy. C’est justement parce qu’il porte à ce point la logique de la quatrième révolution que Système F fait apparaître ses limites : la distance grandissante entre la puissance de la régulation et la pauvreté des scènes où elle peut être mise en épreuve. La section suivante pourra dès lors poser, de manière moins spéculative et plus ancrée, la question de ce que signifierait, dans ce paysage, une véritable révolution scénique appliquée à l’IA : non pas un supplément de visualisation, mais une *réinvention des architectures d’archicration autour des dispositifs mêmes qui gouvernent désormais nos formes de co-viabilité*.

## V.2. Hypothèse de cinquième révolution scénique appliquée à l’IA

L’épreuve historique ne s’achève pas avec le constat selon lequel Système F intensifie la quatrième révolution régulatrice. Elle ouvre au contraire une bifurcation conceptuelle : soit l’on considère que la numérisation intégrale, la gouvernance par variables et l’absorption de la scène dans les interfaces constituent l’horizon indépassable de la régulation contemporaine ; soit l’on prend au sérieux l’idée, esquissée dans l’essai-thèse, d’une cinquième révolution, non plus techno-industrielle, mais scénique. Cette hypothèse n’ajoute pas un gadget normatif de plus à un paysage déjà saturé de chartes ; elle propose un renversement du centre de gravité régulateur : *faire de la scène d’épreuve, du différé et de la comparution un opérateur structurel de la co-viabilité*, et non une simple couche de “transparence” déposée après coup sur des dispositifs déjà oblitérés. Cette section se consacre à préciser ce que signifie, dans le cas d’un grand système d’IA comme Système F, une telle révolution scénique : comment elle se distingue des demandes courantes de “transparence algorithmique”, comment elle reconfigure le triptyque archicratique, et en quel sens elle mérite le nom de révolution régulatrice plutôt que celui de réforme cosmétique.

### V.2.1. Ce que nomme la “révolution scénique” dans l’essai-thèse

Dans l’architecture générale de l’essai-thèse, la cinquième révolution régulatrice était introduite non comme une certitude historique, mais comme une hypothèse critique : après une séquence où les pouvoirs régulateurs se sont progressivement déportés vers des infrastructures techniques, des standards, des indicateurs et des algorithmes, il devient nécessaire d’imaginer une configuration où la scène n’est plus un reste résiduel, mais un opérateur principal. Par “révolution scénique”, nous n’entendons pas le retour nostalgique à des formes de publicité anciennes (agora, Parlement, place publique), mais l’*invention de nouveaux dispositifs de comparution* : *scènes où les fondements (arcalités) et les instruments (cratialités) de la régulation peuvent être amenés, réglés, contestés, dans des formats adaptés à l’épaisseur technique et globale des chaînes contemporaines*.

Dans ce cadre, la scène n’est pas un simple décor où l’on “communique” sur ce qui a déjà été décidé ; elle est un lieu où l’on peut suspendre, différer, rejouer les décisions et les dispositifs. La révolution scénique désigne cette mutation où le *droit au différé*, la *possibilité d’un recours contradictoire*, *l’existence de tribunaux spécialisés*, de *budgets scéniques* et d’*instances de contre-expertise* ne sont plus des exceptions, mais des *conditions de validité de toute régulation ambitieuse*. Autrement dit : là où la quatrième révolution tend à fermer les boucles de régulation dans des circuits de données et de modèles auto-évalués, la cinquième consisterait à rouvrir ces boucles vers l’extérieur, en instituant des lieux où elles doivent rendre compte – et pas seulement se montrer.

### V.2.2. Pourquoi l’IA rend la révolution scénique plus que spéculative

Appliquée à Système F, l’hypothèse d’une cinquième révolution scénique n’est pas un simple exercice d’anticipation. Tout ce que nous avons reconstruit dans les parties I à IV pointe vers un même nœud : l’*écart croissant entre la puissance régulatrice de Système F et la pauvreté des scènes où cette puissance peut être mise en épreuve*. Les cas de la protection sociale, de la justice pénale, de la santé, du recrutement, des plateformes montrent que des pans entiers de la distribution des droits, des soins, des sanctions, des opportunités et de la visibilité sont désormais affectés par des *chaînes algorithmico-organisationnelles* dans lesquelles les personnes concernées ne disposent que d’une information mince et de recours faiblement outillés. Les configurations topologiques que nous avons décrites – *hypotopies locales, hypertopies expertes, archicrations fantômes* – ne sont pas des accidents : elles sont la forme concrète de la *clôture douce* propre à la quatrième révolution.

Dans ce contexte, l’hypothèse d’une révolution scénique cesse d’être purement spéculative pour prendre la forme d’une nécessité négative : soit l’on accepte que des dispositifs comme Système F deviennent les lieux effectifs de la régulation, sans scènes à leur mesure, au prix de tensions croissantes sur la légitimité et la co-viabilité ; soit l’on travaille à *instituer des scènes capables d’accueillir ces dispositifs, de les examiner, de les contraindre*. La cinquième révolution régulatrice ne se pose pas ici comme un “progrès” automatique, mais comme une bifurcation : ou bien la quatrième révolution se durcit en *autarchicratie numérique*, où les modèles et les indicateurs deviennent leurs propres juges ; ou bien elle ouvre, par la conflictualité qu’elle suscite, la *possibilité de dispositifs d’archicration à une autre échelle*. L’IA n’est pas le seul terrain où cette alternative se joue, mais elle en est l’un des plus concentrés : parce qu’elle est à la fois l’emblème d’une puissance technique globale et le vecteur discret de micro-décisions quotidiennes.

### V.2.3. Reconfiguration archicratique : ce que serait une révolution scénique de l’IA

Dire qu’une cinquième révolution régulatrice serait scénique, dans le cas de Système F, c’est d’abord préciser ce que deviendraient, dans un tel régime, les trois prises archicratiques. Pour l’*arcalité*, une révolution scénique ne se résume pas à multiplier les “principes éthiques” et les déclarations de valeur : elle exigerait que les *choix fondamentaux qui orientent Système F – définition de la fraude, du risque acceptable, du besoin, du mérite, du contenu nuisible – soient exposés dans des arènes où ils peuvent être discutés, amendés, contestés par des acteurs qui ne sont pas uniquement les concepteurs, les intégrateurs et les régulateurs sectoriels*. Cela suppose non seulement des textes, mais des *procédures* : *qui peut demander la révision d’une fonction de coût ? qui décide d’autoriser ou d’interdire l’usage d’un proxy donné ? selon quelle procédure sont définis les critères d’éligibilité à un programme de soins ou à un dispositif social lorsqu’ils passent par Système F ?*

Du côté de la *cratialité*, une révolution scénique n’impliquerait pas de démanteler les architectures techniques, mais de les soumettre à des régimes d’épreuve qui ne soient plus entièrement internes. Aujourd’hui, la plupart des ajustements de Système F se font dans des boucles fermées : collecte de données, entraînement, validation, déploiement, monitoring, ré-entraînement ; les seules scènes où ces chaînes apparaissent sont des comités techniques, des audits partiellement indépendants, des contentieux dispersés. Une architecture scénique de cinquième révolution supposerait des lieux où l’on peut demander la suspension d’un module, exiger la mise au jour des jeux de données et des pipelines, contester les critères d’évaluation d’un modèle, imposer des transformations structurelles – et pas seulement recommander des corrections à la marge.

Quant à l’*archicration* elle-même, une révolution scénique signifierait qu’elle cesse d’être résiduelle pour devenir condition d’existence de Système F comme dispositif légitime. Concrètement, cela veut dire que l’on ne pourrait pas déployer un système de scoring social, de tri pénal, de gestion des risques en santé, de recrutement ou de modération à grande échelle sans qu’existent, en regard, des scènes instituées où ces systèmes puissent être mis en procès : *tribunaux de l’algorithme, commissions d’enquête dotées de pouvoirs d’accès, instances mixtes associant administrations, développeurs, syndicats, associations, chercheurs, où l’on examine les effets, les biais, les arbitrages, et où l’on peut exiger des transformations contraignantes*. La révolution scénique ne consisterait pas à faire “participer” symboliquement les publics ; elle consisterait à *rendre l’archicration opposable* : un dispositif aussi puissant que Système F ne pourrait se maintenir que s’il accepte périodiquement de comparaître, de se laisser suspendre, modifier, reconfigurer à la lumière de ces épreuves.

### V.2.4. Au-delà de la “*transparence*” : du voir au faire-apparaître

Il est essentiel, pour éviter les malentendus, de distinguer cette hypothèse de révolution scénique des discours aujourd’hui dominants sur la “transparence” de l’IA. La transparence est le plus souvent pensée comme un problème de visibilité : rendre les modèles explicables, documenter les flux de données, publier des fiches systèmes, ouvrir des interfaces de monitoring. Ces initiatives ne sont pas négligeables ; elles peuvent même être des conditions préalables nécessaires. Mais elles restent, dans la plupart des cas, *intracratiques* : elles *organisent la circulation de l’information à l’intérieur de mondes d’experts, ou vers des publics invités à “comprendre” ce qui a été fait, sans que cela n’ouvre véritablement un espace de mise en épreuve*.

La révolution scénique, telle que nous la formulons, ne consiste pas à voir plus, elle consiste à faire apparaître autrement. Elle ne vise pas d’abord la lisibilité technique des modèles, mais leur comparution dans des scènes où l’on peut demander des comptes, faire valoir des expériences, opposer des récits, produire des contre-propositions. Dans un régime de transparence sans scène, Système F peut être abondamment documenté sans jamais être tenu ; dans un régime scénique, la documentation n’est qu’un matériau pour l’épreuve, un support pour l’argumentation, une condition pour la possibilité de la contestation. Ce qui change, ce n’est pas seulement ce qui est visible, c’est ce qui peut être fait de ce qui est rendu visible.

Ainsi formulée, l’hypothèse d’une cinquième révolution régulatrice appliquée à l’IA reste volontairement tendue : elle ne décrit pas un futur programmatique déjà décidé, elle trace une ligne de fracture dans le présent. D’un côté, une trajectoire où Système F s’inscrit sans partage dans la logique de la quatrième révolution, en perfectionnant la *gouvernementalité par variables* et en approfondissant l’*oblitération archicratique* ; de l’autre, une trajectoire où la montée même de cette puissance algorithmique rend politiquement et socialement intenable la pauvreté des scènes, et suscite des expérimentations institutionnelles qui cherchent à faire de l’*archicration* un opérateur central. La section suivante, en déployant des scénarios contrastés, aura pour fonction de donner des formes plus précises à cette alternative, en montrant ce qu’elle implique pour la gouvernance concrète de systèmes comme Système F.

## V.3. Scénarios contrastés

L’épreuve historique, telle que nous l’avons engagée, ne débouche pas sur un verdict linéaire. Elle ouvre un éventail de trajectoires possibles, dont aucune n’est écrite d’avance. Pour ne pas céder à la fois au catastrophisme vague et au progressisme automatique, il est utile de formuler des scénarios : non pas comme des prophéties, mais comme des figures limites qui permettent de lire le présent. Chacun des trois scénarios qui suivent – *autarchicratie numérique avancée*, *révolution scénique partielle*, *réarmement archicratique transversal* – décrit une manière distincte d’articuler Système F à la série des révolutions régulatrices, et surtout une manière différente de traiter la question centrale qui traverse ce cas pratique : *que devient la scène lorsque la régulation passe par des architectures d’IA de fondation ?*

### V.3.1. Scénario d’*autarchicratie numérique* *avancée* : la clôture réussie

Dans le premier scénario, la dynamique que nous avons reconstruite à propos de la quatrième révolution régulatrice se poursuit sans inflexion majeure. Système F, loin de rester un assemblage expérimental, se stabilise comme une infrastructure diffuse de la régulation : ses modules de scoring social, de gestion des risques, de tri pénal, de recrutement et de modération sont intégrés à la plupart des grandes chaînes décisionnelles, sous des marques diverses, dans des solutions clés en main fournies par quelques acteurs dominants. Les politiques publiques et les stratégies d’entreprise intègrent Système F comme une évidence, de la même manière que l’on a fini par considérer l’existence d’un système d’information ou d’un ERP comme un préalable non négociable.

Les scènes humaines ne disparaissent pas ; elles se transforment en façades procédurales. L’allocataire peut toujours déposer un recours, mais ce recours consiste d’abord à remplir un formulaire qui rebranche sa demande sur Système F ; le juge reste souverain en droit, mais ses marges de manœuvre sont resserrées par des rapports de risque standardisés qui font office de grammaire commune ; le médecin garde la responsabilité ultime, mais s’écarter de la priorisation proposée par l’algorithme suppose un coût symbolique et organisationnel élevé ; le recruteur conserve la possibilité de “suivre son intuition”, mais cette intuition doit désormais se justifier en référence à des scores pré-calculés. Les interfaces deviennent le lieu unique de contact avec la régulation, et elles sont configurées de telle sorte que suivre la recommandation de Système F soit la voie de moindre résistance.

Du point de vue archicratique, on entre alors dans une *autarchicratie numérique assumée* : le gouvernement par la régulation elle-même, où indicateurs, modèles et standards deviennent leurs propres critères de validité. Les performances de Système F sont évaluées à l’aune de ses propres métriques (taux d’“erreurs”, gains de productivité, stabilité des modèles), éventuellement aménagées pour intégrer des contraintes d’équité ou de non-discrimination, mais sans que la configuration d’ensemble soit amenée sur une scène élargie. Les rares *archicrations effectives* – contentieux emblématiques, commissions d’enquête, décisions de justice comme celle qui a mis fin à SyRI – restent des événements exceptionnels, qui conduisent à des ajustements locaux, sans remise en cause du schéma général.

Dans ce scénario, la *co-viabilité sociale et symbolique* est sous tension permanente. Les groupes le plus intensément profilés, contrôlés, filtrés – habitants de certains quartiers, minorités racisées, bénéficiaires de prestations, personnes au parcours professionnel discontinu – expérimentent au quotidien le caractère arbitraire de décisions qu’on leur présente comme neutres. Mais la possibilité de traduire cette expérience en conflit politique est affaiblie, parce que les lieux où se prennent les décisions pertinentes – *hypertopies techniques, comités d’architecture, directions de programmes* – ne sont ni configurés ni reconnus comme des scènes. La crise se manifeste par des scandales ponctuels, des controverses médiatiques, des fuites de documents, des mobilisations sectorielles ; elle n’arrive jamais vraiment à réunir, sur une même scène, les arènes de conception, d’exploitation et de contestation de Système F. La quatrième révolution régulatrice se prolonge alors en un régime où la clôture douce est, pour ainsi dire, réussie : l’IA devient le *médium ordinaire de la régulation*, et la scène politique se cantonne à commenter, à la marge, ses effets.

### V.3.2. Scénario de révolution scénique partielle : des îlots d’*archicration* dans un océan algorithmique

Le deuxième scénario suppose que la trajectoire *autarchicratique* rencontre des résistances suffisamment fortes pour produire des expérimentations institutionnelles, sans pour autant se transformer en basculement général. Sous l’effet combiné de scandales répétés, de mobilisations d’ONG, de décisions de justice, de prises de position d’autorités indépendantes et de réflexions internes à certaines administrations, des dispositifs d’*archicration* spécifiques sont mis en place autour de Système F, mais de manière fragmentée.

Dans le champ de la protection sociale, on peut imaginer la création de “*tribunaux de l’algorithme*” compétents pour examiner les systèmes de scoring et de profilage utilisés par les caisses et les administrations fiscales : ces tribunaux seraient dotés d’un droit d’accès aux données, aux modèles, aux fonctions de coût, et pourraient suspendre ou interdire certains usages au vu de leurs effets. Dans la justice pénale, des règles de procédure nouvelles pourraient exiger que tout recours à un score algorithmique soit explicite, motivé et accompagnés de garanties contradictoires ; les justiciables auraient le droit de demander une contre-expertise indépendante du modèle utilisé. Dans la santé, des droits au différé seraient institués : la possibilité, pour un patient ou une association, de demander qu’un programme de gestion des risques soit mis en révision avant tout nouveau déploiement, en cas de soupçon étayé de biais. Sur les plateformes, enfin, des budgets scéniques – du temps, des personnels, des moyens dédiés à la gestion contradictoire des cas litigieux – seraient imposés, limitant la tentation de déléguer entièrement la modération à des systèmes automatisés.

Dans ce scénario, l’hypothèse de cinquième révolution scénique trouve un début de réalisation locale. L’*arcalité* de Système F ne reste pas uniquement implicite ou « *sloganisée* » : certaines définitions de la fraude, du risque, du mérite, du contenu nuisible doivent être exposées et justifiées devant des instances spécialisées. La *cratialité algorithmique* *n’est plus totalement opaque* : *des audits réellement indépendants, des obligations d’explication contextualisée, des pouvoirs d’inspection technique élargis créent des brèches dans la boîte noire*. L’*archicration* cesse d’être purement fantomatique : il existe des scènes où les personnes affectées – directement ou par l’entremise de collectifs – peuvent faire valoir leur expérience, contester des arbitrages, exiger des transformations.

Mais cette révolution scénique reste partielle. D’une part, elle ne touche pas tous les secteurs ni tous les usages de Système F : les domaines jugés “sensibles” (droits sociaux, justice, santé) sont mieux dotés en dispositifs de scène, tandis que d’autres (recrutement privé, scoring commercial, segmentation marketing, microciblage politique) continuent de fonctionner dans un quasi-vide archicratique. D’autre part, même dans les secteurs couverts, les scènes instituées risquent de rester enclavées : leur accès est difficile pour les plus vulnérables, le langage y demeure fortement technicisé, et les conflits d’intérêts y sont nombreux (experts issus des mêmes milieux que les concepteurs de Système F, pressions économiques et politiques). On obtient alors une sorte d’*archipel* : *des îlots d’archicration réelle dans un océan algorithmique largement autarchicratique*.

Ce scénario n’est pas négligeable : il montre que l’hypothèse de cinquième révolution scénique n’est pas un tout ou rien. Il est possible de construire, pas à pas, des dispositifs qui rendent Système F partiellement opposable, qui ouvrent des scènes là où il n’y en avait pas. Mais en l’absence d’un *réarmement archicratique transversal*, ces avancées resteraient fragiles, exposées à des reconfigurations politiques défavorables, et susceptibles d’être contournées par des redéploiements techniques (délocalisation des décisions, externalisation vers des prestataires, changement de statuts des dispositifs).

### V.3.3. Scénario de *réarmement archicratique transversal* : la scène comme condition de déploiement

Le troisième scénario est le plus exigeant et, en un sens, le plus spéculatif : il décrit ce que signifierait un *réarmement archicratique transversal* si l’hypothèse de révolution scénique était prise au sérieux comme horizon d’organisation des régulations, et pas seulement comme correctif. Il ne s’agit plus, ici, d’ajouter quelques scènes à la marge de Système F, mais de conditionner l’existence même de dispositifs de cette ampleur à l’intégration, dès leur conception, de l’*arcalité*, de la *cratialité* et de l’*archicration* dans un cadre d’épreuve robuste.

Dans un tel régime, aucun système IA de haut impact ne pourrait être déployé sans un dossier archicratique explicite : *exposition des fondements assumés* (définitions opérationnelles de la fraude, du risque, du besoin, du mérite, du préjudice), *description détaillée des chaînes cratiales* (données, modèles, pipelines, interfaces, procédures d’intégration), *et plan d’archicration* (scènes prévues pour la mise en épreuve, droits au différé, modalités de suspension, budgets scéniques). Ce dossier ne serait pas un simple document de conformité ; il serait le *point de départ obligé pour toute autorisation de déploiement, examiné par des instances composites associant, de manière structurée, des représentants des administrations, des développeurs, des professionnels de terrain, des personnes concernées, des juristes, des chercheurs*.

Dans la vie courante de Système F, cela se traduirait par une *architecture scénique distribuée*. À chaque niveau où le système intervient – guichet social, service hospitalier, tribunal, direction des ressources humaines, plateforme numérique – seraient associés des *dispositifs de mise en épreuve adaptés* : journaux de décision consultables, droits au différé contradictoire, possibilités d’“appels scéniques” vers des instances de second niveau, obligation d’organiser périodiquement des revues publiques des effets du système avec des formats compréhensibles. Les *hypertopies techniques* ne disparaîtraient pas, mais elles perdraient leur privilège exclusif : les *espaces où se décident les choix d’architecture et de paramétrage seraient eux-mêmes soumis à des obligations de comparution, d’ouverture, de justification*.

Dans ce scénario, l’*autarchicratie numérique* ne disparaît pas comme tentation ; les forces qui poussent à la clôture – recherche d’efficacité, de réduction des coûts, de simplification apparente – restent puissantes. Mais elles se heurtent à un cadre archicratique qui ne se laisse pas contourner facilement : la possibilité de suspendre, de refuser, de reconfigurer un module de Système F n’est plus un privilège rare, elle est un élément ordinaire de la vie des régulations. *Co-viabilité* sociale, écologique et symbolique cesse alors d’être un objectif proclamé sans prise ; elle devient un critère de jugement des architectures régulatrices, au même titre que leurs performances de court terme.

Ce scénario n’est évidemment pas une projection naïve d’un futur harmonieux. Il suppose des conflits, des crises, des désaccords persistant sur ce que doit être un “bon” régime de *co-viabilité* ; il n’élimine pas les asymétries de pouvoir ni les inégalités d’accès à la scène. Mais il décrit un monde dans lequel l’épreuve archicratique ne se trouve plus en bout de chaîne, comme recours ultime et improbable, mais au cœur de la conception et du déploiement des dispositifs. Dans un tel monde, Système F ne serait ni diabolisé ni sacralisé ; il serait reconnu comme un opérateur puissant, dont l’usage est possible à la condition qu’il accepte, de manière régulière et organisée, de revenir sur scène de polémiques et de controverses.

Ces trois scénarios n’épuisent pas le réel ; ils tracent des repères dans un espace de possibles. L’épreuve historique appliquée à Système F nous permet ainsi de reformuler le diagnostic de l’essai-thèse sous une forme plus chirurgicale : la question n’est pas de savoir si l’IA est “bonne” ou “mauvaise” en soi, ni si elle “remplace” ou non des humains, mais de déterminer dans quel régime régulateur elle s’inscrit. Le cas pratique montre qu’à configuration constante – sans révolution scénique – la trajectoire la plus probable tend vers une *autarchicratie numérique* plus ou moins aménagée. Il suggère aussi que d’autres trajectoires restent ouvertes, à condition de prendre au sérieux la scène, non comme une métaphore, mais comme un opérateur institutionnel à part entière, au cœur de la gouvernance des systèmes d’IA.
