archicratie-edition/src/content/cas-ia/introduction.mdx

---
title: "Introduction générale — Mettre un système d’IA en scène"
edition: "cas-ia"
status: "application"
level: 1
version: "0.1.0"
concepts: []
links: []
order: 110
summary: ""
source:
  kind: docx
  path: "sources/docx/cas-ia/Cas_Pratique-Archicratie_et_gouvernance_des_systemes_IA-Introduction.docx"
---

Ce texte est un prolongement opératoire de l’essai-thèse sur l’*archicratie*. Il n’ajoute pas un nouveau pan théorique, ni un chapitre caché : il montre *comment* utiliser le paradigme archicratique pour instruire un cas concret, massif, déjà à l’œuvre. Il propose un audit archicratique d’un grand système d’intelligence artificielle de fondation, tel qu’il est intégré dans des dispositifs de décision publics et privés. Autrement dit : il s’agit d’examiner, avec les outils construits par la thèse, ce qui se passe quand un modèle d’IA ne se contente plus de produire des textes ou des prédictions dans l’abstrait, mais devient un opérateur régulateur au cœur des politiques sociales, des institutions de santé, des systèmes de justice, des ressources humaines, des plateformes d’information.

Dans l’essai-thèse, l’*archicratie* est définie comme un *seuil* : le seuil à partir duquel un ordre de régulation cesse d’être une pure automatisation fonctionnelle et devient une régulation habitée, c’est-à-dire fondée, visible, opposable, révisable. Trois prises structurent ce seuil : l’*arcalité*, qui concerne les *formes de fondation, de justification, de symbolisation du pouvoir régulateur* ; la *cratialité*, qui rassemble les *dispositifs, instruments, chaînes d’exécution, architectures et procédures par lesquelles ce pouvoir "prend", s’applique, opère* ; et l’*archicration*, qui désigne la *scène d’épreuve où les deux premières prises peuvent être amenées en visibilité, en conflit, en révision*. Un ordre est archicratique non parce qu’il serait idéalement juste, mais parce qu’il se laisse amener en scène : on peut lui demander d’où il parle, comment il agit, ce qui est en jeu, à quelles conditions il accepte de se transformer.

Le diagnostic contemporain que propose la thèse est celui d’une *oblitération archicratique* : les sociétés ne manquent ni de normes, ni de procédures, ni d’appareils de calcul ; elles manquent de scènes où ces normes, ces procédures, ces appareils peuvent comparaître. À mesure que la régulation se transfère dans des architectures techniques, dans des chaînes logistiques, dans des barèmes et des algorithmes, la scène tend à disparaître derrière la *cratialité*. Les décisions se prennent toujours, mais elles se prennent *ailleurs* : dans des centres de données, des plateformes logicielles, des systèmes d’information qui se présentent comme de simples moyens techniques, alors même qu’ils fabriquent des distributions de droits, des hiérarchies d’accès, des lignes de partage entre les vies recevables et les vies déclassées. La régulation ne disparaît pas : elle se déplace hors scène.

Or les grands systèmes d’IA de fondation naissent précisément au point où ce déplacement est le plus avancé. Un modèle de fondation (*large language model*, modèle multimodal, etc.) est un système d’apprentissage automatique entraîné sur des masses considérables de données textuelles, visuelles, sonores, codées. Il apprend des régularités statistiques, des styles, des associations ; il devient capable de produire des réponses, des résumés, des classements, des prédictions, parfois plus rapidement et plus fluide­ment qu’un humain. Mis en accès par une interface de programmation (API), ce modèle peut être appelé silencieusement par d’autres logiciels : un portail de demande d’allocations, un système de gestion de dossiers médicaux, un outil de tri de CV, un module de modération de contenus, une console de supervision policière. L’IA ne se présente plus comme un objet séparé ; elle s’incruste dans des guichets, des formulaires, des tableaux de bord, des applications mobiles, sous la forme de suggestions, de scores, de couleurs, de classements.

C’est cette incrustation que nous allons prendre pour terrain. Pour rendre l’analyse manipulable, nous poserons l’hypothèse d’un système composite — appelons-le Système F — qui condense des traits déjà largement présents dans le monde réel. Système F est un modèle de fondation accessible par API. Des entreprises de services numériques et des équipes internes l’ont intégré dans une série de flux de travail (*workflows*) de décision :

- dans les politiques sociales, pour trier des dossiers, repérer des incohérences, classer les demandes par “risque de fraude” ou par “urgence” ;

- dans la santé, pour aider à prioriser des patients sur des listes d’attente, suggérer des examens complémentaires, pré-classer des comptes rendus ;

- dans la justice et la sécurité, pour produire des analyses de risque (probabilité de récidive, “dangerosité”), filtrer des signalements, croiser des informations ;

- dans les ressources humaines, pour trier des CV, détecter des “signaux faibles” de démission, pré-évaluer des performances ;

- dans la modération et la curation de contenus, pour filtrer des messages “toxiques”, recommander des publications, ajuster la visibilité de certains profils.

Système F n’est pas un fantasme technologique éloigné : il agrège des fonctions déjà présentes, sous d’autres noms, dans de nombreux pays et secteurs. Des algorithmes de scoring de fraude sociale ont été utilisés dans des administrations de sécurité sociale, provoquant scandales et contentieux lorsqu’ils ciblaient de façon disproportionnée certains quartiers, certaines familles, certains types de parcours ; des systèmes d’évaluation de risque ont été intégrés à des décisions de justice pour proposer des peines ou des libérations conditionnelles ; des plateformes de recrutement recourent à des modèles d’IA pour pré-filtrer des milliers de candidatures en quelques minutes ; les systèmes de modération emploient depuis longtemps des modèles d’apprentissage pour détecter les propos violents, haineux, pornographiques. Système F est donc moins une fiction qu’un nom commun donné à un ensemble de tendances déjà engagées.

Ce qui nous intéresse n’est pas l’IA “en général”, ni l’intelligence artificielle comme problème métaphysique. Ce qui nous intéresse, dans notre manière de voir les choses, c’est l’écosystème socio-technique dans lequel Système F est inséré : les chaînes cratiales qu’il tisse ou renforce, les formes d’arcalité explicite ou implicite qu’il véhicule, les archicrations qu’il rencontre, détourne ou évite. Un modèle appelé par API dans un formulaire de demande de logement n’est pas un objet neutre : il devient un segment de chaîne régulatrice qui affecte des droits à l’hébergement ; il participe à la décision de traiter un dossier en priorité, de le mettre en attente, de le faire basculer dans la catégorie “suspect”. De même, un modèle intégré au tri des CV dans une grande entreprise n’est pas un simple gain de temps : il devient un opérateur qui donne la forme concrète de l’accès à l’emploi.

L’enjeu de ce texte est donc très précis : montrer comment le paradigme archicratique permet d’auditer un tel système. Auditer, ici, ne veut pas dire vérifier uniquement les performances techniques (taux de faux positifs, biais mesurés, robustesse aux attaques adversariales), ni cocher des cases éthiques (“non-discrimination”, “explicabilité”, “*privacy by design*”). Auditer signifie : reconstruire la distribution *arcalité* / *cratialité* / *archicration* dans laquelle Système F fonctionne ; décrire où se logent les fondements, où se concentrent les pouvoirs opératoires, où se tiennent (ou ne se tiennent pas) les scènes d’épreuve. Il s’agit d’évaluer si l’écosystème dans lequel Système F agit est, à un titre quelconque, archicratique, ou s’il participe à la dynamique d’*autarchicratie* et de *régulation hors scène* mise au jour dans notre essai-thèse.

Pour ce faire, nous allons reprendre, un par un, les cinq types d’épreuves qui le structurent, et les appliquer à Système F.

La première est l’épreuve de *détectabilité*. Elle consiste à savoir si, face à un dispositif donné, nous parvenons à distinguer et localiser ses *arcalités*, ses *cratialités* et ses *archicrations*, et à qualifier leur configuration : sont-elles clairement différenciées ou confondues ? La scène existe-t-elle vraiment, ou est-elle réduite à un décor procédural ? Certaines prises sont-elles hypertrophiées, d’autres atrophiées ? La topologie développée par la thèse — *synchrotopies* (scènes tenues), *hypotopies* (scènes pauvres), *hypertopies* (scènes concentrées), *atopies* (scènes fantomatiques) — servira ici de grille pour lire les multiples lieux où Système F intervient : guichet social, service hospitalier, cabinet de juge, bureau des ressources humaines, interface de modération.

La deuxième est l’épreuve archéogénétique. Il s’agit de replacer Système F dans la série des méta-régimes régulateurs décrits par la thèse : techno-logistique, scripturo-bureaucratique, marchand, guerrier, etc. Nous demanderons : de quelle histoire Système F est-il le prolongement ? Relève-t-il d’une nouvelle étape radicalement inédite, ou vient-il composer plusieurs régimes existants — par exemple la mégamachine techno-logistique, la rationalité scripturo-bureaucratique et le régime marchand ? Quels “styles de régulation” anciens réactive-t-il sous une forme technique nouvelle ?

La troisième est l’épreuve morphologique. Elle consiste à confronter Système F aux grandes philosophies du pouvoir auxquelles la thèse s’est mesurée : gouvernementalité foucaldienne, espace public habermassien, économies de la grandeur de Boltanski et Thévenot, etc. Que devient la gouvernementalité quand elle se dote d’un Système F ? Que devient l’espace public quand les contributions circulent à travers des filtres IA ? Comment les épreuves de justification se transforment-elles lorsque des modèles statistiques produisent des classements et des diagnostics à grande échelle ? Cette épreuve permettra de montrer ce que le paradigme archicratique voit que ces philosophies laissent en retrait : la question de la scène concrète où le pouvoir se justifie (ou ne se justifie pas).

La quatrième est l’épreuve historique. Les révolutions industrielles ont été relues par la thèse comme des révolutions régulatrices : chaque vague technologique reconfigurant les agencements entre *arcalité, cratialité, archicration*. Nous montrerons en quoi Système F est un produit avancé de la quatrième révolution régulatrice (numérisation intégrale, pilotage par indicateurs) et en quoi il force à prendre au sérieux l’hypothèse d’une cinquième révolution scénique : non plus centrée sur l’extension de la puissance calculatoire, mais sur la réinstitution de la scène comme opérateur central du pouvoir.

Enfin, la cinquième est l’épreuve de *co-viabilité*. Il s’agira d’analyser comment Système F affecte la *co-viabilité sociale* (accès aux droits, reconnaissance, dignité), *écologique* (consommation énergétique, infrastructures matérielles, impacts sur les milieux), *symbolique* (représentations du mérite, du risque, de la vérité), et dans quelle mesure il tend à renforcer un régime d’*autarchicratie* — un gouvernement par la régulation elle-même, où indicateurs, modèles et standards deviennent leurs propres juges. C’est dans cet effort que la politique des épreuves viables, telle qu’esquissée dans la conclusion de la thèse, sera traduite en propositions concrètes pour le cas IA : droit au différé contradictoire, journal de justification, tribunal de l’algorithme, budget scénique, cartographie des scènes manquantes.

Ce texte n’est donc ni une monographie empirique exhaustive sur un système d’IA particulier, ni un manifeste normatif énonçant ce qu’il faudrait faire dans tous les détails. Il se présente comme un modèle d’audit archicratique, c’est-à-dire comme une manière structurée d’examiner un dispositif régulateur à l’aide des outils conçus par l’essai-thèse. Les hypothèses qui seront formulées sont testables : elles peuvent être confirmées, infirmées, nuancées par des enquêtes empiriques, par des analyses techniques, par des contre-exemples. L’objectif est double : montrer que le paradigme archicratique est réellement opératoire lorsqu’on le confronte à un terrain complexe, et ouvrir un chemin pour que d’autres puissent, à leur tour, mettre en scène les systèmes techniques qui reconfigurent déjà nos formes de *co-viabilité*.

#