5.3 KiB
title, term, aliases, urlAliases, edition, status, version, definitionShort, concepts, links, kind, family, domain, level, related, opposedTo, seeAlso, navigation
| title | term | aliases | urlAliases | edition | status | version | definitionShort | concepts | links | kind | family | domain | level | related | opposedTo | seeAlso | navigation | |||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Tribunal de l’algorithme | Tribunal de l’algorithme |
|
glossaire | referentiel | 0.2.0 | Scène d’archicration spécifique aux systèmes d’IA : instance instituée où les personnes affectées, les concepteurs, les opérateurs et d’autres parties prenantes peuvent mettre en cause le fonctionnement du système et exiger des transformations. |
|
dispositif | dispositif-ia | cas-ia | avance |
|
|
|
|
Le tribunal de l’algorithme correspond à une scène d’archicration spécifique aux systèmes d’IA.
Il s’agit d’une instance juridique, quasi-juridique ou hybride dans laquelle les personnes affectées, les concepteurs, les opérateurs, les institutions responsables et d’autres parties prenantes peuvent mettre en cause le fonctionnement d’un système, ses paramètres, ses effets et ses conditions d’usage, avec possibilité d’exiger des transformations.
Le point décisif est ici la scène elle-même : il ne s’agit pas seulement de publier des principes de redevabilité, mais d’instituer un lieu où une régulation puissante puisse réellement comparaître.
Distinction
Le tribunal de l’algorithme ne se confond ni avec un comité d’éthique, ni avec un audit interne, ni avec une simple procédure de réclamation administrative.
Un comité peut conseiller sans prise.
Un audit peut diagnostiquer sans transformation.
Une réclamation peut enregistrer un grief sans rouvrir réellement la chaîne.
Le tribunal de l’algorithme, lui, vise à réunir comparution, contradiction, mémoire publique et effet possible sur le dispositif.
Fonction dans le cas IA
Dans les systèmes d’IA, les décisions et leurs chaînes de production sont souvent dispersées entre développeurs, prestataires, administrations, directions, interfaces et infrastructures.
Le tribunal de l’algorithme a pour fonction de recomposer ces éléments dans une scène suffisamment unifiée pour que les tensions accumulées puissent être traitées publiquement.
Il donne un débouché commun à plusieurs instruments :
- le Droit au différé contradictoire ;
- le Journal de justification ;
- l’Audit archicratique ;
- le Visa d’affectation ;
- le Budget scénique ;
- la Cartographie des scènes manquantes ;
- le Coupe-circuit citoyen.
Portée archicratique
Dans une perspective archicratique, une régulation puissante appelle des scènes où ses prises puissent être mises en cause, discutées, contredites et transformées.
Le tribunal de l’algorithme est la formalisation la plus explicite de ce principe dans le champ IA.
Il ne se contente pas de rendre visible le pouvoir algorithmique. Il cherche à lui imposer une comparution effective, durable, contradictoire et publiquement assumée.
Enjeu politique
L’enjeu est de déplacer la redevabilité du registre abstrait vers le registre institutionnel.
Tant qu’il n’existe pas de scène robuste, la critique reste dispersée, les plaintes restent isolées et les architectures restent protégées par leur complexité propre.
Le tribunal de l’algorithme vise précisément à rompre cette dispersion.
Limites
Un tel tribunal peut demeurer symbolique :
- s’il n’a ni compétence réelle ni pouvoir de recommandation forte ou de transformation ;
- s’il n’accède pas aux pièces nécessaires ;
- s’il reste capturé par les opérateurs du système ;
- s’il n’est accessible qu’aux acteurs déjà dotés de ressources importantes.
Sa crédibilité dépend donc de son indépendance, de ses prises documentaires et de sa capacité à produire des effets.