@@ -34,7 +34,7 @@ C’est cette incrustation que nous allons prendre pour terrain. Pour rendre l
- dans la modération et la curation de contenus, pour filtrer des messages “toxiques”, recommander des publications, ajuster la visibilité de certains profils.
Système F n’est pas un fantasme technologique éloigné : il agrège des fonctions déjà présentes, sous d’autres noms, dans de nombreux pays et secteurs. Des algorithmes de *scoring* de fraude sociale ont été utilisés dans des administrations de sécurité sociale, provoquant scandales et contentieux lorsqu’ils ciblaient de façon disproportionnée certains quartiers, certaines familles, certains types de parcours\* ; des systèmes d’évaluation de risque ont été intégrés à des décisions de justice pour proposer des peines ou des libérations conditionnelles ; des plateformes de recrutement recourent à des modèles d’IA pour pré-filtrer des milliers de candidatures en quelques minutes ; les systèmes de modération emploient depuis longtemps des modèles d’apprentissage pour détecter les propos violents, haineux, pornographiques. Système F est donc moins une fiction qu’un nom commun donné à un ensemble de tendances déjà engagées.
Système F n’est pas un fantasme technologique éloigné : il agrège des fonctions déjà présentes, sous d’autres noms, dans de nombreux pays et secteurs. Des algorithmes de scoring de fraude sociale ont été utilisés dans des administrations de sécurité sociale, provoquant scandales et contentieux lorsqu’ils ciblaient de façon disproportionnée certains quartiers, certaines familles, certains types de parcours ; des systèmes d’évaluation de risque ont été intégrés à des décisions de justice pour proposer des peines ou des libérations conditionnelles ; des plateformes de recrutement recourent à des modèles d’IA pour pré-filtrer des milliers de candidatures en quelques minutes ; les systèmes de modération emploient depuis longtemps des modèles d’apprentissage pour détecter les propos violents, haineux, pornographiques. Système F est donc moins une fiction qu’un nom commun donné à un ensemble de tendances déjà engagées.
Ce qui nous intéresse n’est pas l’IA “en général”, ni l’intelligence artificielle comme problème métaphysique. Ce qui nous intéresse, dans notre manière de voir les choses, c’est l’écosystème socio-technique dans lequel Système F est inséré : les chaînes cratiales qu’il tisse ou renforce, les formes d’arcalité explicite ou implicite qu’il véhicule, les archicrations qu’il rencontre, détourne ou évite. Un modèle appelé par API dans un formulaire de demande de logement n’est pas un objet neutre : il devient un segment de chaîne régulatrice qui affecte des droits à l’hébergement ; il participe à la décision de traiter un dossier en priorité, de le mettre en attente, de le faire basculer dans la catégorie “suspect”. De même, un modèle intégré au tri des CV dans une grande entreprise n’est pas un simple gain de temps : il devient un opérateur qui donne la forme concrète de l’accès à l’emploi.
@@ -46,7 +46,7 @@ La première est l’épreuve de *détectabilité*. Elle consiste à savoir si,
La deuxième est l’épreuve archéogénétique. Il s’agit de replacer Système F dans la série des méta-régimes régulateurs décrits par la thèse : techno-logistique, scripturo-bureaucratique, marchand, guerrier, etc. Nous demanderons : de quelle histoire Système F est-il le prolongement ? Relève-t-il d’une nouvelle étape radicalement inédite, ou vient-il composer plusieurs régimes existants — par exemple la mégamachine techno-logistique, la rationalité scripturo-bureaucratique et le régime marchand ? Quels “styles de régulation” anciens réactive-t-il sous une forme technique nouvelle ?
La troisième est l’épreuve morphologique. Elle consiste à confronter Système F aux grandes philosophies du pouvoir auxquelles la thèse s’est mesurée : gouvernementalité foucaldienne, espace public habermassien, dissensus rancière, économies de la grandeur de Boltanski et Thévenot, etc. Que devient la gouvernementalité quand elle se dote d’un Système F ? Que devient l’espace public quand les contributions circulent à travers des filtres IA ? Comment les épreuves de justification se transforment-elles lorsque des modèles statistiques produisent des classements et des diagnostics à grande échelle ? Cette épreuve permettra de montrer ce que le paradigme archicratique voit que ces philosophies laissent en retrait : la question de la scène concrète où le pouvoir se justifie (ou ne se justifie pas).
La troisième est l’épreuve morphologique. Elle consiste à confronter Système F aux grandes philosophies du pouvoir auxquelles la thèse s’est mesurée : gouvernementalité foucaldienne, espace public habermassien, économies de la grandeur de Boltanski et Thévenot, etc. Que devient la gouvernementalité quand elle se dote d’un Système F ? Que devient l’espace public quand les contributions circulent à travers des filtres IA ? Comment les épreuves de justification se transforment-elles lorsque des modèles statistiques produisent des classements et des diagnostics à grande échelle ? Cette épreuve permettra de montrer ce que le paradigme archicratique voit que ces philosophies laissent en retrait : la question de la scène concrète où le pouvoir se justifie (ou ne se justifie pas).
La quatrième est l’épreuve historique. Les révolutions industrielles ont été relues par la thèse comme des révolutions régulatrices : chaque vague technologique reconfigurant les agencements entre *arcalité, cratialité, archicration*. Nous montrerons en quoi Système F est un produit avancé de la quatrième révolution régulatrice (numérisation intégrale, pilotage par indicateurs) et en quoi il force à prendre au sérieux l’hypothèse d’une cinquième révolution scénique : non plus centrée sur l’extension de la puissance calculatoire, mais sur la réinstitution de la scène comme opérateur central du pouvoir.
Reference in New Issue
Block a user
Blocking a user prevents them from interacting with repositories, such as opening or commenting on pull requests or issues. Learn more about blocking a user.
