L’IA est souvent présentée comme un accélérateur sans friction du contrôle autoritaire. En réalité, les systèmes d’IA forcent les dirigeants à se retrouver dans un dilemme d’étalonnage inévitable. Tout système prédictif nécessite un seuil de décision : l’abaisser crée un contrecoup par la répression collatérale (faux positifs), tandis que l’augmenter crée des angles morts pour de véritables menaces (faux négatifs). Cette volatilité structurelle produit un « coup de fouet sourd » — des cycles de resserrement et de relâchement brutal — illustrés par la Chine. Loin d’être une solution miracle, l’IA bureaucratise l’incertitude, obligeant les autocrates à choisir quelle vulnérabilité exposer. Les acteurs prodémocratie peuvent exploiter ces vulnérabilités en démystifiant la puissance algorithmique, en établissant des normes protectrices et en remettant en cause le « bluff panoptique » par une résistance stratégique.
Uneintelligence artificielle est souvent appelée une solution miracle qui aide les dirigeants autoritaires en rendant la répression moins coûteuse, plus rapide et plus précise. Ce n’est pas forcément faux, du moins à court terme. La surveillance numérique peut refroidir la liberté d’expression, identifier les opposants et aider les régimes à intensifier la coercition. Mais la revendication la plus forte concernant le pouvoir politique de l’IA — la promesse d’un contrôle préventif, préventif et à grande échelle — se heurte à une contrainte contraignante.
Tout système qui traite des probabilités doit décider à quel point il doit être facile ou difficile pour une personne, un comportement ou un message d’être qualifié de « risqué ». En abaissant le seuil, le régime réduit les faux négatifs et attrape davantage de challengers potentiels, mais il suscite aussi des faux positifs, entraînant davantage d’innocents dans son filet et provoquant des réactions négatives. En rellevant le seuil du « risqué », le régime limite la répression collatérale et en protège la légitimité. Mais elle manque aussi de véritables menaces, créant des angles morts que les adversaires peuvent exploiter. En résumé, prédire, c’est se tromper, du moins un peu. Le seul choix est le type d’erreur que le régime est le plus enclin à tolérer.
Nous appelons ce problème « le dilemme d’étalonnage de l’autocrate ». Ce n’est pas un bug qui disparaît avec la prochaine mise à jour, plus de données, ou une meilleure ingénierie. C’est une caractéristique structurelle des systèmes de prédiction lorsqu’ils sont appliqués aux réalités politiques, surtout lorsque les menaces crédibles sont rares, que les citoyens s’adaptent à la surveillance, et que les bureaucrates ainsi que les partisans ont des incitations à manipuler ces indicateurs.
En République populaire de Chine (RPC), ce dilemme est particulièrement frappant car la réglementation et la révision ont fait de l’étalonnage un exercice bureaucratique. Depuis mars 2022, l’Administration du cyberespace de Chine (CAC) exige que les principales plateformes dont les systèmes de recommandation peuvent influencer « l’opinion publique » ou la « mobilisation sociale » déposent les détails clés et les auto-évaluations dans un registre national des algorithmes, et mettent à jour ces documents lorsque les systèmes changent. 1En août 2022, le CAC a rendu public un premier lot de dépôts de cabinets tels qu’Alibaba, Tencent et ByteDance. Des règles similaires pour les « médias de synthèse profonde » (vidéo et parole générées par IA, par exemple) et pour les services d’IA générative ajoutent la vérification de l’identité, les exigences de gouvernance du contenu et la révision humaine des fonctions politiquement sensibles. 2
En conséquence, l’État fait plus que simplement observer les résultats ; elle surveille les paramètres de l’IA : Les mises à jour majeures peuvent déclencher des contrôles de sécurité et un contrôle administratif. Sur le papier, cela ressemble à un contrôle centralisé. En pratique, cela documente quelque chose de plus révélateur — une lutte constante sur la quantité d’erreurs que le régime peut tolérer, et sur la sécurité de punir trop d’innocents ou de passer à côté de trop d’opposants.
Cette lutte implique Pékin, les autorités locales et les citoyens de la RPC. Les responsables locaux sont évalués en fonction des objectifs de maintien de la stabilité imposés par Pékin. Ces responsables ont de fortes incitations à prévenir les « incidents de masse » et les pétitions, ainsi qu’à respecter les indicateurs de conformité. 3 Les citoyens s’adaptent en portant des masques, en utilisant un langage codé et en passant des publications publiques aux discussions privées. Si le filet est trop large et que des réactions négatives surviennent, Pékin intervient pour réaffirmer le contrôle. Elle émet de nouvelles directives, centralise l’autorité et lance des efforts de contrôle des dégâts. Le résultat est ce que nous appelons le « coup du lit du lapin » : des cycles de resserrement autour de moments politiquement sensibles, suivis d’un relâchement brutal, d’un nettoyage et d’une réparation par propagande.
The swift rollback of the PRC’s “zero covid” regime in late 2022 offers a vivid example. For nearly three years, local officials had rigidly enforced stringent lockdowns and other controls justified by claims of safeguarding public health. In November 2022, protests against these tight limits erupted nationwide. During these “White Paper” demonstrations, people held up blank placards, cleverly signaling dissent without putting any forbidden content into writing. This made the protests harder for the Chinese Communist Party (CCP) regime to suppress without incurring high costs.
Amid mounting economic and administrative strain, Beijing on December 7 announced the most sweeping easing of restrictions since the pandemic’s outset.4 State messaging then pivoted from “people’s war” toward reassurance and self-care, with senior officials stressing publicly that the severity of covid’s latest variant had “weakened.”5 Yet even as policy loosened, authorities moved to detain or pressure some of those who had taken part in the protests and also suppressed public discussion or memorialization of them. In short, the system tightened things politically while relaxing them administratively.6
Cette volatilité révèle une limitation critique de l’état de surveillance. L’IA ne peut pas résoudre le dilemme de l’autocrate, car les systèmes entraînés sur une population effrayée apprennent des signaux qui sont évasifs, censurés et stratégiquement manipulés. Ce que fait l’IA en revanche, c’est bureaucratiser l’incertitude en déplaçant le compromis vers des modèles, des seuils, des dépôts et des revues de sécurité, où cela devient inévitable, politiquement conséquent et de plus en plus visible.
Le dilemme de calibration de l’Autocrate
Ce déplacement de l’incertitude oblige le régime à faire face aux coûts opérationnels spécifiques liés à l’erreur statistique. Malgré la promesse de précision, la répression activée par l’IA reste liée à de fausses prédictions, et ces erreurs entraînent des sanctions politiques distinctes. D’un côté, on trouve les faux positifs (erreurs de type I), où le système piége les innocents : un voisin mal identifié par reconnaissance faciale, un post anodin signalé par des filtres, ou un mouvement de routine perçu à tort comme suspect. Ce ne sont pas de simples irritations statistiques. Ils créent des griefs accumulés, submergent les services de sécurité dans le bruit et enseignent aux citoyens que le respect n’est pas une garantie de sécurité. De l’autre côté, il y a les faux négatifs (erreurs de type II), lorsque le système manque de réelles menaces. À mesure que les algorithmes sont ajustés pour réduire le bruit, de véritables challengers passent entre les mailles du filet et les réseaux apprennent à se coordonner d’une manière que le modèle ne voit pas. Dans ce scénario, l’IA peut donner au régime autocratique un sentiment rassurant mais faux de stabilité, même si l’activité de l’opposition s’éloigne dans l’ombre.
Le dilemme est accentué par trois fonctionnalités d’automatisation à grande échelle. Le premier est le compromis entre l’autonomie. Accorder à un algorithme une large latitude maximise la vitesse et la couverture, mais amplifie aussi les conséquences même de faibles taux d’erreur. Un modèle fonctionnant à l’échelle nationale peut produire des milliers de fausses alertes, transformant une erreur statistique marginale en un risque politique important. Limiter l’autonomie par l’exigence d’une vérification humaine évite une partie de ces excès, mais crée un goulot d’étranglement bureaucratique. Les alertes s’accumulent, les analystes trient sans fin, et la rapidité et l’ampleur qui rendaient l’IA attrayante à l’origine commencent à s’évaporer.
La deuxième caractéristique problématique de l’IA est la rigidité algorithmique. Les modèles sont entraînés sur des données historiques et supposent que les schémas d’hier prédisent les menaces de demain. Mais sous surveillance, la « vérité sur le terrain » est constamment en mouvement. Les citoyens s’adaptent en inventant de nouveaux argots, en changeant de route, en changeant de plateforme ou en déplaçant les discussions vers des canaux privés. Le résultat est une obsolescence rapide : ce que le modèle a appris le mois dernier devient un mauvais guide du comportement aujourd’hui. Le régime est contraint à une rééducation et un réajustement continus, exigeant un niveau d’agilité que les grandes bureaucraties de surveillance peinent à maintenir.
Amplifier ces risques est une troisième caractéristique : le problème des événements rares. Dans toute société, les dissidents actifs sont rares, ne représentant qu’une infime fraction de la société. Lorsqu’un algorithme les recherche, même un système très précis génère bien plus de fausses alertes que de véritables détections. Si un modèle de surveillance est précis à 99 % mais analyse une population où un seul citoyen sur dix mille représente une menace réelle, la grande majorité des personnes signalées seront innocentes. Le résultat est une boucle de rétroaction dangereuse où les bureaux de sécurité sont submergés par de faux « coups », la légitimité s’érode par la répression collatérale, et de vraies menaces peuvent être ensevelies sous une montagne de bruit.
Ce dilemme de calibration s’inscrit dans la quête de longue date de l’art politique pour rendre les régimes lisibles. Les États modernes cherchent depuis longtemps à condenser la complexité en catégories pouvant être comptées, comparées et gouvernées. Au XIXe siècle, Adolphe Quetelet promettait une « physique sociale » qui rendrait les populations chaotiques administrables par la statistique. 7 James C. Scott avertit plus tard que lorsque ce désir de lisibilité se combine avec le « haut modernisme », les États imposent des cartes simplifiées de la vie sociale et politique qui entrent inévitablement en collision avec la connaissance locale et le comportement humain. 8
L’autoritarisme numérique est ce rêve moderniste élevé adapté à l’ère algorithmique avec une mesure continue, une classification en temps réel et des interventions automatisées. Pourtant, comme Scott l’a noté, la carte n’est pas le territoire. Plus un régime cherche à discerner puis à agir sur les degrés de « loyauté » et de « risque » de ses citoyens, plus ce régime stimulera une adaptation stratégique en réponse. Les citoyens apprennent à éviter d’être signalés par le système, et les responsables ajustent les statistiques pour satisfaire leurs supérieurs. L’État de surveillance peut devenir moins informé tout en devenant plus mesuré, troquant une connaissance authentique contre l’apparence d’un contrôle. Nulle part ce compromis n’est plus visible, ni plus volatile, que dans l’histoire récente des mesures officielles de la RPC contre la pandémie de covid.
Coup du lapin de seuil
La Chine a poursuivi avec une intensité inhabituelle l’ambition moderniste hautement décrite par Scott, intégrant des outils algorithmiques dans la gouvernance quotidienne et la sécurité intérieure. Le système « Code de santé » utilisé pendant la période zéro-covid montre comment fonctionne en pratique le contrôle basé sur les seuils. Pour gérer la santé publique à grande échelle, les autorités ont transformé une réalité épidémiologique complexe en un simple statut codé par couleur, généralement vert, jaune ou rouge. Un changement de statut pourrait déterminer si quelqu’un peut voyager, entrer dans des lieux publics, voire quitter son domicile. En fait, une coupure numérique est devenue un déclencheur de coercition. Et parce que la limite était rigide, le système était prêt au coup du lapin.
Même avec une capacité technique substantielle, y compris des plateformes majeures comme Alibaba, le régime du Code de la Santé s’est révélé socialement fragile. Deux échecs ont engendré des griefs. Premièrement, un dépistage à haute sensibilité a produit des faux positifs. Les gens étaient codés « rouge » et mis en quarantaine sans explication claire ni appel viable. 9 Deuxièmement, l’opacité créait un espace pour la manipulation politique, ce qui menaçait à son tour la légitimité. L’exemple le plus clair s’est produit lors de la crise des banques rurales de la province du Henan en 2022. 10 Face à une ruée vers les banques après un scandale de corruption, les autorités locales auraient empêché les déposants de se déplacer pour protester en mettant à distance leurs codes sanitaires en rouge. Cet épisode a révélé le système non pas comme un arbitre neutre de la sécurité, mais comme un interrupteur pouvant être actionné pour des raisons politiques.
Au fil du temps, la rigidité du contrôle imposé par l’IA n’a pas produit de la stabilité mais son contraire. Au lieu de refroidir silencieusement la dissidence, l’accumulation de contraintes arbitraires et de griefs non résolus a alimenté la colère publique qui a débordé en protestations ouvertes. En octobre 2022, des banderoles ont été affichées sur le pont de Sitong à Pékin avec des slogans attaquant directement l’État de surveillance et le « dictateur ». Le mois suivant eut lieu les manifestations du Livre blanc dans plusieurs villes. En plus de la colère contre les règles de confinement, des revendications politiques ont été exprimées. L’appareil de surveillance, conçu pour identifier les individus, a eu du mal à contenir une réponse de masse motivée par une frustration partagée. Face à cette défaillance systémique, le centre a exécuté une manœuvre classique de coup de fouet fouin. Pékin a brusquement assoupli les restrictions clés, modifié le message de l’État et adopté la suppression de la mémoire ainsi que la punition de certains participants.
Les efforts à faible technologie pour vaincre la surveillance ont inclus l’utilisation par les manifestants de Hong Kong de parapluies, de masques et de pointeurs laser pour frustrer les caméras. En Russie, la résistance a pris à la fois des formes techniques et juridiques. Certains militants ont utilisé le maquillage « éblouissant » pour embrouiller les systèmes, tandis que d’autres ont demandé une réparation légale après avoir été signalés par une surveillance algorithmique. 11 Après avoir été identifié par le système de surveillance du métro de Moscou lors d’une manifestation en solo en 2019, l’activiste Nikolaï Gloukhine a porté son dossier devant la Cour européenne des droits de l’homme (CEDH). En 2023, il a obtenu une décision historique selon laquelle la reconnaissance faciale de masse sans garanties juridiques strictes constitue une violation des droits à la vie privée. 12 La Russie avait retiré sa reconnaissance de la CEDH en septembre 2022, mais l’affaire restait justiciable (et établissait un précédent valable dans les États membres) car elle traitait d’une plainte déposée avant la date de retrait.
In Iran, the Islamist regime reacted to the “Women, Life, Freedom” protests that began in 2022 by installing AI-driven street cameras to detect women violating the hijab dress code that requires full hair and body coverings. Even before the massive uprising of January 2026, this technology was failing to quash civil disobedience as women kept asserting their rights in public spaces.13 Nor could the cameras prevent millions from taking to the streets across all 31 provinces in the largest protests since 1979. The regime survived not through technological control but through extreme violence: live ammunition, foreign Shia militias, and a death toll that may have exceeded thirty thousand. In each case, AI pushed resistance to adapt but did not quell it.
To be clear, in certain settings authoritarian rule can be strengthened by AI. It will identify known individuals in controlled environments, filter content with predictable cues, and triage leads to streamline review by humans. For purposes of predictive, population-scale policing, AI systems can confirm who someone is when the state already has a suspect, but are far less reliable when asked to sift through millions of ordinary citizens to flag “risky” people when grounds for suspecting a particular individual are unknown. The difference between identifying someone whose image is already on file and making large-scale automated judgments about individuals who may not have any “priors” is a difference not of degree but of kind. This difference also defines the space in which the calibration dilemma becomes hardest for authorities to manage.
Why the Dilemma Persists Even with Better AI
Are these failures merely growing pains? Will future regimes, armed with ever more powerful computing and more sophisticated models, eventually solve the calibration problem? The answer is no. Gains in accuracy have limits imposed not by computing power but by the nature of prediction in a complex society. Even “better AI” cannot remove the tradeoff; it can only shift where it emerges. Three forces ensure that the dilemma will persist.
First, the rarity of dissent means that at a population level, floods of false alarms are guaranteed. Predictive policing systems are looking for needles in haystacks. When the base rate — the underlying prevalence — of the target behavior is extremely low, even a highly accurate model will flag far more innocent people than genuine threats. This pattern is sometimes described as the false-positive paradox. In the political context, false positives impose grave costs in the form of collateral repression and the reaction it brings. A system scanning a million people, of whom only ten are real threats, will if 99 percent accurate catch most of them but will also falsely flag thousands of innocents as “threat risks.” Authorities then must decide whether to ignore the alerts (which means the government is paying for a system it does not use) or chase them and use up scarce resources while alienating the public. No amount of processing power can change this arithmetic of rare events.
Second, the deployment context does not stand still. Citizens adapt. Machine-learning models are built on the assumption that the future will resemble the past. They learn from historical data, but in politics, the “data” fight back. This is a version of Goodhart’s Law, which British economist Charles Goodhart formulated a half-century ago. His observation was that when a measure becomes a target, it stops being a good measure.14 For present purposes, this means that as soon as the authorities start relying on specific signals such as keywords, movement patterns, or social ties, people begin learning to avoid sending these signals. They use coded language, leave phones at home, or revert to analog communication.
Governments may still penetrate these measures, but they make the task of surveillance harder. Detection and evasion become contenders in an iterative contest of measure and countermeasure. The authorities make a change, and people figure out how to hide from it or work around it. Then the authorities adapt, people respond again, and so on. The surveillance model is always being left behind by concept drift: trying to predict behavior that has already changed in response to the prediction itself.
La troisième et dernière force qui maintient le dilemme en place est la manière dont l’économie politique de l’autoritarisme déforme les intrants. L’IA est souvent présentée comme une machine à vérité objective, mais dans une dictature, les données sont du capital politique. Les responsables de niveau inférieur savent qu’ils doivent produire des chiffres qui prouvent au centre qu’ils sont compétents. Si les hauts dirigeants exigent de la « stabilité », les autorités locales peuvent supprimer les alertes ou sous-signaler les incidents. De même, une demande d'« alerte » depuis le haut peut inciter les responsables locaux à gonfler les indicateurs de menace et ainsi à faire preuve de loyauté et d’efforts. Les vendeurs privés qui vendent la technologie de surveillance gouvernementale « boîte noire » peuvent ajouter davantage de distorsion en exagérant sa fiabilité et en minimisant les marges réelles d’incertitude qui imposeront le jugement humain. Disposer d’un système automatisé ne protège pas contre le problème du « déchets entrent, déchets sortant », et peut même aggraver la situation en faisant paraître les résultats déchettables comme des données solides et autoritaires. En le voyant, les dirigeants seront tentés de confondre la mesure avec la connaissance et de penser qu’ils sont omniscients alors qu’ils sont loin de l’être.
Le problème de connaissance qui a tourmenté les régimes autoritaires pendant des décennies n’est pas résolu par l’IA, mais seulement masqué. En superposant l’inférence probabiliste aux données stratégiques et aux changements de contextes sociaux, ces systèmes peuvent ajouter une couche de précision à ce qui reste fondamentalement incertain. Le rêve d’un État policier « parfait » n’est pas seulement politiquement coûteux, il est mathématiquement hors de portée.
La falaise Panopticon
Si ces contraintes sont réelles, pourquoi l’IA semble-t-elle encore si puissante ? Certes, l’IA est un outil puissant pour contrôler une population, mais il est impossible de le nier pour dire que ses capacités sont exagérées pour des raisons à la fois perceptuelles et politiques. Tout d’abord, il est important de distinguer ce que l’IA peut faire de ce que les gens croient qu’elle peut faire. Comme l’a suggéré l’idée du philosophe anglais du XVIIIe siècle Jeremy Bentham d’une prison circulaire « panoptique » où un seul garde peut observer n’importe quel détenu à tout moment, la surveillance constante est moins importante que la croyance qu’on puisse être observé à tout moment.
Lorsque les gouvernements et les entreprises technologiques présentent l’IA comme omnisciente — possédant une « intelligence » bien au-delà de la capacité humaine — ils contribuent à refroidir le froid dans lequel les citoyens s’autocensurent et se conforment au-delà de la capacité réelle de surveillance de l’État, non pas parce qu’ils sont surveillés, mais parce qu’ils pourraient l’être. Les techno-optimistes promettent un « dividende numérique » de croissance et de connectivité grâce à l’IA. Quelle que soit la véracité de cette promesse, il est vrai que les régimes autoritaires ont tiré de l’IA un « dividende dictateur » d’une conformité motivée par la peur, bien au-delà des capacités réelles de leurs régimes à surveiller les populations. La menace vague et omniprésente de « l’algorithme » pousse les citoyens à s’autocensurer, accomplissant le travail du régime à sa place sans qu’une seule ligne de code ne soit exécutée.
Mais ce dividende est payé par une dette cachée. La stabilité produite par une menace panoptique est fragile car elle repose sur ce que l’économiste Timur Kuran appelle la « falsification de préférences ». 15 Les citoyens feignent la loyauté tout en nourrissant en privé des griefs, et les mesures de conformité qui en résultent peuvent induire les dirigeants en erreur sur le véritable niveau de mécontentement. Plus l’État fait la promotion de l’omniscience, plus le coût politique est élevé lorsque cette omniscience s’avère partielle, manipulable ou carrément fausse.
Voici aussi une cible mobile. Le contrôle sur la population est susceptible d’évoluer, car les dissidents et les autorités ajustent continuellement leurs tactiques. Au début, l’État a souvent l’avantage. Les systèmes de surveillance avancés sont coûteux et nécessitent des niveaux de centralisation et de coordination, qui sont la force des gouvernements. Pourtant, avec le temps, les citoyens apprendront comment fonctionnent les systèmes, développeront des contre-mesures et auront un accès plus large à leurs propres outils numériques.
C’est là que la falaise panoptique peut s’effondrer. Lorsque les citoyens voient le système défaillir, que ce soit à cause de l’arbitraire d’un code sanitaire rouge dans le Henan ou des limites visibles de l’application par caméra à Téhéran, le mystère s’évapore. L'« œil qui voit tout » se révèle être une machine faillible qui peut être trompée par un masque ou manipulée par un fonctionnaire local corrompu. Les recherches sur « l’aversion des algorithmes » suggèrent qu’une fois que les gens observent qu’un algorithme fait des erreurs, ils peuvent devenir moins enclins à s’y conformer, accélérant ainsi la perte du bluff. 16 Une fois qu’il devient de notoriété publique que la surveillance d’État peut être encombrée par le « bruit » qui étouffe le « signal » et présente des lacunes dans sa couverture, la peur peut rapidement se transformer en colère. Le régime se retrouve alors avec un appareil de surveillance techniquement surchargé et psychologiquement décroché.
Ce que les acteurs pro-démocratie pourraient faire
L’IA remodelera la répression, mais elle ne produira pas un État policier sans faille et omniscient. Cette technologie modifie le terrain sur lequel les régimes et leurs adversaires se font concurrence. Les autoritaires peuvent bénéficier d’avantages dans certains contextes, mais ceux favorables à la démocratie peuvent tout de même s’adapter et riposter. Trois stratégies se démarquent.
Premièrement, démystifier l’IA publiquement et à plusieurs reprises. La puissance psychologique de l’IA dépasse souvent (...) Les limites de l’IA autoritaire | Revue de la Démocratie
