Les limites de l’IA autoritaire

L’IA est souvent présentée comme un accélérateur sans friction du contrôle autoritaire. En réalité, les systèmes d’IA forcent les dirigeants à se retrouver dans un dilemme d’étalonnage inévitable. Tout système prédictif nécessite un seuil de décision : l’abaisser crée un contrecoup par la répression collatérale (faux positifs), tandis que l’augmenter crée des angles morts pour de véritables menaces (faux négatifs). Cette volatilité structurelle produit un « coup de fouet sourd » — des cycles de resserrement et de relâchement brutal — illustrés par la Chine. Loin d’être une solution miracle, l’IA bureaucratise l’incertitude, obligeant les autocrates à choisir quelle vulnérabilité exposer. Les acteurs prodémocratie peuvent exploiter ces vulnérabilités en démystifiant la puissance algorithmique, en établissant des normes protectrices et en remettant en cause le « bluff panoptique » par une résistance stratégique.

Uneintelligence artificielle est souvent appelée une solution miracle qui aide les dirigeants autoritaires en rendant la répression moins coûteuse, plus rapide et plus précise. Ce n’est pas forcément faux, du moins à court terme. La surveillance numérique peut refroidir la liberté d’expression, identifier les opposants et aider les régimes à intensifier la coercition. Mais la revendication la plus forte concernant le pouvoir politique de l’IA — la promesse d’un contrôle préventif, préventif et à grande échelle — se heurte à une contrainte contraignante.

Tout système qui traite des probabilités doit décider à quel point il doit être facile ou difficile pour une personne, un comportement ou un message d’être qualifié de « risqué ». En abaissant le seuil, le régime réduit les faux négatifs et attrape davantage de challengers potentiels, mais il suscite aussi des faux positifs, entraînant davantage d’innocents dans son filet et provoquant des réactions négatives. En rellevant le seuil du « risqué », le régime limite la répression collatérale et en protège la légitimité. Mais elle manque aussi de véritables menaces, créant des angles morts que les adversaires peuvent exploiter. En résumé, prédire, c’est se tromper, du moins un peu. Le seul choix est le type d’erreur que le régime est le plus enclin à tolérer.

Nous appelons ce problème « le dilemme d’étalonnage de l’autocrate ». Ce n’est pas un bug qui disparaît avec la prochaine mise à jour, plus de données, ou une meilleure ingénierie. C’est une caractéristique structurelle des systèmes de prédiction lorsqu’ils sont appliqués aux réalités politiques, surtout lorsque les menaces crédibles sont rares, que les citoyens s’adaptent à la surveillance, et que les bureaucrates ainsi que les partisans ont des incitations à manipuler ces indicateurs.

En République populaire de Chine (RPC), ce dilemme est particulièrement frappant car la réglementation et la révision ont fait de l’étalonnage un exercice bureaucratique. Depuis mars 2022, l’Administration du cyberespace de Chine (CAC) exige que les principales plateformes dont les systèmes de recommandation peuvent influencer « l’opinion publique » ou la « mobilisation sociale » déposent les détails clés et les auto-évaluations dans un registre national des algorithmes, et mettent à jour ces documents lorsque les systèmes changent. 1En août 2022, le CAC a rendu public un premier lot de dépôts de cabinets tels qu’Alibaba, Tencent et ByteDance. Des règles similaires pour les « médias de synthèse profonde » (vidéo et parole générées par IA, par exemple) et pour les services d’IA générative ajoutent la vérification de l’identité, les exigences de gouvernance du contenu et la révision humaine des fonctions politiquement sensibles. 2

The upshot is that the state does more than observe outcomes; it monitors AI settings: Major updates can trigger security reviews and administrative scrutiny. On paper, this looks like centralized control. In practice, it documents something more revealing — a continual struggle over how much error the regime can tolerate, and whether it is safer to punish too many innocents or to miss too many opponents.

Cette lutte implique Pékin, les autorités locales et les citoyens de la RPC. Les responsables locaux sont évalués en fonction des objectifs de maintien de la stabilité imposés par Pékin. Ces responsables ont de fortes incitations à prévenir les « incidents de masse » et les pétitions, ainsi qu’à respecter les indicateurs de conformité. 3 Les citoyens s’adaptent en portant des masques, en utilisant un langage codé et en passant des publications publiques aux discussions privées. Si le filet est trop large et que des réactions négatives surviennent, Pékin intervient pour réaffirmer le contrôle. Elle émet de nouvelles directives, centralise l’autorité et lance des efforts de contrôle des dégâts. Le résultat est ce que nous appelons le « coup du lit du lapin » : des cycles de resserrement autour de moments politiquement sensibles, suivis d’un relâchement brutal, d’un nettoyage et d’une réparation par propagande.

Le recul rapide du régime « zéro covid » de la RPC fin 2022 en est un exemple saisissant. Pendant près de trois ans, les responsables locaux ont strictement appliqué des confinements stricts et d’autres contrôles justifiés par des prétentions de protection de la santé publique. En novembre 2022, des manifestations contre ces restrictions strictes ont éclaté à l’échelle nationale. Lors de ces manifestations du « Livre blanc », des gens brandissaient des pancartes vierges, signalant habilement leur dissidence sans mettre par écrit de contenu interdit. Cela rendait les protestations plus difficiles à réprimer pour le régime du Parti communiste chinois (PCC) sans en coûter lourd.

Face à une pression économique et administrative croissante, Pékin a annoncé le 7 décembre l’assouplissement le plus radical des restrictions depuis le début de la pandémie. 4 Le message de l’État est alors passé de la « guerre populaire » à la réassurance et au soin de soi, les hauts responsables insistant publiquement sur le fait que la gravité du dernier variant du covid s’était « affaiblie ». 5 Pourtant, même lorsque la politique s’assouplissait, les autorités ont pris l’initiative de détenir ou de faire pression sur certains de ceux qui avaient participé aux manifestations et ont également supprimé la discussion publique ou la commémoration à leur sujet. En résumé, le système a resserré les choses politiquement tout en les assouplissant administrativement. 6

Cette volatilité révèle une limitation critique de l’état de surveillance. L’IA ne peut pas résoudre le dilemme de l’autocrate, car les systèmes entraînés sur une population effrayée apprennent des signaux qui sont évasifs, censurés et stratégiquement manipulés. Ce que fait l’IA en revanche, c’est bureaucratiser l’incertitude en déplaçant le compromis vers des modèles, des seuils, des dépôts et des revues de sécurité, où cela devient inévitable, politiquement conséquent et de plus en plus visible.