SÉRIE — L’IA et la Question des Libertés • Article 7/12

Surveiller pour protéger,

ou protéger pour surveiller ?

Sur le prix des sécurités que nous acceptons de payer

— 9 min de lecture —

En 2020, Singapour a déployé TraceTogether, une application de traçage des contacts Covid, présentée comme volontaire, temporaire, et strictement limitée à la gestion sanitaire. En janvier 2021, le ministre de l’Intérieur a confirmé devant le Parlement que les données collectées pouvaient être utilisées par la police dans le cadre d’enquêtes criminelles. L’application avait été adoptée par 80 % de la population. La population n’avait pas été informée de cette possibilité au moment de l’adoption.

Personne n’a menti. Les conditions d’utilisation le permettaient. La loi le permettait. Chaque décision, prise isolément, était défendable. Le résultat, une infrastructure de surveillance de masse rendue possible par une crise sanitaire et maintenue au-delà d’elle n’avait été explicitement voulu par personne. Et pourtant il était là.

C’est le mécanisme que cet article veut examiner : non pas la surveillance comme projet délibéré, mais la surveillance comme résultat naturel de décisions de sécurité prises dans l’urgence, acceptées dans la confiance, et dont le périmètre s’étend progressivement au-delà de ce pour quoi elles avaient été conçues.

Cet article ne plaide pas contre la sécurité. Il examine la structure d’un problème que les démocraties ont rarement posé avec la rigueur qu’il mérite : les outils construits pour protéger sont les mêmes que ceux qui peuvent contrôler. Et l’IA change radicalement l’équation non par malveillance, mais par vitesse et par échelle.

⸻

La symétrie de l’outil

Dario Amodei construit une partie significative de son analyse des risques de l’IA autour d’une observation structurelle que je veux poser en premier, parce qu’elle est la clé de tout ce qui suit : les outils qui permettent de défendre sont les mêmes que ceux qui permettent de contrôler.

L’IA qui analyse des millions de communications pour détecter une menace terroriste est la même IA qui peut surveiller l’opposition politique. L’IA qui identifie des comportements frauduleux dans les transactions financières est la même qui peut cartographier les réseaux d’activistes. L’IA qui reconnaît un visage dans une foule pour retrouver un enfant disparu est la même qui peut identifier un manifestant anonyme. Il n’existe pas une IA de surveillance légitime et une IA de surveillance illégitime. Il existe des usages, des intentions, des cadres juridiques — et des glissements entre les uns et les autres.

Cette symétrie n’est pas un argument contre la sécurité. C’est un argument pour la vigilance sur les conditions dans lesquelles la sécurité est construite, et sur qui décide de tracer la ligne entre la protection et le contrôle.

« AI could be used to help one entity gain unprecedented societal control, such as the ability to dominate and direct entire economies, governments, or militaries. »

— Dario Amodei, The Adolescence of Technology, janvier 2026

Ce que dit Amodei ici n’est pas que la surveillance est inévitablement tyrannique. C’est que la puissance de l’IA crée une asymétrie nouvelle entre ceux qui surveillent et ceux qui sont surveillés — une asymétrie qui, sans garde-fous explicites et robustes, tend naturellement à s’approfondir plutôt qu’à se résorber.

⸻

La logique de la pente douce

La Chine n’a pas construit son système de crédit social en un jour. Elle ne l’a pas annoncé comme un système de contrôle totalitaire. Elle l’a construit progressivement, à travers une série d’initiatives présentées séparément : améliorer la confiance dans les transactions commerciales, lutter contre la fraude fiscale, responsabiliser les entreprises, encourager les comportements civiques. Chaque brique était défendable. Chaque étape trouvait un soutien populaire dans le contexte où elle était introduite.

Le résultat est un système qui attribue des scores de comportement social à des centaines de millions de personnes, conditionne leur accès à des services publics, à l’éducation, aux transports, aux emplois. Un système qui rend la dissidence non pas illégale mais coûteuse. Pas une tyrannie frontale : une optimisation des incitations qui rend la conformité rationnelle et la résistance irrationnelle.

Je ne cite pas cet exemple pour alimenter une rhétorique sino-phobe. Je le cite parce que la logique qu’il illustre — la pente douce des décisions séquentielles chacune défendable, dont la somme produit un résultat que personne n’aurait approuvé explicitement, est une logique universelle. Elle n’est pas l’apanage des régimes autoritaires. Elle est la dynamique naturelle de tout système qui dispose d’outils puissants, d’une justification sécuritaire, et d’une population qui fait confiance à ses institutions.

Les démocraties ne sont pas immunisées. Elles sont simplement contraintes par des garde-fous institutionnels qui peuvent s’éroder par urgence, par commodité, par accumulation de précédents. Le Patriot Act américain, adopté dans les semaines suivant le 11 septembre 2001, a créé des capacités de surveillance qui ont survécu bien au-delà de la menace qui les avait justifiées. Les révélations Snowden ont montré l’ampleur réelle de ce que ces pouvoirs permettaient, non pas contre des terroristes, mais contre des citoyens ordinaires, des journalistes, des responsables politiques alliés.

Ce n’est pas une trahison. C’est la mécanique normale d’une puissance qui trouve ses propres usages, en dehors des intentions initiales de ceux qui l’ont créée.

⸻

Ce que l’IA ajoute à cette équation

Les exemples précédents précèdent l’IA générative. Ce qu’apporte l’IA à cette équation n’est pas un changement de nature, c’est un changement d’échelle et de précision qui transforme qualitativement la situation.

La surveillance pré-IA était coûteuse. Elle nécessitait des ressources humaines importantes, des analystes, des opérateurs, du temps. Ce coût était un garde-fou naturel : on ne pouvait pas tout surveiller, donc on faisait des choix, donc il existait une friction. Cette friction n’était pas une garantie de liberté, mais elle était un frein pratique à la surveillance de masse.

L’IA supprime cette friction. Elle rend la surveillance à la fois quasi-gratuite en termes de coût marginal et infiniment scalable. Analyser les communications de dix mille personnes ou de dix millions ne représente plus qu’une différence de puissance de calcul pas une différence de structure organisationnelle. Croiser des bases de données hétérogènes pour construire un profil comportemental détaillé d’un individu, en temps réel, sans intervention humaine, c’est désormais techniquement trivial.

Ce que cela signifie concrètement : le coût de la surveillance étant devenu quasi nul, la question n’est plus « qui surveiller » mais « pourquoi ne pas tout surveiller ». Et dans un contexte où la justification sécuritaire est toujours disponible, terrorisme, fraude, santé publique, désinformation, la réponse à cette question tend structurellement vers l’extension plutôt que vers la retenue.

« Think about what it means to have a powerful AI that can model the psychology of individuals, craft perfectly targeted messages, and do this at massive scale. »

— Dario Amodei, The Adolescence of Technology, janvier 2026

Naval Ravikant, dans un registre différent, touche à la même vérité : la transparence rendue possible par l’IA est à double tranchant. Ce qui peut être rendu lisible peut aussi être rendu traçable. Et ce qui est traçable peut être contrôlé non pas nécessairement par la contrainte directe, mais par la simple conscience d’être observé.

⸻

Le regard qui change le comportement

Il y a un phénomène que les psychologues et les criminologues connaissent depuis longtemps sous le nom d’effet Hawthorne : le simple fait d’être observé modifie le comportement. Pas parce qu’on vous demande de changer, pas parce qu’une sanction est annoncée simplement parce que vous savez que quelqu’un regarde.

Le philosophe Jeremy Bentham avait théorisé ce mécanisme au XVIIIe siècle dans son concept de Panoptique : une prison circulaire dans laquelle un gardien central peut observer tous les détenus, sans que ceux-ci sachent à quel moment ils sont effectivement regardés. L’effet disciplinaire n’est pas produit par la surveillance réelle, il est produit par la possibilité permanente de la surveillance. Les détenus finissent par s’autocensurer, par intérioriser la norme, par devenir leurs propres gardiens.

La surveillance généralisée rendue possible par l’IA est un Panoptique à l’échelle de la société. Et son effet le plus profond n’est pas la détection des comportements déviants, c’est la modification préventive des comportements par la simple conscience d’être potentiellement observé.

Quelles sont les idées que vous n’avez pas cherchées parce que vous saviez que votre historique était enregistré ? Quelles sont les conversations que vous n’avez pas eues parce que le canal n’était pas sûr ? Quelles sont les associations que vous n’avez pas rejointes, les pétitions que vous n’avez pas signées, les positions que vous n’avez pas défendues, non pas parce qu’une sanction vous en empêchait, mais parce que la friction du regard suffisait à décourager l’effort ?

C’est le paradoxe de la surveillance à l’ère de l’IA : son effet le plus puissant est invisible, parce qu’il opère avant l’acte, dans la décision de ne pas agir. Et il touche en priorité les comportements minoritaires, pas nécessairement illégaux, pas nécessairement dangereux, mais déviants par rapport à la norme statistique que l’algorithme a apprise. Les dissidences tranquilles. Les curiosités hétérodoxes. Les affiliations atypiques. Ce qui résiste à la moyenne.

⸻

Ce que Marc Aurèle ferait en public

Marc Aurèle est l’une des figures les plus étudiées de l’histoire pour sa pratique de la vertu dans le regard des autres. Il régnait sur un empire, tout ce qu’il faisait était observé, commenté, interprété. Et pourtant ses Pensées révèlent un homme qui avait résolu ce problème d’une manière radicale : agir exactement de la même façon en public et en privé. Non pas parce qu’il ignorait le regard, mais parce qu’il avait décidé que le regard ne changerait rien à ce qui était juste.

« Agis comme si chacun de tes actes pouvait devenir une règle universelle. Et si tu ne peux le faire sans honte, alors il y a quelque chose à examiner, non dans le regard des autres, mais dans l’acte lui-même. »

— Marc Aurèle, Pensées

Cette posture est d’une puissance remarquable dans le contexte de la surveillance généralisée. Elle dit : le problème n’est pas d’être regardé. Le problème est d’avoir quelque chose à cacher et la question est de savoir si ce que vous cachez mérite d’être caché, ou si c’est la surveillance qui le rend cachable en le rendant risqué.

Mais, et c’est là où il faut être précis, Marc Aurèle n’en tire pas la conclusion naïve que la surveillance est donc acceptable parce que « ceux qui n’ont rien à cacher n’ont rien à craindre ». Cette formule, que l’on entend régulièrement dans les débats sur la vie privée, est l’un des glissements rhétoriques les plus dangereux du discours sécuritaire.

Ce qu’elle efface, c’est précisément la dimension politique de la vie privée. La vie privée n’est pas seulement la protection des secrets personnels. C’est l’espace dans lequel se forme la pensée avant qu’elle soit prête à être exprimée. L’espace dans lequel on explore des idées sans les avoir encore validées. L’espace dans lequel on doute, on hésite, on change d’avis sans que ce processus soit capturé, archivé, potentiellement utilisé contre vous.

Une démocratie qui n’a plus d’espace privé de formation des opinions n’est plus vraiment une démocratie. Elle est un théâtre dans lequel les acteurs ont intériorisé leur rôle au point de ne plus savoir qu’ils jouent.

⸻

Le paradoxe démocratique

Voici la tension que je veux nommer clairement, parce qu’elle est au cœur de la difficulté politique réelle que pose cet article.

Les démocraties ont besoin de sécurité pour survivre. Les menaces que l’IA amplifie bioterrorisme, cyberattaques, désinformation massive, criminalité organisée, sont réelles. Amodei les décrit avec une précision qui ne laisse aucun doute : ces risques justifient des réponses robustes, et ces réponses nécessitent des outils de détection et de défense qui impliquent nécessairement une capacité de surveillance accrue.

En même temps, les outils de surveillance nécessaires à la défense de la démocratie peuvent devenir, entre de mauvaises mains ou dans un mauvais cadre institutionnel, les instruments de son démantèlement. Il n’y a pas de sortie propre de ce paradoxe. Il n’y a pas de solution technique qui résolve la tension politique.

Ce que ce paradoxe demande, c’est une vigilance institutionnelle permanente sur trois questions que les sociétés démocratiques ont rarement posé avec la rigueur qu’elles méritent : qui autorise la surveillance, qui la contrôle, et comment la limite de son périmètre est-elle définie et appliquée ?

Ces questions ne sont pas techniques. Elles sont politiques. Elles ne peuvent pas être déléguées à des experts en sécurité ou à des ingénieurs IA. Elles appartiennent au débat démocratique ce qui suppose que les citoyens soient suffisamment informés pour y participer réellement, et pas seulement en validant des décisions déjà prises dans des espaces opaques.

C’est là où la chaîne se referme sur elle-même : une population dont la capacité à former des opinions propres a été réduite par les mécanismes décrits dans l’article précédent sera moins capable de tenir ce débat avec la profondeur nécessaire. La concentration du pouvoir cognitif et la concentration du pouvoir sécuritaire se renforcent mutuellement.

⸻

La ligne que nous traçons nous-mêmes

Je veux terminer cet article sur une provocation que je formule avec soin, parce qu’elle touche à quelque chose d’inconfortable.

Nous acceptons de payer le prix de la sécurité physique. Nous acceptons d’être fouillés dans les aéroports, d’être filmés dans les espaces publics, de fournir nos données d’identité à l’État. Nous avons collectivement décidé que ce prix était raisonnable au regard des bénéfices.

La question que l’IA pose n’est pas de savoir si ce prix était le bon. C’est de savoir si nous réalisons que ce prix est en train de changer de nature que nous ne payons plus seulement avec notre temps et notre confort, mais avec quelque chose de plus fondamental : l’espace dans lequel nous formons nos pensées, construisons nos convictions, pratiquons notre dissidence tranquille.

Et la question connexe, que Marc Aurèle nous poserait depuis les rives du Danube : avons-nous explicitement consenti à ce paiement ? Avons-nous eu le choix de ne pas le faire ? Et si nous ne l’avons pas eu — qui a décidé à notre place, et sur quelle légitimité ?

La ligne entre surveiller pour protéger et protéger pour surveiller n’est pas tracée une fois pour toutes. Elle se déplace, à chaque décision, à chaque urgence, à chaque compromis raisonnable. Ce qui dépend de nous — pour reprendre la grille stoïcienne c’est de savoir où elle est, de voir quand elle se déplace, et d’avoir la volonté collective de dire : jusqu’ici, pas plus loin.

Ce n’est pas de la paranoïa. C’est de la citoyenneté.

⸻

Matthieu Riboulet

Sparring Partner des CIO — COO IT | Ex Chief Agile Officer Société Générale | Auteur de la trilogie « DSI : Moteur ou Boulet ? »

Prochain article : « Ce que nous voulons encore décider nous-mêmes »