Et si le danger de l’intelligence artificielle ne résidait pas seulement dans ce qu’elle sait faire, mais dans ce que nous finissons par lui abandonner ? Dans un long entretien consacré à son livre Totalitarisme numérique en cours de chargement… L’humanité aux risques de l’IA, la psychologue clinicienne et philosophe Ariane Bilheran développe une critique radicale de la numérisation du monde. Surveillance, dépendance aux écrans, fascination pour les machines et affaiblissement de l’esprit critique : elle y voit les signes d’une transformation profonde de notre rapport à la liberté.
Sa lecture, volontairement alarmante et parfois contestable, mérite néanmoins d’être examinée : une société peut-elle devenir toujours plus performante techniquement tout en devenant moins autonome humainement ? Ce débat, à la croisée de la psychologie, de la philosophie et de la politique, dépasse largement la seule question de l’IA.
Le « totalitarisme numérique » : un diagnostic qui interroge
Pour Ariane Bilheran, l’essor des technologies de surveillance n’est pas un simple changement d’outillage. Il participe, selon sa grille de lecture, d’un phénomène plus vaste : la transformation des individus en une masse administrable, mesurable et orientable. La psychologue relie cette évolution à ce qu’elle appelle une « régression psychique », lorsque la peur, le conformisme et le renoncement à la responsabilité personnelle prennent le pas sur le discernement.
Elle convoque notamment Hannah Arendt, dont les travaux sur les totalitarismes montrent comment l’isolement des personnes et la destruction des liens sociaux peuvent préparer des formes de domination. Chez Bilheran, cette réflexion devient une alerte sur l’ère numérique : la concentration des données et des capacités de calcul offrirait aux pouvoirs politiques et économiques des moyens inédits de suivi des comportements.
Une distinction demeure indispensable : qualifier les sociétés contemporaines de « totalitaires » est ici une interprétation philosophique et politique de l’intervenante, non un constat historique partagé par tous les chercheurs. Les risques de surveillance sont documentables ; la conclusion selon laquelle ils formeraient déjà un totalitarisme mondial unique exige, elle, une démonstration supplémentaire.
De Hannah Arendt à Günther Anders : quand l’homme devient un rouage
L’un des passages les plus stimulants de l’entretien concerne Günther Anders, auteur de L’Obsolescence de l’homme. Le philosophe s’interrogeait sur un décalage vertigineux : les humains sont capables de produire des effets techniques d’une ampleur qu’ils peinent à imaginer, à anticiper et parfois même à assumer moralement.
Appliquée au numérique, cette intuition soulève une question très concrète : qui répond des conséquences d’une décision prise par une chaîne d’algorithmes, de fournisseurs, d’administrations et d’utilisateurs ? À mesure que les opérations se fragmentent, chacun peut avoir l’impression de n’avoir accompli qu’une tâche anodine. Pourtant, le résultat collectif peut modifier des existences entières.
Bilheran parle à ce propos d’une responsabilité diluée dans la « mégamachine », expression empruntée à Lewis Mumford. Son inquiétude n’est pas seulement que la technique impose des contraintes, mais qu’elle rende celles-ci si ordinaires qu’elles cessent d’être discutées.
Surveillance, identité numérique et tentation du panoptique
Caméras intelligentes, reconnaissance faciale, identification en ligne, collecte de données et automatisation administrative forment un ensemble de dispositifs distincts. L’entretien les rapproche de l’idée du panoptique, ce modèle de surveillance imaginé par Jeremy Bentham et analysé par Michel Foucault : un système dans lequel la possibilité d’être observé influence déjà les comportements.
L’exemple chinois revient longuement dans la discussion. La surveillance numérique et les dispositifs de listes de sanctions y soulèvent de réelles questions de libertés publiques. Mais il faut corriger un raccourci fréquent : il n’existe pas de note sociale nationale unique attribuée à chaque citoyen chinois. Les mécanismes de crédit social sont fragmentés, avec des expérimentations locales et différents systèmes de listes et de conformité, comme l’explique l’institut de recherche MERICS.
Cette nuance ne fait pas disparaître les enjeux du contrôle. Elle les rend plus précis : quels fichiers sont interconnectés ? Qui décide des critères ? Quel recours existe lorsqu’une classification est erronée ? Et comment empêcher qu’un outil présenté comme pratique ne devienne, demain, un instrument de discrimination ou de sanction arbitraire ?
L’IA conversationnelle : un miroir auquel nous prêtons une âme
Le cœur original de l’analyse de Bilheran se situe sans doute dans la relation psychologique entretenue avec les assistants conversationnels. Ces systèmes répondent rapidement, s’adaptent au style de leur interlocuteur, simulent parfois l’empathie et donnent l’impression d’être toujours disponibles. Cette fluidité peut favoriser une impression de proximité.
La psychologue mobilise les notions de transfert, de projection et d’animisme : nous avons tendance à attribuer à un objet qui nous répond des intentions ou une vie intérieure. Elle s’inquiète particulièrement de l’usage de ces systèmes comme substituts à une relation amicale, amoureuse ou thérapeutique, ainsi que de la quantité d’informations intimes qui leur sont confiées.
Le risque d’attachement excessif ou de dépendance mérite effectivement d’être étudié. En revanche, tutoyer un assistant, le remercier ou lui donner un surnom ne suffit pas à caractériser une psychose : il serait abusif de transformer une habitude de langage en diagnostic clinique. La question essentielle reste de savoir si l’utilisateur conserve une compréhension claire de ce qu’est l’outil, de ses limites et de l’usage de ses données.
Accumuler des réponses n’est pas apprendre à penser
Bilheran oppose la quantité d’informations à la profondeur de la connaissance. Pour elle, apprendre suppose du temps, de l’effort, de la confrontation avec d’autres pensées et une transformation personnelle. Lire un philosophe, étudier une langue ou mener une recherche ne consiste pas à recevoir instantanément une réponse : c’est aussi éprouver les difficultés, les contradictions et les nuances d’un sujet.
L’objection est féconde à l’heure où les modèles génératifs produisent des textes de plus en plus convaincants. Ils peuvent aider à expliquer, comparer, traduire et rechercher, mais aussi se tromper ou formuler avec aplomb des affirmations fragiles. Il serait toutefois inexact de les réduire à de simples banques de données qui recopient mécaniquement des informations : leurs capacités résultent d’un apprentissage statistique complexe, et certaines tâches mettent en jeu des opérations de raisonnement utiles.
Le véritable enjeu est donc moins de choisir entre l’humain et la machine que de préserver la capacité humaine à vérifier, contredire et décider. Une réponse immédiate peut ouvrir une piste ; elle ne dispense ni de l’étude ni du jugement.
Écrans, peur et langage : l’attention devient un territoire
Autre fil conducteur de l’entretien : l’occupation permanente de notre attention. Notifications, défilement sans fin et succession de contenus anxiogènes réduisent, selon Bilheran, les espaces de silence nécessaires à la réflexion. Elle rappelle l’importance de l’otium, ce temps libéré des contraintes où la pensée peut se déployer.
Elle insiste également sur la puissance des images violentes et des mots répétés. Lorsqu’un vocabulaire s’impose sans que ses termes soient définis, le débat peut tourner à l’affrontement de slogans. Cette réflexion rejoint les travaux de Victor Klemperer sur la langue du IIIe Reich et l’imaginaire de la novlangue chez Orwell, sans qu’il faille confondre toute évolution du langage avec une entreprise totalitaire.
L’enjeu éditorial est considérable : informer ne devrait pas seulement retenir le regard. Informer, c’est aussi permettre au lecteur de comprendre, de replacer les faits dans leur contexte, de douter et de disposer de son temps de cerveau.
Le transhumanisme, ou la question de ce qui fait notre humanité
L’invitée critique également une vision de l’humain réduit à ses performances, à ses données ou à son utilité économique. Dans cette perspective, le transhumanisme lui apparaît moins comme une émancipation que comme le risque de soumettre davantage nos corps et nos choix à des normes techniques.
La discussion pose une interrogation légitime : lorsqu’une technologie promet d’« augmenter » une personne, selon quels critères définit-on cette augmentation ? Une meilleure santé, davantage d’autonomie et l’accessibilité peuvent représenter des gains réels. Mais l’efficacité ne saurait être le seul critère d’une vie réussie, et la dignité humaine ne dépend ni de la productivité ni des performances.
Bilheran va plus loin en évoquant des projets coordonnés de domination, voire d’élimination des personnes considérées comme inutiles. Ces affirmations relèvent de son interprétation et ne doivent pas être reprises comme des faits établis sans preuves indépendantes. La défense de la dignité humaine n’exige pas d’adhérer à l’ensemble de ce scénario.
Une intelligence immatérielle ? Le coût bien réel de l’IA
Sous l’apparente légèreté d’une interface se cachent des centres de données, des processeurs, des réseaux électriques, des besoins en refroidissement et des chaînes d’extraction de matières premières. Bilheran rappelle que l’économie numérique a une matérialité et que ses coûts environnementaux sont souvent invisibles pour l’utilisateur.
Sur ce point, il existe des données vérifiables. Dans ses projections, l’Agence internationale de l’énergie estime que la consommation électrique mondiale des centres de données pourrait passer d’environ 485 TWh en 2025 à 950 TWh en 2030. Cela concerne l’ensemble des centres de données, pas exclusivement l’IA, même si celle-ci est un moteur important de la croissance.
Le débat n’est pas de nier les apports scientifiques et médicaux de l’IA, que l’entretien reconnaît par moments, mais de poser la question de leur rapport aux ressources engagées, à la transparence des infrastructures et aux bénéfices réels pour la société.
Retrouver le vivant, la beauté et le droit à l’erreur
L’entretien prend une autre tonalité lorsqu’il s’éloigne des dispositifs de contrôle pour parler de nature, de contemplation et de beauté. Bilheran évoque les Kogis de Colombie, la marche, les arts et les humanités classiques comme autant de moyens de retrouver une expérience du monde qui ne soit pas entièrement médiatisée par les écrans.
Elle défend aussi une idée précieuse : l’erreur, l’hésitation et la spontanéité font partie de l’apprentissage humain. Ce qui paraît inefficace à une logique d’optimisation peut être la condition même d’une découverte, d’une intuition ou d’une création. Une vie débarrassée de toute incertitude serait-elle encore une vie libre ?
La référence à Henri Bergson prolonge cette intuition : la conscience humaine ne se réduit pas, dans sa philosophie, à un stock d’informations. Elle s’inscrit dans une durée, une histoire vécue et une sensibilité. La question de la conscience artificielle demeure débattue ; elle ne se tranche ni par la seule fascination technologique ni par une certitude inverse.
Quels garde-fous pour ne pas devenir de simples exécutants ?
En conclusion, Ariane Bilheran invite chacun à reprendre possession de sa vie intérieure : lire, approfondir des sujets, nommer précisément les choses, exercer son discernement, entretenir des relations concrètes et ne pas déléguer ses choix de conscience. Elle souligne, avec Günther Anders, l’importance de refuser de devenir un rouage qui fonctionne sans questionner.
Ces gestes individuels comptent. Ils ne remplacent pas pour autant les protections collectives : contrôle démocratique des technologies, droit à la vie privée, transparence des décisions automatisées, voies de recours et possibilité de choisir des outils moins intrusifs. La liberté numérique ne se joue pas seulement dans notre tête ; elle dépend aussi des règles et des infrastructures que nous acceptons.
Une question qui dépasse la technologie
On peut ne pas partager le diagnostic global d’Ariane Bilheran, contester ses analogies historiques ou certaines de ses affirmations les plus alarmistes, et reconnaître pourtant la force de la question qu’elle pose : à quoi sert le progrès si nous renonçons à penser par nous-mêmes ?
L’IA peut être un instrument de création, d’accès au savoir ou de recherche. Elle peut aussi faciliter la surveillance, la standardisation des réponses et la dépendance envers quelques fournisseurs. Rien de tout cela n’oblige à choisir entre enthousiasme aveugle et rejet absolu. Il reste une troisième voie : connaître les outils, en vérifier les effets, en maîtriser autant que possible les conditions d’usage et préserver l’irréductible singularité humaine.
Pour approfondir : Ariane Bilheran, Totalitarisme numérique en cours de chargement… L’humanité aux risques de l’IA, Guy Trédaniel, 2026. L’article restitue les grandes idées de l’entretien en distinguant les prises de position de l’invitée des éléments établis et des points qui restent à débattre.
