La rhétorique du désastre : l'extinction comme nouvel outil de gouvernance

Lorsqu’une figure aussi emblématique de la révolution numérique que Bill Gates évoque un scénario d’apocalypse où l’intelligence artificielle pourrait provoquer un milliard de morts à défaut d’une régulation stricte dans les prochains mois, l’opinion publique vacille entre stupeur et résignation. Pourtant, au-delà de l'effet d'annonce et de la surenchère prophétique, cette prise de parole marque une bascule profonde dans notre rapport aux technologies émergentes. Nous ne sommes plus seulement face à un débat technique entre chercheurs et ingénieurs sur l'optimisation des algorithmes, mais au cœur d'une mutation idéologique majeure où la peur de la catastrophe ultime devient l'argument central pour imposer un nouvel ordre réglementaire mondial. Comment sommes-nous passés, en l'espace de quelques années, d'un imaginaire d'émancipation par le numérique à l'instauration d'un régime de gouvernance façonné par la menace d'extinction ?

Du progrès au péril : la bascule narrative

Pendant plusieurs décennies, le discours dominant façonné par les pionniers de la Silicon Valley reposait sur une promesse de progrès continu et d'émancipation universelle. L'informatique personnelle, le réseau internet puis le traitement de données à grande échelle devaient démocratiser la connaissance, abolir les frontières économiques et résoudre les maux historiques de l'humanité. Ce paradigme du salut par la technologie s'est progressivement effrité pour laisser place à son antithèse absolue : la gestion de la menace existentielle.

Cette évolution du récit n'est pas fortuite. En s'appropriant les métaphores de la menace nucléaire ou de la crise climatique globale, les dirigeants des géants technologiques opèrent un glissement stratégique décisif. Il ne s'agit plus de convaincre le public des bénéfices futurs d'un service, mais de légitimer la maîtrise d'une puissance perçue comme démiurgique. Dans cette nouvelle grammaire politique, la menace d'une intelligence artificielle hors de contrôle offre une forme de crédibilité paradoxale aux acteurs qui la développent. En se présentant simultanément comme les architectes de la rupture et les protecteurs indispensables face au chaos qu'ils contribuent à fabriquer, ces décideurs réorientent la conscience collective. L'enthousiasme pour l'innovation cède ainsi la place à une vigilance anxieuse, érigeant la simple survie de l'espèce au rang de nouvel horizon indépassable du débat public.

La gouvernance par l'urgence

Cette bascule du discours produit des effets structurants sur la manière dont les institutions publiques élaborent le droit. Lorsqu'un risque est qualifié d'existentiel ou de systémique par les personnalités les plus influentes du secteur, le temps politique se trouve brusquement compressé. La peur d'un désastre imminent contraint les États et les instances supranationales à concevoir des cadres réglementaires d'exception dans des délais extrêmement restreints, souvent dictés par l'émotion plutôt que par la maturité des analyses.

Une telle gouvernance par l'urgence comporte toutefois un biais majeur. La fabrication de la norme sous la pression de la peur favorise inévitablement les acteurs déjà établis. Seules les entreprises transnationales solidement capitalisées disposent des ressources financières, juridiques et techniques nécessaires pour se conformer à des exigences réglementaires denses et complexes. Les structures plus modestes, les laboratoires de recherche indépendants ou les écosystèmes reposant sur des modèles open source (à code source ouvert) risquent d'être écartés du jeu au nom d'un principe de précaution hypertrophié. Sous couvert de préserver l'humanité d'un risque ultime, la régulation d'urgence menace de figer la concurrence et de verrouiller l'innovation au profit d'un petit cercle d'initiés, capables d'orienter la rédaction des normes à leur avantage.

L'effet d'éviction face au présent

En focalisant l'attention des gouvernants et des citoyens sur des scénarios d'apocalypse spectaculaires, un effet d'éviction particulièrement dommageable s'installe. La hantise d'une menace théorique et lointaine occulte la réalité des défis éthiques, sociaux et économiques qui se posent déjà au quotidien.

Pendant que les colloques internationaux débattent des moyens d'éviter une éventuelle perte de contrôle sur une intelligence générale théorique, les impacts immédiats des systèmes automatisés actuels restent sous-régulés ou imparfaitement traités. La prolifération de la désinformation à grande échelle, le pillage des droits d'auteur pour l'entraînement des modèles, la reproduction de biais discriminatoires dans l'accès aux droits ou aux services, sans oublier la consommation énergétique exponentielle des centres de données, constituent des mutations concrètes qui altèrent déjà le tissu social. Cette focalisation sur un avenir catastrophique crée une cécité face aux dérives du présent. À force de préparer les institutions à un choc ultime encore incertain, la collectivité néglige d'encadrer les usages réels qui façonnent et détériorent aujourd'hui nos démocraties.

Vers une lucidité technologique

La récente prophétie de Bill Gates ne doit pas être reçue comme une simple prédiction désintéressée ou une provocation médiatique, mais bien comme le symptôme d'une époque qui peine à envisager la technologie hors du prisme de la crise. La bascule vers une gouvernance mondiale guidée par la peur de l'extinction traduit l'incapacité de nos sociétés à construire un débat apaisé et méthodique autour du progrès technologique.

Pour sortir de ce piège rhétorique, il devient impératif de développer une véritable lucidité collective. Cela implique de refuser la fausse alternative entre l'utopie aveugle et la paralysie par l'effroi. La régulation des technologies de pointe ne peut se réduire à une course de vitesse contre des spectres d'apocalypse orchestrés par ceux-là mêmes qui créent ces outils. Comment les démocraties contemporaines peuvent-elles reprendre l'initiative et élaborer un cadre normatif exigeant, capable de traiter les abus immédiats tout en anticipant les dérives futures, sans pour autant abdiquer leur liberté d'innover et leur souveraineté face aux géants du numérique ?