Les récentes mises en garde sur les risques de l’intelligence artificielle ont ravivé une question inquiétante : une technologie que nous avons créée pourrait-elle mettre fin à l’humanité ? Entre titres alarmants et réactions sceptiques, il est utile d’élargir la perspective. Et si acquérir un pouvoir qu’on ne sait pas maîtriser était l’un des obstacles qu’une civilisation doit surmonter pour durer ? Cette question relie le débat actuel à l’hypothèse du Grand Filtre.
La galaxie existe depuis des milliards d’années. Nous savons que les planètes abondent et que, sur au moins l’une d’entre elles, la vie a produit une espèce capable de construire des radiotélescopes et d’envoyer des machines dans l’espace. Pourtant, nous n’avons toujours trouvé aucune preuve de l’existence d’une autre civilisation.
C’est la tension que soulève le paradoxe de Fermi : s’il y a eu tant de lieux et tant de temps pour que quelqu’un d’autre apparaisse, pourquoi ne le voyons-nous pas ? La recherche de vie extraterrestre laisse encore de nombreuses questions ouvertes, mais l’une des réponses possibles nous renvoie à notre propre avenir.
Peut-être que parvenir à développer une technologie ne représente qu’une partie du chemin. Peut-être que la difficulté vient ensuite, lorsqu’une civilisation acquiert assez de puissance pour modifier les conditions de sa propre survie.
Cette possibilité fait partie de l’hypothèse du Grand Filtre. Et le développement de l’intelligence artificielle lui donne une pertinence particulière : nous essayons de construire des systèmes de plus en plus capables de mener des recherches, de décider et d’agir. S’ils venaient un jour à dépasser largement nos capacités, nous devrions trouver comment conserver le contrôle sur des décisions que nous ne pourrions plus évaluer aussi facilement.
L’IA pourrait-elle être ce filtre ? Pour répondre à cette question, il faut d’abord comprendre ce que l’hypothèse cherche à expliquer et ce qui devrait se produire pour qu’une technologie puisse y correspondre.
Qu’est-ce que le Grand Filtre ?
Le Grand Filtre, formulé par Robin Hanson, est l’hypothèse selon laquelle il existe un ou plusieurs obstacles extraordinairement difficiles à franchir entre la matière inerte et une civilisation capable de s’étendre et de laisser une empreinte durable dans l’univers.
Une planète peut réunir des conditions habitables sans que la vie y apparaisse. Elle peut abriter des micro-organismes sans que des organismes complexes émergent. Elle peut posséder une biosphère diversifiée sans produire d’espèce technologique. Et une espèce qui développe une technologie peut disparaître ou cesser de s’étendre avant de devenir visible depuis d’autres mondes.
Le filtre serait ce qui rend l’accomplissement de ce parcours très peu fréquent. Il pourrait se concentrer sur une transition ou se répartir entre plusieurs. L’idée d’origine admet déjà cette combinaison : elle n’oblige pas à chercher un événement unique qui expliquerait tout.
L’échelle de temps compte. Une civilisation beaucoup plus ancienne que la nôtre aurait pu disposer de millions d’années pour étendre son activité. Même une expansion lente, d’étoile en étoile, pourrait aboutir au fil du temps à une présence immense. Les modèles d’expansion galactique étudient comment cela pourrait se produire et dans quelles conditions certaines régions pourraient encore rester sans visite.
C’est pourquoi la question dépasse celle de savoir si quelqu’un nous a envoyé un message. Nous cherchons aussi des traces de technologie, ce que les astronomes appellent des technosignatures : des signaux ou des modifications de l’environnement qui pourraient révéler une activité artificielle.
Un obstacle dans notre passé ou dans notre avenir
Si le grand obstacle était l’origine de la vie, nous l’aurions déjà franchi. Notre existence serait le résultat de quelque chose d’extraordinairement rare. Une transition ultérieure, comme l’apparition de cellules complexes ou d’une intelligence technologique, aurait elle aussi pu être très difficile.
Dans ces cas, le silence du ciel parlerait surtout de notre passé. Des risques resteraient devant nous, mais nous n’aurions pas à expliquer l’absence d’autres civilisations en supposant qu’elles se détruisent presque toutes.
La possibilité la plus inquiétante apparaît si parvenir à une société comme la nôtre est relativement courant, mais poursuivre ensuite très difficile. Le principal obstacle se trouverait alors dans l’avenir : de nombreuses civilisations atteindraient une grande puissance et peu parviendraient à la conserver sans compromettre leurs chances de poursuivre leur chemin. C’est la distinction que développe Nick Bostrom dans son essai sur le Grand Filtre.
Nous ne savons pas dans laquelle de ces situations nous nous trouvons. Nous ne savons pas non plus s’il est raisonnable de nous attendre à trouver des voisins. Sandberg, Drexler et Ord ont montré que la prise en compte de l’immense incertitude entourant l’apparition de la vie et de l’intelligence permet d’expliquer notre solitude apparente sans faire appel à une destruction universelle.
Et les recherches ont leurs limites. Ne pas trouver de signaux dans les lieux, aux fréquences et aux moments examinés ne revient pas à avoir inspecté toutes les possibilités. Une étude de 2018 sur les recherches radio a montré à quel point la fraction explorée était petite dans l’espace des signaux qu’elle analysait.
Avec ces réserves, nous pouvons néanmoins étudier une question plus précise : s’il existe un filtre technologique devant nous, quelles raisons avons-nous de considérer l’IA comme une candidate ?
Pourquoi l’IA entre dans cette discussion
Le lien a été explicitement proposé dans la littérature scientifique. Dans un article de 2024 publié dans Acta Astronautica, l’astrophysicien Michael Garrett a suggéré que le développement d’une superintelligence artificielle pourrait interrompre la trajectoire d’une civilisation avant qu’elle n’établisse une présence multiplanétaire durable.
Par superintelligence, on entend ici un système qui dépasserait largement les capacités humaines dans de nombreuses tâches intellectuelles. La proposition de Garrett est théorique : elle ne repose pas sur des civilisations observées et ne démontre pas que cette issue soit inévitable. Son intérêt est de mettre en évidence un possible décalage de rythme : développer une intelligence très puissante pourrait être plus rapide qu’apprendre à la maîtriser et à assurer la continuité de la civilisation qui la crée.
À partir de là, nous pouvons développer trois raisons pour lesquelles l’IA mérite notre attention dans ce débat.
Elle peut accélérer le développement d’autres capacités
Une IA capable de contribuer à la recherche pourrait aider à concevoir des médicaments, des matériaux, des systèmes énergétiques ou de nouveaux logiciels. Son influence toucherait de nombreuses technologies à la fois.
Dans notre article sur l’IA et les goulots d’étranglement de la recherche mathématique, nous explorions une difficulté voisine : produire des résultats plus vite ne garantit pas que nous puissions les vérifier, les comprendre et les intégrer aux connaissances partagées au même rythme.
Si cette capacité augmentait fortement, elle pourrait aussi accélérer des découvertes aux usages dangereux ou permettre à davantage d’acteurs d’y accéder. Le risque dépendrait des connaissances qu’elle produirait, de ceux qui pourraient les utiliser et des obstacles qui subsisteraient dans le monde physique. Générer une idée ne revient pas à disposer d’un laboratoire, d’une usine ou d’une infrastructure pour la mettre en œuvre.
La possibilité qui importe pour le Grand Filtre est qu’une civilisation voie plusieurs formes de puissance croître simultanément. Elle aurait moins de temps pour comprendre chacune d’elles avant qu’elles ne commencent à se combiner aux autres.
Elle peut participer aux décisions et les exécuter
Lorsque nous parlons d’IA dans ce contexte, il ne suffit pas d’imaginer une application qui répond à des questions. Un système connecté à des outils peut recevoir un objectif, choisir des actions, vérifier les résultats et recommencer. Plus il dispose d’autonomie et d’accès, plus il est important que son comportement reste dans les limites prévues.
L’International AI Safety Report de février 2026 distingue les défaillances ordinaires des scénarios de perte de contrôle, dans lesquels reprendre autorité sur un système serait extrêmement coûteux ou impossible. Le rapport fait état de progrès dans des capacités pertinentes, mais considère que les systèmes évalués n’atteignent pas encore le niveau nécessaire pour produire ces scénarios. Il relève aussi de profonds désaccords entre experts sur leur probabilité future.
On peut comprendre ce problème hypothétique sans attribuer de conscience ou de malveillance à une machine. Un système très capable pourrait poursuivre un objectif d’une manière incompatible avec les intentions de ses responsables et disposer des moyens de continuer lorsque ceux-ci tenteraient de le corriger.
Dans notre article sur les capacités à risque des LLM, nous examinions précisément pourquoi les autorisations, l’autonomie et les possibilités réelles d’intervention comptent autant.
Les incitations peuvent nous pousser à déléguer trop tôt
La capacité technique ne détermine pas à elle seule la manière dont elle est utilisée. Les décisions de ceux qui la développent et la déploient comptent aussi.
Une entreprise peut considérer qu’attendre revient à perdre le marché. Un gouvernement peut craindre que son rival n’obtienne un avantage décisif. Chaque participant peut reconnaître l’intérêt de mieux évaluer un système et, malgré tout, se sentir obligé d’avancer avant les autres.
C’est là qu’apparaît la fragilité institutionnelle : la difficulté à s’accorder sur des limites, à vérifier qu’elles sont respectées et à les faire appliquer lorsque leur transgression offre une récompense immédiate.
L’hypothèse du monde vulnérable de Bostrom explore la manière dont certaines découvertes pourraient déstabiliser une civilisation en modifiant ses capacités ou ses incitations. Dans le cas que nous envisageons, le danger naîtrait de la combinaison d’un outil très puissant et d’une organisation sociale qui ne parvient pas à en gérer les effets.
Le filtre pourrait résider dans la combinaison
Voici l’idée centrale que nous proposons : une civilisation pourrait acquérir le pouvoir de transformer sa planète, sa biologie et ses propres systèmes de décision avant de développer des institutions capables de gouverner cette puissance.
L’intelligence technologique ne garantit pas l’intelligence collective. Savoir construire un outil n’implique pas de savoir se mettre d’accord sur le moment de l’utiliser, sur ceux qui doivent répondre de ses dommages ou sur ce qu’il faut faire lorsqu’il cesse de se comporter comme prévu.
L’IA pourrait intervenir dans plusieurs dimensions de ce problème à la fois. Elle pourrait accélérer le développement de capacités dangereuses, augmenter la vitesse à laquelle les décisions sont prises et rendre plus difficile la reconstitution des raisons qui les ont motivées. Si elle était en outre intégrée à des services essentiels, retirer un système défectueux pourrait exiger d’interrompre des activités dont dépendent de nombreuses personnes.
Imaginons une crise entre des pays qui se méfient déjà les uns des autres. S’ils délèguent davantage de décisions pour réagir avant leurs rivaux, un signal mal interprété pourrait se propager rapidement. La méfiance rend sa vérification difficile ; l’urgence réduit le temps disponible pour la mener ; l’automatisation en amplifie les conséquences. Ces mécanismes pourraient se renforcer mutuellement, même si aucun ne suffisait à lui seul à provoquer une catastrophe irréversible.
Ce scénario est une possibilité que nous construisons pour raisonner, pas une prédiction. Il permet de comprendre pourquoi chercher « la technologie qui mettra fin à tout » peut être insuffisant. La vulnérabilité résiderait aussi dans les relations entre les technologies et dans les défenses qu’une crise laisse affaiblies face à la suivante.
La même IA pourrait améliorer ces défenses : détecter des défaillances, aider à vérifier le respect d’accords ou accélérer les solutions à des problèmes que nous ne savons pas résoudre aujourd’hui. Pour évaluer son rôle, il faudrait comparer ces deux trajectoires. L’augmentation de notre puissance ne décide pas à l’avance de ce que nous en ferons.
Que faudrait-il pour qu’il s’agisse d’un Grand Filtre ?
Jusqu’ici, nous avons décrit des raisons de nous inquiéter de l’IA. S’en servir pour expliquer le silence de l’univers exige davantage.
Premièrement, le problème devrait se répéter dans suffisamment de civilisations. Si l’IA était une singularité de notre histoire, elle pourrait difficilement expliquer un phénomène cosmique. On peut imaginer que de nombreuses espèces technologiques cherchent à automatiser le travail intellectuel parce que cela offre des avantages. Cette extrapolation est raisonnable en tant qu’hypothèse, mais nous ne savons pas si toutes suivraient des trajectoires similaires ni si elles rencontreraient les mêmes difficultés de contrôle.
Deuxièmement, les conséquences devraient empêcher un rétablissement suffisant. Une guerre nucléaire ou un effondrement industriel pourraient être terribles tout en laissant ouverte la possibilité de reconstruire. Si une société reprenait son développement des milliers d’années plus tard, la catastrophe n’aurait pas fermé son avenir.
Le filtre n’a donc pas besoin d’être un danger qui dure des millions d’années. Il peut s’agir d’un événement bref aux effets irréversibles. Ce qu’il doit expliquer, c’est pourquoi il ne reste pas suffisamment de possibilités de se relever et de poursuivre l’expansion.
Et troisièmement, une objection est particulièrement importante pour l’IA : même si leurs créateurs disparaissaient, les machines pourraient continuer.
Si une intelligence artificielle continuait à obtenir de l’énergie, à entretenir des infrastructures et à envoyer des dispositifs vers d’autres étoiles, la civilisation biologique aurait pris fin, mais des traces technologiques subsisteraient. Une catastrophe pour ses habitants n’équivaudrait pas au silence que nous essayons d’expliquer.
Dans Quand une IA peut payer sa propre facture, nous étudiions ce dont un agent aurait besoin pour maintenir son activité. Entretenir une base industrielle entière sans soutien humain représenterait un saut bien plus grand : ces systèmes devraient aussi fabriquer et réparer les installations dont ils dépendent.
C’est la principale difficulté de l’hypothèse : il ne suffit pas d’expliquer pourquoi une civilisation perd le contrôle. Il faut expliquer pourquoi aucune activité technologique durable que nous puissions détecter n’apparaît non plus par la suite.
Une issue moins apocalyptique : ne plus vouloir s’étendre
La disparition n’est pas la seule possibilité. Certaines civilisations pourraient se stabiliser et tourner leur attention vers d’autres objectifs.
Une société capable d’automatiser une grande partie de son activité pourrait préférer améliorer la vie à l’intérieur de son propre système planétaire. Si elle disposait en plus d’environnements virtuels très riches, elle pourrait y trouver suffisamment d’expériences pour se désintéresser de voyages longs et coûteux. L’IA pourrait contribuer à ce changement de priorités sans détruire personne.
Le modèle de Wong et Bartlett propose que, sous certaines dynamiques de croissance, une civilisation aurait besoin d’innovations de plus en plus fréquentes pour surmonter ses crises. Si elle cessait de maintenir ce rythme, elle pourrait s’effondrer ou réorienter ses priorités vers la stabilité. Cette conclusion dépend de la transposition de modèles de croissance urbaine à des civilisations entières.
Cette extrapolation est contestée. Dans leur critique du modèle, Jackson et Criado-Perez soutiennent que l’apprentissage, la diversité et l’adaptation pourraient permettre à certaines civilisations de continuer à croître. Le modèle ne démontre pas que les seules options soient de cesser de croître ou de disparaître.
Pour la possibilité que nous explorons ici, une idée plus limitée suffit : certaines sociétés pourraient perdre l’envie de s’étendre vers d’autres étoiles. Cette décision pourrait coexister avec des avancées scientifiques, économiques et culturelles à l’intérieur de leur propre système planétaire.
Là aussi, des questions restent ouvertes. Les mondes virtuels auraient besoin d’énergie et d’ordinateurs. Leurs habitants pourraient continuer à demander davantage de ressources. Et même si la majorité préférait rester, certains groupes pourraient vouloir partir.
Une préférence pour la vie numérique n’explique pas automatiquement une galaxie silencieuse. Mais elle ouvre une autre possibilité que l’idée selon laquelle toute civilisation avancée doit s’étendre indéfiniment ou échouer. Pour ceux qui y vivraient, une société stable et peu portée sur l’expansion pourrait être une issue heureuse.
L’IA comme composante d’une étape dangereuse
L’IA pourrait faire partie d’un Grand Filtre futur. Nous avons des raisons d’étudier cette possibilité : elle peut accroître d’autres capacités technologiques, prendre en charge des décisions aux conséquences réelles et se développer dans un contexte de concurrence qui rend difficile l’imposition de limites. Nous ne disposons pas de preuves suffisantes pour affirmer qu’elle est le filtre, ni pour en faire l’explication la plus probable du silence cosmique.
La version de l’hypothèse qui nous semble la plus utile combine ces facteurs. Le moment dangereux arriverait lorsqu’une civilisation peut produire des changements irréversibles à une échelle que ses mécanismes de coordination, de supervision et de correction ne parviennent plus à couvrir.
Dans ce contexte, l’IA pourrait accélérer une crise, aggraver des vulnérabilités existantes ou créer de nouvelles difficultés de contrôle. Elle pourrait aussi aider à traverser cette étape. La différence dépendrait des capacités que nous développerions et de la manière dont nous déciderions de les utiliser.
Gouverner cette puissance ne consiste pas non plus simplement à la concentrer. Une autorité qui impose la même erreur à l’ensemble du système peut éliminer les alternatives qui permettraient de se relever. Il faudrait à la fois de la coordination et la capacité de remettre en question les décisions, d’en limiter les effets et de préserver des options pour les corriger.
Le Grand Filtre nous oblige à envisager une possibilité inconfortable : apprendre à transformer le monde pourrait être plus facile qu’apprendre à continuer à vivre dans le monde que nous avons transformé. Si l’IA creuse encore cet écart, son rôle dans notre avenir dépendra aussi de notre capacité à le réduire.
Pour aller plus loin
- NASA: Are We Alone?. La recherche de vie et le paradoxe de Fermi.
- Robin Hanson: The Great Filter — Are We Almost Past It? (1998). La formulation du Grand Filtre.
- Nick Bostrom: Where Are They? (2008). La différence entre un filtre passé et un filtre futur.
- Sandberg, Drexler et Ord: Dissolving the Fermi Paradox (2018), et Wright, Kanodia et Lubar: How Much SETI Has Been Done? (2018). L’incertitude concernant d’autres civilisations et les limites des recherches analysées.
- Carroll-Nellenback et ses collaborateurs: The Fermi Paradox and the Aurora Effect (2019). Modèles d’expansion galactique et régions non visitées.
- Michael Garrett: Is Artificial Intelligence the great filter that makes advanced technical civilisations rare in the universe? (2024). La proposition de l’IA comme filtre technologique.
- International AI Safety Report 2026. Éléments de preuve et désaccords sur les capacités, les risques et la perte de contrôle.
- Nick Bostrom: The Vulnerable World Hypothesis (2019). Technologie, incitations et vulnérabilité d’une civilisation.
- Wong et Bartlett: Asymptotic burnout and homeostatic awakening (2022), et la critique de Jackson et Criado-Perez (2024). Croissance, effondrement et stabilisation.
