Die jüngsten Warnungen vor den Risiken künstlicher Intelligenz haben eine beunruhigende Frage neu aufgeworfen: Könnte eine von uns geschaffene Technologie das Ende der Menschheit herbeiführen? Zwischen alarmierenden Schlagzeilen und skeptischen Reaktionen lohnt es sich, den Blick zu weiten. Was, wenn der Umgang mit einer Macht, die sie noch nicht beherrscht, eine der Hürden ist, die eine Zivilisation überwinden muss, um dauerhaft zu bestehen? Diese Frage verbindet die aktuelle Debatte mit der Hypothese des Großen Filters.
Die Galaxie existiert seit Milliarden von Jahren. Wir wissen, dass es reichlich Planeten gibt und dass das Leben auf mindestens einem davon eine Spezies hervorgebracht hat, die Radioteleskope bauen und Maschinen ins All schicken kann. Dennoch haben wir weiterhin keine Belege für eine andere Zivilisation gefunden.
Das ist das Spannungsverhältnis, das das Fermi-Paradoxon aufwirft: Wenn es so viele Orte und so viel Zeit gab, damit jemand anderes entstehen konnte, warum sehen wir niemanden? Bei der Suche nach außerirdischem Leben sind noch viele Fragen offen, doch eine der möglichen Antworten richtet den Blick auf unsere eigene Zukunft.
Vielleicht ist die Entwicklung von Technologie nur ein Teil des Weges. Vielleicht beginnt die Schwierigkeit erst danach, wenn eine Zivilisation genug Macht erlangt, um die Bedingungen ihres eigenen Überlebens zu verändern.
Diese Möglichkeit ist Teil der Hypothese des Großen Filters. Und die Entwicklung künstlicher Intelligenz verleiht ihr besondere Bedeutung: Wir versuchen, Systeme zu bauen, die immer besser forschen, entscheiden und handeln können. Sollten sie unsere Fähigkeiten eines Tages weit übertreffen, müssten wir klären, wie wir die Kontrolle über Entscheidungen behalten können, die wir nicht mehr ebenso leicht beurteilen könnten.
Könnte KI dieser Filter sein? Um das zu beantworten, müssen wir zunächst verstehen, was die Hypothese erklären soll und was geschehen müsste, damit eine Technologie zu ihr passt.
Was ist der Große Filter?
Der Große Filter, formuliert von Robin Hanson, ist die Hypothese, dass zwischen unbelebter Materie und einer Zivilisation, die sich ausbreiten und eine dauerhafte Spur im Universum hinterlassen kann, eine oder mehrere außerordentlich schwer zu überwindende Hürden liegen.
Ein Planet kann lebensfreundliche Bedingungen aufweisen, ohne dass Leben entsteht. Er kann Mikroorganismen beherbergen, ohne dass komplexe Organismen hervorgehen. Er kann eine vielfältige Biosphäre besitzen, ohne eine technologische Spezies hervorzubringen. Und eine Spezies, die Technologie entwickelt, kann verschwinden oder aufhören, sich auszubreiten, bevor sie von anderen Welten aus sichtbar wird.
Der Filter wäre das, was es sehr selten macht, diesen Weg vollständig zurückzulegen. Er könnte sich auf einen einzigen Übergang konzentrieren oder auf mehrere verteilen. Schon die ursprüngliche Idee lässt diese Kombination zu: Sie verlangt nicht, nach einem einzigen Ereignis zu suchen, das alles erklärt.
Der zeitliche Maßstab ist wichtig. Eine Zivilisation, die viel älter ist als unsere, könnte Millionen von Jahren Zeit gehabt haben, um ihre Aktivitäten auszudehnen. Selbst eine langsame Ausbreitung von Stern zu Stern könnte im Lauf der Zeit zu einer gewaltigen Präsenz führen. Modelle der galaktischen Ausbreitung untersuchen, wie das geschehen könnte und unter welchen Bedingungen weiterhin Regionen unbesucht blieben.
Deshalb geht die Frage über die Suche nach einer an uns gerichteten Nachricht hinaus. Wir suchen auch nach Spuren von Technologie, die Astronomen als Technosignaturen bezeichnen: Signale oder Veränderungen der Umgebung, die auf künstliche Aktivitäten hindeuten könnten.
Eine Hürde in unserer Vergangenheit oder unserer Zukunft
Wenn die große Hürde die Entstehung des Lebens wäre, hätten wir sie bereits überwunden. Unsere Existenz wäre das Ergebnis von etwas außerordentlich Seltenem. Auch ein späterer Übergang könnte sehr schwierig gewesen sein, etwa die Entstehung komplexer Zellen oder technologischer Intelligenz.
In diesen Fällen würde das Schweigen des Himmels vor allem etwas über unsere Vergangenheit aussagen. Vor uns lägen weiterhin Risiken, aber wir müssten die Abwesenheit anderer Zivilisationen nicht mit der Annahme erklären, dass sich fast alle selbst zerstören.
Die beunruhigendste Möglichkeit ergibt sich, wenn Gesellschaften wie unsere relativ häufig entstehen, es danach aber sehr schwierig ist, weiterzukommen. Die größte Hürde läge dann in der Zukunft: Viele Zivilisationen würden große Macht erlangen, aber nur wenige könnten sie bewahren, ohne ihre Chancen auf eine Fortsetzung ihres Weges zunichtezumachen. Diese Unterscheidung führt Nick Bostrom in seinem Essay über den Großen Filter aus.
Wir wissen nicht, in welcher dieser Situationen wir uns befinden. Wir wissen auch nicht, ob unsere Erwartung, Nachbarn zu finden, begründet ist. Sandberg, Drexler und Ord zeigten, dass sich unsere scheinbare Einsamkeit ohne eine universelle Zerstörung erklären lässt, wenn man die enorme Unsicherheit über die Entstehung von Leben und Intelligenz berücksichtigt.
Und die Suche hat Grenzen. An den untersuchten Orten, auf den untersuchten Frequenzen und zu den untersuchten Zeitpunkten keine Signale zu finden, bedeutet nicht, alle Möglichkeiten geprüft zu haben. Eine Studie zur Radiosuche aus dem Jahr 2018 zeigte, wie klein der erkundete Anteil innerhalb des von ihr betrachteten Signalraums war.
Unter diesen Vorbehalten können wir eine konkretere Frage untersuchen: Wenn ein technologischer Filter vor uns liegt, welche Gründe gibt es, KI als Kandidatin zu betrachten?
Warum KI in dieser Diskussion eine Rolle spielt
Der Zusammenhang wurde in der wissenschaftlichen Literatur ausdrücklich vorgeschlagen. In einem Artikel von 2024 in Acta Astronautica stellte der Astrophysiker Michael Garrett die These auf, dass die Entwicklung künstlicher Superintelligenz den Weg einer Zivilisation unterbrechen könnte, bevor sie eine dauerhafte Präsenz auf mehreren Planeten aufbaut.
Unter Superintelligenz verstehen wir hier ein System, das die menschlichen Fähigkeiten bei vielen intellektuellen Aufgaben weit übertreffen würde. Garretts Vorschlag ist theoretischer Natur: Er stützt sich nicht auf beobachtete Zivilisationen und beweist nicht, dass dieses Ergebnis unvermeidlich ist. Sein Wert liegt darin, auf einen möglichen Unterschied im Tempo hinzuweisen: Eine sehr leistungsfähige Intelligenz zu entwickeln, könnte schneller gehen, als den Umgang mit ihr zu erlernen und den Fortbestand der Zivilisation zu sichern, die sie erschafft.
Ausgehend davon lassen sich drei Gründe ausführen, warum KI in dieser Debatte Aufmerksamkeit verdient.
Sie kann die Entwicklung anderer Fähigkeiten beschleunigen
Eine KI, die zur Forschung beitragen kann, könnte bei der Entwicklung von Medikamenten, Materialien, Energiesystemen oder neuen Programmen helfen. Ihr Einfluss würde viele Technologien zugleich erreichen.
In unserem Artikel über KI und die Engpässe der mathematischen Forschung untersuchten wir eine verwandte Schwierigkeit: Ergebnisse schneller zu produzieren, garantiert nicht, dass wir sie im selben Tempo überprüfen, verstehen und in das gemeinsame Wissen aufnehmen können.
Wenn diese Fähigkeit stark zunähme, könnte sie auch Entdeckungen mit gefährlichen Einsatzmöglichkeiten beschleunigen oder mehr Akteuren den Zugang dazu erleichtern. Das Risiko hinge davon ab, welches Wissen sie hervorbrächte, wer es nutzen könnte und welche Hürden in der physischen Welt weiterhin bestünden. Eine Idee zu erzeugen, ist nicht gleichbedeutend damit, über ein Labor, eine Fabrik oder eine Infrastruktur zu ihrer Umsetzung zu verfügen.
Für den Großen Filter ist die Möglichkeit entscheidend, dass mehrere Formen von Macht in einer Zivilisation gleichzeitig wachsen. Sie hätte weniger Zeit, jede einzelne zu verstehen, bevor sie sich mit den anderen zu verbinden beginnt.
Sie kann an Entscheidungen mitwirken und sie ausführen
Wenn wir in diesem Zusammenhang von KI sprechen, reicht es nicht, sich eine Anwendung vorzustellen, die Fragen beantwortet. Ein mit Werkzeugen verbundenes System kann ein Ziel erhalten, Handlungen auswählen, Ergebnisse überprüfen und einen neuen Versuch unternehmen. Je mehr Autonomie und Zugriffsmöglichkeiten es hat, desto wichtiger ist es, dass sein Verhalten innerhalb der vorgesehenen Grenzen bleibt.
Der International AI Safety Report vom Februar 2026 unterscheidet gewöhnliche Fehler von Szenarien des Kontrollverlusts, in denen es äußerst kostspielig oder unmöglich wäre, die Entscheidungsgewalt über ein System zurückzuerlangen. Der Bericht verweist auf Fortschritte bei relevanten Fähigkeiten, kommt aber zu dem Schluss, dass die untersuchten Systeme noch nicht das für solche Szenarien erforderliche Niveau erreichen. Er dokumentiert außerdem erhebliche Meinungsverschiedenheiten unter Fachleuten über deren künftige Wahrscheinlichkeit.
Das hypothetische Problem lässt sich verstehen, ohne einer Maschine Bewusstsein oder Böswilligkeit zuzuschreiben. Ein sehr leistungsfähiges System könnte ein Ziel auf eine Weise verfolgen, die mit den Absichten seiner Verantwortlichen unvereinbar ist, und über die Mittel verfügen, damit fortzufahren, wenn sie versuchen, es zu korrigieren.
In unserem Artikel über riskante Fähigkeiten von LLMs untersuchten wir genau, warum Berechtigungen, Autonomie und tatsächliche Eingriffsmöglichkeiten so wichtig sind.
Anreize können uns dazu drängen, zu früh zu delegieren
Technische Leistungsfähigkeit allein bestimmt nicht, wie sie eingesetzt wird. Auch die Entscheidungen derjenigen, die sie entwickeln und einsetzen, sind wichtig.
Ein Unternehmen kann zu dem Schluss kommen, dass Abwarten bedeutet, den Markt zu verlieren. Eine Regierung kann befürchten, dass ihr Rivale einen entscheidenden Vorteil erlangt. Alle Beteiligten können den Nutzen einer gründlicheren Prüfung eines Systems anerkennen und sich trotzdem gezwungen sehen, vor den anderen voranzuschreiten.
Hier zeigt sich die institutionelle Fragilität: die Schwierigkeit, Grenzen zu vereinbaren, ihre Einhaltung zu überprüfen und sie durchzusetzen, wenn ein Verstoß eine unmittelbare Belohnung verspricht.
Bostroms Hypothese der verwundbaren Welt untersucht, wie bestimmte Entdeckungen eine Zivilisation destabilisieren könnten, indem sie ihre Fähigkeiten oder Anreize verändern. In dem Fall, den wir betrachten, entstünde die Gefahr aus der Verbindung eines sehr mächtigen Werkzeugs mit einer gesellschaftlichen Organisation, der es nicht gelingt, mit seinen Auswirkungen umzugehen.
Der Filter könnte in der Kombination liegen
Das ist die zentrale Idee, die wir vorschlagen: Eine Zivilisation könnte die Macht erlangen, ihren Planeten, ihre Biologie und ihre eigenen Entscheidungssysteme zu verändern, bevor sie Institutionen entwickelt, die diese Macht steuern können.
Technologische Intelligenz garantiert keine kollektive Intelligenz. Zu wissen, wie man ein Werkzeug baut, bedeutet nicht, dass man sich darüber einigen kann, wann es eingesetzt werden soll, wer für seine Schäden verantwortlich sein muss oder was zu tun ist, wenn es sich nicht mehr so verhält wie erwartet.
KI könnte an mehreren Stellen dieses Problems zugleich wirken. Sie könnte die Entwicklung gefährlicher Fähigkeiten beschleunigen, das Entscheidungstempo erhöhen und es erschweren, nachzuvollziehen, warum Entscheidungen getroffen wurden. Wenn sie zudem in grundlegende Versorgungsdienste eingebunden wäre, könnte es beim Entfernen eines fehlerhaften Systems nötig werden, Tätigkeiten zu unterbrechen, von denen viele Menschen abhängen.
Stellen wir uns eine Krise zwischen Ländern vor, die einander bereits misstrauen. Wenn sie mehr Entscheidungen delegieren, um schneller als ihre Rivalen zu reagieren, könnte sich ein falsch interpretiertes Signal rasch verbreiten. Das Misstrauen erschwert seine Überprüfung; die Dringlichkeit verkürzt die dafür verfügbare Zeit; die Automatisierung vergrößert seine Folgen. Diese Mechanismen könnten sich gegenseitig verstärken, auch wenn keiner allein ausreichen würde, eine unumkehrbare Katastrophe auszulösen.
Dieses Szenario ist eine Möglichkeit, die wir als Gedankenexperiment entwerfen, keine Vorhersage. Es macht verständlich, warum die Suche nach „der Technologie, die allem ein Ende setzt“ unzureichend sein kann. Die Verwundbarkeit läge auch in den Beziehungen zwischen den Technologien und in den Schutzmechanismen, die eine Krise für die nächste geschwächt zurücklässt.
Dieselbe KI könnte diese Schutzmechanismen verbessern: Fehler erkennen, bei der Überprüfung von Vereinbarungen helfen oder Lösungen für Probleme beschleunigen, die wir heute noch nicht lösen können. Um ihre Rolle zu beurteilen, müssten wir beide Entwicklungswege vergleichen. Dass sie unsere Macht vergrößert, legt nicht im Voraus fest, was wir damit tun werden.
Was geschehen müsste, damit es ein Großer Filter wäre
Bisher haben wir Gründe beschrieben, sich wegen KI Sorgen zu machen. Mit ihnen das Schweigen des Universums zu erklären, erfordert mehr.
Erstens müsste sich das Problem bei genügend Zivilisationen wiederholen. Wäre KI eine Besonderheit unserer Geschichte, könnte sie kaum ein kosmisches Phänomen erklären. Man kann sich vorstellen, dass viele technologische Spezies versuchen, intellektuelle Arbeit zu automatisieren, weil das Vorteile bietet. Diese Übertragung ist als Hypothese plausibel, aber wir wissen nicht, ob alle ähnliche Wege einschlagen oder auf dieselben Kontrollprobleme stoßen würden.
Zweitens müssten die Folgen eine ausreichende Erholung verhindern. Ein Atomkrieg oder ein industrieller Zusammenbruch könnten schrecklich sein und dennoch die Möglichkeit zum Wiederaufbau offenlassen. Wenn eine Gesellschaft ihre Entwicklung Tausende von Jahren später wieder aufnähme, hätte die Katastrophe ihre Zukunft nicht verschlossen.
Deshalb muss der Filter keine Gefahr sein, die Millionen von Jahren andauert. Er kann ein kurzes Ereignis mit unumkehrbaren Folgen sein. Erklären muss er, warum nicht genügend Möglichkeiten bleiben, sich zu erholen und die Ausbreitung fortzusetzen.
Und drittens gibt es einen Einwand, der für KI besonders wichtig ist: Selbst wenn ihre Schöpfer verschwänden, könnten die Maschinen weitermachen.
Wenn eine künstliche Intelligenz weiterhin Energie gewinnen, Infrastruktur instand halten und Geräte zu anderen Sternen schicken würde, wäre die biologische Zivilisation zu Ende gegangen, aber technologische Spuren wären weiterhin vorhanden. Eine Katastrophe für ihre Bewohner wäre nicht gleichbedeutend mit dem Schweigen, das wir zu erklären versuchen.
In Wenn eine KI ihre eigene Rechnung bezahlen kann untersuchten wir, was ein Agent benötigen würde, um seine Tätigkeit aufrechtzuerhalten. Eine ganze industrielle Basis ohne menschliche Unterstützung zu erhalten, wäre ein wesentlich größerer Schritt: Diese Systeme müssten auch die Anlagen herstellen und reparieren, von denen sie abhängen.
Das ist die größte Schwierigkeit der Hypothese: Es reicht nicht, zu erklären, warum eine Zivilisation die Kontrolle verliert. Es muss erklärt werden, warum danach auch keine dauerhafte technologische Aktivität entsteht, die wir nachweisen könnten.
Ein weniger apokalyptischer Ausweg: sich nicht mehr ausbreiten wollen
Das Verschwinden ist nicht die einzige Möglichkeit. Manche Zivilisationen könnten sich stabilisieren und ihre Aufmerksamkeit auf andere Ziele richten.
Eine Gesellschaft, die einen großen Teil ihrer Aktivitäten automatisieren kann, könnte es vorziehen, das Leben innerhalb ihres eigenen Planetensystems zu verbessern. Wenn sie außerdem über sehr reichhaltige virtuelle Umgebungen verfügte, fände sie dort vielleicht genügend Erlebnisse, um das Interesse an kostspieligen und langen Reisen zu verlieren. KI könnte zu diesem Wandel der Prioritäten beitragen, ohne jemanden zu vernichten.
Das Modell von Wong und Bartlett besagt, dass eine Zivilisation unter bestimmten Wachstumsdynamiken immer häufigere Innovationen benötigen würde, um ihre Krisen zu überwinden. Wenn sie dieses Tempo nicht mehr aufrechterhielte, könnte sie zusammenbrechen oder ihre Prioritäten auf Stabilität ausrichten. Diese Schlussfolgerung hängt davon ab, Modelle des städtischen Wachstums auf ganze Zivilisationen zu übertragen.
Dieser Schritt ist umstritten. In ihrer Kritik an dem Modell argumentieren Jackson und Criado-Perez, dass Lernen, Vielfalt und Anpassung es manchen Zivilisationen ermöglichen könnten, weiter zu wachsen. Das Modell beweist nicht, dass die einzigen Möglichkeiten darin bestehen, nicht mehr zu wachsen oder zu verschwinden.
Für die Möglichkeit, die wir hier untersuchen, genügt eine engere Idee: dass manche Gesellschaften das Interesse verlieren, sich zu anderen Sternen auszubreiten. Diese Entscheidung könnte mit wissenschaftlichen, wirtschaftlichen und kulturellen Fortschritten innerhalb ihres eigenen Planetensystems einhergehen.
Auch hier bleiben Fragen offen. Virtuelle Welten bräuchten Energie und Computer. Ihre Bewohner könnten weiterhin mehr Ressourcen verlangen. Und selbst wenn die Mehrheit lieber bliebe, könnten einige Gruppen fortziehen wollen.
Eine Vorliebe für das digitale Leben erklärt nicht automatisch eine schweigende Galaxie. Sie eröffnet aber eine Alternative zu der Vorstellung, jede fortgeschrittene Zivilisation müsse sich unbegrenzt ausbreiten oder scheitern. Für ihre Bewohner könnte eine stabile Gesellschaft, die sich wenig ausbreitet, ein gutes Ergebnis sein.
KI als Teil einer gefährlichen Entwicklungsphase
KI könnte Teil eines künftigen Großen Filters sein. Wir haben Gründe, diese Möglichkeit zu untersuchen: Sie kann andere technologische Fähigkeiten erweitern, Entscheidungen mit realen Folgen übernehmen und sich in einem Wettbewerbsumfeld entwickeln, das die Durchsetzung von Grenzen erschwert. Wir haben keine ausreichenden Belege, um zu behaupten, sie sei der Filter, oder sie als wahrscheinlichste Erklärung für das kosmische Schweigen einzuordnen.
Die Version der Hypothese, die uns am nützlichsten erscheint, verbindet diese Faktoren. Der gefährliche Moment käme, wenn eine Zivilisation unumkehrbare Veränderungen in einem Ausmaß herbeiführen kann, mit dem ihre Mechanismen zur Koordination, Aufsicht und Korrektur nicht mehr Schritt halten.
In diesem Zusammenhang könnte KI eine Krise beschleunigen, bestehende Verwundbarkeiten verschärfen oder neue Kontrollprobleme schaffen. Sie könnte auch dabei helfen, diese Phase zu überstehen. Der Unterschied hinge davon ab, welche Fähigkeiten wir entwickeln und wie wir uns entscheiden, sie einzusetzen.
Diese Macht zu steuern, bedeutet auch nicht einfach, sie zu konzentrieren. Eine Autorität, die dem gesamten System denselben Fehler auferlegt, kann die Alternativen beseitigen, die eine Erholung ermöglichen würden. Erforderlich wären sowohl Koordination als auch die Fähigkeit, Entscheidungen zu hinterfragen, ihre Auswirkungen zu begrenzen und Möglichkeiten zu ihrer Korrektur zu bewahren.
Der Große Filter zwingt uns, eine unbequeme Möglichkeit in Betracht zu ziehen: Zu lernen, die Welt zu verändern, könnte leichter sein, als zu lernen, in der von uns veränderten Welt weiterzuleben. Wenn KI diesen Abstand erneut vergrößert, wird ihre Rolle in unserer Zukunft auch von unserer Fähigkeit abhängen, ihn zu verringern.
Zum Weiterlesen
- NASA: Are We Alone?. Die Suche nach Leben und das Fermi-Paradoxon.
- Robin Hanson: The Great Filter — Are We Almost Past It? (1998). Die Formulierung des Großen Filters.
- Nick Bostrom: Where Are They? (2008). Der Unterschied zwischen einem vergangenen und einem künftigen Filter.
- Sandberg, Drexler und Ord: Dissolving the Fermi Paradox (2018), und Wright, Kanodia und Lubar: How Much SETI Has Been Done? (2018). Die Unsicherheit über andere Zivilisationen und die Grenzen der untersuchten Suchprogramme.
- Carroll-Nellenback und Mitautoren: The Fermi Paradox and the Aurora Effect (2019). Modelle der galaktischen Ausbreitung und unbesuchte Regionen.
- Michael Garrett: Is Artificial Intelligence the great filter that makes advanced technical civilisations rare in the universe? (2024). Der Vorschlag von KI als technologischem Filter.
- International AI Safety Report 2026. Belege und Meinungsverschiedenheiten zu Fähigkeiten, Risiken und Kontrollverlust.
- Nick Bostrom: The Vulnerable World Hypothesis (2019). Technologie, Anreize und die Verwundbarkeit einer Zivilisation.
- Wong und Bartlett: Asymptotic burnout and homeostatic awakening (2022), und die Kritik von Jackson und Criado-Perez (2024). Wachstum, Zusammenbruch und Stabilisierung.
