Hundert gelöste Probleme und eine offene Verantwortung

Ein geometrisches Netz durchquert eine Linse, die es in eine verständliche Struktur verwandelt. Konzeptuelle Illustration.

Am 21. September gab OpenAI bekannt, dass ein internes Modell, dessen Training am 28. August begonnen hatte, mehr als hundert offene Probleme in fast allen Bereichen der Mathematik gelöst habe. Ein offenes Problem ist eine Frage, die die Fachwelt seit Längerem erfolglos zu beantworten versucht: Manche warten seit Jahren auf eine Lösung, andere seit Jahrzehnten. Die Zahl kam zwei Wochen, nachdem das Unternehmen erklärt hatte, Navier–Stokes gelöst zu haben, eines der sieben Millennium-Probleme, über das wir hier bereits geschrieben haben.

In derselben Mitteilung stellte OpenAI eine Gruppe von neun Mathematikerinnen und Mathematikern vor, die das Unternehmen beraten wird, wie diese Ergebnisse geprüft und verbreitet werden sollen. Ausdrücklich verwies es zudem auf den Brief, in dem wenige Tage zuvor einige der angesehensten Persönlichkeiten des Fachs ihre Sorge über die Richtung der KI in der Mathematik geäußert hatten.

Die Frage ist nicht mehr, ob diese Systeme Mathematik betreiben können. Es geht darum, wer das Tempo bestimmt, was mit den Ergebnissen geschieht, die niemand zu studieren die Zeit hat, und was aus den Menschen wird, die ihr Leben der Suche nach ihnen gewidmet haben. In diesem Artikel zeichnen wir die Kontroverse nach, zeigen, was jede Seite fordert und wie die Gemeinschaft empfindet. Danach erklären wir unsere Position.

Drei Wochen, die aus einem Ergebnis eine Debatte über das Fach machten

Die Abfolge hilft zu verstehen, warum sich der Ton so schnell verschärfte:

DatumWas geschah
28. AugustOpenAI beginnt mit dem Training des internen Modells, das es später vorstellen wird.
8. SeptemberOpenAI veröffentlicht seine Lösung von Navier–Stokes.
9. und 10. SeptemberTerence Tao ruft die Gemeinschaft auf, „unverantwortliche und nicht nachhaltige“ Nutzungen von KI abzulehnen.
11. SeptemberDer Brief „A Severe Misalignment of AI in Mathematics“, unterzeichnet von Fields-Medaillenträgern, erscheint.
17. SeptemberTimothy Gowers erklärt, warum er ihn nicht unterzeichnet hat.
21. SeptemberOpenAI kündigt die mehr als hundert Probleme und die Beratungsgruppe AGMAI an.
22. SeptemberMartin Hairer erklärt, warum er AGMAI beigetreten ist.

Quellen: Mitteilungen von OpenAI, Blog von Terence Tao und Website des Briefs. Links am Ende des Artikels.

Die Fields-Medaille ist die angesehenste Auszeichnung für Mathematikerinnen und Mathematiker unter vierzig, und Terence Tao, einer ihrer Träger, gehört zu den bekanntesten aktiven Mathematikern außerhalb des Fachs. Er ist kein KI-Gegner: Seit Jahren nutzt er Modelle und Beweisassistenten in seiner Arbeit und setzt sich dafür ein, sie in die Forschung einzubinden. Gerade deshalb wog es so schwer, als er am 10. September schrieb, die großen KI-Unternehmen steuerten ungeachtet ihres tatsächlichen gesellschaftlichen Nutzens auf immer mächtigere und autonomere Systeme zu, und die Gemeinschaft müsse sich um ihre Werte vereinen.

Am nächsten Tag erschien der Brief. Stand 25. September verzeichnet seine Seite die Unterschriften von 27 Fields-Medaillenträgern, darunter Tao, Pierre Deligne und Manjul Bhargava. Laut Hairer haben ihn rund 8.000 weitere Personen unterstützt.

Der Brief fordert vor allem, die Prüfung nicht mit dem Ziel zu verwechseln

Wer im Brief eine Liste von Forderungen sucht, wird keine finden. Er ist eine Grundsatzerklärung, und seine zentrale Idee passt in einen Satz: Probleme zu lösen ist ein Werkzeug und ein Indikator für etwas Wichtigeres, das Verständnis.

Jahrhundertelang war die Lösung eines schwierigen Problems ein gutes Zeichen dafür, dass jemand etwas Neues verstanden hatte. Beweis und Verständnis gingen Hand in Hand, weil das Verständnis fast der einzige Weg zum Beweis war. Die Unterzeichnenden befürchten, dass diese Verbindung zerbricht: Wenn ein System die Lösung liefert, ohne dass jemand das Verständnis erwirbt, das sie bisher begleitete, kann das Fach Ergebnisse anhäufen und zugleich verarmen.

Davon ausgehend benennt der Brief konkrete Probleme: Ankündigungen ohne ausreichende Dokumentation, Methoden, die sich kaum vom Ergebnis trennen lassen, nicht anerkannte Vorarbeiten und die Gefahr für die Ausbildungskette, also den Prozess, in dem man forschen lernt, indem man mit anderen zusammenarbeitet. Er fordert die mathematische Gemeinschaft und die Unternehmen auf, dringend zu handeln, und verlangt, dass Menschen darüber entscheiden, wie diese Technologie eingesetzt wird, damit die Arbeit ihren Zweck weiter erfüllt.

Die konkretesten Forderungen kommen auf anderen Wegen:

  • Tao fordert, dass Arbeit korrekt zugeschrieben wird, dass die Herkunft jeder Idee nachvollziehbar bleibt und dass die Gemeinschaft Nutzungen ablehnt, die dem Fach schaden.
  • Hairer tritt AGMAI bei, um bessere Standards dafür zu schaffen, wie Unternehmen ihre mathematischen Ergebnisse veröffentlichen, präsentieren und zuschreiben.
  • AGMAI hat ein Formular eingerichtet, um die Meinung der Gemeinschaft dazu einzuholen, wie die Veröffentlichung der Ergebnisse von OpenAI koordiniert werden soll.

Die Antwort von OpenAI greift einen Teil dieser Forderungen auf. Die Gruppe, angesiedelt am Institute for Advanced Study in Princeton, wird beraten, wie die Bedeutung jedes Ergebnisses zu bewerten, seine Verbreitung zu koordinieren und welche akademischen Standards einzuhalten sind. Sie darf auch ungefragt Stellung nehmen und ihre Empfehlungen veröffentlichen, und ihre Mitglieder werden nicht bezahlt. Doch die Ankündigung klammert ausdrücklich aus, was die Kritiker am meisten beunruhigt: Die Gruppe wird nicht zum Tempo der internen Fortschritte des Unternehmens beraten. Entscheidungsbefugnis gegenüber einem Unternehmen hat sie ebenfalls nicht.

Die Gemeinschaft fürchtet nicht nur, Probleme zu verlieren, sondern den Weg zu ihnen

Die mathematische Gemeinschaft hat nicht mit einer Stimme geantwortet. Timothy Gowers, ebenfalls Fields-Medaillenträger, unterschrieb den Brief nicht, obwohl er einen Großteil der Diagnose teilt und einräumt, dass sich das Fach in einer Krise befindet. Sein Einwand: Der Brief stelle eine Auffassung von Mathematik als die einzige dar. Manche lösen Probleme, um zu verstehen, andere suchen Verständnis, um Probleme lösen zu können. Beide Traditionen haben wertvolle Mathematik hervorgebracht.

Am meisten sorgt sich Gowers um die Motivation. Viele junge Menschen kommen in die Forschung mit dem Wunsch, ein berühmtes Problem zu lösen. Löst eine Maschine diese Probleme zuerst, werden manche aufgeben, und mit ihnen kann die Kette der Weitergabe zwischen den Generationen reißen. Gowers fürchtet weniger ein Übermaß an Ergebnissen als das Verschwinden der sozialen Strukturen, die ihre Verarbeitung ermöglichen, ohne dass etwas an ihre Stelle tritt.

Martin Hairer ist optimistischer. Er glaubt, eine Verweigerung würde es OpenAI ermöglichen, Mathematiker als weltfremde Maschinenstürmer darzustellen. Und da der Brief zu dringendem Handeln aufrief, hält er es für inkonsequent, sich herauszuhalten. Er räumt auch die Grenzen der Gruppe ein: Neun Personen bilden die Vielfalt des Fachs nicht ab, sie können nichts durchsetzen, und ihre Stellungnahmen könnten genutzt werden, um das Image des Unternehmens aufzupolieren.

In den Kommentaren der Blogs, in denen die Debatte geführt wurde, zeigt sich ein weiterer Riss. Es sind Meinungen von Lesern, keine Umfrage, aber sie wiederholen sich häufig:

  • junge Forschende, die das Gefühl haben, ihre Ausbildungsjahre könnten schlagartig an Wert verloren haben;
  • Misstrauen gegenüber der Unabhängigkeit von AGMAI, vor allem bei denen, die auf die Nähe einiger Mitglieder zu OpenAI hinweisen;
  • die Angst, dass Ergebnisse zurückgehalten werden und nur unter wenigen zirkulieren. Ein Leser fragte, ob wir in die Zeiten zurückkehren, in denen Mathematiker ihre Lösungen versteckten, um Duelle zu gewinnen;
  • und der Verdacht, dass die Debatte von preisgekrönten Professoren geführt wird, deren Karriere nicht mehr davon abhängt, was jetzt geschieht.

Diese letzte Kritik trifft die Unterzeichnenden ebenso wie die Beratungsgruppe. Wer in diesem Übergang am meisten zu verlieren hat, hat in beiden Räumen die geringste Stimme.

Drei mögliche Zukünfte, die von Entscheidungen abhängen, nicht vom Modell

Gowers beschreibt zwei Szenarien, denen wir ein drittes hinzufügen, das die ganze Diskussion durchzieht.

Eine Lawine von Ergebnissen. Modelle liefern Beweise schneller, als die Gemeinschaft sie studieren kann. Gowers hält das nicht zwangsläufig für eine Katastrophe: Wir könnten auswählen, welche Teile wir verarbeiten. Dieses Szenario haben wir bereits in Wenn Beweisen nicht mehr der Engpass ist untersucht: Knapp wird dann die Arbeit des Prüfens, Erklärens und Entscheidens, was zählt.

Eine koordinierte Veröffentlichung. Unternehmen, Institutionen und Mathematiker vereinbaren, wie Ergebnisse veröffentlicht werden, mit welchen Informationen und in welchem Tempo. Das versucht AGMAI im Kleinen. Die Grenze ist offensichtlich: Das Tempo, der umstrittenste Punkt, wurde aus seinem Auftrag ausgeklammert.

Ein Fach, das mehr produziert und weniger ausbildet. Die Ergebnisse kommen weiter, doch Universitäten, Fachzeitschriften und Geldgeber belohnen fast nur, wer als Erster beweist. Erklären, Begutachten und Lehren bleiben unbeachtete Arbeit, und immer weniger junge Menschen finden Gründe, sich ihr zu widmen.

Keines der drei ist entschieden. Die kommenden Monate werden klare Signale liefern: ob AGMAI Empfehlungen veröffentlicht und OpenAI sie umsetzt oder begründet, warum nicht; ob die Ergebnisse mit ausreichender Dokumentation erscheinen, damit andere sie prüfen können; und ob eine Institution beginnt, Erklären und Begutachten als Forschungsarbeit anzuerkennen.

Was wir bei Codin denken: Ein Ergebnis ist erst geliefert, wenn andere es nutzen können

Wir teilen nicht die Ansicht, das Problem sei die Geschwindigkeit an sich, und glauben auch nicht, die Antwort müsse darin bestehen, zu bremsen oder Ergebnisse zurückzuhalten. Wissen zu verbergen, um eine berufliche Hierarchie zu schützen, wäre schwer zu verteidigen. Ein offenes Problem zu lösen hat Wert, und dass ein Beweis schwer verständlich ist, macht ihn nicht wertlos. Hier stehen wir Gowers näher als dem Brief: Es gibt viele legitime Arten, Mathematik zu betreiben, und ein Werkzeug, das Probleme löst, kann erweitern, was die Gemeinschaft studieren kann.

Ebenso wenig überzeugt uns die Gegenposition, wonach es genügt, das Ergebnis zu veröffentlichen, und der Rest Sache anderer ist. Darin sehen wir den Kern der Kontroverse: eine Asymmetrie. Das Unternehmen bestimmt das Tempo und erhält die öffentliche Anerkennung für die Entdeckung. Die Arbeit, sie zu prüfen, zu verstehen, zu erklären und zu lehren, fällt einer Gemeinschaft zu, die dieses Tempo nicht gewählt hat und deren Anreizsystem diese Arbeit kaum anerkennt. Eine Beratungsgruppe ohne Mitsprache beim Tempo kann die Darstellung der Ergebnisse verbessern, aber diese Asymmetrie nicht beheben.

Wir sehen das deutlich, weil wir dieses Problem aus unserem eigenen Handwerk kennen. In der Softwareentwicklung reicht es nicht, funktionierenden Code zu liefern: Versteht das Team, das ihn warten muss, ihn nicht, kann es ihn weder betreiben noch weiterentwickeln. Deshalb gilt eine Arbeit bei Codin erst als abgeschlossen, wenn sie dokumentiert und übergeben ist. KI macht diesen Unterschied sichtbarer, weil Produzieren viel billiger geworden ist als Verstehen.

Übertragen auf die Mathematik schlagen wir vor, jedes Ergebnis anhand von drei Fragen zu bewerten:

FrageWas nötig ist, um sie zu beantworten
Was genau wurde bewiesen?Eine präzise Aussage mit ihren Voraussetzungen und Grenzen.
Warum sollten wir es akzeptieren?Ein Argument, das andere prüfen können, und eine Begutachtung dessen, was tatsächlich behauptet wird.
Was können andere damit anfangen?Erklärungen, Anerkennung der Vorarbeiten und Material, um weiterzuforschen.

Von Codin vorgeschlagener Rahmen. Eine Ankündigung kann die erste Frage gut beantworten und die beiden anderen offenlassen.

Daraus ergeben sich drei konkrete Forderungen. Wer hundert Fortschritte ankündigt, sollte jeden mit genügend Informationen versehen, um diese Fragen zu beantworten. Wer aus ihrer Ankündigung Nutzen zieht, sollte dazu beitragen, die Arbeit zu finanzieren, sie in geteiltes Wissen zu verwandeln. Und akademische Institutionen sollten beginnen, Erklären, Begutachten und Lehren als Teil der Forschung anzuerkennen, nicht als Nebenaufgaben.

Die Frage, die wir bei der nächsten Ankündigung für nützlich halten, lautet eher, was Menschen außerhalb des Unternehmens jetzt studieren, prüfen und nutzen können, als wie viele Probleme gelöst wurden. Ein Fortschritt, den nur sein Urheber überprüfen kann, ist im Fach noch nicht ganz angekommen.

Quellen

Redaktioneller Hinweis: Der letzte Abschnitt gibt die Meinung von Codin wieder. Wir haben keines der von OpenAI angekündigten Ergebnisse geprüft.

Zurück zum Blog