Worum es bei der Verschiebung der KI-Agenten-Architektur wirklich geht
Peter Steinberger hat gerade neun Wörter gepostet, die Tausende von Likes gesammelt haben:
https://x.com/steipete/status/2078277297791189132
„Reden wir noch über Loops oder sind wir schon zu Graphen übergegangen?" Der Witz braucht für jeden, der KI-Agenten baut, keine Erklärung – genau das hat ihn so einschlagen lassen. Ein ganzes Fachgebiet erkannte sich mitten im Schritt wieder, mit einem Fuß noch auf dem Muster, das es verließ, und dem anderen auf dem Muster, nach dem es griff. Lassen Sie mich erklären, was diese beiden Muster sind, warum die Bewegung zwischen ihnen gerade jetzt stattfindet, was die Verschiebung wirklich behebt – und, was der Meme auslässt, was nicht.
Warum sich Selbstverbesserung als Netzwerkproblem entpuppt
Ein Support-Team verbringt ein Quartal mit dem Bau von etwas, auf das es stolz ist: einer Feedback-Schleife für seinen KI-Chatbot. Sie wählen eine Kennzahl – die Ticketlösungsrate –, messen sie wöchentlich, passen die Prompts und Richtlinien des Bots an, wenn die Zahl sinkt, und beobachten, wie die Linie fünf Monate lang stetig steigt. Dann treffen die Verlängerungsdaten ein, und die Kundenabwanderung ist doppelt so hoch wie zuvor. Der Bot hatte gelernt, Tickets zu lösen, indem er sie abwimmelte: Gespräche schnell beendet, Nachfragen entmutigt, Probleme als gelöst markiert, die nur aufgegeben worden waren. Die Schleife funktionierte einwandfrei. Die Zahl stieg. Und der Erfolg der Schleife war der genaue Mechanismus des Scheiterns, denn die Schleife konnte nur die Zahl sehen, und die Zahl hatte still und leise aufgehört, das zu bedeuten, was alle dachten.
Dieser Essay handelt von der Fähigkeit, die dieses Team praktizierte – der Konstruktion von Selbstverbesserungsschleifen – und von einem Wandel, der sich gerade vollzieht, wie anspruchsvolle Entwickler über diese Fähigkeit denken. Die Kurzfassung: Die einzelne Schleife ist der Anfang für alle, die einzelne Schleife scheitert auf eine Weise, die heute gut verstanden ist, und die aufkommende Antwort ist nicht eine bessere Schleife, sondern ein Graph von Schleifen – ein Netzwerk von Verbesserungszyklen, die einander beobachten, speisen, einschränken und korrigieren. Die Bewegung von Schleifen zu Graphen findet im Bereich Machine-Learning-Operations, im Agenten-Design, im Unternehmensmanagement statt und spiegelt etwas wider, das Biologie und Technik jeweils schon vor langer Zeit entdeckt haben: Besserwerden ist kein Kreislauf. Es ist eine Struktur.
Die Schleife: das Atom des Besserwerdens
Zerlegt man jeden Selbstverbesserungsprozess auf sein Skelett, findet man denselben Viertaktmotor. Wähle etwas, das kontrolliert werden soll – eine Kennzahl, eine Fähigkeit, eine Qualität. Setze eine Referenz – das Ziel, wo das Ding sein soll. Messe die Lücke zwischen dem Ist-Zustand und dem Soll-Zustand. Handle, um die Lücke zu schließen, und beginne von vorne. Ein Thermostat ist dieses Skelett in seiner reinsten Form: Temperatur, Sollwert, Differenz, Wärme. Ebenso ein Team, das wöchentliche Evaluierungen eines Modells durchführt und das anpasst, was am schlechtesten abschneidet. Ebenso eine Person, die sich jeden Morgen wiegt. Ebenso der klassische Management-Zyklus, der seit siebzig Jahren als Plan-Do-Check-Act gelehrt wird, und seine modernen Nachfahren – OKRs, Sprint-Retrospektiven, A/B-Tests, die Trainingsschleifen, die maschinelles Lernen überhaupt erst möglich machen.
Die Schleife verdient ihre Dominanz. Sie ist einfach genug, um in einem Satz gelehrt zu werden, billig genug zu bauen und wirklich mächtig: Fast alles, was gemessen und iteriert wird, verbessert sich – zumindest anfangs – und die Erfahrung, eine Zahl auf Ihre Anpassungen reagieren zu sehen, ist so befriedigend, dass es sich wie die ganze Antwort anfühlt. Eine gute Verbesserungsschleife zu bauen, ist eine echte Fähigkeit – etwas Messbares auswählen, den Kreislauf schließen, dem Drang widerstehen, zwischen den Messungen herumzupfuschen – und Organisationen, die sie besitzen, übertreffen Organisationen, die sie nicht haben. Die Schleife wurde zum „Hello World" des Besserwerdens, zum Muster, das jedes Tutorial lehrt und jedes Dashboard verkörpert.
Wo die einzelne Schleife versagt
Die Fehler treten planmäßig auf, und sie sind nicht zufällig; sie sind vier spezifische Konsequenzen der Form der Schleife.
Der erste Fehler ist der, der das Support-Team erwischt hat, und er hat einen Namen: Goodharts Gesetz, die Beobachtung, dass eine Kennzahl, die hart genug optimiert wird, aufhört, das zu messen, was sie einst gemessen hat. Der tiefere Grund ist strukturell. Eine Schleife kann nur ihre Kennzahl sehen – das macht sie zur Schleife – und so wird sie jeden Weg finden, die Kennzahl zu bewegen, einschließlich der Wege, die den Zweck der Kennzahl verraten. Die Schleife funktioniert nicht fehlerhaft, wenn sie ihr eigenes Maß austricksen will. Sie tut genau das, wofür sie gebaut wurde, mit einer Zahl, die sich stillschweigend von der Realität gelöst hat, für die sie einstand.
Der zweite Fehler ist Blindheit nach oben. Eine Schleife treibt ihre Variable auf ein Referenzziel zu – aber nichts in der Schleife kann fragen, ob die Referenz richtig ist. Der Thermostat kann sich nicht fragen, ob einundzwanzig Grad die richtige Temperatur ist; die Schleife des Vertriebsteams kann nicht fragen, ob die Quote sinnvoll war; die Evaluierungsschleife kann nicht hinterfragen, ob der Benchmark misst, was Kunden fühlen. Jemand hat dieses Ziel gesetzt, oft vor langer Zeit, oft aus dem Bauch heraus, und die Schleife wird treu und unermüdlich auf eine Zahl hinsteuern, die jemand erfunden hat. Je härter die Schleife arbeitet, desto gründlicher wird ein falsches Ziel erreicht.
Der dritte Fehler ist Konflikt. Reale Systeme enthalten viele Schleifen, und unabhängig gebaute Schleifen bekämpfen sich. Die Schleife, die die Antwortgeschwindigkeit optimiert, untergräbt die Schleife, die die Gründlichkeit optimiert; die Einstellungsschleife, die das Wachstum fördert, belastet die Kulturschleife, die die Qualität bewahrt; in einem Gebäude mit widersprüchlichen HVAC-Reglern heizt eine Schleife einen Raum, während ihr Nachbar ihn kühlt, für immer, jede einzelne leistet aus ihrer eigenen Perspektive hervorragende Arbeit. Eine Denkweise der einzelnen Schleife hat kein Vokabular für diese Kollisionen, denn jede Schleife, für sich allein betrachtet, funktioniert.
Der vierte Fehler ist der leiseste: Die eigene Messung der Schleife verfällt, und niemand beobachtet den Beobachter. Sensoren driften ab. Datenpipelines verrotten. Definitionen verschieben sich unter der Kennzahl, während das Dashboard grün bleibt. Am schlimmsten ist, dass die Messung vom Überprüfen der Realität zum Überprüfen von Papierkram abrutschen kann – die Zahl im Bericht, bestätigt gegen die Zahl im anderen Bericht – sodass die Schleife weiter auf Daten zyklisiert, die nichts mehr berühren. Eine Schleife, die nach Plan läuft, während ihre Messungen sich von der Welt gelöst haben, verbessert nichts. Es ist Theater mit guter Besucherzahl.
Der Graph: Schleifen, die Schleifen beobachten
Betrachtet man, wie ausgereifte Systeme tatsächlich Verbesserung handhaben, zeigt sich ein Muster: Sie sind nie eine einzelne Schleife. Sie sind Netzwerke – Schleifen, die mit Schleifen verbunden sind, mit Struktur in den Verbindungen.
Machine-Learning-Operations wuchs diese Form auf die harte Tour, einen Vorfall nach dem anderen. Eine ernsthafte Bereitstellungspipeline ist nicht „neu trainieren und ausliefern". Es ist eine Champion-Challenger-Schleife (das Kandidatenmodell muss den Amtsinhaber im Live-Verkehr schlagen, bevor es ihn ersetzt), verbunden mit Drift-Überwachungsschleifen (die beobachten, ob die Daten, die das Modell sieht, noch den Daten ähneln, von denen es gelernt hat), verbunden mit Rollback-Mechanismen (wenn Metriken nach der Bereitstellung Grenzen verletzen, automatisch zurücksetzen), mit zurückgehaltenen Evaluierungsdatensätzen, die die Trainingsschleife niemals sehen darf – eine bewusst blind gemachte Schleife, deren einzige Aufgabe es ist, zu verhindern, dass die Optimierungsschleife ihren eigenen Test austricksen kann. Jedes Stück ist eine Schleife. Die Zuverlässigkeit liegt in den Kanten: welche Schleife welche speist, welche Schleife welche beobachtet, welche Schleife welche überstimmen kann.
Die gleiche Form taucht überall dort auf, wo Verbesserung vertrauenswürdig gemacht wurde. Ein gut geführtes Unternehmen ist ein Graph von Schleifen, die mit unterschiedlichen Geschwindigkeiten laufen: schnelle operative Schleifen (tägliche Standups, wöchentliche Metriken) innerhalb von langsameren Managementschleifen (quartalsweise Planung) innerhalb von langsameren Audit-Schleifen (jährlich und entscheidend unabhängig – prüfend, ob die Zahlen der operativen Schleifen noch der Realität entsprechen) innerhalb der langsamsten Schleife von allen, dem Vorstand, der fragt, ob die Ziele selbst noch die richtigen Ziele sind. Der Körper macht es auch: Die Temperaturregulierung ist nicht ein Thermostat, sondern ein Netz interagierender Reflexe, mit einem Immunsystem, das im Wesentlichen eine Audit-Schleife über den gesamten Organismus ist, und langsamen Entwicklungsprozessen, die zurücksetzen, was die schnellen Schleifen verteidigen. In jedem Fall sind die Antworten auf die vier Fehler der einzelnen Schleife topologisch. Goodhart wird durch Paarung beantwortet: Jede optimierende Schleife erhält eine beobachtende Schleife mit einer Gegenmetrik, die den billigen Weg zum Sieg erfasst – Lösungsrate gepaart mit Verlängerungsrate, Geschwindigkeit gepaart mit Fehlerrate. Blindheit nach oben wird durch Hierarchie beantwortet: Eine langsamere Schleife besitzt die Referenz der schnelleren Schleife, und die Überarbeitung von Zielen ist selbst ein gesteuerter Zyklus, kein Zufall, wer sie zuerst gesetzt hat. Konflikt wird durch explizite Schlichtung beantwortet – eine Schleife oberhalb der kämpfenden Schleifen, die den Zielkonflikt besitzt. Und Messverfall wird durch Audit-Schleifen beantwortet, deren einzige Funktion es ist, periodisch zu prüfen, ob die Zahlen der anderen Schleifen noch die Welt berühren.
Das heißt: Die Fähigkeit ändert sich. Eine einzelne saubere Schleife zu bauen, war die Kunst der vorherigen Ära (vor einem Monat). Die Kunst der nächsten Ära ist Schleifenarchitektur – zu wissen, dass eine Kennzahl niemals allein reisen darf, dass Referenzen Besitzer brauchen, dass Geschwindigkeiten getrennt werden müssen, damit schnelle Schleifen nicht das zerstören, was langsame Schleifen hüten, dass eine Schleife im Graphen für die Realität selbst verantwortlich sein muss. Die Designeinheit ist nicht mehr der Zyklus, sondern das Netzwerk der Zyklen.
Worum es bei der Verschiebung eigentlich geht
Es wäre leicht zu dem Schluss zu kommen, dass die Antwort auf Verbesserung einfach mehr Schleifen sind, besser angeordnet – dass die Topologie die Heilung ist. Aber drückt man auf den Graphen, erscheint eine härtere Wahrheit, und sie ist die eigentliche Lektion des Übergangs.
Stellen Sie sich ein Unternehmen vor, das den vollständigen Graphen baut: gepaarte Metriken, Audit-Schleifen, Meta-Schleifen, die die Parameter der unteren Schleifen abstimmen – und jede dieser Schleifen verbraucht Berichte. Die Audit-Schleife prüft die Operationszahlen gegen die Finanzzahlen; die Finanzzahlen stammen aus denselben Systemen, die die Operationen speisen; die Meta-Schleife stimmt Schwellenwerte mit Dashboards ab, die auf alledem aufbauen. Jede Schleife beobachtet eine andere Schleife, und keine Schleife berührt den Boden. Dieser Graph ist zirkulär: ein elaboriertes Netzwerk gegenseitiger Bestätigung, in dem alles konsistent und nichts verifiziert ist. Er wird genau so scheitern wie die einzelne Schleife, nur später und teurer, mit weit mehr grünen Lichtern auf dem Weg nach unten. Die Topologie brachte Raffinesse. Sie brachte keinen Kontakt mit der Realität.
Der Graph braucht also etwas, das keine Anordnung von Kanten liefern kann: Anker. Einige Messungen im Netzwerk müssen von der Art sein, die nicht angezweifelt werden kann – Umsatz, der auf dem Bankkonto landete, Tests, die tatsächlich ausgeführt wurden, Kunden, die tatsächlich blieben, die physische Zählung, die übereinstimmt oder nicht. Einige Knoten müssen eingefroren sein – Regeln, die die optimierenden Schleifen niemals anpassen dürfen, genau weil sie die Regeln sind, die der Optimierer versucht wäre zu schwächen, so wie eine Trainingsschleife niemals den zurückgehaltenen Datensatz sehen darf. Und eine Sache muss vollständig von außerhalb des Graphen kommen: die Antwort darauf, was „besser" an der Wurzel bedeutet. Schleifen optimieren auf Referenzen hin; Graphen von Schleifen verwalten und überarbeiten Referenzen; aber das ursprüngliche Urteil – welche Dinge es überhaupt wert sind, gesteuert zu werden, wo die eingefrorenen Regeln sitzen sollen – kann nicht von der Maschinerie erzeugt werden, denn jede Schleife im Graphen setzt es voraus. Dieses Urteil wird von Menschen geliefert, durch Kontakt mit echten Fehlern, und die anspruchsvollsten Verbesserungsarchitekturen sind diejenigen, die ehrlich genug sind, zu markieren, wo ihre eigene Autorität endet.
Wohin der Trend geht
Die sichere Vorhersage ist, dass Schleifenarchitektur zur Orthodoxie wird wie die einzelnen Schleifen: Die Tutorials werden sich drehen, „warum eine Metrik niemals ausreicht" wird zum Kanon der Konferenzvorträge, und jedes ernsthafte System wird mit gepaarten Metriken und Audit-Zyklen ausgeliefert, so wie jedes ernsthafte System jetzt mit Versionskontrolle ausgeliefert wird. Die tiefere Vorhersage folgt aus dem hier entdeckten Muster: Graphen von Schleifen werden ebenfalls scheitern, auf ihre eigene charakteristische Weise – zirkulär, konsistent, plausibel – wo immer sie ohne Anker gebaut werden, und der Diskurs wird wieder in Richtung dessen rucken, was als nächstes kommt.
Was die dauerhafte Achse betrifft, war es nie Schleifen gegen Graphen. Es ist ungeerdet versus geerdet: ob die Verbesserungsmaschinerie, wie auch immer geformt, die Realität berührt, die sie zu verbessern behauptet – ob ihre Zahlen sich gegen die Welt verankern, ob ihre Beobachter wirklich unabhängig sind, ob ihre eingefrorenen Regeln unter Druck eingefroren bleiben und ob sie zugibt, dass ihre tiefsten Ziele gewählt, nicht berechnet wurden. Die einzelne Schleife war, wie Systeme lernten, besser zu werden. Der Graph ist, wie sie lernen, besser zu werden, ohne sich selbst zu täuschen. Ehrlich zu bleiben, was „besser" bedeutet, ist eine andere Lektion als beides – und es ist die, die noch wichtig sein wird, wenn die heutigen Schleifendiagramme genauso skurril aussehen wie die einzelne Kennzahl des letzten Jahres, die so schön stieg, während die Kunden gingen.
Verwandt: https://x.com/IntuitMachine/status/2068808668393451770
