> For the complete documentation index, see [llms.txt](https://weekly-essay.mikey.wang/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://weekly-essay.mikey.wang/de/2026/w29-the-boundary-between-loop-engineering-and-rsi.md). # W29-Die Grenze zwischen Loop Engineering und RSI Loop Engineering und RSI stehen derzeit im Mittelpunkt vieler Debatten. Oberflächlich ähneln sie sich: KI tritt in einen Kreislauf ein, schlägt etwas vor, führt es aus, prüft, protokolliert und beginnt von vorn. Die Ähnlichkeit liegt in der Form, der Unterschied im Gegenstand. **Loop Engineering übergibt Arbeit an einen Kreislauf. RSI übergibt ihm auch die Fähigkeit, diesen Kreislauf selbst zu verbessern.** **Ersteres optimiert vor allem das Ausführungssystem. Letzteres greift in das System ein, das neue Fähigkeiten erzeugt. Das ist die wichtigste Grenze.** ### Loop Engineering ist im Kern Laufzeitgestaltung Bisher nutzten wir KI überwiegend im Dialog. Ein Mensch stellt eine Frage, die KI antwortet. Ist das Ergebnis schlecht, ergänzt der Mensch Kontext, ändert den Prompt und versucht es erneut. Der zentrale Vorgang bleibt, dass Menschen die KI fortlaufend anweisen. Sie ist das Werkzeug, der Mensch sitzt am Steuer. Loop Engineering hebt diese Beziehung eine Ebene an. Menschen entwerfen ein kleines System, das selbst entscheidet, welcher Prompt als Nächstes nötig ist. Ein typischer Kreislauf braucht mindestens Folgendes. Erstens einen Auslöser. Das kann ein Zeitplan, ein fehlgeschlagener CI-Lauf, ein neues Issue in der Warteschlange oder ein unerreichtes Ziel sein. Zweitens Zustand. Ein Agent darf nicht jedes Mal bei null beginnen. Er muss wissen, was er zuletzt versucht hat, woran es scheiterte und welche Wege ausgeschlossen sind. Drittens Werkzeuge. Er muss Code lesen, Dateien ändern, Tests ausführen, Logs prüfen und Diffs vorlegen können. Viertens Prüfinstanzen. Tests, Lint, Build, Benchmarks oder externe Evaluatoren müssen schlechte Ergebnisse zurückweisen können. Fünftens Abbruchbedingungen. Budget, Rundenzahl, Zeit und menschliche Freigaben müssen klar sein. Loop Engineering gestaltet also die Laufzeit: Wie kommt Kontext hinein, wie werden Werkzeuge aufgerufen, Ergebnisse geprüft, Zustände bewahrt und Berechtigungen begrenzt? Deshalb sprechen viele davon, dass sich der Hebel der Ingenieure vom Prompt zum Kreislauf verschiebt. Wertvoll ist ein wiederholbarer, überprüfbarer und rückgängig zu machender Arbeitsablauf. ### RSI setzt eine Ebene tiefer an Recursive Self-Improvement behandelt eine andere Ebene. Lilian Weng führt die traditionelle Definition in „Harness Engineering for Self-Improvement“ auf I. J. Good und Yudkowsky zurück: Ein System nutzt seine vorhandene Intelligenz, um den Mechanismus zu verbessern, der Intelligenz erzeugt. Heute umfasst dieser Mechanismus nicht zwingend nur Modellgewichte. Auch Training, Datenerzeugung, Evaluation, der Harness für den Einsatz und Forschungsabläufe können dazugehören. Anthropic verwendet in „When AI builds itself“ einen ähnlichen Rahmen. Schon heute beschleunigt KI Entwicklung und Forschung von Modellunternehmen. Künftig könnte sie an Entwurf und Training ihrer Nachfolgemodelle mitarbeiten. Anthropic sagt aber ausdrücklich, dass vollständige RSI noch nicht stattgefunden hat und auch nicht zwangsläufig eintreten wird. Entscheidend ist, was der Kreislauf verändert. Wenn ein Agent täglich Lintfehler repariert, Abhängigkeiten aktualisiert und einfache CI-Probleme löst, automatisiert er Arbeit. Kann er seinen Ablauf so ändern, dass die nächste Runde CI besser repariert, beginnt ein sich selbst verbessernder Harness. Wirken diese Verbesserungen auf Modelltraining, Forschungsentscheidungen, Experimentsuche und Datenerzeugung, machen die nächste Modellgeneration stärker und ermöglichen ihr wiederum eine weitere Verbesserung, nähern wir uns dem Kern von RSI. Ich ziehe die Grenze deshalb so: **Loop Engineering betrachtet den Aufgabendurchsatz. RSI betrachtet den Zuwachs an Fähigkeit.** **Die Erträge von Loop Engineering sind meist lokal: schnellere Fehlerbehebung, schnellere Experimente, weniger menschliche Überwachung.** Risiken und Erträge von RSI können sich dagegen wie Zinseszins verstärken. Das System verbessert den Mechanismus künftiger Verbesserungen. Geschwindigkeit und Reichweite könnten dadurch wachsen. ### AutoResearch als Zwischenform AutoResearch eignet sich gut, um diese Grenze zu beobachten. Karpathys autoresearch-Repository ist klar gestaltet. Ein Agent bekommt eine kleine, aber reale LLM-Trainingsumgebung, verändert `train.py`, trainiert jedes Mal genau fünf Minuten und misst `val_bpb`. Verbesserungen bleiben, Verschlechterungen werden zurückgesetzt. Menschen bearbeiten hauptsächlich `program.md`, also Forschungsorganisation und Anweisungsgrenzen. Formal ist das Loop Engineering. Das Ziel ist klar, die Rückmeldung schnell, die Kennzahl objektiv, Zustand lässt sich speichern und Code zurücksetzen. Der Agent durchläuft den ganzen Kreis: Hypothese bilden, Code ändern, experimentieren, Kennzahl prüfen, protokollieren und erneut beginnen. Gleichzeitig liegt es näher an RSI als gewöhnliche Engineering-Schleifen, weil es die Trainingsrezeptur eines Modells optimiert. Es steht bereits direkt an der Produktionskette von KI-Fähigkeiten. Recursives im Juni 2026 veröffentlichter Beitrag „First Steps Toward Automated AI Research“ zeigt die Richtung weiter. Das System forscht automatisch an NanoChat Autoresearch, NanoGPT Speedrun und SOL-ExecBench: Ideen entwickeln, umsetzen, Experimente ausführen, Ergebnisse prüfen und das nächste Experiment auswählen. Alle Benchmarks haben klare Ziele, schnelle Rückmeldung, geringe Varianz und vergleichsweise leicht abzusichernde Evaluatoren. Automatische Forschung funktioniert derzeit also am ehesten in messbaren, technisch strukturierten Forschungsräumen: Training mit festem Budget, Trainingsgeschwindigkeit kleiner Modelle oder Optimierung von GPU-Kernels. Die Belohnung ist klar, und auch Fehlschläge lassen sich aufzeichnen. Noch interessanter ist Bilevel Autoresearch. Ein äußerer Kreislauf verändert den Suchmechanismus des inneren, statt nur den inneren Kreislauf Trainingscode ändern zu lassen. Laut Aufsatz erzielte diese Meta-Autoresearch auf Karpathys GPT-Pretraining-Benchmark eine fünfmal größere Verbesserung als die gewöhnliche innere Schleife. Das ist ein wichtiger Schritt: Das System sucht nicht nur Antworten, sondern auch bessere Wege, Antworten zu suchen. Damit geht es über gewöhnliches Loop Engineering hinaus, erreicht aber noch keine vollständige RSI. Das Basismodell selbst bleibt unverändert, Menschen bestimmen das Ziel, der Evaluator liegt außerhalb, der Suchraum ist eng. Gezeigt wird, dass Selbstverbesserung auf Mechanismenebene zu wirken beginnt. Nicht gezeigt wird, dass KI bereits rekursiv stärkere KI erzeugt. ### Warum die Grenze wichtig ist Wer Loop Engineering und RSI vermischt, riskiert zwei Fehlurteile. Das erste unterschätzt Loop Engineering. „Das sind nur Automatisierungsskripte“ greift zu kurz. Herkömmliche Skripte folgen meist festen Abläufen und scheitern an Abzweigungen. Loop Engineering setzt einen Agenten in eine kontrollierte Umgebung, in der er zwischen Ziel, Werkzeugen, Zustand und Prüfinstanzen wiederholt versucht und lernt. Das hat unmittelbaren Wert: CI-Triage, Updates, Lintkorrekturen, zusätzliche Tests, Dokumentation, Datenbereinigung und Benchmark-Tuning können vom beaufsichtigten KI-Einsatz zu dauerhaft arbeitenden, von Menschen entworfenen Systemen werden. Das zweite Fehlurteil überschätzt RSI. Ein Agent, der wiederholt Code verändert, beweist noch keine RSI. Die meisten Schleifen automatisieren nur Ausführung oder verbessern höchstens lokal ihren Harness. Ein echter sich verstärkender Fähigkeitszuwachs entsteht dadurch nicht. RSI verlangt strengere Bedingungen. Der Gegenstand der Verbesserung muss künftige Intelligenzerzeugung beeinflussen. Neue Fähigkeiten müssen auf breitere Aufgaben übertragbar sein. Evaluation darf nicht leicht durch Reward Hacking verfälscht werden. Die Schleife darf Berechtigungs- und Sicherheitsgrenzen nicht selbst umgehen. Menschen müssen auf der richtigen Abstraktionsebene urteilen können. Die stärksten Belege liegen weiterhin bei schneller Rückmeldung, klaren Kennzahlen und wiederholbaren Experimenten. Je weiter wir zu offener Forschung, Produkturteilen, langfristiger Architektur und Zusammenarbeit gehen, desto schwächer werden die Prüfinstanzen. Dann wird die Schleife leichter zu einem selbstsicheren Erzeuger von Rauschen. ### Ökonomisch betrachtet liegt der Hebel beim Evaluator Aus wirtschaftlicher Sicht verändern Loop Engineering und RSI dieselbe Größe: die Kosten des Ausprobierens. Früher war jeder Versuch teuer. Menschen mussten verstehen, ausführen, warten und beurteilen. KI senkt die Ausführungskosten, der Kreislauf die Organisationskosten. Ist die Prüfung günstig genug, kann das System mehr Versuche gegen bessere Ergebnisse eintauschen. Damit verschiebt sich jedoch die Knappheit. Den entscheidenden Unterschied macht die Qualität des Evaluators. Im Engineering besteht er aus Tests, Typsystemen, Laufzeitlogs, Nutzerkennzahlen und Regressionsfällen. In der KI-Forschung besteht er aus Benchmarks, Trainingsverlust, Inferenzkosten, Leistung auf realen Aufgaben, zurückgehaltenen Prüfdaten und Schutz gegen Manipulation. Bei Produkten und Organisationen ist er knapper, weil viele Ergebnisse nicht sofort messbar sind. Langfristige Wartungskosten, Nutzervertrauen, Architekturgesundheit und Markenschäden beantwortet kein schneller Benchmark. Die Grenze der Schleife ist deshalb häufig die Grenze ihres Evaluators. Wo harte Prüfungen existieren, kann man weitgehend automatisieren. Wo nur weiche Urteile möglich sind, müssen Menschen beteiligt bleiben. Ohne Prüfinstanz produziert eine Schleife lediglich schneller Fehler. ### Mein Urteil Derzeit verstehe ich es so: Loop Engineering ist eine Grundfähigkeit des Software Engineering im KI-Zeitalter. Es bringt Agenten in kontrollierte Systeme, in denen sie dauerhaft arbeiten können. RSI ist eine höhere Frage rekursiver Fähigkeit. Kann das System die Mechanismen der Intelligenzerzeugung verbessern und diese Verbesserung für die nächste nutzen? AutoResearch liegt dazwischen. Karpathys Version automatisiert eher Forschungsabläufe. Recursives System wirkt wie eine frühe industrielle Form automatisierter KI-Forschung. Bilevel Autoresearch beginnt, die Grenze zur Verbesserung des Verbesserungsmechanismus selbst zu berühren. Die Unterscheidung bleibt klar. Verändert der Kreislauf Aufgabenergebnisse, ist es Loop Engineering. Verändert er den Ablauf der Aufgabenerledigung, ist es ein sich selbst verbessernder Harness. Verändert er den Mechanismus, der die nächste Fähigkeit erzeugt, und können sich diese Verbesserungen rekursiv ansammeln, nähert er sich RSI. Diese Grenze verhindert zwei Extreme: echten Engineering-Hebel als bloßes Skript abzutun und lokale Automatisierung als Intelligenzexplosion misszuverstehen. Loop Engineering ist bereits reale Produktivität. RSI bleibt eine Fähigkeitsgrenze, der wir uns nähern. Dazwischen sind Systeme besonders interessant, die Schleife, Harness, Evaluator, Berechtigungen und menschliches Urteil zusammenbringen. Vielleicht müssen Ingenieure in den nächsten Jahren vor allem lernen, Kreisläufe zu entwerfen, die kontrollierbar bleiben, sich nicht selbst täuschen und zuverlässig wirksame Erfahrung ansammeln. ### Quellen * [karpathy/autoresearch](https://github.com/karpathy/autoresearch) * [Loop Engineering: Die Karpathy-Methode](https://x.com/0xCodila/article/2072329149520232639) * [Loop Engineering: In 14 Schritten vom Prompt zum Schleifenentwurf](https://x.com/0xCodez/status/2064374643729773029) * [Loop Engineering: Der 14-Schritte-Weg vom Prompt zum Schleifenentwurf](https://medium.com/coinmonks/loop-engineering-the-14-step-roadmap-from-prompter-to-loop-designer-bda3edc46fbc) * [Erste Schritte zur automatisierten KI-Forschung – Recursive](https://www.recursive.com/articles/first-steps-toward-automated-ai-research) * [Wenn KI sich selbst baut – Anthropic](https://www.anthropic.com/institute/recursive-self-improvement) * [Harness Engineering zur Selbstverbesserung – Lilian Weng](https://lilianweng.github.io/posts/2026-07-04-harness/) * [Bilevel Autoresearch: Meta-Autoresearch über sich selbst](https://arxiv.org/abs/2603.23420) * [Automatische Forschung mit Spezialagenten entwickelt wirksame, nicht triviale Trainingsrezepte](https://arxiv.org/abs/2605.05724)