Human in the Loop, auf Deutsch etwa „Mensch in der Schleife“, heißt: Ein KI-System arbeitet nicht durch, sondern hält an einer festgelegten Stelle an, und ein Mensch prüft, gibt frei oder lehnt ab, bevor etwas passiert. Davon abzugrenzen ist Human on the Loop: Das System handelt selbst, ein Mensch gestaltet es im Entwurf mit, überwacht den Betrieb und greift bei Bedarf ein. Bei KI-Agenten setzt du Human in the Loop mit vier Mustern um: Freigabe vor jeder Aktion mit Wirkung nach außen, Stichprobe, Eskalation bei Unsicherheit und eine getrennte Prüfrolle. Technisch gehört die Freigabe ins Werkzeug, nicht in den Prompt: Claude Code fragt über Ask-Regeln nach, n8n pausiert einen Agenten vor ausgewählten Tools. Rechtlich verlangt die KI-Verordnung menschliche Aufsicht nur für Hochrisiko-Systeme, für die meisten erst ab dem 2. Dezember 2027.
Ich führe mein Geschäft mit einer eigenen KI-Belegschaft, jeder Mitarbeiter mit eigener Rolle, eigener Personalakte und eigenen Grenzen. Technik und Recht hier stammen aus Herstellerdoku und Gesetzestext, Stand 04.11.2026. Alle Beiträge zu Agenten sammle ich auf der Seite KI-Agenten.
Human in the Loop: Bedeutung und Definition
Eine gute Arbeitsdefinition liefern die Ethik-Leitlinien der von der EU-Kommission eingesetzten Expertengruppe für KI von 2019. Sie unterscheiden drei Formen menschlicher Aufsicht. Human in the Loop bezieht sich dort „auf die Fähigkeit des Menschen, in jeden Entscheidungszyklus des Systems einzugreifen“, mit dem bemerkenswerten Zusatz, das sei „in vielen Fällen weder möglich noch wünschenswert“.
Die vierte Zeile ist umgangssprachlich und stammt nicht aus den Leitlinien. Praktisch wichtig ist der Schlusssatz des Abschnitts: „Je weniger Aufsicht ein Mensch über ein KI-System ausüben kann, desto ausführlicher muss es zuvor getestet werden und desto strenger muss die Lenkung und Kontrolle sein.“
Human in the Loop oder Human on the Loop?
Die Wahl hängt nicht davon ab, wie gut das Modell ist, sondern davon, ob sich ein Fehler zurückholen lässt. Eine Mail an einen Kunden, ein veröffentlichter Text, eine bezahlte Rechnung: Einmal draußen ist draußen. Dort gehört der Mensch in die Schleife. Eine Sortierung im Posteingang, ein interner Bericht, ein Entwurf: Ein Fehler fällt beim Nachsehen auf. Dort reicht Human on the Loop.
Wo die Grenze zwischen Feststellen und Entscheiden verläuft, steht in Was darf eine KI-Führungsrolle entscheiden?. Hier geht es darum, wie du sie im Ablauf und technisch baust.
Vier Muster für KI-Agenten
1. Freigabe vor der Aktion. Der Agent bereitet vollständig vor, der letzte Schritt mit Wirkung nach außen wartet auf ein Ja. Das ist die strengste Form, richtig für alles, was Geld kostet, das Haus verlässt oder etwas zusagt. Entscheidend ist, woran man die Freigabe erkennt. „Sieht gut aus“ ist eine Meinung, keine Anweisung.
2. Stichprobe. Der Agent handelt selbst, ein Mensch prüft einen festen Anteil der Ergebnisse nachträglich. Das ist Human on the Loop mit Methode und passt zu Aufgaben mit Volumen, deren Fehler zurücknehmbar sind. Leg vorher fest, was als Fehler zählt und ab wie vielen Fehlern die Aufgabe wieder in die Freigabe zurückfällt.
3. Eskalation bei Unsicherheit. Der Agent entscheidet Standardfälle selbst und gibt alles, was nicht eindeutig passt, an einen Menschen zurück. Das funktioniert nur, wenn „nicht eindeutig“ vorher beschrieben ist.
4. Getrennte Prüfrolle. Bevor ein Ergebnis beim Menschen landet, prüft eine zweite Instanz, die es nicht erstellt hat. Das ist das Vier-Augen-Prinzip, übertragen auf Agenten. Es ersetzt die Freigabe nicht, aber der Mensch muss nicht mehr jeden Tippfehler selbst finden. Wie eine KI die Arbeit einer anderen KI prüft, steht in LLM as a Judge: wie KI die KI prüft.
Technisch umsetzen: Rückfrage im Werkzeug statt Bitte im Prompt
„Frag mich vor dem Versenden“ im Prompt ist eine Bitte an das Modell. Belastbar wird Human in the Loop erst, wenn das Werkzeug selbst anhält.
Claude Code kennt laut Anthropic drei Sorten von Berechtigungsregeln: Allow-Regeln laufen ohne Rückfrage, Ask-Regeln fragen jedes Mal nach, Deny-Regeln sperren. Ausgewertet wird in der Reihenfolge Deny, Ask, Allow; eine passende Ask-Regel fragt also auch, wenn zugleich eine genauere Allow-Regel passt. Der wichtigste Satz der Doku: „Permission rules are enforced by Claude Code, not by the model.“ Ein Beispiel für die Einstellungsdatei:
{
"permissions": {
"ask": ["Bash(git push *)"],
"deny": ["Read(./.env)"]
}
}
Dazu kommen die Berechtigungsmodi. Im Modus Manual hält Claude Code vor den meisten Aktionen an, die Dateien ändern, Befehle ausführen oder ins Netz gehen. Im Modus auto prüft laut Doku ein zweites Modell die Aktionen „instead of you“, also an deiner Stelle. Das ist der Schritt von in the Loop zu on the Loop; laut Anthropic reduziert der Modus Rückfragen, garantiert aber keine Sicherheit, und Ask-Regeln fragen weiter nach. Seit Version 2.1.283 starten interaktive Sitzungen im Terminal und in VS Code laut Doku standardmäßig im Modus auto. Wer Human in the Loop will, setzt permissions.defaultMode auf default (Manual) oder legt Ask-Regeln an. Für unbeaufsichtigte Läufe mit claude -p gilt seit Version 2.1.302: Was eine Freigabe bräuchte, wird abgelehnt, solange keine Allow-Regel, kein Hook und kein Freigabe-Werkzeug es erlaubt. Die Einzelheiten stehen in Claude Code Sicherheit: Rechte und Sandbox.
n8n hat für KI-Agenten einen eigenen Freigabeschritt. Im Tools-Panel eines AI-Agent-Knotens legst du einen Abschnitt „Human review“ an und hängst die Tools darunter, die nur mit Zustimmung laufen dürfen. Will der Agent ein solches Tool nutzen, pausiert der Workflow und schickt eine Anfrage, etwa über Slack, Microsoft Teams, Telegram oder Gmail. Der Mensch sieht Tool und Parameter und wählt Approve oder Deny; bei Deny läuft nichts, und der Agent erfährt davon. Im Systemprompt sollte laut n8n stehen, welche Tools eine Freigabe brauchen und wie der Agent auf ein Nein reagiert. Für Abläufe ohne Agent pausiert der Wait-Knoten, bis ein Webhook-Aufruf oder ein Formular kommt. Was ich beim Bau eines Agenten mit n8n gelernt habe, steht in n8n KI-Agent erstellen: was ich gelernt habe. Den Aufbau eines Workflows Schritt für Schritt zeigt n8n Workflow erstellen: Tutorial mit Beispiel.
Wie das bei mir aussieht
In meinem Betrieb hat sich eine Einteilung in drei Stufen bewährt. Stufe 3 heißt „Nur nach Freigabe“: Geld, alles, was das Haus verlässt, Verträge, Zusagen und Abwägungen ohne Regel. Hier bereitet der Mitarbeiter nur vor. „Mach mal fertig“ ist dabei keine Freigabe, erst ein klares „versende“ oder „stell online“, notiert mit Wortlaut und Zeitpunkt.
Im Alltag sieht das so aus: Sonja schreibt Mails in meinem Ton und legt sie als Entwurf in mein Postfach, versendet wird erst nach meinem ausdrücklichen Wort (Sonja). Frieda sortiert den Posteingang in vier Stapel plus einen fünften für Fälle, die meine Einschätzung brauchen, und hat noch nie selbst etwas versendet; jede Antwort bleibt ein Entwurf, bis ich ihn freigebe (Frieda). Der fünfte Stapel ist Eskalation bei Unsicherheit in ihrer einfachsten Form. Anton legt Angebote und Rechnungen als Entwurf an und finalisiert nie ungefragt; selbst auf Zuruf nennt er erst die Folgen und will ein klares Ja von mir (Anton).
Dazu gilt: Ersteller und Prüfer sind nie dieselbe Instanz. Am 20. Juli fing der Review-Pass in einem Entwurf von Conny „seit ein paar Wochen“, wo es vier Tage waren. Und was ein Mitarbeiter nicht darf, sperre ich technisch, statt es nur in die Arbeitsanweisung zu schreiben.
Human in the Loop in der KI-Verordnung
Das ist keine Rechtsberatung, sondern die Betreiber-Perspektive. Die KI-Verordnung, Verordnung (EU) 2024/1689 in der Fassung der Änderungsverordnung (EU) 2026/1744, regelt menschliche Aufsicht in Artikel 14, und zwar für Hochrisiko-KI-Systeme. Sie müssen so gebaut sein, dass natürliche Personen sie während der Verwendung wirksam beaufsichtigen können: Grenzen des Systems verstehen, sich des „Automatisierungsbias“ bewusst bleiben, also des übermäßigen Vertrauens in die Ausgabe, die Ausgabe außer Acht lassen oder rückgängig machen und das System mit einer „Stopptaste“ oder einem ähnlichen Verfahren anhalten. Den Betreiber verpflichtet Artikel 26 Absatz 2, die Aufsicht Personen „mit der erforderlichen Kompetenz, Ausbildung und Befugnis“ zu übertragen.
Wichtig sind zwei Einschränkungen. Erstens gilt das nur für Hochrisiko-Systeme, etwa nach Anhang III im Personalbereich oder bei der Bonitätsprüfung. Ein Agent, der deine Mails entwirft, gehört nicht dazu. Zweitens gelten diese Pflichten laut Artikel 113 in der geänderten Fassung erst ab dem 2. Dezember 2027 für Systeme nach Anhang III und ab dem 2. August 2028 für Systeme nach Anhang I. Den Überblick über alle Fristen gibt KI-Gesetz der EU: Überblick und Fristen 2026.
Unabhängig davon gilt Artikel 22 DSGVO: Grundsätzlich muss sich niemand einer Entscheidung unterwerfen, die „ausschließlich auf einer automatisierten Verarbeitung“ beruht und rechtliche Wirkung entfaltet oder ihn ähnlich erheblich beeinträchtigt. Ein Mensch, der nur ungesehen bestätigt, ist darauf keine verlässliche Antwort. Sind bei dir Bewerbungen, Kredite oder Kündigungen im Spiel, lass die Ausgestaltung von jemandem prüfen, der dafür haftet.
Häufige Fragen
Was bedeutet Human in the Loop auf Deutsch?
Wörtlich „Mensch in der Schleife“. Die deutsche Fassung der EU-Ethik-Leitlinien spricht von der „interaktiven Einbindung eines Menschen“. Gemeint ist: Ein Mensch kann in jedem Durchlauf eingreifen, bevor das Ergebnis wirkt.
Was ist der Unterschied zwischen Human in the Loop und Human on the Loop?
Bei Human in the Loop wartet das System auf den Menschen, bevor es handelt. Bei Human on the Loop handelt es selbst, und der Mensch überwacht und greift ein. Das Erste passt zu Aktionen, die sich nicht zurückholen lassen, das Zweite zu zurücknehmbaren Fehlern.
Ist Human in the Loop gesetzlich vorgeschrieben?
Für Hochrisiko-KI-Systeme verlangt Artikel 14 der KI-Verordnung menschliche Aufsicht, für Systeme nach Anhang III ab dem 2. Dezember 2027. Für ausschließlich automatisierte Entscheidungen über Menschen mit rechtlicher Wirkung gilt Artikel 22 DSGVO. Für einen Agenten, der nur Entwürfe schreibt, folgt aus beiden keine solche Pflicht. Das ist keine Rechtsberatung.
Reicht es, wenn ein Mensch auf „Freigeben“ klickt?
Nur, wenn er vorher tatsächlich prüft. Die KI-Verordnung nennt die Gefahr beim Namen: Automatisierungsbias. Hilfreich sind ein klarer Freigabewortlaut, eine Prüfrolle davor und eine Anfrage, die zeigt, was genau passieren soll.
Wann kann ich auf Human in the Loop verzichten?
Bei Aufgaben, deren Ergebnis nachprüfbar richtig oder falsch ist und keinen Zustand ändert: prüfen, vergleichen, sortieren, Entwürfe schreiben. Dort reichen Stichprobe oder Eskalation. Sobald Geld, Außenwirkung oder eine Zusage im Spiel ist, bleibt der Mensch in der Schleife.
Wie du weitermachst
Nimm deinen Agenten und schreib zu jedem Werkzeug, das er nutzen darf, eine Zeile: frei, Stichprobe, Freigabe oder nie. Alles mit „Freigabe“ trägst du danach als Ask-Regel oder Human-review-Schritt in dein Werkzeug ein, nicht in den Prompt. Wie andere ihre Freigaben schneiden, besprechen wir in meiner Community Claude Practitioners.
