KI-Agenten steuern & freigeben: Human-in-the-Loop

Kurz gesagt: KI-Agenten bleiben kontrollierbar, wenn vier Dinge geregelt sind: Freigabestufen (was darf der Agent allein, was nur nach Freigabe), Eskalationsregeln (wann übergibt er an einen Menschen), Stichproben (wer prüft wie oft) und ein lückenloses Protokoll. Im Unternehmens-Cockpit sieht Ihr Team das alles an einem Ort – und entscheidet, statt hinterherzuräumen.

Die größte Hürde für KI-Agenten im Mittelstand ist nicht die Technik, sondern das Vertrauen. In einer YouGov-Befragung von 438 Entscheidern im Auftrag von bevh und Alibaba.com (September 2026) nannten 32 % fehlendes Vertrauen in die Technologie als Hemmnis – mehr als jeden anderen Grund. Das ist berechtigt: Ein Agent, der selbstständig E-Mails beantwortet oder Angebote verschickt, braucht klare Grenzen. Dieser Artikel zeigt, wie Sie diese Grenzen ziehen.

Human-in-the-Loop, Human-on-the-Loop: Was ist der Unterschied?

Modell	Wie es funktioniert	Geeignet für
Human-in-the-Loop	Der Agent bereitet vor, ein Mensch gibt jede einzelne Aktion frei.	Angebote, Rechnungen, Bestellungen, alles mit finanzieller oder rechtlicher Wirkung
Human-on-the-Loop	Der Agent handelt selbst, ein Mensch überwacht, macht Stichproben und greift bei Auffälligkeiten ein.	Anrufe annehmen, Termine buchen, Statusauskünfte, Postfach sortieren
Human-out-of-the-Loop	Der Agent handelt ohne menschliche Kontrolle.	Im Mittelstand für kundenwirksame Aufgaben nicht zu empfehlen

In der Praxis entspricht das den Stufen im Organigramm mit KI-Agenten: „KI + Mensch“ ist Human-in-the-Loop, „ganz KI“ ist Human-on-the-Loop.

Ablauf: KI-Agent bereitet vor, Mensch gibt frei, Eskalation an zuständige Person, Protokoll und Stichproben — Freigabe, Eskalation, Stichprobe, Protokoll – die vier Bausteine der Kontrolle.

Die vier Bausteine der Kontrolle

1. Freigabestufen festlegen

Für jede Aufgabe eines Agenten gilt eine von drei Stufen: darf selbst (z. B. Termin buchen), darf vorbereiten (z. B. Angebotsentwurf – Versand erst nach Freigabe), darf nicht (z. B. Preise zusagen, Rabatte gewähren). Diese Stufen stehen schriftlich in der „Stellenbeschreibung“ des Agenten.

2. Eskalationsregeln definieren

Ein guter Agent weiß, wann er nicht zuständig ist. Typische Auslöser für die Übergabe an einen Menschen: Beschwerde oder verärgerter Ton, Betrag über einer Schwelle, unbekannter Sachverhalt, ausdrücklicher Wunsch nach einem Menschen, Unsicherheit bei der Antwort. Wichtig ist, an wen übergeben wird – im Cockpit landet der Fall direkt bei der zuständigen Rolle.

3. Stichproben einplanen

Auch bei „ganz KI“ prüft ein Mensch regelmäßig. Am Anfang dicht (z. B. täglich eine Handvoll Vorgänge), später seltener, wenn die Qualität stabil ist. Gefundene Fehler fließen als Regel oder Beispiel zurück an den Agenten.

4. Alles protokollieren

Jede Aktion eines Agenten wird gespeichert: Was kam rein, was hat er getan, worauf hat er sich gestützt, wer hat freigegeben. Das Protokoll ist Grundlage für Stichproben, Fehleranalyse und Nachweise gegenüber Kunden, Prüfern oder Behörden.

Rechte nach dem Minimalprinzip

Ein Agent bekommt nur die Zugriffe, die seine Aufgabe braucht. Der Telefon-Agent liest den Kalender, aber nicht die Buchhaltung. Der Belege-Agent schreibt Entwürfe ins Buchhaltungssystem, bucht aber nicht selbst. So bleibt der Schaden eines Fehlers begrenzt – und die Datenschutz-Folgenabschätzung überschaubar. Wie Sie KI datenschutzkonform betreiben, beschreibt Souveräne KI im Mittelstand.

Diese Kennzahlen gehören ins Cockpit

Kennzahl	Was sie zeigt
Erledigte Vorgänge je Agent	Wie viel Arbeit der Agent tatsächlich übernimmt
Freigabequote ohne Änderung	Wie gut die Entwürfe sind – steigt sie, kann die Kontrolle gelockert werden
Eskalationsquote	Wie oft der Agent an Menschen übergibt – zu hoch heißt: Regeln oder Wissen fehlen
Offene Freigaben	Wo Ihr Team zum Engpass wird
Bearbeitungszeit	Wie schnell Kunden eine Antwort bekommen
Fehler aus Stichproben	Wo nachgeschärft werden muss

Wie Sie daraus den wirtschaftlichen Nutzen ableiten, zeigt KI-ROI berechnen.

Was der EU AI Act verlangt

Transparenz (Art. 50): Seit 2. August 2026 müssen Menschen erfahren, dass sie mit einer KI interagieren – etwa wenn ein Agent Anrufe annimmt oder Chats beantwortet –, sofern das nicht offensichtlich ist.
Hochrisiko-Anwendungen: Für KI etwa in Personalauswahl oder Kreditentscheidungen gelten strenge Pflichten, darunter wirksame menschliche Aufsicht. Durch den Digital Omnibus greifen die vollen Anforderungen für diese Fälle (Anhang III) erst ab 2. Dezember 2027.
Automatisierte Entscheidungen (DSGVO Art. 22): Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung für eine Person sollten nicht allein ein Agent treffen.

Die meisten Agenten im Mittelstand – Telefon, Postfach, Angebote, Belege – sind keine Hochrisiko-Systeme. Eine saubere Freigabelogik ist trotzdem die beste Vorbereitung. Details: EU AI Act 2026 und KI-Governance im Mittelstand. Dieser Abschnitt ersetzt keine Rechtsberatung.

So steuert Ihr Team im Unternehmens-Cockpit

Im Unternehmens-Cockpit mit KI-Agenten laufen die vier Bausteine zusammen. Jede Rolle sieht im Teamportal ihre offenen Freigaben, eskalierte Fälle und die Ergebnisse ihrer Agenten. Die Geschäftsführung sieht die Kennzahlen über alle Positionen. Und weil mysoftwarelab das Cockpit als externes KI-Department betreibt, liegen Monitoring, Wartung und Verbesserung der Agenten nicht bei Ihrem Team – Ihr Team entscheidet nur noch.

Häufige Fragen zur Steuerung von KI-Agenten

Wie behalte ich die Kontrolle über KI-Agenten?

Mit Freigabestufen pro Aufgabe, klaren Eskalationsregeln, regelmäßigen Stichproben und einem vollständigen Protokoll aller Agenten-Aktionen.

Was bedeutet Human-in-the-Loop?

Der Agent bereitet eine Aufgabe vor, ein Mensch prüft und gibt jede einzelne Aktion frei, bevor sie wirksam wird.

Darf ein KI-Agent selbstständig mit Kunden kommunizieren?

Ja, für geeignete Aufgaben wie Terminbuchung oder Statusauskünfte. Seit 2. August 2026 müssen Kunden nach Art. 50 EU AI Act erkennen können, dass sie mit einer KI sprechen.

Wie viel Zeit kostet die Kontrolle mein Team?

Am Anfang mehr, weil Stichproben dicht sind. Mit steigender Freigabequote ohne Änderung wird die Kontrolle schrittweise gelockert – die Kennzahlen im Cockpit zeigen, wann.

Fazit: Vertrauen entsteht durch Sichtbarkeit

KI-Agenten sind nicht vertrauenswürdig, weil das Modell gut ist, sondern weil jeder Schritt sichtbar und jede kritische Aktion freigegeben ist. Wer das von Anfang an regelt, kann Agenten guten Gewissens arbeiten lassen.

Unternehmens-Cockpit mit KI-Agenten

Die Agenten arbeiten, Ihr Team entscheidet.

Rückruf in 24 Stunden – danach sehen Sie im klickbaren Prototyp, wie Freigaben in Ihrem Cockpit aussehen würden.

Rückruf in 24 h anfordern → Pakete & Preise