Agenten erledigen Arbeit schneller, als Menschen sie prüfen können. Fünf Stücke dazu, wo die Freigabe sitzen muss, wie sie mit der Zeit verflacht und was das Gesetz von ihr verlangt.

Das Stück der Woche, weil ein Unternehmen, das Agenten verkauft, bei sich selbst gemessen hat, wo sie warten. Anthropic hat die eigene Belegschaft untersucht. Der Anteil der Einsteiger an den technischen Einstellungen fiel von 27 Prozent im Mai 2025 auf 9 Prozent. Im August kamen in interaktiven Sitzungen, die Mitarbeitende selbst steuern, sechs Agentenstunden auf jede Arbeitsstunde eines Menschen, und diese Sitzungen warten rund 80 Prozent der Zeit auf eine Person. Der Bericht nennt die menschliche Aufmerksamkeit den Engpass. Business Insider hat die Einstellungszahl in den Mittelpunkt gestellt. Für ein Industrieunternehmen zählt mehr die Stelle, an der gewartet wird: bei der Person, die prüfen und freigeben muss. Wer Agenten einführt und diese Stelle nicht mitplant, verlagert die Arbeit dorthin, ohne sie zu verringern.

Wie ein Team die Freigabe nach Risiko staffelt. Claude schreibt rund 90 Prozent des Codes von Claude Code. Von Juni bis September hat das Team die gemergten Pull Requests mehr als verdoppelt, und der Anteil, den es zurücknehmen musste, sank um mehr als 40 Prozent. Interessant ist der Weg: Der Agent prüft seine Arbeit selbst, ein KI-Review und ein Sicherheitsreview laufen, bevor ein Mensch hinsieht, und ein Klassifikator legt die Risikostufe fest, also keine, eine oder zwei Personen. Das Ziel nennt das Team ausdrücklich: höchstens ein Mensch in der Schleife, und das darf der Autor sein. Manche Pfade brauchen immer einen Menschen, und wer die Änderung beauftragt hat, verantwortet sie. Das ist eine Tabelle der Entscheidungsrechte für Software, übertragbar auf jeden Prozess, den ein Agent anfasst. Was noch fehlt, schreibt das Team selbst: Schutzschalter, die die Freigabe verschärfen, sobald sich die Kennzahlen bewegen. Die wollen die Entwickler haben, bevor mehr Code ganz ohne Menschen eingeht.

Warum eine Freigabe mit der Zeit nichts mehr prüft. Margaret Mitchell und Avijit Ghosh von Hugging Face und Samir Passi von Data & Society argumentieren in einem Positionspapier, dass heutige Agenten die Aufsicht durch Menschen erschweren und dass längere Nutzung genau die Fähigkeiten abbaut, die diese Aufsicht braucht. Wer ständig Rückfragen eines Agenten bestätigt, achtet irgendwann nicht mehr darauf, was er bestätigt; das Papier nennt das „approval fatigue“. Die Autoren stützen sich auf Lisanne Bainbridge, die 1983 beschrieb, wie die Automatisierung industrieller Prozesse die Probleme des Bedieners vergrößern kann, statt sie zu beseitigen, und fassen es in vier Wörtern: „Oversight degrades the overseer.“ Für ein Unternehmen ist der praktische Teil nützlicher. Sie schlagen vor zu messen, ob die Prüfdauer sinkt, während die Freigabequote gleich bleibt, Aufgaben mit bekannter Lösung einzustreuen, Prüfer rotieren zu lassen und die Rollen zu trennen, damit nicht freigibt, wer vom Ergebnis profitiert. Das steht quer zur Regel des Claude-Code-Teams, nach der die Person, die den Agenten beauftragt hat, als Prüfer zählen darf. Wer neben jeder Freigabe die Prüfdauer protokolliert, kann die Qualität einer Freigabe messen.

Wo die Freigabe in einer Fabrik sitzt, und was sie kostet. Booz Allen hat am 6. Oktober einen Laborversuch veröffentlicht, in dem Frontier-Modelle eine Anlage angriffen, die laut Bericht einer allgemeinen Fertigung nachgebaut ist, mit SPS, HMI, SCADA, Frequenzumrichter und Roboterarm in getrennten Netzzonen. Alle acht Testziele wurden nach Angabe des Berichts erreicht. In einem Test kamen die Modelle in gut 16 Minuten vom Perimeter bis zu Aktionen in der Steuerungszone, in einem anderen fanden und bewegten sie den Roboterarm innerhalb von Minuten. Vor jedem Exploit und jeder Aktion mit physischer Wirkung mussten die Agenten auf die Freigabe eines Menschen warten. Ohne diese Freigaben, sagte Booz Allens Kyle Miller zu Dark Reading, hätte es wohl nur die Hälfte der Zeit gedauert. Der Plan, den ein Modell für den Roboterarm schrieb, sah eine einzige kleine, langsame und umkehrbare Bewegung vor, hinter einer ausdrücklichen Freigabe, und jeden Eingriff in Sicherheitskonfiguration, Geschwindigkeitsübersteuerung oder Bremse als eigene Rückfrage. Booz Allen betreibt das Labor selbst, nennt die Modelle nicht und bezeichnet die Ergebnisse als vorläufig. Im Labor war die Freigabe eine Vorkehrung der Tester; ein echter Angreifer hätte sie nicht. Verteidigern rät der Bericht zu gesteuerter Automatisierung, die schneller reagiert und die Freigabe durch Menschen für sicherheitsrelevante Entscheidungen behält.

Abweichung von der Berichterstattung Dark Reading schreibt am 16. Oktober, das Modell habe den Roboterarm in einem Angriff von nur 16 Minuten übernommen und bewegt. Im Bericht gehören die gut 16 Minuten zu einem anderen Test; den Arm bewegten die Modelle in einem eigenen Test „within minutes“ (S. 4 und 8).

Was das Gesetz verlangt, und für wen. Art. 14 AI Act verlangt, dass Hochrisiko-KI-Systeme so gebaut sind, dass Menschen sie wirksam beaufsichtigen können, mit Maßnahmen, die zu Risiko, Autonomiegrad und Einsatzkontext passen. Wer die Aufsicht übernimmt, muss unter anderem um die Neigung wissen, sich auf die Ausgabe zu verlassen; das Gesetz nennt Automation Bias beim Namen (Art. 14 Abs. 4 Buchst. b). Diese Personen müssen eine Ausgabe verwerfen, übersteuern oder rückgängig machen und das System in einen sicheren Zustand anhalten können (Buchst. d und e). Der Betreiber überträgt die Aufsicht Personen mit Kompetenz, Schulung und Befugnis und unterstützt sie dabei (Art. 26 Abs. 2). Eine Mindestzahl von Prüfern legt Art. 14 nur für die biometrische Fernidentifizierung fest: zwei Personen (Abs. 5). Seit der Änderung durch die Verordnung (EU) 2026/1744 gelten diese Pflichten ab dem 2. Dezember 2027 für Systeme nach Anhang III und ab dem 2. August 2028 für Produkte nach Anhang I (Art. 113). Dieselbe Änderung hat die Maschinenverordnung in Abschnitt B von Anhang I verschoben. KI, die als Sicherheitsbauteil einer Maschine hochriskant ist, unterliegt Art. 14 damit nicht mehr unmittelbar; die Kommission soll die Anforderungen per delegiertem Rechtsakt in Anhang III der Maschinenverordnung übernehmen, anzuwenden bis 2. August 2028 (Art. 3 der Änderungsverordnung). Der Normentwurf zur menschlichen Aufsicht, prEN 18229-3, am 7. August erschienen, hat eigene Abschnitte zur Reaktionszeit, zu Fällen, in denen ein Eingreifen in Echtzeit technisch nicht machbar ist, zu Überlastung und zu Tests auf Automation Bias. Für einen Agenten im Einkauf oder in der Instandhaltungsplanung, der in keine Hochrisiko-Kategorie fällt, gelten diese Pflichten nicht; dort legt das Unternehmen die Freigabe selbst fest.