KI-Agenten arbeiten selbstständig – doch wer kontrolliert sie?

Wenn eine richtige Antwort nicht genügt

Ein KI-Agent meldet eine Aufgabe als erledigt. Das Ergebnis sieht gut aus. Doch welche Daten hat er dafür verändert und welche Aktionen ausgeführt?

Genau hier setzt «Agent Anomaly Detection» an. Google hat die Funktion am 16. September 2026 als eingeschränkte Vorabversion auf seiner Gemini Enterprise Agent Platform vorgestellt.

Sie untersucht protokollierte Agenten-Aktivitäten und meldet auffälliges Verhalten – beispielsweise die Nutzung nicht vorgesehener Werkzeuge oder das Überschreiten von Berechtigungen. Zu den Meldungen gehören eine Erklärung, eine Einschätzung der Schwere und empfohlene nächste Schritte.

Was das für Bau und Handwerk bedeutet

Ein denkbares Beispiel aus dem Betriebsalltag: Ein Agent soll eine Kundenanfrage lesen und einen Offertentwurf vorbereiten. Dafür benötigt er Informationen zu Leistungen und Preisen. Eine verbindliche Offerte zu versenden oder bestehende Kundenkonditionen zu ändern, wäre ein zusätzlicher Auftrag.

Je mehr Aufgaben Betriebe an KI übertragen, desto wichtiger wird diese Abgrenzung. Entscheidend ist, welche Daten ein Agent lesen darf, was er verändern kann und welche Schritte eine Freigabe benötigen.

Kontrolle im Hintergrund

Laut Google läuft die Analyse im Hintergrund, ohne die laufende Anfrage zu verzögern. Sie hilft dabei, auffällige Abläufe zu erkennen und zu untersuchen. Eine nachgelagerte Prüfung verhindert allerdings nicht automatisch jede fehlerhafte Aktion.

Die Funktion befindet sich zunächst in einer eingeschränkten Vorabversion. Sie ist damit noch kein allgemein verfügbares Werkzeug für jeden Handwerksbetrieb.

Quelle

Google Developers: Agent Anomaly Detection – Vorstellung vom 16. September 2026