KI-Agenten arbeiten selbstständig – doch wer kontrolliert sie?

Wenn eine richtige Antwort nicht genügt

Ein KI-Agent meldet eine Aufgabe als erledigt. Das Ergebnis sieht gut aus. Doch welche Daten hat er dafür verändert und welche Aktionen ausgeführt?

Genau hier setzt «Agent Anomaly Detection» an. Google hat die Funktion am 16. September 2026 als eingeschränkte Vorabversion auf seiner Gemini Enterprise Agent Platform vorgestellt.

Sie untersucht protokollierte Agenten-Aktivitäten und meldet auffälliges Verhalten – beispielsweise die Nutzung nicht vorgesehener Werkzeuge oder das Überschreiten von Berechtigungen. Zu den Meldungen gehören eine Erklärung, eine Einschätzung der Schwere und empfohlene nächste Schritte.

Was das für Bau und Handwerk bedeutet

Ein denkbares Beispiel aus dem Betriebsalltag: Ein Agent soll eine Kundenanfrage lesen und einen Offertentwurf vorbereiten. Dafür benötigt er Informationen zu Leistungen und Preisen. Eine verbindliche Offerte zu versenden oder bestehende Kundenkonditionen zu ändern, wäre ein zusätzlicher Auftrag.

Je mehr Aufgaben Betriebe an KI übertragen, desto wichtiger wird diese Abgrenzung. Entscheidend ist, welche Daten ein Agent lesen darf, was er verändern kann und welche Schritte eine Freigabe benötigen.

Kontrolle im Hintergrund

Laut Google läuft die Analyse im Hintergrund, ohne die laufende Anfrage zu verzögern. Sie hilft dabei, auffällige Abläufe zu erkennen und zu untersuchen. Eine nachgelagerte Prüfung verhindert allerdings nicht automatisch jede fehlerhafte Aktion.

Die Funktion befindet sich zunächst in einer eingeschränkten Vorabversion. Sie ist damit noch kein allgemein verfügbares Werkzeug für jeden Handwerksbetrieb.

Quelle

Google Developers: Agent Anomaly Detection – Vorstellung vom 16. September 2026

Fazit: Gute KI-Arbeit muss überprüfbar sein

Aus Sicht von handwerker.ch zeigt die Entwicklung, worauf es beim betrieblichen KI-Einsatz ankommt: klare Aufträge, passende Zugriffsrechte und nachvollziehbare Änderungen. Das gilt besonders, wenn Agenten Kundeninformationen, Preise oder Betriebsdaten bearbeiten.

Der praktische Massstab lautet: Kann der Betrieb erkennen, was die KI gemacht hat – und bei einem Fehler gezielt eingreifen?

Disclaimer handwerker.ch (Erweiterte Fassung 2026): Die deutsche Fassung dieses Disclaimers ist die rechtlich verbindliche Originalfassung. Allfällige Übersetzungen werden ausschliesslich zu Informations- und Verständlichkeitszwecken bereitgestellt. Im Falle von Abweichungen, Auslegungsfragen oder Widersprüchen zwischen der deutschen Fassung und einer Übersetzung geht die deutsche Fassung in jedem Fall vor. Alle Angaben, Bildquellen und Informationen auf handwerker.ch, deren Subdomains sowie zugehörigen Plattformen sind unverbindlich und ohne Gewähr. Die bereitgestellten Informationen dienen ausschliesslich der allgemeinen Information und stellen keine professionelle Beratung dar, insbesondere keine Bau-, Rechts-, Finanz-, Versicherungs-, Steuer- oder Investitionsberatung. Bitte prüfen Sie relevante Angaben stets anhand der offiziellen Webseiten, Register, Unterlagen oder direkten Auskünfte der jeweiligen Unternehmen. Änderungen, Irrtümer und abweichende Verfügbarkeiten bleiben jederzeit vorbehalten. Bildquellen & Urheberrechte: Bilder, Abbildungen, Firmenzeichen und Logos werden von den jeweiligen Unternehmen direkt oder indirekt öffentlich im digitalen Raum bereitgestellt oder stammen aus öffentlich zugänglichen Quellen (z. B. Screenshots von Websites oder Social-Media-Präsenzen). Die Urheber- und Markenrechte verbleiben beim jeweiligen Rechteinhaber. Die Nutzung durch handwerker.ch dient ausschliesslich der Identifikation, Wiedererkennung und Zuordnung des jeweiligen Betriebs sowie der redaktionellen Berichterstattung und Veranschaulichung. Die Darstellung von Namen, Firmenzeichen, Logos, Bildern oder sonstigen Kennzeichen begründet keine Kooperation, Partnerschaft, Empfehlung, Zertifizierung, Freigabe, Zustimmung oder Werbeabsicht, sofern dies nicht ausdrücklich und gesondert angegeben ist. Logos, Firmenzeichen und sonstige Kennzeichen werden nicht als Hinweis auf eine geschäftliche Beziehung zwischen handwerker.ch und dem jeweiligen Unternehmen verwendet, sondern ausschliesslich im Zusammenhang mit dem konkret dargestellten Firmenprofil oder Bericht. Technischer Hinweis & KI-Einsatz: Zur Optimierung von Daten, Texten und Bildern sowie zur Erstellung von Zusammenfassungen (z. B. durch HandwerkerGPT) setzen wir modernste Systeme der Künstlichen Intelligenz (KI/AI) sowie AI Agents ein. Diese Technologien dienen der effizienten Informationsaufbereitung. Bitte beachten Sie, dass KI-generierte Inhalte ("Halluzinationen") Fehler enthalten, Fakten falsch verknüpfen oder unvollständig sein können. handwerker.ch übernimmt ausdrücklich keine Haftung für die Richtigkeit, Vollständigkeit oder Aktualität dieser automatisiert erstellten Inhalte. Massgeblich sind stets die offiziellen Angaben der jeweiligen Unternehmen sowie deren eigene Webpräsenzen. Weiterführende Informationen (siehe Footer handwerker.ch): a) Transparenzbericht, b) Datenschutzerklärung, c) Impressum, d) Allgemeine Geschäftsbedingungen (AGB)