AI Governance
Stand: 24.05.2026
Jeder Agent, den wir bauen, kommt mit einer Governance-Dokumentation, die für Audit, Aufsicht und EU-AI-Act-Konformität ausreicht. Hier die Kurzfassung.
1. Risikoklassifizierung
Wir klassifizieren jeden Agent gemäß EU AI Act in eine der vier Risikostufen (unzulässig, hoch, begrenzt, minimal). Für jede Kategorie definieren wir die anwendbaren Pflichten — Transparenz, Aufsicht, Datenqualität, Robustheit.
2. Human Oversight
Jeder Agent verfügt über klare Eskalationspfade. Entscheidungen mit potentiell rechtlicher oder wirtschaftlicher Tragweite werden einem Menschen vorgelegt oder erfordern explizite Freigabe.
3. Datenqualität und -herkunft
Wir dokumentieren, welche Datenquellen ein Agent nutzt, in welcher Granularität, mit welchen Berechtigungen und Aufbewahrungsfristen.
4. Technische Dokumentation
Architektur, Prompts, Tool-Aufrufe, Modell-Versionen, Hyperparameter und Sicherheitskontrollen werden versioniert dokumentiert.
5. Monitoring und Drift-Detection
Wir überwachen Antwortqualität, Halluzinationsrate, Tool-Aufruf-Genauigkeit und Drift. Anomalien führen zu automatischen Alerts.
6. Incident Response
Für jeden Agent existiert ein Runbook für Sicherheits- und Compliance-Vorfälle: Erkennung, Eindämmung, Forensik, Benachrichtigung der zuständigen Aufsichtsbehörde.
7. Audit-fähige Logs
Jede Entscheidung des Agents ist mit Inputs, Modell-Output, Tool-Aufrufen und Endzustand revisionssicher gespeichert.