Vertrauen entsteht durch klare Regeln.
Je selbstständiger KI arbeitet, desto wichtiger ist es, nicht nur auf das Ergebnis zu schauen. Mitarbeitende müssen wissen, welche Grenzen gelten und was passiert, wenn etwas nicht so läuft wie geplant.
Genau deshalb gehört Governance von Anfang an in die Architektur. Nachträglich Regeln in ein laufendes System hineinzubauen ist unnötig teuer und oft lückenhaft.
Der Mensch bleibt in Führung
Human-in-the-Loop bedeutet nicht, dass jemand jeden einzelnen Schritt abnickt. Dann hätten wir nur eine neue Warteschlange gebaut. Mein Ansatz ist Human-in-the-Lead: Der Mensch setzt Rahmen, entscheidet an den relevanten Stellen und behält die Verantwortung.
Wir definieren die Punkte, an denen eine Entscheidung echte Konsequenzen hat: bevor etwas veröffentlicht wird, bevor Daten verändert werden, bevor eine Zusage entsteht oder ein sensibler Prozess weiterläuft. Genau dort gehört die Freigabe hin.
Nachvollziehbar statt Black Box
Wer hat was veranlasst? Auf welcher Grundlage? Mit welchem Ergebnis? Wer hat freigegeben? Ein sauberer Audit Trail macht diese Fragen später nicht zur Detektivarbeit.
Und er hilft beim Verbessern: Wenn Ergebnisse immer wieder korrigiert werden müssen, sehen wir, wo Auftrag, Daten oder Regeln nachgeschärft werden müssen.
Ihre Daten. Ihre Regeln.
Welche Quellen ein Agent sehen darf, wird bewusst festgelegt. Genauso die Frage, wo verarbeitet wird: lokal im Unternehmen, in einer Cloud oder in einer Kombination aus beidem.
Die Entscheidung fällt pro Workflow — passend zum tatsächlichen Schutzbedarf und zur Aufgabe.
„KI arbeitet selbstständig —
innerhalb klarer Leitplanken.“
EU AI Act: mitdenken statt später nachrüsten
Die Verordnung (EU) 2024/1689 arbeitet mit einem risikobasierten Ansatz. Welche Pflichten konkret gelten, hängt unter anderem vom Einsatz und von der Rolle des Unternehmens ab.
Besonders relevant ist Artikel 4 zur KI-Kompetenz: Unternehmen, die KI einsetzen, müssen sicherstellen, dass die beteiligten Menschen über ein angemessenes Verständnis verfügen.
Seit dem 2. August 2026 gelten zusätzlich Transparenzpflichten aus Artikel 50. Je nach Anwendung müssen KI-generierte oder manipulierte Inhalte technisch gekennzeichnet oder für Menschen als solche erkennbar gemacht werden. Welche Pflicht konkret greift, hängt vom jeweiligen Einsatz ab.
Ich habe die Schulung „EU AI Act — Grundlagen und Anforderungen der KI-Verordnung“ absolviert und berücksichtige diese Anforderungen beim Aufbau. Das ist keine Rechtsberatung — für die verbindliche rechtliche Einordnung braucht es juristischen Rat.
Warum das von Anfang an dazugehört
Freigaben, Protokollierung und Zugriffsrechte später nachzurüsten heißt, ein laufendes System wieder aufzureißen. Das kostet Zeit, Geld und Nerven — und bleibt oft unvollständig.
Von Anfang an mitgedacht wird Governance nicht zur zusätzlichen Schicht, sondern zu einem ganz normalen Bestandteil guter Prozesse.
Zurück zum agentischen Betriebssystem oder weiter zu meiner Methode.
KI-Potenzial-Gespräch vereinbaren