AI Governance in ITSM – Wer steuert den digitalen Mitarbeiter?
Executive Summary
Die Einführung von Künstlicher Intelligenz im Service Management hat in vielen Unternehmen die Experimentierphase verlassen. Während zunächst Chatbots, Wissensassistenten und KI-gestützte Automatisierungen im Fokus standen, rückt inzwischen eine andere Frage in den Vordergrund: Wie kontrollieren wir KI eigentlich?
Drei zentrale Erkenntnisse zeichnen sich dabei ab:
- KI benötigt Governance wie jede andere geschäftskritische Ressource
Unternehmen erkennen zunehmend, dass KI-Systeme nicht nur technische Werkzeuge, sondern aktive Bestandteile ihrer Wertschöpfung sind und entsprechend gesteuert werden müssen - Die größte Herausforderung ist nicht die Technologie, sondern die Verantwortung
Rollen, Entscheidungsbefugnisse, Kontrollmechanismen und Haftungsfragen sind in vielen Organisationen noch ungeklärt - ITSM wird zum natürlichen Governance-Rahmen für KI-Services
Bestehende Service-Management-Prinzipien bieten eine solide Grundlage, um Transparenz, Steuerbarkeit und Compliance auch für KI-basierte Services sicherzustellen
Trend Snapshot
In den vergangenen Jahren lag der Fokus vieler Organisationen auf der Frage:
„Wie können wir KI einsetzen?“
Mittlerweile verändert sich die Diskussion deutlich in Richtung:
„Wie stellen wir sicher, dass KI kontrolliert, nachvollziehbar und regelkonform agiert?“
Treiber dieser Entwicklung sind unter anderem:
- zunehmende Einführung von AI Copilots und Agentic AI-Lösungen
- steigende regulatorische Anforderungen (z. B. EU AI Act)
- wachsende Abhängigkeit von KI-basierten Entscheidungen
- höhere Erwartungen an Transparenz und Nachvollziehbarkeit
- steigende Risiken durch Fehlentscheidungen autonomer Systeme
Besonders spannend ist die Entwicklung rund um sogenannte AI Agents. Diese Systeme beantworten nicht mehr nur Fragen, sondern führen eigenständig Aktionen aus, erstellen Changes, bearbeiten Service Requests oder treffen operative Entscheidungen. Dadurch verschwimmt die Grenze zwischen klassischer Automatisierung und digitaler Arbeitskraft zunehmend.
HUCAISM als neuer Orientierungsrahmen
Genau an dieser Schnittstelle setzt HUCAISM, Human-Centered AI Service Management, an. Das Framework verbindet Service Management, KI-Governance und menschliche Verantwortung zu einem praxisnahen Ansatz für KI-gestützte Services. Während klassische ITSM-Strukturen Transparenz, Steuerung und Servicequalität sicherstellen, erweitert HUCAISM diesen Blick um die zentrale Frage, wie Menschen, KI-Systeme und digitale Mitarbeiter verantwortungsvoll zusammenwirken.
Damit wird HUCAISM besonders relevant für Organisationen, die AI Agents, Copilots oder KI-basierte Automatisierungen nicht nur einführen, sondern dauerhaft sicher, nachvollziehbar und geschäftsorientiert betreiben möchten.
Warum ist das relevant und welche Auswirkungen hat das auf ITSM und ESM
Für IT- und Enterprise-Service-Organisationen entstehen neue Fragestellungen, die mit klassischen Governance-Modellen bisher kaum adressiert wurden:
Wer ist Service Owner eines KI-Services?
Ist die Verantwortung bei IT, Fachbereich, Data Science oder einem externen Anbieter angesiedelt?
Wie werden KI-gestützte Entscheidungen nachvollziehbar dokumentiert?
Viele bestehende Audit- und Compliance-Anforderungen verlangen eine transparente Herleitung von Entscheidungen.
Wie erfolgt die Risiko- und Qualitätssteuerung?
Während technische Services anhand von Verfügbarkeit, Performance oder Supportaufwand gemessen werden, benötigen KI-Services zusätzliche Qualitätsmerkmale wie:
- Genauigkeit
- Vertrauenswürdigkeit
- Nachvollziehbarkeit
- Fairness
- Halluzinationsrate
- Governance-Konformität
Wie werden KI-Services in bestehende ITSM-Practices integriert?
Insbesondere folgende Practices gewinnen an Bedeutung:
- Service Level Management
- Service Catalogue Management
- Information Security Management
- Risk Management
- Change Enablement
- Knowledge Management
- Continual Improvement
Die zentrale Erkenntnis lautet:
KI benötigt keine völlig neue Managementdisziplin. Vielmehr müssen bestehende Service-Management-Prinzipien konsequent auf KI-basierte Services erweitert werden.
Die SERVIEW Perspektive
Aus unserer Sicht befinden sich viele Organisationen aktuell in einer ähnlichen Situation wie beim Aufkommen von Cloud Services vor einigen Jahren.
Zunächst standen die technologischen Möglichkeiten im Vordergrund. Erst im zweiten Schritt wurde deutlich, dass erfolgreiche Nutzung klare Verantwortlichkeiten, Steuerungs-mechanismen und Governance-Strukturen voraussetzt.
In aktuellen Projekten beobachten wir insbesondere drei Herausforderungen:
1. Fehlende Transparenz über eingesetzte KI-Lösungen
Viele Unternehmen verfügen bereits über zahlreiche KI-Anwendungen, besitzen jedoch kein zentrales Verzeichnis der eingesetzten Lösungen und deren Verantwortlichkeiten.
2. Unklare Rollen und Verantwortlichkeiten
Häufig ist nicht definiert:
- Wer genehmigt KI-Anwendungen?
- Wer überwacht deren Qualität?
- Wer trägt die Verantwortung für Fehlentscheidungen?
- Wer bewertet regulatorische Risiken?
3. Fehlende Integration in bestehende Service-Management-Strukturen
KI wird vielfach als Technologieinitiative betrachtet und nicht als Service.
Dadurch fehlen:
- Service Owner
- Servicebeschreibungen
- Governance-Regeln
- Qualitätskennzahlen
- Lebenszyklussteuerung
Langfristig wird sich ein eigenständiges Governance-Modell für AI-Services etablieren, das eng mit bestehenden ITSM- und ESM-Strukturen verzahnt ist. Service Management kann dabei die Rolle des organisatorischen Betriebssystems übernehmen, um KI-Lösungen kontrollierbar, nachvollziehbar und geschäftsorientiert zu steuern.
Take Away
1. KI als Service behandeln
Jede produktiv eingesetzte KI sollte als Service betrachtet werden – mit definiertem Service Owner, Servicebeschreibung, Governance-Regeln und Qualitätszielen.
2. AI Governance in bestehende ITSM-Strukturen integrieren
Neue Governance-Gremien sind nicht immer erforderlich. Bestehende Service-Management-Mechanismen können gezielt erweitert werden, um KI-Services wirksam zu steuern. HUCAISM kann dabei als Orientierungsrahmen verstanden werden, der ITSM, KI-Governance und „menschliche“ Verantwortung miteinander verbindet.
3. Frühzeitig Verantwortlichkeiten festlegen
Die wichtigste Frage lautet nicht, welche KI genutzt wird, sondern wer für deren Ergebnisse verantwortlich ist. Klare Rollen und Entscheidungswege bilden die Grundlage für eine nachhaltige und skalierbare KI-Nutzung.
Fazit
Die Diskussion über Künstliche Intelligenz entwickelt sich von der Technologie- zur Steuerungsfrage. Unternehmen, die heute Governance, Transparenz und Verantwortlichkeiten für KI-Services etablieren, schaffen die Voraussetzungen für eine sichere, skalierbare und geschäftsorientierte Nutzung von AI.
HUCAISM kann dabei als nächster logischer Schritt verstanden werden: als menschzentrierter Rahmen, der ITSM, KI-Governance und Verantwortung miteinander verbindet. Gerade wenn KI-Systeme zunehmend wie digitale Mitarbeiter agieren, braucht es klare Leitplanken dafür, wer steuert, wer kontrolliert und wo menschliches Urteil unverzichtbar bleibt.
Die Zukunft gehört nicht den Organisationen mit den meisten KI-Anwendungen, sondern denjenigen, die ihre KI-Landschaft wirksam steuern können.
