Mit dem Inkrafttreten des EU AI Act verändern sich die Anforderungen an den produktiven Einsatz von Künstlicher Intelligenz grundlegend. Während Unternehmen bisher vor allem die Potenziale von Generative AI, Copilots und AI Agents bewertet haben, rückt nun zunehmend die Frage in den Fokus, wie KI-Systeme regelkonform, nachvollziehbar und kontrolliert betrieben werden können.
Drei zentrale Erkenntnisse zeichnen sich dabei ab:
1. Der EU AI Act macht KI zu einem Governance-Thema
KI-Systeme werden künftig nicht mehr ausschließlich als Technologie betrachtet. Abhängig von ihrem Risiko und Einsatzzweck entstehen Anforderungen an Transparenz, Dokumentation, Qualitätssicherung und menschliche Überwachung.
2. Viele Anforderungen ähneln bereits bekannten Service-Management-Prinzipien
Konzepte wie Service Owner, Change Enablement, Risk Management, Configuration Management oder Continual Improvement adressieren bereits heute Fragestellungen, die für eine AI Governance relevant sind.
3. ITSM kann zum operativen Fundament einer KI-Governance werden
Während rechtliche und regulatorische Vorgaben den Rahmen definieren, können etablierte Service-Management-Prozesse deren praktische Umsetzung im Tagesgeschäft unterstützen.
Trend Snapshot
Die erste Welle der KI-Einführung war geprägt von einer zentralen Fragestellung:
„Wo können wir KI einsetzen?"
Mit zunehmender Verbreitung von Copilots, AI Agents und automatisierten Entscheidungsmechanismen verändert sich die Diskussion nun in Richtung:
„Wie stellen wir sicher, dass KI nachvollziehbar, sicher und regelkonform eingesetzt wird?"
Treiber dieser Entwicklung sind:
- steigende regulatorische Anforderungen
- zunehmender Einsatz autonomer KI-Systeme
- höhere Anforderungen an Transparenz und Nachvollziehbarkeit
- wachsende Risiken durch Fehlentscheidungen
- stärkere Audit- und Compliance-Anforderungen
Besonders relevant wird dies bei AI Agents. Diese Systeme unterstützen nicht mehr nur Anwender bei der Informationsbeschaffung, sondern können eigenständig Aktivitäten anstoßen, Entscheidungen vorbereiten oder Prozesse ausführen.
Damit entstehen neue Anforderungen an Steuerung, Kontrolle und Verantwortlichkeit.
- Der EU AI Act als Governance-Rahmen
- Der EU AI Act verfolgt einen risikobasierten Ansatz.
Im Mittelpunkt steht nicht die verwendete Technologie, sondern die Frage:
Welches Risiko geht von einem KI-System für Menschen, Organisationen oder Prozesse aus?
Für Unternehmen werden insbesondere vier Themen relevant:
- Relevante Anforderungen
Organisationen müssen künftig stärker darauf achten:
- welche KI-Systeme eingesetzt werden
- welche Entscheidungen durch KI beeinflusst werden
- welche Risiken dadurch entstehen
- wie Ergebnisse nachvollzogen werden können
- wie menschliche Kontrolle sichergestellt wird
Dadurch entsteht faktisch die Notwendigkeit eines strukturierten AI-Service-Portfolios.
2. Governance-Strukturen
Mit zunehmender Nutzung von KI entstehen neue Governance-Fragen:
- Wer genehmigt den Einsatz eines KI-Systems?
- Wer ist fachlich verantwortlich?
- Wer bewertet Risiken?
- Wer überwacht Qualität und Compliance?
- Wer entscheidet über Änderungen an Modellen oder Agenten?
Viele Unternehmen verfügen hierfür bislang über keine klar definierten Rollen und Verantwortlichkeiten.
Gerade AI Agents verdeutlichen diese Entwicklung besonders, da sie zunehmend eigenständig Aufgaben und Prozesse ausführen können.
3. Dokumentationspflichten
Eine besondere Herausforderung entsteht durch die zunehmenden Nachweis- und Dokumentationsanforderungen.
Künftig wird für viele Organisationen relevant sein:
- Welche KI-Systeme sind produktiv im Einsatz?
- Welche Daten werden verarbeitet?
- Welche Entscheidungen werden getroffen?
- Welche Risiken wurden bewertet?
- Welche Änderungen wurden durchgeführt?
- Wer hat diese Änderungen freigegeben?
Damit entstehen Anforderungen, die vielen ITSM-Organisationen bereits bekannt vorkommen.
4. Auswirkungen auf ITSM-Werkzeuge
Die eigentliche Herausforderung liegt häufig nicht in der Regulierung selbst, sondern in ihrer operativen Umsetzung.
Moderne ITSM- und ESM-Plattformen können hierbei eine wesentliche Rolle übernehmen:
- Service Catalogue für KI-Services
- CMDB für KI-Komponenten und Abhängigkeiten
- Change Enablement für Modelländerungen
- Knowledge Management für Richtlinien und Nachweise
- Risk Management für KI-Risiken
- Reporting und Dashboards für Governance-Kennzahlen
Dadurch entwickelt sich die Service-Management-Plattform zunehmend zur operativen Steuerungs- und Governance-Plattform für KI-Services.
Warum ist das relevant und welche Auswirkungen hat das auf ITSM und ESM?
Viele Anforderungen des EU AI Act lassen sich unmittelbar auf bestehende Service-Management-Practices abbilden. Dazu gehören beispielsweise:
Service Catalogue Management
KI-Systeme benötigen eine transparente Beschreibung ihrer Funktionen, Verantwortlichkeiten und Nutzungsbedingungen. Unternehmen benötigen Transparenz darüber, welche KI-Services angeboten, genutzt und verantwortet werden.
Change Enablement
Prompt-Anpassungen, Modellwechsel oder neue Agenten-Fähigkeiten können erhebliche Auswirkungen auf Ergebnisse und Risiken haben.
Daher gewinnen Fragen an Bedeutung wie:
- Wann ist eine Änderung genehmigungspflichtig?
- Wer bewertet Risiken?
- Wer entscheidet über die Produktionsfreigabe?
Configuration Management
KI-Systeme bestehen häufig aus mehreren Komponenten:
- Foundation Models
- Agents
- Wissensquellen
- Schnittstellen
- Automatisierungen
Diese Abhängigkeiten müssen transparent dokumentiert werden.
Risk Management
Neben klassischen IT-Risiken entstehen neue Fragestellungen:
- Faktische Fehler
- fehlerhafte oder irreführende Empfehlungen
- Verzerrungen (Bias)
- mangelnde Transparenz oder Nachvollziehbarkeit
- Datenschutz- und Compliance-Risiken
Knowledge Management
Dokumentation wird zu einem zentralen Erfolgsfaktor. Organisationen benötigen nachvollziehbare Informationen übern den Einsatz von KI, deren Risiken und Grenzen sowie über Verantwortlichkeiten und Änderungen.
Die SERVIEW Perspektive
Aus unserer Sicht erleben wir aktuell eine ähnliche Entwicklung wie bei der Einführung von Cloud Services oder digitalen Plattformen. Die Technologie entwickelt sich deutlich schneller als die zugehörigen Governance-Strukturen. In aktuellen Kundenprojekten beobachten wir insbesondere drei wiederkehrende Herausforderungen:
1. Fehlende Transparenz über eingesetzte KI-Systeme
Viele Unternehmen nutzen bereits Copilots, Fachbereichs-KI oder Agentenlösungen.
Oft existiert jedoch kein zentrales Verzeichnis mit:
- Verantwortlichen
- Risiken
- Einsatzbereichen
- Geschäftsrelevanz
2. Unklare Verantwortlichkeiten
Häufig bleibt offen:
- Wer ist Service Owner?
- Wer führt Risikoanalysen durch?
- Wer genehmigt neue KI-Funktionen?
- Wer verantwortet Fehlentscheidungen?
3. Fehlende Integration in bestehende Governance- und ITSM-Strukturen
KI-Initiativen werden vielfach als Innovationsprojekte betrachtet.
Dadurch fehlen häufig:
- Servicebeschreibungen
- Change-Prozesse
- Governance-Regeln
- Qualitätsmetriken
- Lebenszyklusmanagement
Aus unserer Sicht wird nachhaltige AI Governance nur dann erfolgreich sein, wenn KI-Systeme nicht als Sonderfall behandelt werden, sondern konsequent in bestehende Service-Management-Strukturen integriert werden.
Take Away
1. KI als Service betrachten
Jedes produktiv eingesetzte KI-System sollte wie ein Service behandelt werden:
- Service Owner
- Servicebeschreibung
- Qualitätsziele
- Governance-Regeln
- definierter Lebenszyklus
2. Bestehende ITSM-Strukturen nutzen
Viele Anforderungen des EU AI Act lassen sich mit bestehenden Practices adressieren:
- Service Catalogue Management
- Change Enablement
- Configuration Management
- Risk Management
- Knowledge Management
- Continual Improvement
3. Verantwortlichkeiten frühzeitig definieren
Die entscheidende Governance-Frage lautet nicht:
„Welche KI nutzen wir?"
Sondern:
„Wer ist für die Ergebnisse dieser KI verantwortlich?"
Fazit
Der EU AI Act macht deutlich, dass Künstliche Intelligenz künftig nicht nur eine Technologie-, sondern vor allem eine Governance- und Managementaufgabe ist.
Für ITSM- und ESM-Organisationen eröffnet sich damit eine neue Rolle: Statt ausschließlich technische Services zu steuern, werden sie zunehmend auch für die Transparenz, Steuerbarkeit und Compliance von KI-Services verantwortlich sein.
Organisationen, die heute beginnen, KI-Lösungen systematisch in ihre Service-Management-Strukturen zu integrieren, schaffen die Grundlage für eine regelkonforme, skalierbare und vertrauenswürdige Nutzung von AI.
Die Zukunft gehört nicht den Unternehmen mit den meisten KI-Systemen, sondern denjenigen, die ihre KI-Landschaft wirksam steuern, dokumentieren und verantworten können.
