Was ist Human Centered AI Service Management (HUCAISM^®)?

Wenn KI Services übernimmt, wer trägt dann die Verantwortung?

Künstliche Intelligenz verändert, wie Services entstehen und erbracht werden, schneller, als klassische Service-Management-Frameworks und KI-Governance-Standards Schritt halten. Genau in dieser Lücke entstehen Schäden: KI-gestützte Services, die niemandem gehören und für die niemand geradesteht, wenn etwas schiefgeht. HUCAISM schließt diese Lücke. Human Centered AI Service Management ist die Disziplin und das Betriebsmodell, mit dem Organisationen KI-gestützte Services so gestalten, erbringen und steuern, dass menschliches Urteil, menschliche Verantwortung und menschlicher Mehrwert im Zentrum bleiben. HUCAISM verbindet die bewährte Praxis des Service Managements mit den Anforderungen der KI-Governance zu einem durchgängigen Vorgehen im Betrieb. HUCAISM ist ein Framework der SERVIEW GmbH. Es umfasst 6 Prinzipien, 10 Domänen mit 65 prüfbaren Anforderungen, 3 Aufsichtsmuster, 6 Lebenszyklus-Phasen und 5 Reifegrade.

Der Rahmen umfasst 6 Prinzipien, 10 Domänen und 65 prüfbare Anforderungen, ergänzt um 3 Aufsichtsmuster, 6 Lebenszyklus-Phasen und 5 Reifegrade.

Zur HUCAISM Professional Schulung mit SERVIEW

Warum braucht es HUCAISM?

KI-gestützte Services unterscheiden sich in drei Punkten grundlegend von klassischen Services:

• Sie verhalten sich wahrscheinlichkeitsbasiert. Auf dieselbe Frage können sie unterschiedlich antworten, und sie liefern mitunter überzeugend formulierte, aber fachlich falsche Ergebnisse.
• Sie verändern sich im Betrieb. Neue Modellversionen, geänderte Prompts oder neues Wissen verändern ihr Verhalten, oft ohne dass es jemand bemerkt.
• Sie verschieben die Verantwortung. Zwischen Anbieter, IT und Fachbereich bleibt schnell unklar, wer für ein Ergebnis einsteht.

Klassisches Service Management wurde für weitgehend vorhersehbare Systeme entwickelt. KI-Governance konzentriert sich häufig auf das KI-System und seine regulatorische Einordnung. Offen bleibt oft die praktische Frage: Wie wird der einzelne KI-gestützte Service im täglichen Betrieb geführt, überwacht, verbessert und im Ernstfall zurückgenommen? Genau hier setzt HUCAISM an. Es übersetzt die Anforderungen aus Governance, Risiko und Compliance in den laufenden Betrieb.

HUCAISM FAQ

Die sechs Prinzipien: Entscheidungsregeln, kein Werteplakat

Die Prinzipien von HUCAISM sind Entscheidungsregeln für die Momente, in denen zwei berechtigte Ziele aufeinandertreffen, etwa Effizienz und menschliche Aufsicht oder Geschwindigkeit und Sorgfalt.

1. Verantwortung ist nicht delegierbar. Für jeden KI-gestützten Service ist klar, wer die Rechenschaft trägt. „Das hat die KI entschieden“ ist keine zulässige Antwort.
2. Augmentation vor Substitution. KI stärkt zuerst den Menschen, statt ihn zu ersetzen. Vollautomatisierung ist eine bewusste Entscheidung, kein Standardweg.
3. Transparenz im Service, nicht nur im Modell. Nachvollziehbar muss sein, wie ein Service zu seinem Ergebnis kommt, für Nutzende, Betreibende und Prüfende.
4. Wert entsteht für Menschen. Erfolg bemisst sich am gelösten Anliegen und am Vertrauen, nicht allein am Durchsatz.
5. Governance by Design. Regulatorische und ethische Anforderungen gehören in den Entwurf, nicht in die Nacharbeit.
6. Lernen unter Aufsicht. KI-gestützte Services dürfen sich verbessern, aber kontrolliert und mit einem erprobten Rückweg für den Ernstfall.

Die zehn Domänen: wo das Modell wirkt

Die zehn Domänen sind die Arbeitsfelder von HUCAISM. In ihnen liegen die 65 prüfbaren Anforderungen.

Fünf Kern-Domänen tragen jeden KI-gestützten Service:

• DO1 – Menschen & Rollen: Wer einsteht, wer beaufsichtigt, wer betreibt. Und warum Aufsicht ohne Kompetenz und Zeit nur Scheinaufsicht ist.
• DO2 – Practices: Was sich an Incident, Problem, Change und weiteren vertrauten Practices ändert, sobald KI im Spiel ist. Zum Beispiel, warum eine Halluzination ein Incident ist und eine Prompt-Änderung ein Change.
• DO3 – Governance & Compliance: EU AI Act und ISO/IEC 42001 als Gestaltungsparameter statt als Bürde, mit einem Verzeichnis aller KI-Services als Grundlage.
• DO4 – Wert & Erlebnis: Output gegen Outcome. Warum steigende Kennzahlen trügen können und stille Fehler gefährlicher sind als laute.
• DO5 – Technologie & Daten: Modelle, Daten, Drift, Monitoring und Rückfalllinien aus Sicht des Betriebs.

Zwei Querschnitts-Domänen wirken durch alle anderen hindurch:

• DO6 – Fairness & Bias: Warum jeder Service einen bewusst gewählten und dokumentierten Fairness-Anspruch braucht.
• DO7 – Vertrauen & Human Factors: Automation Bias, Vertrauenskalibrierung und die gelungene Übergabe zwischen Mensch und Maschine.

Ein Spezialgebiet greift, wo KI selbst handelt:

• DO8 – Governance agentischer Systeme: Autonomiegrenzen, Wirkungsreichweite und der getestete Not-Aus.

Zwei Domänen regeln die Zusammenarbeit von Mensch und Maschine:

• DO9 – Interaktion & Verhalten: Wann die KI spricht, schweigt, nachfragt oder von sich aus übergibt, und was sie sich über einen Menschen merken darf.
• DO10 – Hybride Teams & Orchestrierung: Menschen, KI-Agenten und Automatisierung als eine Betriebseinheit, mit einem benannten Menschen, der das Zusammenspiel orchestriert.

Wie eng der Mensch dabeibleibt: Aufsicht und Betrieb

Für jeden KI-gestützten Service legt HUCAISM fest, wie eng der Mensch dabeibleibt. Drei Aufsichtsmuster stehen zur Wahl:

• Human-in-the-Loop: Der Mensch entscheidet.
• Human-on-the-Loop: Die KI handelt, der Mensch überwacht und greift ein.
• Human-out-of-the-Loop: Die KI handelt eigenständig in engen Grenzen.

Welches Muster gilt, ergibt sich aus drei Kriterien: Folgenschwere, Reversibilität und Regulatorik.

Ein Lebenszyklus in sechs Phasen führt jeden Service von der Planung bis zur Außerdienststellung. Fünf Reifegrade zeigen, wo eine Organisation steht. Drei Kernrollen – AI Service Owner, Aufsicht und Governance – klären, wer einsteht, wer hinsieht und wer die Regeln hält.

Für wen HUCAISM ist:

HUCAISM richtet sich an alle, die KI-gestützte Services und digitale Produkte verantworten, gestalten, betreiben oder nutzen: Service-Verantwortliche, Führungskräfte, Beraterinnen und Berater sowie Fachleute aus IT, Compliance und Fachbereich. Ein technischer Hintergrund ist nicht erforderlich. Hilfreich ist eine Grundlage im Service Management, idealerweise mit ITIL. Die Version spielt keine Rolle, denn HUCAISM baut auf dem gemeinsamen Kern der Practices auf.

Positionierung: ein Verbinder, kein Rivale

HUCAISM versteht sich ausdrücklich als Ergänzung bestehender Frameworks, Standards und Gesetze, nicht als deren Ersatz.

• ITIL: HUCAISM baut auf den bewährten Practices auf. Es lehrt Incident, Change oder Service Level nicht neu, sondern beschreibt, was sich an ihnen ändert, sobald KI im Spiel ist. ITIL Version 5 benennt mit seinem Modul zur KI-Governance die Risiken von KI und die Kontrollen, die eine Organisation wählen kann. HUCAISM ergänzt das Wie für den einzelnen KI-gestützten Service: welche Aufsicht gilt, was sich an den Practices ändert und woran sich prüfen lässt, ob das erfüllt ist.
• ISO/IEC 42001: Der Standard für KI-Managementsysteme ist das organisatorische Dach. HUCAISM ist die Schicht darunter, die dieses Dach mit gelebtem Betrieb füllt.
• EU AI Act: Der Rechtsrahmen legt fest, was gefordert ist. HUCAISM übersetzt diese Anforderungen in konkrete Gestaltungs- und Betriebsentscheidungen. Die rechtliche Auslegung bleibt Sache der Juristen.