KI-Nutzungsstufen: Wer trägt die Verantwortung, wenn KI mitarbeitet?

Referenzseite von me&me. Das Modell der KI-Nutzungsstufen stammt von Bernd Oestereich und Claudia Schröder (kollegiale-fuehrung.de). Wir nutzen es in unserer Arbeit mit KMU und beschreiben hier, wie wir es lesen und mit unseren eigenen Modellen verbinden.

KI trägt keine Verantwortung

KI kann vieles: Texte schreiben, Vorschläge machen, Anfragen beantworten, Abläufe anstossen. Verantwortung tragen kann sie nicht.

Verantwortung entsteht dort, wo die Folgewirkung einer Handlung bei dem ankommt, der gehandelt hat. Die Schreinerin, deren Tisch nach zwei Jahren eine offene Fuge hat, fährt hin, schaut sich ihre Arbeit an und baut den nächsten Tisch anders. Sie erlebt die Folgewirkung und lernt daraus. Diesen Zusammenhang haben wir im Beitrag Verantwortung braucht Konsequenzen beschrieben.

Eine KI erlebt keine Folgewirkung. Sie hat kein Bewusstsein und nimmt nicht wahr, was ihr Handeln bei einer Kundin oder im Team auslöst. Sie reagiert auf Eingaben. Ein Fehler kostet sie nichts, eine gute Entscheidung freut sie nicht. Sie kann eine Sache auch nicht zu ihrer eigenen machen. Genau das braucht Verantwortung aber: eine innere Entscheidung, die nur ein Mensch treffen kann.

Daraus folgt eine einfache Regel. Für alles, was eine KI tut, muss ein Mensch die Folgewirkung tragen. Je mehr die KI selbst handelt, desto weniger ergibt sich von allein, wer dieser Mensch ist. Es muss bewusst geregelt werden.

Dafür braucht es die Nutzungsstufen. Sie zeigen für jeden Arbeitsablauf, wie weit die KI handelt und wo die menschliche Verantwortung dann liegen muss.

Die Grafik

KI-Nutzungsstufen in Organisationen Grafik: KI-Nutzungsstufen in Organisationen. Modell: Bernd Oestereich, Claudia Schröder (kollegiale-fuehrung.de). Lizenz CC BY, kommerzielle Nutzung bei Nennung der Rechteinhabenden erlaubt. Originalartikel: KI-Nutzungsstufen: Vom Werkzeug zum organisationalen Akteur

Die Grafik lässt sich in drei Spalten lesen.

Links steht, als was die KI in der Organisation auftritt: als Werkzeug, als Assistenzsystem mit kommunikativer Rolle, als Agentensystem mit autonom handelnder Rolle. Ganz oben steht Fahrlässigkeit.

In der Mitte stehen die sieben Stufen von 0 bis 6. Die Balken werden nach oben länger, weil die KI mehr übernimmt.

Rechts steht, wo die Verantwortung liegt. Bis Stufe 4 liegt sie bei einem Menschen, der eine Rolle innehat. Ab Stufe 5 ist sie auf mehrere menschliche Rollen im KI-Verantwortungskreis verteilt. Auf Stufe 6 landet sie bei der Geschäftsführung (GF).

Die gestrichelte Linie zwischen Stufe 4 und 5 ist die wichtigste Stelle der Grafik. Unterhalb davon kann eine einzelne Person die Folgewirkung noch übersehen und tragen. Oberhalb davon braucht es eine Organisation, die das übernimmt.

Die sieben Stufen

Stufe 0 und 1: KI als Werkzeug

Hier ändert sich organisatorisch wenig. Wer ein Werkzeug benutzt, ist für das Ergebnis verantwortlich, so wie bei einer Tabellenkalkulation. Wer mit dem Ergebnis arbeitet, sieht auch, was daraus wird.

Stufe 2 bis 4: KI als Assistenz

Ab Stufe 2 wird die KI zum Gegenüber. Sie formuliert, wägt ab, macht Vorschläge. Damit wirkt sie bereits auf Entscheidungen ein, auch wenn ein Mensch entscheidet.

Die Verantwortung bleibt bei einer Person in einer klar benannten Rolle. Was sich ändert, ist deren Arbeit: Sie erarbeitet weniger selbst und prüft, bewertet und gibt mehr frei.

Auf Stufe 4 liegt eine typische Falle. Eine Freigabe zählt nur, wenn die Person prüfen kann, will und darf. Wer aus Zeitdruck einfach auf «Freigeben» klickt oder das Ergebnis fachlich nicht beurteilen kann, gibt nur pro forma frei. Die Verantwortung steht dann auf dem Papier, wahrgenommen wird sie nicht.

Stufe 5: KI als handelndes System

Auf Stufe 5 handelt die KI selbstständig, etwa wenn sie Kundenanfragen ausserhalb der Bürozeiten beantwortet. Menschen geben nicht mehr jeden Schritt frei. Die Folgewirkung tritt ein, bevor ein Mensch das Ergebnis gesehen hat. Darum verteilt sich die Verantwortung auf mehrere Rollen. Die Grafik unterscheidet vier Aufgaben:

• a Operative Interaktionen: der alltägliche Umgang mit dem System
• b Monitoring: regelmässig beobachten, was die KI tut
• c Interventionen: eingreifen, begrenzen oder pausieren, wenn etwas abweicht
• d Rahmensetzung: Ziele, Regeln, Datenquellen, Zugriffe und Grenzen festlegen

Die Aufgaben b bis d sind in der Grafik als «Arbeit am System» zusammengefasst. Jede davon braucht eine benannte Rolle, die sie im KI-Verantwortungskreis wahrnimmt. Diese Rollen sorgen dafür, dass die Folgewirkung bei Menschen ankommt, die etwas daraus machen können.

Viele Organisationen versuchen, Stufe 5 so zu regeln wie Stufe 4: mit einer einzelnen Person, die «ein Auge darauf hat». Das überfordert diese Person, und die Verantwortung verwischt.

Stufe 6: unbeobachtet

Stufe 6 ist ein Zustand, den es zu vermeiden gilt. Die KI handelt, aber niemand beobachtet sie, und niemand kann wirksam eingreifen. Die Folgewirkung entsteht trotzdem, bei Kundinnen, Mitarbeitenden oder in den Finanzen. Nur kommt sie bei niemandem an, der dafür zuständig ist. Die Grafik ordnet das als Fahrlässigkeit ein. Die Verantwortung fällt auf die Geschäftsführung zurück.

In diese Stufe kommt man selten mit Absicht. Meistens rutscht man hinein, weil ein Ablauf monatelang gut läuft und die Beobachtung nach und nach einschläft. Wie das passiert, haben wir in Wenn der KI-Agent hervorragend funktioniert, beginnt die eigentliche Gefahr beschrieben.

Wie wir das Modell einsetzen

Wir stufen Arbeitsabläufe ein. Dasselbe KI-System kann in einem Ablauf auf Stufe 1 arbeiten und in einem anderen auf Stufe 5. Darum betrachten wir jeden Arbeitsablauf einzeln. Mehr dazu in 53 KI-Agenten? Warum die Zahl nichts über eure KI-Reife sagt.

Eine höhere Stufe ist kein Fortschritt. Die Stufen beschreiben, wie die Verantwortung geordnet ist. Ein Ablauf auf Stufe 2, der sauber geregelt ist, ist besser als einer auf Stufe 5, um den sich niemand kümmert.

Die Stufe sagt nichts über das Risiko. Wer sensible Kundendaten in ein frei verfügbares Tool kopiert, arbeitet auf Stufe 1 und geht trotzdem ein hohes Risiko ein. Ein Agent, der intern Sitzungstermine koordiniert, arbeitet auf Stufe 5 und ist vergleichsweise harmlos. Datenkritikalität und Wirkungsreichweite prüfen wir deshalb zusätzlich.

Verbindung zu unseren eigenen Modellen

Denkprothese oder Exoskelett

Auf den Stufen 1 bis 4 kann KI wie ein Exoskelett wirken: Sie verstärkt das Denken, das Urteil bleibt beim Menschen. Sie kann auf denselben Stufen aber auch zur Denkprothese werden, wenn Prüfen und Urteilen faktisch ausgelagert werden. Die Stufe bleibt dieselbe. Die Frage ist, ob ein Mensch noch selbst urteilt.

Ab Stufe 5 trägt das Bild nicht mehr. Die KI handelt selbstständig, und gefragt ist dann eine gut organisierte Verantwortung.

Verantwortung entsteht aus Dürfen, Wollen und Können

Verantwortung entsteht nur, wenn eine Person darf, will und kann. Einer KI fehlt das Wollen grundsätzlich. Umso wichtiger ist, dass die Menschen auf jeder Stufe alle drei Zutaten haben. Auf Stufe 4: Darf die freigebende Person auch ablehnen? Kann sie das Ergebnis fachlich beurteilen? Auf Stufe 5: Hat die Rolle, die beobachtet, auch das Recht einzugreifen? Fehlt eine der drei Zutaten, steht die Verantwortung zwar im Organigramm, wahrgenommen wird sie aber nicht.

System und Mensch

Das Modell beschreibt in erster Linie die Systemseite: Rollen, Freigaben, Verantwortungskreise. Im me&me-Modell schauen wir immer auch auf die Menschen. Eine Rolle «Monitoring» nützt wenig, wenn sich die Person nicht traut, ein glatt formuliertes KI-Ergebnis anzuzweifeln. Stufe 4 und 5 funktionieren nur, wenn Strukturen und Menschen zusammenpassen.

Stuft euren eigenen Ablauf ein

Nehmt einen KI-Arbeitsablauf, der bei euch seit einiger Zeit läuft. Am besten einen, über den niemand mehr spricht.

1. Auf welcher Stufe arbeitet er tatsächlich, und war das je eine bewusste Entscheidung?
2. Wer erlebt die Folgewirkung, wenn dieser Ablauf einen Fehler macht? Und ist das die Person oder Rolle, die dafür zuständig ist?
3. Darf, will und kann diese Person ihre Verantwortung wahrnehmen?

Wenn ihr bei Frage 2 länger überlegen müsst, ist das euer nächstes Thema. Gern schauen wir es uns mit euch an: Termin vereinbaren.

Quelle: Bernd Oestereich, Claudia Schröder: KI-Nutzungsstufen in Organisationen, kollegiale-fuehrung.de. Weitere Beiträge von uns zu KI und Verantwortung findet ihr in der Kategorie KI & Organisation.