Wer führt eigentlich die KI?

Die entscheidende Frage liegt hinter der Technik

Diskussionen über Künstliche Intelligenz beginnen häufig mit ihren Fähigkeiten: Was kann ein System schreiben, analysieren, erkennen oder automatisieren? Mit jedem Fortschritt wächst die Versuchung, vor allem auf das technisch Machbare zu schauen.

Für Führung und Organisation ist jedoch eine andere Frage entscheidender: Was soll KI tun dürfen und wer trägt dafür Verantwortung? Microsoft formulierte diesen Perspektivenwechsel bereits 2023 mit dem Gedanken: Nicht nur fragen, was Computer können, sondern was sie tun sollten.

Diese Frage ist heute noch wichtiger. Copiloten unterstützen Menschen bei einzelnen Aufgaben. KI-Agenten können mehrstufige Aufträge bearbeiten, auf Daten und Werkzeuge zugreifen und innerhalb definierter Grenzen handeln. Damit wird menschliche Kontrolle nicht weniger wichtig, sondern anspruchsvoller.

Wenn Unterstützung zu Delegation wird

Bei klassischen digitalen Werkzeugen bleibt meist sichtbar, wer handelt. Ein Mensch gibt einen Befehl, führt einen Arbeitsschritt aus und prüft das Ergebnis. Generative und agentische KI verändert diese Beziehung. Das System kann Vorschläge erzeugen, Informationen gewichten, Entscheidungen vorbereiten oder Handlungen ausführen.

Dadurch entstehen neue Formen der Delegation. Die zentrale Führungsfrage lautet nicht, ob KI grundsätzlich Aufgaben übernehmen darf. Sie lautet, wie weit diese Delegation reichen soll und wie menschliche Verantwortung erhalten bleibt.

Menschliche Kontrolle bedeutet mehr als eine Freigabeschaltfläche

Menschliche Kontrolle wird gelegentlich so verstanden, dass am Ende irgendwo ein Mensch auf «Bestätigen» klickt. Das genügt nicht. Eine Freigabe ist nur dann wirksam, wenn die verantwortliche Person versteht, was sie prüft, relevante Informationen erhält und tatsächlich eingreifen kann.

Wirksame menschliche Kontrolle beginnt deshalb weit vor dem letzten Arbeitsschritt:

• Ziele setzen: Menschen bestimmen, welchem Zweck ein KI-System dienen soll.
• Grenzen definieren: Menschen legen fest, was das System nicht tun darf oder nur nach Freigabe ausführen kann.
• Daten und Zugriffe begrenzen: Ein System erhält nur die Informationen und Berechtigungen, die es für seinen Auftrag benötigt.
• Ergebnisse beurteilen: Fachlich kompetente Personen prüfen Qualität, Angemessenheit und mögliche Auswirkungen.
• Eingreifen können: Prozesse ermöglichen Korrektur, Unterbruch und Eskalation.
• Verantwortung zuordnen: Es bleibt sichtbar, wer für Einsatz, Entscheidung und Folgen einsteht.

Kontrolle ist damit kein einzelner Prüfpunkt. Sie ist eine bewusst gestaltete Beziehung zwischen Mensch, Aufgabe, Organisation und Technologie.

Verantwortung hat mehrere Ebenen

Wenn KI in Organisationen eingesetzt wird, darf Verantwortung nicht diffus werden. «Die KI hat entschieden» ist keine tragfähige Antwort. Verantwortlichkeit muss entlang des gesamten Einsatzes sichtbar bleiben.

Je nach Anwendung kommen rechtliche, datenschutzbezogene oder sicherheitsbezogene Verantwortlichkeiten hinzu. Entscheidend ist nicht, dass eine einzelne Person alles übernimmt. Entscheidend ist, dass Zuständigkeiten geklärt, verbunden und nachvollziehbar sind.

Fünf Fragen vor jeder Delegation an KI

1. Was genau delegieren wir? Eine klar beschriebene Aufgabe ist die Voraussetzung für sinnvolle Kontrolle. Unklare Aufträge erzeugen unklare Ergebnisse.
2. Welche Wirkung kann entstehen? Nicht nur Effizienz betrachten, sondern auch Auswirkungen auf Menschen, Entscheidungen, Beziehungen und Vertrauen.
3. Wie gross ist der Entscheidungsspielraum? Unterscheiden, ob KI informiert, vorbereitet, empfiehlt oder innerhalb bestimmter Grenzen selbst ausführt.
4. Wo bleibt menschliches Urteil unverzichtbar? Sensible, mehrdeutige oder folgenreiche Situationen benötigen fachliche und menschliche Beurteilung.
5. Wie lernen wir aus der Praxis? Ergebnisse, Abweichungen und Rückmeldungen beobachten und Auftrag, Regeln sowie Kontrollen iterativ verbessern.

Die Gefahr der Verantwortungsverschiebung

KI kann den Eindruck von Objektivität erzeugen. Gut formulierte Antworten, Zahlen oder Empfehlungen wirken überzeugend, auch wenn ihre Grundlage unvollständig oder ihre Einordnung unangemessen ist. Dadurch besteht die Gefahr, dass Menschen Urteile übernehmen, ohne sie ausreichend zu prüfen.

Eine zweite Gefahr liegt in der organisatorischen Unklarheit. Wenn Fachbereich, IT, Führung und Anbieter jeweils nur einen Teil des Systems verantworten, kann am Ende niemand mehr das Ganze überblicken. Verantwortung wird dann nicht bewusst geteilt, sondern unbeabsichtigt zwischen den Beteiligten verschoben.

AI Leadership wirkt dieser Entwicklung entgegen. Sie stärkt nicht Misstrauen gegenüber KI, sondern angemessenes Vertrauen: Ergebnisse nutzen, wo sie unterstützen, und prüfen, wo Kontext, Folgen oder Unsicherheit dies verlangen.

Führung verändert sich, sie verschwindet nicht

Wenn KI Routineaufgaben übernimmt, wird Führung nicht überflüssig. Ihr Schwerpunkt verschiebt sich. Weniger Zeit kann in einzelne operative Schritte fliessen, während Orientierung, Priorisierung, Qualitätsverständnis und Verantwortung an Bedeutung gewinnen.

Führungskräfte müssen dabei keine allwissenden Kontrollinstanzen sein. Sie schaffen vielmehr Bedingungen, unter denen Menschen und KI sinnvoll zusammenarbeiten können:

• sie geben Richtung und formulieren Erwartungen;
• sie unterscheiden hilfreiche Delegation von unverantwortlicher Abgabe;
• sie sorgen für passende Kompetenzen und unterschiedliche Perspektiven;
• sie ermöglichen transparente Entscheidungen und offene Rückmeldungen;
• sie fördern Lernen aus Fehlern, ohne Verantwortung zu verwischen;
• sie schützen Räume, in denen menschliches Gespräch, Urteil und Beziehung unverzichtbar bleiben.

Ein pragmatischer Rahmen für menschliche Kontrolle

Organisationen benötigen nicht für jede KI-Anwendung denselben Kontrollaufwand. Entscheidend ist eine risikobewusste Abstufung. Je sensibler die Daten, je grösser der Handlungsspielraum und je bedeutender die möglichen Folgen, desto stärker müssen Prüfung, Freigabe und Überwachung ausgestaltet sein.

• Niedrige Tragweite KI unterstützt bei Entwürfen, Strukturierung oder interner Vorbereitung. Der Mensch prüft das Ergebnis vor der Verwendung.
• Mittlere Tragweite KI bereitet Entscheidungen oder Kommunikation vor. Fachliche Qualitätskriterien, dokumentierte Prüfung und klare Zuständigkeit sind erforderlich.
• Hohe Tragweite KI beeinflusst folgenreiche Entscheidungen oder führt sensible Aktionen aus. Enge Grenzen, explizite Freigaben, Protokollierung und verlässliche Eskalation sind notwendig.

Dieser Rahmen ist kein Ersatz für eine konkrete rechtliche oder sicherheitstechnische Prüfung. Er hilft Führungskräften jedoch, den Umfang menschlicher Kontrolle bewusst an Aufgabe und Wirkung auszurichten.

Was Novalis unter Human-Centric AI Leadership versteht

Novalis betrachtet menschliche Kontrolle nicht als Verteidigung gegen Technologie. Sie ist Ausdruck einer menschenzentrierten Gestaltung. KI soll menschliche Wirksamkeit erweitern, ohne Verantwortung, Urteilskraft und Beziehung unsichtbar zu machen.

Dazu gehören drei Haltungen:

• Neugier: Möglichkeiten offen erkunden und eigene Erfahrungen sammeln.
• Urteilskraft: Ergebnisse nicht nur technisch, sondern fachlich, menschlich und organisational einordnen.
• Verantwortung: Entscheidungen und Folgen nicht an Systeme delegieren, sondern bewusst gestalten und vertreten.

Die Novalis AI Leadership Journey unterstützt Organisationen auf diesem Weg: Das Executive Briefing schafft Orientierung, der AI Leadership Compass klärt Standort und Zielbild, der AI Leadership Navigator übersetzt Verantwortung in konkrete Anwendung und Führungsroutinen, und AI Leadership SVF baut die notwendigen Kompetenzen nachhaltig auf.