KI wird nicht delegiert. Sie wird geführt.

Reihe «KI verstehen», Notiz 12 von 12. Diese Notiz schliesst die Reihe. Sie ist für die geschrieben, die entscheiden müssen, und setzt die elf vorigen als gelesen voraus, beginnt aber damit, sie für alle zusammenzufassen, die zuerst hier ankommen.

Dienstag, 16 Uhr, der Verwaltungsrat eines Familienunternehmens im Grosshandel in Luzern, dritte Generation. Letzter Punkt der Traktandenliste: «Künstliche Intelligenz». Die Präsidentin hat ihn gesetzt, weil ein Konkurrent etwas angekündigt hat, weil ihr Sohn ihr einen Assistenten auf dem Handy gezeigt hat und weil der Finanzchef seit Monaten sagt, man müsse etwas tun. Sie fragt den Rat: «Und was machen wir mit der KI?» Es folgen vierzig Minuten, in denen über Agenten gesprochen wird, über einen Anbieter, der letzte Woche angerufen hat, und über ein Pilotprojekt der deutschen Tochter. Am Ende steht im Protokoll: «Das Thema wird weiter geprüft.» Es ist das dritte Mal in diesem Jahr.

Die Szene ist fiktiv. Das Protokoll nicht. Die Frage «Was machen wir mit der KI?» hat keine Antwort, weil sie keine Führungsfrage ist: Sie ist eine verkleidete Technologiefrage. Die Führungsfragen sind andere, es sind sieben, und sie passen in eine Sitzung von einer Stunde, wenn man mit dem kommt, was diese Notiz gibt: eine ehrliche Zusammenfassung dessen, was KI ist, eine Liste dessen, was nur die Führung entscheiden kann, einen Rahmen, um das Rad nicht neu zu erfinden, und eine Agenda.

Wer führt, muss nicht verstehen, wie das Modell funktioniert. Er muss entscheiden, wo es eingesetzt wird, wer verantwortet und was nicht automatisiert wird. Das lässt sich nicht delegieren.

Was man wissen muss, in sieben Sätzen.

• Ein Sprachmodell sagt den wahrscheinlichsten Text voraus. Es sucht nicht die Wahrheit; beides fällt fast immer zusammen. (Notizen 1 und 2.)
• Es irrt sich mit Sicherheit, und es gibt Ihnen recht. Deshalb bleibt jede Entscheidung mit Folgen bei einem Menschen, und von jeder Analyse wird das Gegenargument verlangt. (Notiz 2.)
• Das meiste, was Ihr Unternehmen automatisieren muss, ist weiterhin klassische Software. Das Modell bleibt dem vorbehalten, was keine Regel kann: lesen, klassifizieren, extrahieren, zusammenfassen, verfassen. (Notizen 3 und 4.)
• Es hilft bei manchen Aufgaben sehr und schadet bei der daneben, ohne dass man die Linie von aussen sieht. Seriöse Studien messen 14 bis 40 Prozent Verbesserung innerhalb der Grenze und einen Rückgang ausserhalb. (Notiz 4.)
• Kurze Ketten, Prüfungen zwischen den Schritten, Berechtigungen einzeln. Ein Agent mit vierzehn Schritten, der bei jedem 95 Prozent richtig trifft, scheitert in der Hälfte der Fälle. (Notiz 5.)
• Das Projekt beginnt vor dem Anbieter: ein Prozess mit einer Zahl, saubere Dokumente, fünfzig goldene Fälle, Schattenmodus, Kontrolle nach Risiko und jemand aus dem Geschäft mit der Zahl in den Zielen. Was nicht so gemacht wird, gehört zu den 95 Prozent ohne Ertrag. (Notizen 6, 7 und 8.)
• Das Recht gilt schon, Sicherheit ist vor allem Berechtigungen und Daten, und die blinden Flecken sind das Wachen, das niemand budgetiert. (Notizen 9, 10 und 11.)

Was nur die Führung entscheiden kann.

Es gibt sechs Entscheidungen, die schlecht ausgehen, wenn man sie dem technischen Team oder dem Anbieter überlässt, nicht weil diese schlecht wären, sondern weil es nicht ihre Entscheidungen sind.

• Wo, und wo nicht. Welche Prozesse zuerst automatisiert werden und welche nicht angerührt werden: Personalauswahl, Entscheidungen über Kundschaft mit rechtlichen Wirkungen, alles, wobei das Unternehmen einem Kunden nicht erklären möchte, dass eine Maschine entschieden hat. Es ist eine Entscheidung des Urteils und der Marke, nicht der Technologie.
• Wie viel Fehler akzeptiert wird, und wofür. Kein System trifft immer richtig. Die Führung setzt die Schwelle pro Prozess: 99 Prozent bei Rechnungen mit Kontrolle des Rests, 100 Prozent mit menschlicher Unterschrift bei allem, was an einen Kunden hinausgeht. Ohne diese Zahl setzt das technische Team seine eigene.
• Wer verantwortet. Ein Name pro System, aus dem Geschäft, mit der Zahl in den Jahreszielen und mit Befugnis darüber, wie das Team arbeitet. Die technische Leitung hilft; die Verantwortung aus dem Geschäft trägt sie.
• Welche Daten das Haus verlassen, an wen und unter welchem Vertrag. Mit der Liste der Anbieter, wo sie bearbeiten, ob sie mit Ihren Daten trainieren und wie gelöscht wird. Es ist die Entscheidung, die das Gesetz von Ihnen verlangt, und die, die man später am meisten bereut, delegiert zu haben.
• Was die Leute wissen. Welche Schulung jede Person erhält, die ein System nutzt: was es tut, wie es versagt, was sie prüft. In der Europäischen Union ist das seit Februar 2025 Pflicht (Artikel 4 der KI-Verordnung); in der Schweiz ist es gesunder Menschenverstand mit Ablaufdatum.
• Was am Montag geschieht, wenn es abgeschaltet wird. Das manuelle Verfahren, die Verbindungen über offene Standards und das Eigentum an den Fällen, den Dokumenten und den Protokollen. Es ist die Entscheidung, nicht abhängig zu sein, und sie wird nur rechtzeitig getroffen, wenn sie trifft, wer den Vertrag unterschreibt.

Ein Rahmen, um das Rad nicht neu zu erfinden.

Man muss kein Governance-System von Grund auf entwerfen. Im Januar 2023 veröffentlichte das National Institute of Standards and Technology der Vereinigten Staaten, das NIST, einen freiwilligen Rahmen für das Risikomanagement von KI, der zur meistgenutzten Referenz geworden ist, auch in Europa, weil er kein Gesetz ist, sondern eine Art, die Arbeit zu organisieren. Er hat vier Funktionen mit Verbnamen: führen, die Kultur, die Rollen und die Richtlinien; kartieren, den Kontext und die Risiken jeder Nutzung; messen, mit Kennzahlen und Prüfungen; und steuern, auf das Gemessene reagieren und wachen. Im Juli 2024 fügte das NIST ein spezifisches Profil für generative KI hinzu, das die Risiken dieser Modelle auflistet, von Erfindungen bis zum Datenabfluss, mit Praktiken für jedes.

Für ein mittleres Unternehmen passt der ganze Rahmen in vier einseitige Dokumente, und ich empfehle, dass sie vor dem zweiten Prozess existieren: ein Register der genutzten KI-Systeme, mit Verantwortlichen, Anbieter, Daten und Fehlerschwelle; eine zweiseitige Richtlinie dazu, was genutzt werden darf, mit welchen Daten und was nie eingefügt wird; das Wachbuch jedes Systems, mit den fünfzig Fällen und den fünf wöchentlichen Prüfungen; und ein Vorfallverfahren: was getan wird, wenn ein System etwas sagt, das es nicht sollte, wer abschaltet, wer informiert, wer korrigiert. Führen, kartieren, messen, steuern. Der Rest ist Grösse.

Sieben Fragen für den Ausschuss.

Es sind die, die «Was machen wir mit der KI?» ersetzen. Sie werden in dieser Reihenfolge gestellt, und die Antworten passen auf ein Blatt.

• Was nutzen unsere Leute schon, mit welchen Daten? Wenn die Antwort «nichts» lautet, ist sie falsch: 75 Prozent der Wissensarbeitenden nutzten 2024 KI, 78 Prozent mit eigenen Werkzeugen.
• Welche Zahl des Unternehmens wollen wir zuerst ändern, und um wie viel? Ein Prozess, eine Zahl, ein Datum. Was nicht in einen Satz passt, wird nicht genehmigt.
• Was werden wir nicht automatisieren, und warum? Die Liste dessen, was bei Menschen bleibt, geschrieben und unterschrieben.
• Wer verantwortet jedes System, mit welcher Fehlerschwelle? Ein Name und ein Prozentsatz pro System.
• Wo sind unsere Daten und unter welchem Vertrag? Anbieter, Länder, Training, Löschung. Wenn es niemand weiss, ist das die erste Aufgabe.
• Wie viel haben wir ausgegeben, und was ist in Produktion? Lizenzen, Beratung, interne Stunden, gegenüber Systemen, die an einem Dienstag um 18 Uhr funktionieren.
• Was würden wir am Montag tun, wenn all das abgeschaltet würde? Wenn die Antwort länger als eine Minute braucht, gibt es eine ungesteuerte Abhängigkeit.

Was jene sagen, die schon entschieden haben.

Man sollte entscheiden und dabei wissen, wie es anderen erging. Im Mai 2025 veröffentlichte IBM seine Umfrage unter 2000 Geschäftsführenden weltweit. Nur 25 Prozent der KI-Initiativen hatten den erwarteten Ertrag gebracht; 16 Prozent waren auf das ganze Unternehmen ausgeweitet worden; 64 Prozent räumten ein, aus Angst, den Anschluss zu verlieren, investiert zu haben, bevor sie den Wert verstanden; 61 Prozent führten Agenten ein; und die Hälfte nannte die Anhäufung unverbundener Technologien als Bremse. Lesen Sie es als Karte dessen, was man nicht tun sollte: aus Angst investieren, ohne Zahl, ohne auszuweiten, was funktioniert, und Werkzeuge anhäufen, die nicht miteinander sprechen. Jede der sieben Fragen oben vermeidet eine dieser Zahlen.

Eine Agenda für zwölf Monate.

Ich gebe eine Musteragenda für ein Unternehmen mit 20 bis 300 Personen, mit einem Budget, das nicht im Januar, sondern im Oktober entschieden wird, mit Zahlen.

1. Monate 1 bis 3

   Wissen und ordnen

   Inventar dessen, was schon genutzt wird. Zweiseitige Richtlinie und offizielles Werkzeug mit geschützten Daten. Karte der neun Verben nach Abteilung. Wahl des ersten Prozesses mit seiner Zahl. Halbtägige Schulung für Führung und Verantwortliche.

2. Monate 3 bis 6

   Der erste Prozess

   Saubere Dokumente, fünfzig goldene Fälle, das Einfachste, das den Fall löst, vier Wochen Schattenmodus, gestaffeltes Einschalten. Verantwortliche Person aus dem Geschäft ernannt. Register der Systeme mit einer Zeile angelegt.

3. Monate 6 bis 9

   Messen und wiederholen

   Die Rechnung aus Notiz 7 mit den echten Zahlen. Wachbuch in Betrieb. Zweiter Prozess mit dem Gelernten gewählt, in Administration oder Betrieb, nicht im Auffälligen. Prüfung der Anbieterverträge: Daten, Training, Löschung, Ausstieg.

4. Monate 9 bis 12

   Mit Zahlen entscheiden

   Zwei Systeme in Produktion, gemessen. Vorfallverfahren einmal geprobt. Montagsübung. Budget des nächsten Jahres auf gemessenem Ertrag entschieden, nicht auf Angst. Und eine schriftliche Liste dessen, was nicht automatisiert wird.

Was ich in zwölf Notizen nicht gesagt habe.

Zwei Dinge habe ich absichtlich vermieden. Ich habe nicht gesagt, dass die KI Ihre Branche verändern wird, weil ich es nicht weiss und weil, wer das behauptet, meist etwas verkauft. Und ich habe nicht gesagt, dass man nichts tun müsse, weil Ihre Leute schon etwas tun und weil die langweiligen Verwaltungsprozesse, die niemand anschaut, echtes Geld zurückbringen, wenn man sie mit Urteilsvermögen automatisiert. Zwischen Begeisterung und Lähmung gibt es einen schmalen und ziemlich langweiligen Weg: ein Prozess, eine Zahl, fünfzig Fälle, vier Wochen Schatten, eine verantwortliche Person, zwei Stunden Wachen pro Woche. Das ist weniger aufregend als eine Präsentation. Es ist das, was funktioniert.

Wie ich es angehe.

Meine Arbeit mit einem Unternehmen beginnt mit den sieben Fragen, nicht mit einer Vorführung. Die Strategische Diagnose ist die Antwort auf die ersten drei, mit der Karte und den Zahlen des Unternehmens. Die Automati­sierungs­analyse ist der erste Prozess, geführt bis zu den fünfzig Fällen und einem festen Budget. Danach wird gebaut, im Schatten, mit Wachbuch und mit einer verantwortlichen Person, die nicht ich bin. Denn was diese Reihe auf zwölf Arten zu sagen versucht hat, ist eine einzige Sache: KI ist ein sehr gutes Werkzeug in den Händen dessen, der versteht, was sie ist und wer verantwortet. Und das sind in Ihrem Unternehmen Sie.

Ein letzter Test, der kürzeste der Serie. Schreiben Sie auf ein Blatt den Namen der Person, die in Ihrem Unternehmen dafür einsteht, wenn sich ein KI-System bei einem Kunden irrt. Einen Namen, keine Abteilung.

Wenn Sie ihn ohne Zögern geschrieben haben, zeigen Sie ihn dieser Person und prüfen Sie, ob sie es weiss. Wenn Sie gezögert haben, haben Sie die erste Entscheidung für das Gremium. Und wenn Sie Ihren eigenen geschrieben haben, ändert sich die Frage: Was müssen Sie wissen, um diese Verantwortung mit ruhigem Gewissen zu unterschreiben? Diese zwölf Notizen haben versucht, sie zu beantworten. Nur Sie wissen, ob es gelungen ist.

Ende der Reihe. Die zwölf Notizen stehen in der Kategorie «KI verstehen», in Reihenfolge, in den fünf Sprachen dieser Website. Wenn Sie mit der ersten beginnen möchten: «Was ist künstliche Intelligenz?».