Deine Leute nutzen längst KI, nur weiß es niemand

Freitag, 17:40 Uhr. Ein Angebot muss noch raus, der dritte Absatz klingt schief. Der Kollege kopiert den Text in einen Chatbot im Browser, samt Kundenname, Menge und Staffelpreis, lässt umformulieren, kopiert zurück und schickt das Angebot ab. Gute Arbeit, schnell erledigt. Und niemand im Haus weiß, dass eure Preisstaffel jetzt bei einem Anbieter liegt, den nie jemand ausgewählt hat, unter Bedingungen, die nie jemand gelesen hat.

Das ist keine Ausnahme. Das ist der Normalfall.

Die Zahl, die niemand überrascht, wenn er sie hört

t3n berichtet, dass rund drei Viertel der Mitarbeiter im Büro KI-Werkzeuge ohne offizielle Freigabe nutzen. Wenn du in deinem Betrieb keine Regel dazu hast, dann hast du keine KI-freie Zone, sondern eine unbekannte Menge an Werkzeugen im Einsatz, über die keine Liste existiert.

Die interessante Frage ist nicht, ob das bei euch passiert. Die interessante Frage ist, welche Daten dabei rausgehen. Erfahrungsgemäß sind es genau die, mit denen jemand gerade arbeitet, und das sind selten Marketingtexte. Das sind Angebote mit Kalkulation, Kundenmails mit Namen und Vorgeschichte, Bewerbungsunterlagen, Reklamationen, Lieferantenpreise, gelegentlich ein Vertragsentwurf.

Warum ein Verbot die Sache nur unsichtbar macht

Deine Leute machen das nicht aus Leichtsinn. Sie machen es, weil es funktioniert. Die halbe Stunde für das Umformulieren, das Zusammenfassen einer Mailkette, das Sortieren einer Excel-Spalte, das nimmt ihnen die Maschine tatsächlich ab. Diese Werkzeuge werden längst überall benutzt, wo jemand Zeit sparen will, bis hinaus auf das Feld eines Landwirts, der keine IT-Abteilung hat, die er fragen könnte.

Ein Verbot ändert daran wenig. Es verlagert die Nutzung auf das private Handy, und damit verlierst du den letzten Rest an Übersicht. Wer verbietet, hat am Ende dasselbe Risiko und zusätzlich keine Chance mehr, davon zu erfahren.

Drei Dinge, und es sind wirklich nur drei

Der nüchterne Weg besteht nicht aus einer Richtlinie mit 14 Seiten. Er besteht aus drei Ansagen, die auf eine Seite passen.

Erstens eine kurze Liste freigegebener Werkzeuge. Kurz heißt zwei oder drei, nicht zwölf. Für jedes steht dabei, wofür es gedacht ist und wer den Zugang bezahlt. Ein Werkzeug, das die Firma bezahlt, hat andere Vertragsbedingungen als ein kostenloser Zugang, den sich jemand privat angelegt hat. Genau darin liegt der Unterschied, nicht im Modell.

Zweitens eine benannte Stelle für die Freigabe. Eine Person, ein Name, ein kurzer Weg. Wenn jemand ein viertes Werkzeug braucht, soll er fragen können und innerhalb von zwei Tagen eine Antwort bekommen. Dauert die Freigabe drei Wochen, ist die Liste nach einem Monat wieder Fiktion.

Drittens die Ansage, welche Daten in welche Tiefe dürfen. Drei Stufen reichen in den meisten Betrieben.

• Frei nach draußen: Texte, die ohnehin veröffentlicht werden, Entwürfe ohne Namen und Zahlen, allgemeine Fragen.
• Nur in ein Werkzeug mit Vertrag: interne Dokumente, Kundenkorrespondenz ohne besonders sensible Inhalte, Angebote nach Absprache.
• Bleibt im Haus: Personaldaten, Gesundheitsdaten, vollständige Preiskalkulationen, Verträge, alles, wo eine Verpflichtung gegenüber Dritten dranhängt. Dafür braucht es ein Modell auf eigener Hardware oder eben keine KI.

Damit entscheidest du die Tiefe, und nicht der Zufall, welches Fenster im Browser gerade offen war.

Und wenn das Werkzeug sich irrt

Die zweite Frage neben „wer hat die Daten“ ist „was passiert, wenn es schiefgeht“. Auch dafür gibt es dokumentierte Fälle. In einem hat ein KI-Agent Code gelöscht und die Protokolle anschließend so dargestellt, dass der Vorgang harmloser aussah, als er war. Man muss daraus keinen Weltuntergang machen, aber eine Bauanweisung folgt daraus schon. Ein Modell, das schreiben und löschen darf, ohne dass ein Mensch dazwischensteht, ist ein Risiko, dessen Umfang du erst hinterher kennst.

Deshalb bauen wir es anders. Die Maschine schlägt vor, freigegeben wird von einem Menschen. Bei einem Angebotstext heißt das, dass der Entwurf im System liegt und der Vertrieb ihn abschickt. Bei einer Datenänderung heißt es, dass der Agent den Änderungsvorschlag zeigt und jemand ihn bestätigt. Das kostet ein paar Sekunden pro Vorgang und erspart dir die Frage, wer eigentlich entschieden hat.

Wie wir es selbst halten

Bei Kunst gegen Bares, der Plattform für eine Live-Kunst-Bühne in Düsseldorf, die wir gebaut haben und selbst betreiben, schreibt eine Cloud-KI die Textvorschläge pro Kanal. Das ist eine bewusste Entscheidung und keine Notlösung. Die Texte sind für die Öffentlichkeit gedacht, sie gehören in die erste Stufe. Freigegeben wird jeder Beitrag von einem Menschen, und für die Veröffentlichung geht es zu den Plattformen selbst. Wer auf Instagram posten will, schickt Daten zu Instagram, daran ändert keine Architektur etwas. Wichtig ist, dass jeder dieser Dienste austauschbar bleibt, weil Daten und System bei uns liegen.

An anderer Stelle sieht es anders aus. Cloud, Mailserver, Passwortmanager, Git-Server und diese Website laufen auf einem Server, den wir selbst betreiben. Das ist die dritte Stufe, und dort gehört sie auch hin.

Zwei Stufen im selben Haus, jeweils bewusst gewählt. Genau das meinen wir mit Souveränität. Nicht dass nichts das Haus verlässt, sondern dass jemand entschieden hat, was das Haus verlässt.

Wenn du wissen willst, wo du gerade stehst, dann frag am Montag drei Leute, welches KI-Werkzeug sie letzte Woche benutzt haben. Nicht als Kontrolle, sondern als Bestandsaufnahme. Die Antworten sind der Anfang deiner Liste.