Braucht dein Betrieb ein KI-Modell, das deutsch denkt?

Aleph Alpha hat mit Kolibri-1 ein Modell veröffentlicht, das auf deutsche Texte ausgelegt ist und seine Denkschritte auf Deutsch macht statt auf Englisch. iX hat es ausprobiert und stellt in der Überschrift genau die Frage, auf die es ankommt, nämlich ob das Denken auf Deutsch auch beim Antworten hilft. Für dich ist das keine Modellfrage, sondern eine Frage an zwei Textsorten, die in deinem Betrieb jede Woche anfallen. Ein Angebotsanschreiben und die Antwort auf eine Reklamation.

Der Test, der eine halbe Stunde dauert

Such dir aus dem letzten Quartal fünf Angebote und fünf Reklamationen heraus, und zwar zusammen mit dem Text, den dein Mitarbeiter tatsächlich verschickt hat. Lass zwei oder drei Modelle denselben Entwurf schreiben, mit denselben Angaben, die der Mensch damals hatte.

Bewerte nicht den Stil. Zähl ab, wie viele Entwürfe nach zwei Minuten Korrektur raus könnten, und wie viele du wegwerfen und neu schreiben müsstest. Diese eine Zahl ist mehr wert als jede Bestenliste. Achte dabei auf vier Dinge: die Fachbegriffe deiner Branche, Fristen und Zahlen unverändert aus der Vorlage, die Anrede und die Rechtsbegriffe. Ob ein Modell Gewährleistung und Garantie auseinanderhält, siehst du in genau diesen fünf Reklamationen und sonst nirgends.

Wo die Sprache zählt und wo nicht

Beim Angebotsanschreiben merkst du den Unterschied schnell. Ein Modell, das auf englischen Texten groß geworden ist, schreibt gern einen Verkaufsbrief mit drei Ausrufezeichen im Geist, wo dein Kunde zwei nüchterne Absätze erwartet. Es duzt, wo gesiezt wird, es übersetzt Branchenbegriffe zurück ins Allgemeine, und es formuliert Verbindlichkeit, wo ein Freibleibend-Vermerk hingehört.

Beim Auslesen einer Lieferscheinposition aus einem PDF merkst du von der Sprache dagegen wenig. Zahlen sind Zahlen. Die Frage „deutsches Modell oder nicht" ist also keine Grundsatzfrage für deinen ganzen Betrieb, sondern eine pro Aufgabe. Es kann gut sein, dass für deine Angebotstexte ein Modell gewinnt, das in deiner Sprache argumentiert, und für die Dokumentenablage ein anderes, das vor allem schnell und billig ist.

Die Reklamation ist die Stelle, an der ein Mensch entscheidet

Bei einer Beschwerde geht es um Kulanz, um Haftung, manchmal um einen Kunden, den du seit zwölf Jahren hast. Kein Modell kennt die Vorgeschichte, und keines trägt das Risiko, wenn im Entwurf aus Kulanz ein Anerkenntnis wird.

Deshalb landet der Entwurf im Postausgang als Entwurf und nicht als gesendete Mail. Die Maschine nimmt das Formulieren ab, die Freigabe macht der Mensch, der den Kunden kennt, und er braucht dafür zwei Minuten statt zwanzig. Wir bauen unsere Systeme genau so, weil eine Automatisierung ohne benannte Freigabestelle im ersten Streitfall zum Problem des Inhabers wird.

Offene Modelle sind längst der Normalfall

Parallel zu den deutschen Modellen hat sich etwas anderes verschoben. Über ein verbreitetes Gateway, mit dem Entwickler viele Modelle gleichzeitig ansprechen, laufen inzwischen rund 71 Prozent der Anfragen auf Modelle mit offenen Gewichten. Die Begründung im Bericht ist nüchtern und dreht sich vor allem um den Preis pro Anfrage.

Für dich ist daran weniger die Zahl interessant als die Folge. Offene Gewichte heißt, dass dasselbe Modell bei mehreren Anbietern läuft und eben auch auf einer Maschine, die du bezahlst. Der Anbieter wird damit austauschbar, und das ist der Punkt, an dem Souveränität aufhört, ein Schlagwort zu sein. Die letzte Meile bleibt trotzdem außer Haus, wenn der Entwurf am Ende über einen fremden Mailanbieter rausgeht.

Drei Wege, und der mittlere wird meistens vergessen

• Mieten. Du zahlst pro Anfrage oder pro Kopf bei einem Anbieter. Schnell startklar, kein Betrieb, laufende Kosten, und bei jedem Modellwechsel des Anbieters ändert sich dein Ergebnis, ohne dass du etwas getan hast.
• Betreiben lassen. Ein offenes Modell läuft auf einem Server, der dir gehört oder den du in Deutschland mietest, und jemand anders kümmert sich um Updates, Überwachung und Wiederanlauf. Die Daten und das System bleiben deine, die Rufbereitschaft nicht dein Problem. Das ist die Kategorie, in der wir arbeiten.
• Selbst betreiben. Günstigste Variante im Rechenbeispiel, teuerste in der Realität, wenn niemand im Haus ist, der die Kiste am Samstag wieder hochzieht.

Für die Entscheidung brauchst du zwei Zahlen: Tokens pro Lauf und Läufe pro Monat. Ein zweiseitiges Angebotsanschreiben mit Produktdaten liegt grob bei ein paar tausend Tokens Eingabe und unter tausend Ausgabe. Multipliziere das mit deiner Monatsmenge und setz den aktuellen Preis deines Anbieters ein. Wir haben hier keine Durchschnittszahl, die für deinen Betrieb gilt, und wer dir eine nennt, hat sie geraten.

Hardware wird dabei nicht automatisch teurer. Es gibt Modelle, bei denen von 24 Milliarden Parametern nur rund zwei pro Token aktiv sind, was den Speicherbedarf und die Antwortzeit deutlich drückt. Ob die Qualität für deine Reklamationen reicht, zeigt dir wieder nur dein Testordner.

Woran es im Betrieb hakt

Die Begeisterung für Modelle mit Denkschritt hat einen Preis, den Entwickler in den Kostenabrechnungen sehen. Ein Modell, das erst eine halbe Seite nachdenkt, verbraucht ein Vielfaches an Tokens und braucht spürbar länger. Im Chat stört das niemanden. Bei 400 Entwürfen pro Nacht ist es der Posten, der die Rechnung macht.

Die zweite Stolperstelle ist nicht der Fließtext, sondern alles, was strukturiert zurückkommen soll. Wenn dein Ablauf ein sauberes Datenfeld mit Kundennummer und Lieferdatum erwartet, trennen sich die Modelle schneller als beim Schreiben. Und die dritte ist offen zugegeben: Wie gut ein frisch veröffentlichtes Modell über Monate im Dauerbetrieb trägt, weiß nach ein paar Wochen niemand, auch wir nicht.

Deshalb die Rückfalltür. Halte ein zweites Modell konfiguriert und schreib in den Ablauf, wer gewarnt wird, wenn das erste nicht antwortet. Bei offenen Gewichten ist dieser Wechsel eine Zeile Konfiguration. Genau das ist der eigentliche Gewinn, nicht der Preis pro Anfrage.

Was du nächste Woche machen kannst

Leg den Ordner mit den zehn echten Vorgängen an. Lass drei Modelle ran, eines davon deutschsprachig, eines offen. Zähl die Entwürfe, die ein Mensch nach zwei Minuten abschicken würde. Und entscheide erst danach, wo das Ding laufen soll.