Lass die Maschine sortieren, unterschreiben musst du selbst

Hackerrank hat einen KI-Interviewer namens Chakra veröffentlicht, der Bewerbungsgespräche für Entwicklerstellen führt. Er stellt Nachfragen und bewertet nicht nur, ob am Ende eine funktionierende Lösung steht, sondern wie jemand dorthin gekommen ist. Fast zeitgleich wurde bekannt, dass die Bundeswehr Bewerber automatisiert prüfen will, um Extremisten früher zu erkennen.

Zwei sehr unterschiedliche Fälle, eine gemeinsame Frage. Welcher Teil einer Bewerbung darf durch eine Maschine laufen, bevor ein Mensch entscheidet. Die Antwort lässt sich an einer ganz normalen offenen Stelle durchspielen.

Deine offene Stelle und die neun Stunden

Nimm an, du suchst eine Sachbearbeiterin für den Vertriebsinnendienst. Die Anzeige läuft vier Wochen, im Postfach liegen 90 Bewerbungen. Rechne sechs Minuten für die erste Sichtung pro Bewerbung, dann sind das neun Stunden, bevor das erste Gespräch geführt ist. Dazu kommen die Eingangsbestätigungen, das Nachfordern fehlender Zeugnisse, die Terminabstimmung mit zwei Kollegen aus dem Vertrieb und am Ende 80 Absagen.

Der größere Teil davon ist Fleißarbeit. Keine dieser Aufgaben verlangt Menschenkenntnis, sie verlangen Zeit. Und sie sind der Grund, warum Bewerber im Mittelstand nach drei Wochen abspringen, nicht weil der Betrieb unattraktiv wäre, sondern weil sich niemand gemeldet hat.

Was die Maschine vorsortieren darf

Sinnvoll automatisierbar ist alles, was sich nachrechnen lässt:

• Eingangsbestätigung innerhalb einer Stunde statt am Freitagnachmittag, mit einem realistischen Termin, wann eine Rückmeldung kommt.
• Vollständigkeit prüfen und fehlende Unterlagen nachfordern, bevor jemand die Mappe aufmacht.
• Harte Kriterien, die in der Anzeige standen und überprüfbar sind, etwa eine abgeschlossene kaufmännische Ausbildung oder die Fahrerlaubnis, wenn die Stelle sie wirklich braucht.
• Eine Zusammenfassung pro Bewerbung, zwei Absätze, mit Fundstelle. Wenn dort steht, jemand habe fünf Jahre mit eurer Warenwirtschaft gearbeitet, muss daneben stehen, auf welcher Seite des Lebenslaufs das steht.
• Terminvorschläge mit den Kalendern der Beteiligten, als Entwurf zum Absenden.

Die Fundstelle ist nicht Kosmetik. Wenn ein System eine Einschätzung ausgibt und niemand nachvollziehen kann, woher sie stammt, ist die Einschätzung wertlos. Eine Zusammenfassung ohne Quelle ersetzt das Lesen nicht, sie verschiebt nur das Risiko.

Wo ein Mensch unterschreibt

Die Maschine sortiert, sie löscht nicht. Eine Reihenfolge ist ein Vorschlag, kein Ergebnis. Niemand fliegt raus, weil eine Punktzahl unter einer Schwelle liegt, und der Stapel mit den Aussortierten wird von einem Menschen durchgesehen, nicht archiviert. Die Einladung und die Absage sind Entscheidungen, und die unterschreibt jemand, der dafür geradesteht.

Wir bauen unsere Systeme nach demselben Muster. In der Plattform für Kunst gegen Bares, die wir betreiben, schreibt die KI Entwürfe je Kanal, veröffentlicht wird erst nach Freigabe durch einen Menschen. Bei einem Social-Beitrag ist der Schaden einer durchgelaufenen Automatik ein peinlicher Post. Bei einer Bewerbung ist es ein Mensch, der keine Antwort auf die Frage bekommt, warum.

Die Rechtslage zieht dieselbe Linie. Artikel 22 DSGVO gibt Betroffenen das Recht, nicht einer ausschließlich automatisierten Entscheidung mit erheblicher Wirkung unterworfen zu werden. Eine Absage, die kein Mensch angesehen hat, ist genau der Fall, den du dir nicht einhandeln willst.

Jede Absage braucht einen Satz, den du vorlesen kannst

Das ist der Teil, an dem Vorsortierung teuer wird. Nach § 22 AGG reicht es, wenn ein abgelehnter Bewerber Indizien für eine Benachteiligung vorträgt. Danach musst du beweisen, dass keine vorlag. Für die Geltendmachung hat er nach § 15 Abs. 4 AGG zwei Monate Zeit, und in dieser Zeit musst du erklären können, warum gerade er die Absage bekommen hat.

„Punktzahl 62" ist keine Erklärung. „Kein Nachweis über die in der Anzeige geforderte Ausbildung, siehe Anlage" ist eine. Halte deshalb pro Absage einen Satz fest, am besten mit dem Kriterium aus der Anzeige, auf das er sich bezieht. Das ist kein Mehraufwand, das ist der eigentliche Ertrag der Vorsortierung.

Dass das keine theoretische Sorge ist, hat Reuters schon 2018 berichtet, als Amazon ein internes Auswahlwerkzeug wieder abschaltete, weil es Bewerberinnen schlechter bewertete. Der Mechanismus dahinter ist kein Einzelfall, sondern die Natur der Sache. Ein System, das aus deinen bisherigen Einstellungen lernt, schreibt deine bisherigen Einstellungen fort. Wenn in deinem Vertriebsinnendienst seit zehn Jahren derselbe Typ Mensch sitzt, bekommst du genau den wieder vorgeschlagen.

Drei Wege, so etwas einzuführen

Es gibt nicht nur zwei. Mieten heißt, du nimmst einen Bewerbermanagement-Dienst und zahlst pro Nutzer oder pro Stelle. Schnell eingerichtet, und die Bewerberdaten liegen beim Anbieter. Selbst bauen und betreiben heißt, du brauchst im Haus jemanden, der das pflegt, auch im Juli, wenn die Hälfte im Urlaub ist. Dazwischen liegt der dritte Weg, betreiben lassen. Fremde oder eigens gebaute Software läuft auf einem Server, der dir gehört, gepflegt von jemandem, der dafür bezahlt wird. Die Daten bleiben bei dir, die Bereitschaft nicht. In dieser Kategorie arbeiten wir, deshalb sagen wir es dazu statt es zu verschweigen.

Egal welchen Weg du nimmst, stell dem Anbieter drei Fragen. Wie lange bleiben Bewerberdaten gespeichert und wer löscht sie. Wer kann sie einsehen. Und was passiert damit, wenn du den Vertrag kündigst.

Der Maßstab, den du anlegen kannst

KI nimmt dir die neun Stunden Sortierarbeit ab, nicht die Unterschrift. Ob dein Verfahren taugt, prüfst du mit einer einzigen Frage. Ruft dich einer der 80 Abgelehnten an, kannst du ihm dann in einem Satz sagen, warum. Wenn ja, darf die Maschine davor so viel vorsortieren, wie sie will. Wenn nein, ist nicht die Automatisierung dein Problem, sondern dass das Kriterium vorher schon gefehlt hat.