Halte diese Entscheidungen menschlich: Eine praktische Karte, wo KI nicht hingehört
Ein konkreter Leitfaden für Entscheidungen, die in Ihrem Unternehmen menschliche Handeln erfordern, und wie man einen echten Überprüfungsschritt von einem Stempel unterscheidet.
Die Liste der Entscheidungen, die in menschliche Hände bleiben sollten
Die meisten AI-Ratschläge geben dir Ausgangspunkte. Dies ist eine andere Liste: die Entscheidungen, die du bewusst in menschliche Hände legen solltest, dokumentiert, bevor ein System sie versehentlich automatisiert.
Dieser letzte Punkt ist entscheidend. Nur wenige entscheiden sich freiwillig dafür, eine Kündigung per Algorithmus zu treffen. Stattdessen bewertet ein Screening-Tool Bewerber, liest der Manager die Rangfolge, und sechs Monate später kann niemand erklären, warum die Shortlist so aussah, wie sie es tat. Die Grenze verschob sich, ohne dass jemand darüber sprach.
Der Test: Wer trägt die Verantwortung, wenn etwas schiefgeht?
Vergiss für einen Moment die Technologie und stelle dir drei Fragen zu der Entscheidung selbst.
Kannst du sie kostengünstig rückgängig machen? Ein falsch geleitetes Support-Ticket kostet nur Minuten. Ein abgelehnter Hypothekenantrag, ein zurückgezogenes Jobangebot oder eine gekündigte Lieferantenvertragsbeziehung kosten viel mehr, und der Schaden trifft jemanden außerhalb deines Unternehmens.
Musst du sie einem verärgerten Menschen erklären? Nicht einem Dashboard oder einer Präsentation, sondern einer namentlich benannten Person, die wissen will, warum. "Das System hat dich bei 0,31 bewertet" ist keine Erklärung, und alle im Raum wissen das.
Erzeugt die Entscheidung Regeln für andere Entscheidungen? Preisgrenzen festlegen, definieren, was ein akzeptabler Kunde ist, oder die Metrik, nach der das Vertriebsteam bezahlt wird – diese Entscheidungen haben Auswirkungen. Wenn du einen Fehler machst, hast du nicht nur einen einzelnen Fehler begangen, sondern eine Politik.
Wenn eine Entscheidung zwei dieser drei Kriterien erfüllt, lege sie absichtlich in menschliche Hände und schreibe dies schriftlich fest.
Vier Orte, an denen du die Linie ziehen solltest
Entscheidungen über Menschen: Einstellung, Beförderung, Leistungsbeurteilung, Disziplinarmaßnahmen, Kündigungen. In der EU handelt es sich hier nicht nur um Urteile, sondern um Vorschriften: Personalentscheidungen fallen in die hochrangige Risikokategorie des AI-Gesetzes, was Dokumentation, menschliche Aufsicht und die Möglichkeit erfordert, ein Ergebnis zu erklären. Unabhängig von der Einhaltung gibt es einen einfacheren Grund. Ein Manager, der eine Entscheidung nicht in seinen eigenen Worten verteidigen kann, hat seine Autorität verloren.
Entscheidungen, die eine Beziehung beenden: Konto schließen, Ansprüche ablehnen, Lieferanten abbestellen, Rückerstattungsanträge über einem bestimmten Betrag ablehnen. Automatisierung ist hervorragend darin, Kandidaten zu identifizieren, aber schrecklich darin, zu wissen, welcher von ihnen der Kunde ist, der dein Unternehmen seit elf Jahren unterstützt und gerade einen schlechten Quartal hatte.
Entscheidungen, die du einem Regulierer oder Gericht erklären musst: Kreditvergabe, Versicherungen, medizinische Triage, alles, was mit Sicherheit zu tun hat. Der Standard ist nicht "war das Modell genau", sondern "kannst du Monate später rekonstruieren, welche Informationen vor welchem Menschen lagen?" Baue den Rekonstruktionsschritt zuerst oder automatisiere gar nicht.
Entscheidungen über Optimierung: Ein Modell wird das Ziel, das du ihm gibst, mit mehr Disziplin als jedes Team, das du je geleitet hast, verfolgen. Genau deshalb ist die Auswahl des Ziels deine Aufgabe. Bitte ein System, Tickets gelöst zu bekommen, und es wird sie schneller schließen, einschließlich derjenigen, die eine Unterhaltung erforderten.
Das Problem mit dem Stempel der Genehmigung
Die meisten Unternehmen glauben, dieses Problem mit einem Schritt der menschlichen Überprüfung gelöst zu haben. Meistens haben sie das nicht getan. Ein Überprüfungsstep ist ein Theaterstück, wenn einer dieser Punkte zutrifft:
- Der Prüfer genehmigt mehr als 95 % dessen, was ihm vorgelegt wird.
- Die Medianüberprüfungszeit beträgt weniger als dreißig Sekunden für eine Entscheidung, die eine Person fünf Minuten brauchen würde, um sie angemessen zu überdenken.
- Der Prüfer sieht nur eine Empfehlung, nicht die Beweise dahinter, oder er kann die Fälle nicht sehen, die das System vor seiner Ankunft gefiltert hat.
- Es gibt keine Messung der Qualität von Überprüfungen, nur des Durchsatzes.
- Die Rücknahme einer Empfehlung erfordert mehr Klicks, mehr Begründung oder mehr Erklärungen als ihre Annahme.
Verbessere die Anreize oder verliere die Vorstellung. Ein Stempel ist schlimmer als vollständige Automatisierung, weil er dir die Haftung für eine menschliche Entscheidung mit keiner der Urteilsfähigkeiten gibt.
Wo die Maschine ihren Platz verdient
Dieser Text argumentiert nicht dafür, KI von ernsthaften Aufgaben fernzuhalten. Er argumentiert dafür, sie auf die richtige Seite der Linie zu setzen. Lass sie die Akte zusammenstellen: ziehe Vertragsgeschichte heran, fasse 18 Monate Korrespondenz zusammen, markiere die drei Klauseln, die sich von deinen Standardbedingungen unterscheiden, und lege dar, was ähnliche Fälle entschieden wurden und wann. Das ist die harte Arbeit, und es ist wirklich schwierig für eine Person, sie unter Zeitdruck gut zu erledigen.
Lass dann einen Menschen die Entscheidung treffen, mit seinem Namen darauf.
Die Unternehmen, die am meisten von KI profitieren, sind nicht diejenigen, die die meiste Automatisierung betreiben. Sie sind diejenigen, deren Mitarbeiter sich nun mit harten Entscheidungen auseinandersetzen, anstatt sie um 18 Uhr mit einer halb gelesenen Akte zu konfrontieren. Das ist der Split, den wir bei Hercules A bauen, und es lohnt sich, über Papier zu entscheiden – welche Entscheidungen in deinem Unternehmen deine bleiben –, bevor die Tools es für dich entscheiden.