Wenn Ihre KI vor einem Kunden danebenliegt

Fehler in der KI-Unterstützung: So vermeiden Sie katastrophale Auswirkungen

Nicht alle falschen Antworten verdienen die gleiche Reaktion. Bewerten und klassifizieren Sie sie vor dem Start, in einfacher Sprache, mit Namen zu jeder Klassifizierung.

Ein Tonproblem – das System ist unhöflich oder unklar – ist ein Coaching-Thema für die nächste Veröffentlichung. Ein faktischer Fehler bezüglich einer Richtlinie, eines Preises oder einer Lieferfrist erfordert eine sofortige Korrektur und einen Kundenkontakt. Ein Fehler, der Geld, Sicherheit, rechtliche Verpflichtungen oder persönliche Daten betrifft, ist ein Stopp-Signal: Die Funktion wird deaktiviert, bis das Problem verstanden wurde.

Definieren Sie diese drei Stufen auf einer Seite, weisen Sie jeder Stufe einen Verantwortlichen zu, legen Sie eine Reaktionszeit fest und gewähren Sie die ausdrückliche Autorisierung, das System zu deaktivieren. Die Person, die den Stecker ziehen kann, sollte nicht erst einen Manager konsultieren müssen. Wenn Ihr einziges Ausstiegsmanöver ein Deployment ist, verfügen Sie über kein effektives Ausstiegsmanöver.

Stellen Sie dem Kunden eine Person und keine Schleife zur Verfügung

Das schädlichste Muster bei KI-gestützten Dienstleistungen ist die geschlossene Schleife: Der Kunde stimmt mit dem System nicht überein, das System erklärt sich erneut, und es gibt keinen sichtbaren Ausweg. Menschen können einer falschen Antwort verzeihen, aber sie vergeben es nicht, wenn sie gefangen sind.

Jede Interaktion mit KI-Unterstützung muss einen Weg zu einem menschlichen Ansprechpartner bieten, der beim ersten Anfrageversuch verfügbar ist, nicht erst beim dritten. Machen Sie dies in der Benutzeroberfläche sichtbar, nicht in einem Hilfebereich versteckt. Weisen Sie es einer Person zu, die den gesamten Chat mit dem Kunden einsehen kann, damit dieser nicht alles wiedererzählen muss. Verfolgen Sie auch die Eskalationsrate als Hauptmetrik – ein System, das sich nie eskaltiert, ist oft ein System, dessen Ausweg niemand findet.

Setzen Sie einen Schwellenwert, der eine proaktive menschliche Einbindung auslöst. Wenn ein Kunde seine Anfrage wiederholt, wenn ein Chat zu lang wird oder wenn das Thema Rückerstattungen oder Beschwerden betrifft, übernehmen Sie die Verantwortung ohne vorheriges Bitten.

Die Entschuldigung ist eine geschäftliche Entscheidung

Wenn Sie einen Kunden über eine falsche Antwort kontaktieren, kommen drei Dinge ins Spiel: Geschwindigkeit, Spezifität und das Angebot einer Lösung. Erstellen Sie ein Vorlagen-Entschuldigungsschreiben, während niemand unter Druck steht.

Nennen Sie die Fehler des Systems und die korrekte Position. Erklären Sie, was getan wird, um eine Wiederholung zu verhindern. Vermeiden Sie Schuldzuweisungen an das Modell, erklären Sie nicht die Architektur und verwenden Sie den Begriff "KI-Halluzination" nicht mit einem Kunden – er klingt wie eine Ausrede für ein Unternehmen, das etwas lieferte, das es nicht kontrollierte.

Entscheiden Sie dann die Entschädigungspolitik im Voraus. Wenn das System einen falschen Preis zitiert hat, möchten Sie diesen honorieren? Wenn es ein Lieferdatum versprochen hat, das Sie nicht einhalten können, was bieten Sie an? Besprechen Sie diese Punkte in einem Raum, einmalig, anstatt sie fallweise und unter Druck zu klären. Die Kosten für eine konsistente Politik sind oft niedriger als die Kosten für Spontanklösungen.

Protokollieren Sie, was Sie später bereuen werden

Eine Audit-Spur verwandelt einen Streit in eine Untersuchung. Erfassen Sie diese Informationen ab Tag Eins, da Sie sie später nicht mehr rekonstruieren können:

• Die genaue Eingabe und die genaue Ausgabe mit Zeitstempel und Konversations-ID, die der Kunde zitieren kann
• Welches Modell und welche Version es erzeugt hat sowie welche Prompt-Konfiguration aktiv war
• Welche Dokumente oder Aufzeichnungen das System abgerufen hat, um eine schlechte Quelle von einer schlechten Antwort zu unterscheiden
• Jede menschliche Intervention: Wer hat es es es es es es es es es es es es es es es es es es es es es es es es es es es es es es es