Warum jede Antwort ihre Quelle nennt

Wenn Sie ein allgemeines Sprachmodell etwas über Ihr Unternehmen fragen, bekommen Sie eine Antwort. Immer. Auch dann, wenn das Modell nichts weiß. Es formuliert dann etwas, das plausibel klingt, weil genau das seine Aufgabe ist: den wahrscheinlichsten nächsten Satz zu bilden.

Für ein Gespräch am Küchentisch ist das erträglich. Für eine Auskunft an einen Kunden, eine Zahl in einem Bericht oder eine Aussage gegenüber einer Aufsicht ist es untragbar.

Die Regel

In unseren Systemen gilt ohne Ausnahme: Ohne Beleg keine Antwort.

Jede Aussage kommt mit der Quelle, aus der sie stammt. Sie sehen, in welchem Dokument welcher Absatz steht, und können nachschlagen. Findet das System nichts Belastbares, sagt es das und gibt ab, statt eine Lücke zu füllen.

Das klingt selbstverständlich. Es ist es nicht. Ein System so zu bauen, dass es lieber schweigt als rät, ist eine bewusste Entscheidung gegen den ersten Eindruck. Ein Assistent, der auf jede Frage etwas sagt, wirkt in der Vorführung besser. Im Betrieb ist er gefährlich.

Was das im Alltag ändert

Niemand muss dem System glauben. Wer eine Antwort bekommt, kann sie in zehn Sekunden prüfen, statt sie zu übernehmen oder zu verwerfen. Das ist der Unterschied zwischen einem Werkzeug, das benutzt wird, und einem, das nach drei Wochen niemand mehr öffnet.

Fehler werden nachvollziehbar. Stimmt eine Antwort nicht, sieht man sofort, woran es liegt: Das Quelldokument ist veraltet, widersprüchlich oder falsch. Der Fehler liegt dann selten im System, sondern in den Unterlagen. Das ist unbequem, aber reparierbar.

Neue Mitarbeiter lernen die Ablage kennen. Sie bekommen nicht nur die Antwort, sondern sehen, wo sie steht. Nach ein paar Wochen finden sie die Dinge selbst.

Was das kostet

Ehrlichkeit hat einen Preis: Das System sagt häufiger "weiß ich nicht", als Sie erwarten. Besonders am Anfang, wenn noch wenig angebunden ist. Manche empfinden das als Schwäche.

Wir halten es für das Gegenteil. Jedes "weiß ich nicht" ist eine Fundstelle: Hier fehlt etwas in Ihren Unterlagen. Wir schreiben diese Fälle mit, und die Liste ist nach einigen Wochen die beste Gliederung für die Dokumentation, die bisher gefehlt hat.

Wie wir das prüfen

Nicht durch Zusicherung, sondern durch Messung. Jeder Agent läuft wöchentlich gegen einen Fragenkatalog, den Sie selbst zusammenstellen. Dazu kommen Negativtests: Wir prüfen ausdrücklich, ob das System Fragen, die es nicht beantworten darf, zuverlässig zurückweist. Ein System, das immer antwortet, hat den Test nicht bestanden.

Details dazu unter Betrieb und Wartung und Wenn der Agent einen Fehler macht.

Zurück zur Übersicht: Das Unternehmens-Gehirn. Welche Aufgaben darauf aufsetzen, steht unter Aufgaben. Zum Erstgespräch, kostenlos und unverbindlich.