Garbage in, Garbage out: Warum die Eingabe über das KI-Ergebnis entscheidet

Ein Bild, das sich in vielen Unternehmen regelmäßig darstellt: Zwei Abteilungen haben dieselbe Lizenz für dasselbe KI-Werkzeug. In der einen ist die KI nach vier Wochen aus dem Alltag nicht mehr wegzudenken, in der anderen wird die Nutzung faktisch eingestellt, weil „nichts Brauchbares herauskam".

Eine naheliegende Erklärung wäre, dass die eine Abteilung geschickter formuliert. Das spielt zwar auch eine Rolle, aber es ist selten die entscheidende. In den allermeisten Fällen liegt der Unterschied in dem, was überhaupt an Input hineingegeben wird, und in der Definition eines guten Ergebnisses, gegen das sich die tatsächliche Antwort messen lässt.

Alte Weisheiten

„Garbage in, Garbage out" ist ein Mantra so alt wie die Datenverarbeitung, und bei KI-Modellen ist der Satz gleich anwendbar wie anderswo. Eine klassische Tabellenkalkulation rechnet mit falschen Zahlen falsch, liefert aber ein offensichtlich falsches Ergebnis oder wirft gar einen Fehler. Ein KI-Sprachmodell verarbeitet im Gegensatz dazu eine unvollständige Eingabe ohne Probleme und liefert trotzdem einen Antworttext, der vollständig aussieht. Die Lücke wird nicht angezeigt, sondern wird anstandslos gefüllt.

Schlechte Eingaben treten dabei zumeist in drei Formen auf, die sich in unterschiedlicher Weise beheben lassen.

Fehlender Zusammenhang. Die Frage ist klar, aber das Modell erhält keine Informationen über den Kontext: Betrieb, die Kunden, die Vorgeschichte oder Regeln, die gelten. Es antwortet daraufhin allgemein und liefert damit zwar keine falsche Antwort, aber auch keine, mit der sich etwas anfangen lässt.

Unklare Aufgabe. Es ist nicht klar, wofür das Ergebnis gebraucht wird, welchen Umfang es haben soll und was ausdrücklich nicht integriert werden soll. Das führt zu "Rätselraten" auf Seite des Modells, was die Antwort in Richtung „ausführlich, glatt und allgemein" verschiebt, was selten das gewünschte Ergebnis ist.

Schlechte Quellen. Die unangenehmste Form der Problematik, weil sie nicht vom Schreibtisch aus zu lösen ist. Wenn die Quelle (Bericht, Arbeitsanweisung, etc.) in drei Fassungen im Netzlaufwerk liegt und selbst von der Belegschaft niemand weiß, welche gilt, kann keine Technik der Welt daraus die richtige Antwort ziehen.

Wenn das Problem unklar ist, hilft auch KI nicht

Daraus folgt ein Leitsatz, der sich in der Realität immer wieder bestätigt: Wenn ich ein Problem selbst nicht verstanden habe, bekomme ich auch per KI keine belastbare Antwort darauf. Das KI-Werkzeug kann eine Frage zwar schneller beantworten, aber nicht entscheiden, welche Frage die richtige ist.

Das klingt banal, hat aber konkrete Konsequenzen für Projekte. Wer „KI im Einkauf" einführen will, kommt nicht weit, da die Problemdefinition weder eine gute Erfolgsbestimmung erlaubt, noch definiert, was überhaupt mit KI integriert werden soll. Wer dagegen sagen kann, dass Lieferantenangebote heute:

• von Hand in eine Vergleichstabelle übertragen werden,
• das pro Angebot rund zwanzig Minuten dauert,
• die Angaben in fünf verschiedenen Formaten kommen,
• und dass die häufigste Fehlerquelle die Staffelpreise sind

der hat eine Aufgabe beschrieben, an der ein KI-Werkzeug mit messbarem Erfolg ansetzen kann, insofern darauf aufbauend ein formaler Prozess definiert wird.

Dieser Umweg lohnt sich auch dann, wenn am Ende keine KI eingesetzt wird. Ein Prozess, der so präzise beschrieben ist, lässt sich schon durch eine Vorlage und regelmäßiges Feedback verbessern.

Ein Prozessaufbau, der im Betrieb tragfähig ist

Ein belastbarer KI-Einsatz besteht nie nur aus dem Modellaufruf, er hat im Groben drei Teile:

Die Eingabe sorgt dafür, dass alle Informationen gesammelt sind, die für die Aufgabe gebraucht werden: der Vorgang an sich, die relevanten Unterlagen, die geltenden Regeln. Hier entscheidet sich ganz am Anfang bereits der größte Teil der Qualität des Ergebnisses.

Der Kernschritt ist der eigentliche Aufruf des Modells. Zusammenfassen, umformulieren, vergleichen, einordnen: Das ist der Teil, der in Produktdemos gezeigt wird. Unbequemerweise auch der Teil, der beim "echten Einsatz" am wenigsten Arbeit verursacht.

Die Ausgabe und ihre Prüfung legen fest, in welcher Form das Ergebnis ankommt, wer es kontrolliert, und was dann passiert, sowohl im Fall, dass alles passt, als auch wenn nicht. Ohne diesen Teil wird Regelbetrieb nicht möglich, sondern es bleibt beim Dauerversuch.

Wer einen Anwendungsfall in diese drei Teile zerlegt, sieht meistens sofort, wo Probleme liegen. Sehr oft liegt der größte Aufwand in der Umsetzung nicht im Kernschritt, sondern davor und danach. Genau deshalb scheitern Vorhaben, die nur das KI-Werkzeug beschafft haben.

Was das für die Unterlagen im Haus bedeutet

Der unbequeme Teil zuerst: KI macht schlechte Dokumentation im Idealfall sichtbar, sie behebt sie nicht. Im schlimmsten Fall wird intransparent für Nutzer nur Müll produziert. Wenn Sie ein Modell über Ihre eigenen Unterlagen suchen lassen, bekommen Sie genau die Qualität zurück, die in der Ablage liegt, inklusive veralteteter und falscher Informationen.

Damit bietet sich aber auch eine Chance, weil der Aufwand sich doppelt auszahlt. Eine eindeutige, aktuelle und auffindbare Fassung der wichtigsten Unterlagen hilft neben dem KI-Modell auch den Mitarbeitern. Für den Anfang genügt es, sich auf den Bereich zu beschränken, in dem der erste KI-Anwendungsfall liegt; eine vollständige Aufräumaktion vor dem ersten Schritt ist weder nötig noch realistisch.

Wichtig ist an dieser Stelle die Trennung nach Datenarten. Welche Unterlagen überhaupt in welches Werkzeug gegeben werden dürfen, ist eine eigene Frage, die vor der Qualitätsfrage kommt. Insbesondere bei Gesundheits-, Mandats- oder Personaldaten ist sie im Einzelfall zu klären und nicht pauschal zu beantworten.

Die Kurzprüfung vor dem nächsten Versuch

• Ist beschrieben, welche Aufgabe genau erledigt werden soll: Zweck, Umfang und Adressat?
• Liegen die Unterlagen vor, auf die sich das Ergebnis stützen soll, sind diese aktuell?
• Ist klar, welche Daten in dieses Werkzeug gelangen dürfen und welche nicht?
• Gibt es ein Beispiel für ein gutes Ergebnis, an dem sich Qualität messen lässt?
• Ist benannt, wer das Ergebnis prüft und was bei einem Fehler passiert?

Nächste praktische Schritte

1. Wählen Sie einen Vorgang, der oft vorkommt und heute von Hand erledigt wird, und beschreiben Sie ihn in drei Sätzen: was hineingeht, was im Prozess getan wird und was herauskommt.
2. Legen Sie sich ein Beispiel für ein gutes Ergebnis zum Vergleich daneben. Ohne diesen Maßstab lässt sich später der KI-Einsatz nicht beurteilen.
3. Prüfen Sie, welche Unterlagen für die Aufgabe gebraucht werden und ob es von jeder genau eine gültige Fassung gibt.
4. Klären Sie vorab, welche Datenarten in dem gewählten Werkzeug zulässig sind.
5. Testen Sie mit fünf echten Fällen aus dem Alltag, nicht mit einem fiktiven.

Fazit

Der Satz, das Modell sei „noch nicht gut genug", stimmt in der Praxis selten. Eine unvollständige Eingabe, eine unscharfe Aufgabe oder veraltete Unterlage sind viel öfter der eigentliche Grund. Das sind drei Probleme, deren Lösung auch ohne KI ein Netto-Positiv erzeugt.