Lernstand wird geladen ... Achtung: Ihr Browser speichert für diese Seite nichts. Der Lernstand geht beim Schließen verloren.
Übersicht › K13: Datenanalyse und Reporting mit KI › Einheit 2
K13
Einheit 2 von 10Neu

Das Anti-Pattern: Sprachmodelle rechnen nicht, sie erzeugen plausible Zahlen

Lernziel: Nach dieser Einheit können Sie erklären, warum ein Sprachmodell keine Berechnungen ausführt und warum „fast richtige“ Zahlen die gefährlichste Kategorie sind.

Das verbreitetste Fehlverhalten im Umgang mit Zahlen ist zugleich das riskanteste: eine Tabelle in den Chat kopieren und bitten „rechne mir die Summen je Region“. Aus K1 wissen Sie, warum das schiefgehen muss: Zahlen sind für das Modell Token, also Zeichenketten, und die Ausgabe ist die statistisch wahrscheinlichste Zahlenfolge, keine Berechnung. Bei häufigen, einfachen Rechnungen sind die Muster gut; bei vielen Zeilen, Nachkommastellen und Bedingungen kippen einzelne Werte, ohne dass irgendetwas falsch aussieht.

Das Ergebnis ist oft richtig, manchmal fast richtig und immer überzeugend formatiert. „Fast richtig“ ist dabei die gefährlichste Kategorie, denn sie besteht den Plausibilitätsblick. In K3 haben Sie Rechenfehler als Fehlerbild geprüft; hier gehen Sie einen Schritt weiter und vermeiden das Fehlverhalten von vornherein, indem Sie die Aufgabe anders stellen. Im regulierten Umfeld gilt: Eine plausibel erzeugte Zahl in einer Meldung oder Entscheidungsvorlage ist kein Versehen, sondern ein Prozessfehler.

Toolvorbehalt: Manche Umgebungen erkennen Rechenaufgaben und rechnen intern mit erzeugtem Code nach. Das ist die Betriebsart 3 aus der nächsten Einheit und muss als solche erkennbar sein: sichtbarer Code, sichtbares Ergebnis. Wer nicht weiß, ob gerechnet oder erzeugt wurde, behandelt die Zahl als erzeugt.

Fast richtig ist die gefährlichste Kategorie: Sie besteht den Plausibilitätsblick

Offene Frage notieren

Was ist unklar geblieben? Halten Sie es hier fest. Ihre Fragen erscheinen gesammelt auf der Modul- und Startseite und auf Ihrer Ergebnisseite.