Automation Bias ist die Neigung, Ausgaben automatischer Systeme unkritisch zu übernehmen. Der Effekt ist seit den 1990er Jahren in der Human-Factors-Forschung beschrieben, unter anderem zur Cockpit-Automation (Mosier und Skitka), und gut belegt: Menschen folgen Systemempfehlungen auch dann, wenn eigene Informationen dagegensprechen.
Generative KI verstärkt den Effekt. Klassische Software zeigt Fehler oft sichtbar, etwa durch Absturz oder Fehlermeldung. Sprachmodelle liefern Fehler dagegen in perfekter Form: fehlerfreie Sprache, sicherer Ton, sofortige Antwort. Das gewohnte Qualitätssignal „gut geschrieben“ ist damit entwertet, denn das Modell optimiert Plausibilität (K1).
Dazu kommt Overreliance, das übermäßige Vertrauen, das mit positiver Erfahrung wächst: Nach zwanzig guten Zusammenfassungen wird die einundzwanzigste ungelesen übernommen. Und die meisten übernommenen Fehler passieren nicht aus Unwissen, sondern weil die Prüfung unter Zeitdruck entfällt. Das Gegenmittel ist Routine statt Bauchgefühl: Prüfung als fester Arbeitsschritt je Aufgabentyp, unabhängig von der bisherigen Trefferquote, und so billig und schnell, dass sie auch unter Druck stattfindet.
Was ist unklar geblieben? Halten Sie es hier fest. Ihre Fragen erscheinen gesammelt auf der Modul- und Startseite und auf Ihrer Ergebnisseite.
