Seit Jahrzehnten ist der sogenannte „automation bias“ gut erforscht: Wer ein System überwacht, das zuverlässig arbeitet, übernimmt dessen Ergebnisse immer öfter ungeprüft und übersieht Fehler, die er ohne das System bemerkt hätte. Der Effekt wird stärker, je zuverlässiger das System normalerweise arbeitet.
Das kennt jeder, der beim Autofahren seinem Navi schon mal in einen Feldweg gefolgt ist, obwohl der Blick durch die Windschutzscheibe zeigt, dass da etwas nicht stimmt.
Ein schlechtes Sprachmodell, das jeden dritten Satz vergeigt, dürfte also sehr gründlich kontrolliert werden. Ein sehr gutes, das nur alle zwei Wochen einen Namen verwechselt, dagegen kaum noch. Gute KI-Systeme erzeugen die schlechteste Aufsicht. Zumal sich das reine Aufpassen nach dem Stand der Forschung auch nicht ewig durchhalten lässt. Schritt für Schritt schwindet die Konzentration für die dringend nötige Kontrolle.
Wer den „human in the loop“ einsetzt, muss also auch klären, wie die Prüfung von KI-generierten Texten genau aussehen soll. Wie viel Zeit er dafür im redaktionellen Alltag zur Verfügung stellt. Wie er dafür Sorge trägt, dass die Prüfung mit der Zeit nicht zur Formalie, sondern weiter ernsthaft betrieben wird. […]
Der „human in the loop“ ist keine Garantie, dass alles korrekt läuft. Er funktioniert nur, wenn er gut organisiert, in Workflows übersetzt und angemessen trainiert und bezahlt ist. Solange das nicht passiert, steht in den KI-Richtlinien der deutschen Medienhäuser vor allem eines: dass jemand da ist, dem man es hinterher vorwerfen kann.
Dennis Horn, Übermedien, 24.08.2026 (online)
