KI in der Schadenbearbeitung: Der gefährlichste Fehler sieht gut aus

EY musste kürzlich einen Bericht zurückziehen. Eines der größten Beratungshäuser der Welt. Die Financial Times (Stephen Foley) berichtete, dass der Bericht voller Fehler steckte, die von KI produziert worden waren. Erfundene Zahlen. Fußnoten, die auf tote Seiten führten. Ein Verweis auf einen McKinsey-Bericht, den es nicht gibt. Die Forschungsgruppe GPTZero fand es heraus. EY nahm das Stück offline und untersucht nun, wie es je an der Kontrolle vorbeikam.

Der Bericht sah tadellos aus. Das war das Problem.

Ein McKinsey-Bericht, den es nie gab

Was hier auffällt, ist nicht, dass KI Fehler macht. Das wissen wir. Was auffällt, ist, dass das Stück fertig und glaubwürdig aussah. Saubere Struktur, flüssige Sprache, ordentliche Quellenangaben. Nur stimmte die Hälfte nicht. Die Zahlen widersprachen sich, die Quellen existierten nicht, und trotzdem ging es bei einer Organisation zur Tür hinaus, die gerade von Qualität lebt.

Und es ist kein einmaliger Ausrutscher. Deloitte musste im vergangenen Jahr einen Bericht für eine kanadische Behörde anpassen, nachdem sich darin erfundene akademische Quellen fanden. Das passiert bei den Häusern, die ihre Reputation aus Sorgfalt beziehen.

Das Problem liegt nicht in der Geschwindigkeit

Alle reden darüber, was KI schneller macht. Mehr Output. Schnellere Entwürfe. Akten, die in einem Bruchteil der Zeit zusammengefasst sind. Das stimmt alles.

Die härtere Frage stellt kaum jemand. Wenn die Arbeit standardmäßig gepflegt, strukturiert und fertig aussieht, wird das Prüfen dann nicht gerade schwieriger?

Ich denke ja. KI hebt die Untergrenze der Präsentation an. Ein Entwurf, der früher holperte, sieht jetzt professionell aus. Die Struktur stimmt, der Ton stimmt, das Layout stimmt. Aber die schwachen Annahmen stecken noch immer darin. Die falsch verstandenen Fakten auch. Sie sind nur besser gekleidet.

Eine glatte Beurteilung ist noch keine richtige

Übersetzen Sie das in die Schadenbearbeitung. Früher sah man einer Akte an, ob etwas nicht stimmte. Eine schlampige Zusammenfassung, eine Lücke in der Begründung, eine halbfertige Beurteilung. Das waren Ihre Signale. Dort haben Sie nachgehakt.

Diese Signale verschwinden. Eine von KI erstellte Deckungsbeurteilung liest sich geschmeidig und bestimmt, auch wenn die Argumentation auf nichts ruht. Ein Ablehnungsschreiben verweist überzeugt auf eine Policenklausel, die in Wirklichkeit etwas anderes besagt. Eine Zusammenfassung nennt einen Betrag oder ein Datum, das knapp daneben liegt. Ein Betrugssignal klingt plausibel, ohne dass etwas dahintersteckt.

Es sieht kundenfertig aus. Genau da geht es schief.

Der Fehler, den Sie erst bei Kifid wiedersehen

Für einen Schadenversicherer ist das kein theoretisches Risiko. Eine unberechtigte Auszahlung kostet Geld. Eine unberechtigte Ablehnung kostet mehr: eine Beschwerde, ein Gang zu Kifid, eine Akte, die Sie nicht erklären können, weil die Begründung auf einer erfundenen Quelle ruht.

Und die Aufsichtsbehörde schaut mit. Sie müssen eine Entscheidung verantworten, nachvollziehen und erklären können. Das ist schwierig, wenn Sie nicht mehr genau wissen, woher ein Argument stammt. Ein Modell, das selbstsicher eine Quelle erfindet, liefert keine erklärbare Entscheidung. Es liefert eine Zeitbombe in Ihrer Akte.

KI mit einem Zaun darum

Hier liegt der Unterschied zu unserem Ansatz bei DCSolutions. Was bei EY schiefging, passiert, wenn man ein allgemeines KI-Modell auf eine Frage loslässt und frei generieren lässt. Dann kann es eine Policenklausel oder einen Betrag erfinden, denn nichts hält es davon ab.

Unsere Linie ist das Gegenteil. Wir setzen KI abgegrenzt ein, innerhalb fester Grenzen, auf einer Datenstruktur, die Sie verwalten und kontrollieren können. Das Modell arbeitet nur mit der Police, der Akte und den Daten, die wirklich vorhanden sind. Es erfindet keine Klausel, weil es nur die Klauseln kennt, die in der Police stehen. Es greift keinen Betrag aus der Luft, weil die Beträge aus Ihren eigenen Systemen kommen. Jeder Schritt ist auf eine Quelle rückführbar, die existiert.

Diese Abgrenzung ist genau das, was das Ergebnis in einem Prozess brauchbar macht, in dem Sie jede Entscheidung verantworten können müssen.

Ihr bester Bearbeiter wird gerade wichtiger

Es gibt die hartnäckige Vorstellung, dass KI den Bearbeiter überflüssig macht. In der Praxis wird das Urteil des Bearbeiters gerade wertvoller, weil sich die Art der Arbeit verschiebt.

Früher fing man vor allem die sichtbaren Fehler ab. Jetzt müssen Sie die Annahmen prüfen, die unter einem sauberen Stück versteckt sind. Weniger kontrollieren, ob es gut aussieht. Mehr nachhaken, ob die Argumentation stimmt und ob die Quelle taugt. Das ist genau die Handwerkskunst, für die Sie Ihre besten Leute haben, und die KI nicht ersetzt.

Was Sie jetzt aufbauen müssen

Die Parteien, die jetzt eine ernsthafte Kontrollkultur rund um KI aufbauen, liegen bald vorn. Das bedeutet: KI abgrenzen und auf eine Datenstruktur setzen, die Sie kontrollieren können. Wer annimmt, dass ein glattes Ergebnis auch ein richtiges Ergebnis ist, holt sich früher oder später selbst ein. Bei einer Beschwerde, bei einem Audit oder bei Kifid.

Polierter Output ist noch kein guter Output. Erst recht nicht in einem Beruf, in dem Sie jede Entscheidung erklären können müssen.

Quelle: Stephen Foley, ‘EY retracts study after researchers discover AI hallucinations’, Financial Times (Mai 2026). Frei zugänglicher Bericht bei International Accounting Bulletin.

‍