Gepolijste output is nog geen goede output

Wat de AI-hallucinaties bij de Big Four ons leren over schadebehandeling

KPMG publiceerde in oktober 2025 een rapport over agentic AI met 45 bronnen. Vijf daarvan bleken te kloppen.

Deloitte leverde voor 1,6 miljoen dollar een rapport van 526 pagina's aan de provincie Newfoundland en Labrador in Canada, over de inzet van personeel in de zorg. Verzonnen bronnen liepen door het hele document heen: artikelen die nooit zijn geschreven, auteurs die werk kregen toegeschreven dat ze nooit hebben gedaan.

Deloitte Australië moest een deel van een opdracht van 440.000 Australische dollar terugbetalen aan de overheid, nadat bleek dat het rapport verzonnen academische citaten bevatte, toegeschreven aan echte hoogleraren van de University of Sydney en Macquarie Law School.

EY Canada trok een cybersecurity rapport terug. 16 van de 27 citaten bleken niet te bestaan.

En in Nederland diende een advocaat met dertig jaar ervaring een verzoekschrift in met jurisprudentie die niet bestond. Toen dat aan het licht kwam, corrigeerde ze met drie extra zaken. Ook die waren verzonnen. De rechter zei het kort: 'Of AI is op hol geslagen, of u heeft de zaak verzonnen.'

Vijf organisaties, vier landen, twee sectoren. Steeds hetzelfde patroon.

Het probleem zit niet in het model

De makkelijke conclusie is dat AI hallucineert en dat je daar dus op moet letten. Dat klopt, en het is inmiddels ook geen nieuws meer. Iedereen die met een taalmodel heeft gewerkt weet dat het een bron kan verzinnen die er overtuigend uitziet en toch niet bestaat.

Het probleem zit in de stap die daarna niet gebeurde. Bij KPMG, bij Deloitte, bij EY en bij die advocaat lag er een concept met bronnen erin. Iemand moest die bronnen nog checken voordat het stuk de deur uit ging. Dat checken is niet gebeurd.

Dat is geen technische fout. Dat is een menselijke fout: iemand nam de output over omdat hij er goed uitzag, niet omdat hij was gecontroleerd. AI tilt daarmee de ondergrens van presentatie op. Een matig onderbouwd stuk zag er vroeger ook matig uit, en dat was het signaal om door te vragen. Nu ziet hetzelfde matig onderbouwde stuk er verzorgd en overtuigend uit. De structuur klopt, de taal houdt stand, en de zwakke aannames zijn alleen beter aangekleed. Het signaal om te controleren is verdwenen, terwijl de noodzaak om te controleren juist groter is geworden.

Waarom dit voor schadeverzekeraars zwaarder weegt

Bij een adviesrapport van een Big Four kantoor is de schade vervelend: reputatieverlies, een terugbetaling, een pijnlijk moment in de rechtszaal. Bij schadeclaim behandeling ligt er meer op het spel.

Een schadedossier raakt direct aan een uitkering, een aansprakelijkheidsvraag of een polisinterpretatie. Een verzonnen bron in dat proces, een niet bestaand precedent, een cijfer dat nergens op is gebaseerd, is niet alleen gênant als het uitkomt. Het kan leiden tot een verkeerde uitkeringsbeslissing, een onterecht afgewezen claim, of een dossier dat bij toetsing door DNB of een rechter niet overeind blijft.

Een net onderbouwd stuk op een verzonnen bron is daarbij gevaarlijker dan een zichtbaar rommelig stuk. Het rommelige stuk roept vanzelf de vraag op of het wel klopt. Het nette stuk niet. Het ziet er klantklaar uit, en dat is precies het risico.

Wat er wel nodig is

Het antwoord is niet een beter model dat minder vaak hallucineert. Modellen worden beter, maar geen enkel model garandeert dat elke bron die het noemt ook echt bestaat. Het antwoord zit in de grenzen die je om dat model heen bouwt.

Bij DCSolutions bieden wij daarom Claim360 die het overbodig maakt dat AI vrij naar bronnen zoekt. Claim360 werkt alleen binnen data die de verzekeraar zelf beheert: interne schadedata, geverifieerde marktcijfers, eigen polisbepalingen en jurisprudentie die is vastgelegd. Bestaat een bron niet in die dataset, dan verzint Claim360 hem niet. Het meldt dat de bron ontbreekt, zodat een mens die vraag alsnog kan beantwoorden.

Dat is een bewuste keuze om het systeem soms minder indrukwekkend te laten ogen dan een AI die overal een antwoord op heeft. In schadebehandeling is dat precies het verschil tussen een tool die je kunt vertrouwen en een tool die je achteraf moet ontkrachten.

Het oordeel van je mensen wordt door AI niet overbodig. Het wordt belangrijker. Maar dan moet er wel iets staan waar dat oordeel op kan bouwen, in plaats van iets dat achteraf blijkt te zijn verzonnen.

Gepolijste output is nog geen goede output.

Bronnen

- The Big Four are selling AI governance while their own reports hallucinate: startupfortune.com

- Big Four AI Hallucinations: KPMG, Deloitte and EY's Report Failures: big4news.com

- 'Of AI is op hol geslagen, of u heeft de zaak verzonnen': : dutchcowboys.nl

‍