KPMG trekt AI-rapport terug wegens hallucinaties

Een groot adviesbureau publiceert een rapport over AI-gebruik. Goed idee. Maar dan blijkt dat datzelfde rapport vol zit met hallucinaties van het AI-model dat ze hebben gebruikt. KPMG moest het rapport offline halen. Een ironie die pijn doet, maar ook een waarschuwing die we in onze projecten bij Divtag al jaren zien.

Het incident: KPMG’s rapport vol zelfverzekerde onzin

Uit het TechCrunch-artikel blijkt dat KPMG een onderzoek naar AI-gebruik in organisaties had gepubliceerd, maar dat de inhoud ervan was vervuild met hallucinaties. Dat zijn momenten waarop AI-modellen met grote stelligheid dingen verzinnen die niet kloppen: verkeerde cijfers, verzonnen onderzoeken, citaten die nooit zijn uitgesproken. Het vervelende is: je ziet het niet meteen. KPMG zelf ook niet, totdat lezers en experts op de fouten wezen.

Dat het juist dit rapport overkwam, is poëtisch ongelukkig. KPMG schreef óver AI, en werd precies door AI te pakken genomen. Maar we mogen niet alleen glimlachen om de ironie. Dit is een schoolvoorbeeld van waarom veel bedrijven AI veel sneller inzetten dan ze die kunnen beheersen.

Waarom dit in projecten steeds vaker voorbijkomt

Bij Divtag werken we met bedrijven in logistiek, e-commerce en productie die AI willen inzetten. En we zien het patroon steeds vaker: teams beginnen enthousiast met een AI-tool, vertrouwen de uitvoer, en voeren die rechtstreeks in hun bedrijfsprocessen in. Een magazijnplanner die aanbevelingen van een AI-model klakkeloos overneemt. Een e-commercebedrijf dat productomschrijvingen laat genereren en direct online zet. Een automotive-leverancier die AI-gegenereerde data in zijn voorraadbeheer verwerkt.

De bedoeling is goed. De uitvoering: riskant. Want zoals KPMG nu ondervond: AI-modellen zijn niet per definitie betrouwbaar. Ze zijn snel, ze zijn handig, ze klinken zelfverzekerd. Maar betrouwbaar? Alleen als je ze inbedt in een proces waarin iemand nog echt kijkt wat er uit de machine komt.

Validatie is niet optioneel, het is een basisvereiste

Wat KPMG had moeten doen, is simpel: voor publicatie een controleur laten checken. Feitenchecken tegen bronnen. Cijfers verifiëren. Citaten terugzoeken. Kortom: mensenwerk. Niet omdat AI fundamenteel slecht is, maar omdat AI vandaag de dag nog geen garanties geeft.

In onze ervaring met AI-integratie in bedrijfsprocessen zien we dat die validatiestap cruciaal is. Of je nu AI gebruikt voor vraagprognoses, kwaliteitscontrole of automatische beslissingen in je supply chain: ergens in het proces moet een mens of een andere verificatielaag controleren of wat eruit komt ook klopt. Dat is niet anti-AI. Dat is pro-betrouwbaarheid.

De vraag is niet: “Gebruiken we AI of niet?” De vraag is: “Gebruiken we AI op een manier waarop we nog steeds verantwoordelijk zijn voor wat eruit komt?“

Wat dit betekent voor jullie: centrale regie over AI

Het incident bij KPMG is geen technisch incident. Het is een bestuursincident. Een groot bureau met veel expertise liet toe dat AI-uitvoer zonder degelijke controle naar buiten ging. Stel je voor wat dat in een mkb-bedrijf kan doen, waar minder ogen op de processen gericht zijn.

Daarom pleiten we voor centrale regie over AI-tools in je organisatie. Niet omdat je AI wilt verbieden, maar omdat je wilt weten welke AI waar gebruikt wordt, onder welke voorwaarden, en wie controleert wat eruit komt. Dat is geen bureaucratie. Dat is risicomanagement. En het verschil tussen bedrijven die dit serieus nemen en bedrijven die AI als een soort gok behandelen, is groot.

Wil je hier concreet over nadenken? Laten we erover praten.