Wat is een hallucinatie (bij AI)?

Een hallucinatie is het moment waarop een AI-model informatie verzint die niet klopt, maar dat wel met volle overtuiging presenteert alsof het waar is.

Het model ‘liegt’ niet bewust. Het heeft simpelweg geen besef van wat feitelijk juist is en wat niet.

Waarom gebeurt dit?

Een AI-taalmodel zoekt geen feiten op in een database. In plaats daarvan voorspelt het, op basis van patronen uit zijn training, steeds het meest waarschijnlijke volgende stukje tekst. Weet het model het antwoord niet zeker, dan produceert het toch een tekst die er overtuigend uitziet. Zo ontstaan verzonnen feiten, niet-bestaande bronnen, of citaten die nooit zijn gezegd.

Een voorbeeld

Vraag je een AI om een verwijzing naar een wetenschappelijk artikel of een rechtszaak, dan kan het gebeuren dat het model een titel, auteur en jaartal verzint die er heel geloofwaardig uitzien, maar die simpelweg niet bestaan. Hetzelfde kan gebeuren bij details over een persoon of gebeurtenis.

Het verraderlijke is dat een hallucinatie er vaak precies zo overtuigend uitziet als een correct antwoord. Er staat geen waarschuwing bij, en de toon van het model verandert niet. Daardoor merk je een hallucinatie meestal pas op als je de informatie zelf controleert.

Hoe herken en voorkom je hallucinaties?

• Controleer belangrijke feiten altijd bij een betrouwbare, onafhankelijke bron
• Wees extra kritisch bij specifieke details, zoals cijfers, namen, datums en citaten
• Vraag de AI om zijn bronnen te noemen, en controleer die zelf
• Gebruik voor feitelijke vragen het liefst een AI-tool met een ingebouwde zoekfunctie, in plaats van een model dat alleen op zijn trainingsgeheugen vertrouwt

Waarom dit relevant is voor regelgeving

Onbetrouwbare AI-output is een van de redenen waarom overheden, waaronder de EU, steeds strengere eisen stellen aan transparantie rond AI-gebruik. Weten wanneer je met AI te maken hebt, helpt je alerter te zijn op mogelijke fouten in wat je te lezen krijgt.