Wat is bias (bij AI)?

Bias bij AI betekent dat een AI-systeem systematisch bepaalde groepen mensen oneerlijk behandelt of bevoordeelt.

Meestal komt dat doordat de data waarmee het systeem getraind is, zelf al scheef of onvolledig was.

Hoe ontstaat bias?

Een AI-systeem leert van de voorbeelden die het tijdens het trainen te zien krijgt. Weerspiegelt die data bestaande ongelijkheden in de samenleving, dan neemt het systeem die patronen vaak onbedoeld over, en kan het ze zelfs versterken. Een AI die bijvoorbeeld cv’s beoordeelt op basis van vooral mannelijke sollicitanten uit het verleden, kan onbedoeld vrouwen benadelen, ook al was dat door niemand zo bedoeld.

Een concreet voorbeeld

Gezichtsherkenningssoftware werkte in het verleden regelmatig minder nauwkeurig bij mensen met een donkere huidskleur, simpelweg omdat de trainingsdata vooral bestond uit foto’s van mensen met een lichte huidskleur. Dat is een klassiek voorbeeld van bias die niemand bewust heeft ingebouwd, maar die wel echte gevolgen heeft.

Waarom dit relevant is

Gebruik je AI bij het beoordelen van sollicitaties, klanten of aanvragen? Dan ben je zelf mede verantwoordelijk voor eventuele bias in die tools, ook als jij het systeem niet zelf gebouwd hebt. Het is dus verstandig om AI-uitkomsten regelmatig te controleren op onbedoelde patronen, zeker bij beslissingen die mensen direct raken.

Wat wordt eraan gedaan?

Bedrijven testen AI-systemen steeds vaker actief op bias, en proberen trainingsdata diverser en evenwichtiger te maken. Ook regelgeving speelt een rol: onder de Europese AI Act vallen toepassingen met een verhoogd risico op discriminatie, zoals AI bij sollicitaties, onder de strengste categorie van eisen.

Bias herkennen als gebruiker

Vertrouw AI-uitkomsten niet blindelings, zeker niet bij belangrijke beslissingen over mensen. Vraag jezelf af of de uitkomst logisch en eerlijk aanvoelt, en controleer bij twijfel of bepaalde groepen structureel anders worden behandeld. Dat geldt zowel voor grote bedrijven als voor kleine ondernemers die AI-tools inzetten.