AI-toepassingen: gebrek aan diversiteit zorgt voor problemen

Er werken aanzienlijk minder vrouwen dan mannen aan AI-toepassingen. Dit kan leiden tot onveiligere technologie en een verhoogd risico op discriminatie. Er moet meer bewustzijn komen voor diversiteit bij het ontwikkelen van AI, aldus Maaike Harbers, lector AI& Society van Hogeschool Rotterdam. Zij deed een verkennend onderzoek over dit onderwerp.

Ethische risico’s

Virtuele assistenten zoals Siri en Alexa, die vaak vrouwelijk zijn vormgegeven, versterken het stereotype van vrouwen als gedienstig. Een ander voorbeeld van een ethisch risico die gepaard gaat met AI is dat gezichtsherkenning bijvoorbeeld minder goed werkt voor vrouwen en algoritmes koppelen hen minder vaak aan goedbetaalde banen.

AI vanuit mannelijk perspectief

De meeste AI-ontwikkelaars zijn man, wit en hoogopgeleid, wat de perspectieven en oplossingen beperkt. Uit onderzoek van Maaike Harbers blijkt dat we vaak met een technische bril naar het vraagstuk rondom AI kijken. Dat is ook nodig, maar daarnaast moeten we ook op andere dingen letten, aldus Harbers.

Mariëlle Stoelinga, hoogleraar risicomanagement aan de Universiteit Twente en de Radboud Universiteit, bevestigt deze bevindingen en benadrukt dat vrouwen in de minderheid zijn in de ICT-sector. Volgens het Centraal Bureau voor de Statistiek is slechts 16,2 procent van de ICT’ers in Nederland vrouw, lager dan het Europese gemiddelde van 19 procent. Vooroordelen spelen al een rol bij studieadviezen op jonge leeftijd, waardoor jongens twee keer zoveel kans hebben op een positief advies voor technische profielen dan meisjes.

Meer bewustzijn

Harbers en haar collega’s roepen op tot meer bewustzijn en diversiteit in AI-ontwikkeling, ondanks dat veel datasets al groot en breed in gebruik zijn. Ze bevelen bedrijven aan om ethische richtlijnen te volgen en goed na te denken over de inzet van AI. Diversiteit is cruciaal om oplossingen te creëren die voor de gehele maatschappij werken, niet slechts voor een selecte groep.