Genderongelijkheid onder makers AI-toepassingen leidt tot AI die stereotypen bevestigt en vrouwen discrimineert
19 april 2024
Terwijl er een groeiende behoefte is aan werknemers in de AI-sector, wordt vrouwelijk IT-talent nog te weinig benut en wordt deze technologie nu vooral ontwikkeld door mannen. Deze scheve genderverhouding staat de ontwikkeling van ‘verantwoorde AI’ in de weg. Het gebrek aan vrouwelijk perspectief in AI-ontwerp kan de technologie onveiliger of minder gebruiksvriendelijk voor vrouwen maken en het risico op discriminatie vergroten. Zo werkt gezichtsherkenningssoftware vaak minder goed voor vrouwen dan voor mannen, koppelen werving- en selectiealgoritmes vrouwen minder vaak aan goedbetaalde banen en bevestigen generatieve AI-applicaties - zoals chatbots en virtuele assistenten - vrouwelijke stereotypen. Dat blijkt uit verkennend onderzoek van Maaike Harbers, lector Artificial Intelligence en Society van Hogeschool Rotterdam, naar de rol van gender in de ontwikkeling van verantwoorde AI. Het onderzoek werd verricht in opdracht van de provincie Zuid-Holland. De resultaten zijn vandaag tijdens het Smart & Social Fest - hét kennisevent over de digitale transitie in Rotterdam - gepresenteerd.