Reuters meldt bij het rapport dat de resultaten naar voren laten komen dat het in dit geval al ging om een mannelijk georiënteerde werkomgeving, nog voordat de AI-tool werd ingezet. Volgens de nieuwsdienst leren AI-systemen van historische data, die vaak reeds bestaande vooroordelen bevestigen.

Meer diversiteit
Uit het onderzoek van Reuters bleek dat kandidaten werden afgerekend op basis van expliciete woorden in cv’s, zoals ‘vrouw’. Als reactie paste Amazon zijn software aan, maar kon niet met zekerheid garanderen dat er geen andere fouten in het algoritme zaten. Het bedrijf besloot daarom het hele programma af te breken, maar het is nog onduidelijk of er daadwerkelijk kandidaten zijn geworven met behulp van de tol. Amazon zegt inmiddels verder te zoeken naar een nieuwe oplossing waarbij het algoritme rekening houdt met diversiteit.