Amazon’s antifeministische AI-tool afgebroken

Amazon’s antifeministische AI-tool afgebroken
  • 11 oktober 2018

Het interne AI-recruitmentprogramma van Amazon is stopgezet. Het algoritme discrimineerde consequent vrouwelijke kandidaten, signaleert Reuters op basis van eigen onderzoek.

Reuters meldt bij het rapport dat de resultaten naar voren laten komen dat het in dit geval al ging om een mannelijk georiënteerde werkomgeving, nog voordat de AI-tool werd ingezet. Volgens de nieuwsdienst leren AI-systemen van historische data, die vaak reeds bestaande vooroordelen bevestigen.

Meer diversiteit
Uit het onderzoek van Reuters bleek dat kandidaten werden afgerekend op basis van expliciete woorden in cv’s, zoals ‘vrouw’. Als reactie paste Amazon zijn software aan, maar kon niet met zekerheid garanderen dat er geen andere fouten in het algoritme zaten. Het bedrijf besloot daarom het hele programma af te breken, maar het is nog onduidelijk of er daadwerkelijk kandidaten zijn geworven met behulp van de tol. Amazon zegt inmiddels verder te zoeken naar een nieuwe oplossing waarbij het algoritme rekening houdt met diversiteit.

comments powered by Disqus
  • Deel dit artikel
  • Reacties
  • Link