Machista AI : l'outil de recrutement d'Amazon est préjudiciable

O le machisme dans le milieu de travail existe depuis des années, et bien que les choses évoluent, il n'est toujours pas possible de dire que ce problème est derrière nous. Cependant, les choses semblent encore pires lorsque ce genre de porter atteinte à ne vient pas des gens, mais de Intelligence Artificielle. A Amazon actuellement nécessaire pour supprimer un projet interne qui utilisait un IA macho pour opposer son veto aux CV des femmes en fonction de vos données.

opposer son veto aux femmes

Le système de intelligence artificielle étudie et analyse généralement toutes les composantes d'un curriculum, en particulier les histórico du candidat ou du candidat. Dans ce cas, le préjudice résidait dans le fait que le programme écartait simplement les candidats qui avaient étudié dans des établissements exclusivement pour femmes, car aux États-Unis, il est courant d'avoir des écoles uniquement pour les filles ou des écoles uniquement pour les garçons.

Il a également exclu les activités qui portaient le nom «Femmes" (femmes) comme un "Club d'échecs féminin» (club d'échecs féminin).

Selon des informations obtenues par Reuters, l'équipe qui a créé cette optimisation machiste de l'IA visait à accélérer le processus de sélection de ces CV. Une source a déclaré qu'ils voulaient vraiment que ce soit le genre d'émission où ils pourraient montrer 100 CV, il sélectionnerait les 5 meilleurs et ceux-ci seraient embauchés.

Suppression de l'IA macho

Il n'a pas fallu longtemps à Amazon pour se rendre compte que ce logiciel ne produisait pas de résultats avec l'égalité des sexes et n'a pas tardé à essayer supprimer cet algorithme. Cependant, ne sachant pas s'il n'y aurait pas d'autres algorithmes biaisés pour éliminer les candidates du processus, Amazon a simplement décidé d'abandonner complètement le projet.

Selon Reuters, le projet était encore en phase expérimentale, mais il n'est pas possible de dire avec certitude s'il avait déjà été utilisé en pratique pour opposer son veto à des candidats à des emplois chez Amazon ou non, même s'il faisait partie d'un test.

Intelligence artificielle et préjugés

On ne peut nier que la ressource d'intelligence artificielle gagne de plus en plus d'espace et est utilisée dans différents contextes, et précisément pour cette raison, les chercheurs mettent toujours en garde contre le danger qu'elle devienne exclusive à certains groupes. Préjugés sur genre et même race il peut facilement être inclus dans une série de programmes d'intelligence artificielle, principalement ceux qui sont basés sur la reconnaissance faciale pour les sélections.

De nombreuses entreprises disent qu'elles préfèrent s'appuyer davantage sur l'analyse informatique de l'IA que sur les recruteurs humains, car les machines ne sont pas naturellement biaisées, contrairement aux gens. Cependant, il faut faire attention à qui programme ces machines, après tout, ce sont les humains qui ajustent leurs algorithmes, comme ce fut le cas avec les software d'Amazon. L'entreprise entend maintenant engager une conversation avec son équipe responsable des outils d'IA pour la sélection des candidats, cette fois en mettant l'accent sur la diversité, en évitant tout type de préjugé ou la répétition d'un IA macho.

Qu'avez-vous pensé de cet article ? Laissez un commentaire.