Un sistema de inteligencia artificial concebido por Amazon para evaluar el currículum de los postulantes de empleo ha hecho agua. Basándose en los archivos de los últimos 10 años de la compañía, el sistema aprendió que los hombres eran preferibles y empezó a discriminar a las mujeres. Tras conocer el sesgo discriminatorio, Amazon ha decidido prescindir de este sistema.
El objetivo era mecanizar y agilizar la búsqueda de los mejores talentos. Los candidatos eran evaluados mediante estrellas. Tal como sucede con cualquier producto de Amazon. Todo iba muy hasta que cosa de un año después, en 2015, se percató que el sistema de inteligencia artificial para revisar el currículum de los postulantes de empleo que había concebido discriminaba negativamente a las mujeres.
Las mujeres candidatas a los empleos de desarrollador de software y otros puestos técnicos en la compañía eran discriminadas, el sistema se inclinaba por la contratación de hombres, pues tal como ha revelado Reuters, penalizó a las postulantes cuyos currículums traían consigo la palabra “mujeres”. Discriminó a graduadas de dos universidades para mujeres, según informa Reuters.
La inteligencia artificial había sido entrenada con los perfiles de los solicitantes de empleo de los últimos 10 años, que en su mayoría eran hombres. Cuando la compañía se percató del error, editó los programas de miras a no discriminar a las mujeres. Sin embargo, de acuerdo a la información propalada por Reuters, eso no constituía una garantía de que el sistema no volvería a ser injusto a la hora de clasificar a los candidatos. Por tal motivo, Amazon abandonó el proyecto pues atentaba contra la igualdad de género.